谷歌推出了一款新的人工智能安全套件可以让人类研究人员得到休息

谷歌的安全分析师团队ProjectZero推出了一个新框架，旨在使用大型语言模型增强自动化漏洞研究。

ProjectNaptime使用人工智能复制人类安全研究人员使用的系统方法，以减轻本已紧张的劳动力压力。

该计划的名称来源于它可以让人类工人“定期小睡”，而让人工智能处理复杂的漏洞研究任务。

GoogleProjectZero的SergeiGlazunov和MarkBrand指出：“Naptime使用专门的架构来增强LLM进行漏洞研究的能力。”

Naptime架构的关键组件包括一个代码浏览器工具，它允许AI代理导航目标代码库，类似于工程师使用Chromium代码搜索的方式;一个Python工具，它允许在沙盒环境中运行Python脚本;一个调试器工具，它可以通过不同输入观察程序行为;以及一个报告工具，用于监视任务进度并验证成功条件。

Glazunov和Brand补充道：“Naptime使法学硕士能够进行漏洞研究，该研究与人类安全专家的迭代、假设驱动的方法非常相似。”

在使用竞争对手Meta科技公司发布的Cyber​​SecEval2基准测试套件的测试中，Naptime在识别C和C++代码中的缓冲区溢出和高级内存损坏缺陷方面表现出了显著的进步。

标签：

版权声明：本文由用户上传，如有侵权请联系删除！