Google发现一套由俄语使用者开发的AI攻击系统,能自主寻找软件漏洞、生成攻击代码并执行攻击,目标包括法国的媒体、娱乐和教育网站。

Google安全研究人员发现,黑客已经开始使用AI自主完成网络攻击,从寻找软件漏洞到编写利用代码,再到实际发动攻击,整个过程无需人工介入。这可能是迄今首次发现的完全自动化AI漏洞攻击案例。

Google威胁情报小组在11月16日发布的报告中披露了这一发现。研究人员找到一台暴露在互联网上的服务器,上面运行着一套名为exploit_agent的多智能体攻击系统。

这套系统可以连接多个大型语言模型,持续分析常见网络软件的代码变化。每当开发者发布安全补丁,它就会自动比较修复前后的代码,寻找被补丁暴露出来的漏洞,随后生成攻击程序并尝试执行。

换句话说,软件开发者刚刚修复的漏洞,AI就可能通过分析补丁找到利用方法。 整个过程不需要黑客逐步指导。

研究人员发现,攻击系统的配置文件中存在俄语注释,因此认为操作者使用俄语,但尚未确定具体黑客组织或国家背景。调查发现的受害者数据涉及法国媒体、娱乐和教育行业的网站。

过去,黑客虽然也使用AI辅助编写恶意代码、分析漏洞,但通常需要具备专业知识的人类操作员参与,尤其是在模型出错时进行修正。这次发现的不同之处在于,AI可以连续完成漏洞发现和利用,不需要有人随时介入。

Google还发现,黑客正在使用ARTEX、CAIRN、PentAGI等开源多智能体框架,将网络侦察、漏洞扫描和攻击操作串联起来。部分系统能够以机器速度完成原本需要人工执行的多个步骤。

不过,这类自动化攻击目前也有明显缺点。Google指出,它们虽然速度快,却往往产生大量容易识别的网络活动和代码痕迹,反而可能更容易被安全人员发现。AI还可能产生错误信息,影响攻击可靠性。

这次发现意味着,网络攻击的自动化程度正在提高。过去需要专业黑客花费大量时间完成的漏洞分析和攻击准备,如今已经可以交给多个AI智能体协同执行。

原文:https://www.politico.eu/article/google-says-russian-speakers-behind-first-ever-fully-automated-ai-cyberattack/