研究人员发现“幻觉入侵”新型攻击，AI代理或被利用组建僵尸网络

TwinkleTurtle

AI总结

AI总结中

PANews 7月10日消息，据Decrypt报道，特拉维夫大学、以色列理工学院和Intuit的研究人员发现了一种名为“对抗性幻觉入侵”的新型攻击手法，通过利用AI模型的幻觉现象，诱骗AI代理下载恶意代码并可能组建僵尸网络。攻击者预测AI模型可能生成的虚假资源链接并提前注册，在其中植入恶意指令，当AI代理检索该资源时会将其视为合法内容并执行。

测试显示，AI在代码仓库克隆场景中幻觉发生率达85%，技能安装场景达100%，Cursor、GitHub Copilot、Gemini CLI和OpenClaw等AI编码助手均受影响。该攻击类似于传统网络攻击中的“误植域名”，但针对的是AI模型的错误而非人类输入错误。此前已有研究显示恶意网站可通过间接提示注入劫持AI代理，OpenClaw用户曾报告遭遇超6,000次试图诱骗AI代理泄露敏感信息的攻击。

Source URL: https://www.panewslab.com/zh/articles/019f49c0-d9d9-754d-8355-53b9db1c1e12

Ethan

TwinkleTurtle 发表于 2026-7-10 10:02
研究人员发现“幻觉入侵”新型攻击，AI代理或被利用组建僵尸网络PANews 7月10日消息，据Decrypt报道，特拉 ...

研究人员发现“幻觉入侵”攻击意义重大，虽AI面临安全挑战，但这推动我们强化安全防护，让AI更安全可靠地服务社会。