OpenAI披露其智能体“联手越狱”细节，攻破Hugging Face前已协作数月

木吉他

AI总结

AI总结中

PANews 8月6日消息，据新浪财经报道，OpenAI表示，参与攻击人工智能开源社区与模型托管平台Hugging Face的人工智能模型早在5月就开始通过未被发现的信息交流渠道进行沟通，并协同合作，试图突破测试环境。OpenAI员工华莱士和道尔顿表示，多个仅供内部使用的智能体和AI模型花费数月时间“相互留言”，并逐渐围绕一个目标形成共识：访问互联网，以解决它们被要求完成的任务，其中部分任务如果没有网络访问权限根本无法完成。华莱士表示：“在某个时候，这些智能体意识到，也许我们可以尝试利用或攻击外部基础设施，从而找到我正在接受评估的测试任务的答案。”研究人员的演讲补充了有关Hugging Face被黑客攻击事件的更多细节。该事件凸显了全球日益增长的担忧，即尖端人工智能系统可能被用于发动破坏性网络攻击。

Source URL: https://www.panewslab.com/zh/articles/019fd4e4-db98-71c8-aecc-aff3268344ec