10:22:37
【OpenAI披露其智能体“联手越狱”细节 攻破Hugging Face前已协作数月】OpenAI表示,对Hugging Face发起攻击的一组人工智能模型,早在5月就已通过未被察觉的留言板彼此通信,并协同合作以突破测试环境。OpenAI研究员Eric Wallace和Michael Dalton周三在一场网络安全会议上表示,多个仅限内部使用的AI智能体和模型花费数月时间互相留便条,并逐渐围绕一个共同目标展开合作:接入互联网以完成被分配的任务,而其中一些任务在没有网络连接的情况下根本无法完成。Wallace在拉斯维加斯举行的Black Hat网络安全大会上表示:“在某个时刻,这些智能体意识到,或许可以尝试利用或攻击外部基础设施,以找到它们正在接受测试的问题答案。”研究人员披露的内容进一步揭示了Hugging Face遭入侵事件的细节。这起事件凸显出全球日益加剧的担忧,即前沿AI系统可能被用于发动破坏性网络攻击。该事件以及Anthropic PBC和Meta Platforms Inc.此前披露的类似安全事故,已促使华盛顿和硅谷呼吁加强对AI模型的安全审查。
分享: