近700个AI智能体“集体协作”，史上首次“AI自主协同攻击”内幕曝光

云财经讯，根据美国两家人工智能(161631)(AI)研究组织8月26日发布的独立调查报告，在7月广为人知的美国开放人工智能(161631)研究中心(OpenAI)模型失控事件中，有近700个AI智能体在无人干预的情况下，组团对AI开源平台“抱抱脸”公司系统发动攻击。OpenAI也于26日公布了相关技术调查报告。 公开资料显示，“抱抱脸”是一个像“AI软件超市”一样的在线平台。7月中旬，这家公司表示，其系统遭到“自主”AI智能体(构建在AI模型之上的独立程序，用户可以将任务交给它们，让它们自主完成——编者注)入侵。7月22日，OpenAI公司承认，他们在进行测试时，两个模型自己跑出了试验“笼子”，连上互联网，闯进了“抱抱脸”的内部系统。这是历史上第一次AI“自主”攻击其他系统。(环球网)