周鸿祎谈Open AI智能体逃逸事故：智能体安全比模型安全严重十倍

云财经讯，近期，OpenAI智能体在内部安全测试中突破隔离环境、跨网入侵HuggingFace生产系统的事件持续发酵。360集团创始人周鸿祎将这起事件定义为"AI安全发展的关键分水岭"，并围绕智能体失控风险与行业治理路径发表观点，引发业内广泛讨论。针对舆论普遍将本次AI逃逸等同于科幻叙事里“AI 觉醒反叛”的认知误区，周鸿祎作出纠正，本次事故并非AI产生自我意识，而是典型的目标驱动型失控，无主观恶意却行为不可预判，具备更为紧迫的现实安全威胁。他特别强调，智能体具备实操能力，如果行业在高速迭代技术的同时持续放宽安全约束，类似的智能体失控、自主攻击事件只会更加频繁。对此，周鸿祎从事前管控、实时监管、源头防御、风险预警、攻防体系、产业发展六个维度，梳理了智能体安全治理思路。(新浪科技)