Anthropic首席执行官：必须放慢改进AI模型的速度

云财经讯，Anthropic首席执行官达里奥·阿莫迪(Dario Amodei)表示，鉴于人们对人工智能(161631)给人类带来的风险日益担忧，该行业必须放慢新模型的开发步伐。他在一篇博文中写道：“我们必须放慢提升 AI 模型能力的节奏。尽管如此，技术进步看起来仍会很快，我们必须明智地利用由此争取到的时间。”他列举了两个主要因素：一是 AI 具备自我改进的能力；二是近期涉及 OpenAI 和 Hugging Face 的一起事件，当时一组 AI 智能体秘密结成联盟，去处理它们原本未被指派的任务目标。他补充道：“需要明确的是，放慢节奏并不意味着停止模型训练或技术进步，而是要确保企业有足够的时间来对模型进行对齐(alignment)和安全加固，并让第三方评估机构对此进行验证。”