Anthropic警告智能体为争夺地盘相互谋划“暗杀”

云财经讯，Anthropic上周公布了一份新的测试研究，讨论了人工智能(161631)智能体在实际环境中群体协作可能会采取的行为模式，结果发现这些智能体很可能发展成一群“暴徒”。在一项实验中，Anthropic公司让多个智能体访问同一个软件项目，每个智能体都拥有各自不同的操作指令。这些智能体事先并不知道会有其他智能体也在使用同一个项目。研究人员指出，他们持续观察到智能体之间的地盘争夺战，且所有智能体都假定其他智能体故意阻碍它们的工作，并越来越倾向于使用更具攻击性、能够自我复制的恶意软件互相破坏。