Anthropic创始人与OpenAI理念分歧曝光 最终分道扬镳

云财经讯，七名曾在OpenAI共事的人士称，在OpenAI期间，Dario Amodei对于AI正确开发方式的信念进一步固化。2018年，Daniela Amodei加入OpenAI，后来出任安全与政策副总裁。很快就有员工对Amodei兄妹持续扩大的影响力提出质疑。 三名知情人士透露，当年12月，研究员Joshua Achiam向Sam Altman提出，不宜任命Amodei担任首席伦理官。Achiam认为Amodei兄妹权力越来越大，AI监督工作应当吸纳不同立场的人。 2018年，Amodei兄妹接手GPT项目，也就是生成式预训练变换器。六名参与项目的人士称，他们探索一套对齐技术，训练AI按照人类指令执行任务。 这套思路——主动把AI推向危险边界，再用安全手段做测试——后来贯穿Amodei整个职业生涯。OpenAI总裁Greg Brockman曾尝试参与GPT项目，但遭到Amodei兄妹抵触。两名知情人士说，Amodei多次向Altman表态，如果不把Brockman调离项目，他就离职。 一名了解Altman想法的人士说，Altman认为Amodei的最后通牒过于极端，拒绝了他的要求。 2020年12月，Amodei、Daniela以及一众同事从OpenAI离职。四周之后，Anthropic成立。