OpenAI员工数月前曾就加拿大枪击案嫌疑人发出警报

云财经讯，OpenAI表示，在杰西·范·鲁特塞拉尔(Jesse Van Rootselaar)成为加拿大不列颠哥伦比亚省一个乡村小镇大规模枪击案的嫌疑人数月前，该公司曾考虑就她与旗下ChatGPT聊天机器人的互动情况向执法部门报警。去年6月在使用ChatGPT时，范·鲁特塞拉尔在几天的时间里描述了涉及枪支暴力的场景。她的帖子被一个自动审查系统标记，这引起了OpenAI员工的警觉。在公司内部，约有十几名员工就是否要对范·鲁特塞拉尔的帖子采取行动进行了辩论。一些员工将范·鲁特塞拉尔的文字解读为可能发生现实世界暴力的迹象，并敦促领导层就她的行为向加拿大执法部门报警。OpenAI的领导层最终决定不联系执法部门。OpenAI的一位发言人说，公司封禁了范·鲁特塞拉尔的账号，但认定她的活动不符合向执法部门报告的标准，该标准要求其行为对他人构成可信且迫在眉睫的严重身体伤害风险。2月10日，范·鲁特塞拉尔在一起大规模枪击案的学校现场被发现死亡，死因似乎是自残。该枪击案造成八人死亡，至少25人受伤。加拿大皇家骑警确认18岁的范·鲁特塞拉尔为嫌疑人。