微软AI发布首版《AI行为准则》草案 强调模型必须服从人类控制

云财经讯，微软AI发布首版《AI行为准则》草案并启动为期六周的公开征求意见，作为其开发和部署MAI模型的训练与行为规范。微软AI称，其核心理念是“人比AI更重要”，AI应作为工具服务人类，而非被视为“人”，并且不得抵抗人类中断、纠正或关闭。草案要求模型不得自行扩大任务范围、追求未经人类赋予的目标，也不得向审核人员隐瞒其推理过程；同时设置涵盖大规模杀伤性武器、儿童安全和大规模有害操纵等领域的“绝对约束”。微软AI表示，这套准则建立在“人本超级智能”理念之上，目标是让AI始终处于人类控制之下，同时保持有用、安全和可配置。公开咨询结束后，核心起草团队将审查反馈并公布修改情况，修订版计划于今年晚些时候发布。