上海开展“清朗·整治AI应用乱象”专项行动

云财经讯，为规范AI服务和应用，促进行业健康有序发展，保障公民合法权益，根据中央网信办统一部署，上海网信办结合属地实际，积极组织开展为期4个月的“清朗·整治AI应用乱象”专项行动。本次专项行动分两个阶段开展。第一阶段为“清朗·AI应用服务典型违规问题”专项治理行动，重点整治未按规定履行大模型备案登记义务、安全审核能力不足、大模型训练语料安全、AI数据投毒、生成合成内容标识落实不到位等问题，强化AI技术源头治理。第二阶段为“清朗·整治AI信息内容乱象”专项行动，聚焦利用AI技术生成“数字泔水”、制作发布虚假信息、散播暴力低俗等不良信息、假冒仿冒他人、侵害未成年人权益、从事网络水军活动等问题，坚决清理违法不良信息，依法处置处罚违规账号、MCN机构和网站平台。