为了规范人工智能（AI）服务和应用，中央治促进行业健康发展，网信保护公民合法权益，办启中央网信办最近发布通知，动清动在全国范围内开展为期4个月的朗整“清朗·整治AI应用乱象”专项行动。
中央网信办负责人表示，应用乱专项行动将分为两个阶段进行。象专项行
第一阶段
将聚焦“清朗·AI应用服务典型违规问题”，中央治主要整治未按要求履行大模型备案登记、网信信息安全审核能力不足、办启大模型训练数据的动清动安全性、AI数据投毒、朗整生成合成内容标识的应用乱不规范等问题，以加强AI技术的象专项行源头治理。
第二阶段
将专注于“清朗·整治AI信息内容乱象”，中央治重点打击利用AI生成虚假信息、传播恶俗内容、侵犯未成年人权益等行为，坚决清理违法信息，依法处理违规账号、MCN机构及相关平台。
第一阶段的主要整治问题包括：
1. **未按规定履行大模型备案登记**：
未按照相关法规进行备案，存在“应备未备”的情况。
2. **平台安全和审核能力不足**：
模型设计及部署阶段发生价值导向偏差，缺乏安全机制，生成信息中包含违法内容链接。
3. **大模型训练语料安全问题**：
训练语料的审核不严，存在违法信息，使用未经授权的数据。
4. **AI数据投毒问题**：
通过篡改训练数据和伪造信息进行数据投毒，缺乏对引用信息的验证机制。
5. **合成内容标识落实不到位**：
未按规定添加合成内容标识，或标识的规范性不足。
6. **滥用AI技术进行违法活动**：
进行网络攻击、侵害他人隐私等行为。
7. **开源模型安全管理不到位**：
缺乏有效的审核机制和紧急处理措施。
第二阶段重点整治的问题包括：
1. **利用AI“魔改”经典内容**：
改编经典作品植入低俗内容，产生逻辑混乱的信息。
2. **生成虚假信息**：
构造并传播谣言，假冒官方机构发布假公告。
3. **假冒仿冒他人**：
利用AI技术假冒公众人物并发布不实言论。
4. **发布暴力低俗信息**：
涉及暴力场景或低俗内容的创作。
5. **侵害未成年人权益**：
制作影响未成年人的不当内容，宣扬不良价值观。
6. **利用AI从事网络水军活动**：
通过AI技术模拟运营账号、发布低质量内容，制造舆论假象。
7. **AI产品服务违规**：
制作仿冒网站，提供违反法律法规的功能服务。
中央网信办负责人强调，各地网信部门应深刻认识专项行动的重要性，切实履行管理责任，督促网站自查自纠，强化技术防治能力，确保专项行动成效显著。
本文转载自“网信中国”微信公众号，编辑：刘家殷。