AI应用乱象治理公布阶段进展：企业使用生成式工具也要保留责任链

中央网信办9月2日发布消息称，“清朗·整治AI应用乱象”专项行动第二阶段聚焦虚假信息、假冒仿冒、低俗内容、侵害未成年人权益等问题。截至通报时，累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站、应用程序等2400余个。通报同时提到，部分违规行为涉及AI生成虚假灾害画面、AI换脸换声、智能体页面内容失管以及利用AI工具批量生成低质同质内容。

这份通报针对的是互联网内容生态，但对制造业内部使用通用生成式AI同样具有提示意义。研发团队将需求说明、故障记录、代码片段或工艺文档交给外部模型处理时，首先要确认输入材料是否含有商业秘密、个人信息或受合同约束的数据；让智能体自动执行检索、建表、发信或调用接口时，也不能把人的权限不加约束地继承给工具。可行的管理路径是为不同用途划定允许使用的数据范围，要求重要输出保留来源和人工复核记录，并把外部调用、导出和高风险操作纳入审计。生成式工具可以提高信息处理效率，但不能替代研发负责人对准确性、保密性和最终决策的责任。