【理响中国】漫评：给AI应用划清“红线”，为技术创新标明“底线”

近日，中央网信办印发通知，在全国范围内部署开展为期4个月的“清朗·整治AI应用乱象”专项行动，分两个阶段集中整治AI服务违规和AI信息内容传播等14类突出问题。

这一“亮剑”之举，既是对技术野蛮生长的必要纠偏，更是为整个行业健康有序前行校准航向、划清“安全边界”。

近年来，人工智能技术以前所未有的速度融入社会生产生活，在极大促进数字经济繁荣和文化传播的同时，也出现了一些令人担忧的“走偏跑岔”现象。从“AI盗脸”“AI换声”假冒公众人物实施诈骗，到利用深度伪造技术制造虚假新闻、扰乱社会舆论环境；从AI“投毒”篡改高价值语料数据，再到滥用AI“魔改”经典、生成逻辑混乱价值空洞的“数字泔水”，种种乱象不仅严重侵害公民隐私权及个人信息安全，更对社会伦理底线和青少年健康成长造成了多重冲击。AI一旦被滥用如同一匹脱缰的技术猛兽，失去管束必然反噬整个社会的安全网络。

中央网信办“清朗·整治AI应用乱象”专项行动，既是一场直面AI技术滥用的“排雷战”，也是一项为新兴领域产业发展清除路障、激浊扬清的系统工程。结束乱象非一日之功，筑牢安全监管的堤坝也需持续发力。下一步推进“清朗·整治AI应用乱象”专项行动，需要多方着手。

要进一步完善法规政策，实现“有法可依、执法必严”。在专项行动推进中，各地网信部门应抓紧制定配套实施细则与指引标准，重点针对AI虚构操纵股市、医疗舆情等专业垂直场景风险，出台更加精细化的管理指南。要严查标杆性违法违规案件，坚持“以案促改”，对违规账号、MCN机构和网站平台依法进行顶格处罚，并定期集中曝光典型案例，形成强有力的震慑效应。

要压实平台企业的主体责任，督促其切实尽到“看门人”的审核义务。督促更多平台建立健全AI大模型及算法的备案公示与审计溯源流程，增强企业在模型训练阶段的语料安全和数据合规意识。必须规范开源社区的身份认证和安全管理责任，第一时间下架含有严重伪造、色情擦边等违规内容的数据集与模型，绝不纵容AI“去标识”等违规工具服务在电商及各大平台的暗中流通。

要借助科技治理手段赋能监管，进一步补足专业领域的技术短板。为防止违规AI应用在专项整治后又有“变异回潮”之势，各级网信部门应加快试点部署AI生成内容鉴别引擎、数据投毒异动监测系统等“以技防技”的先进工具，对深度伪造内容进行平台式跨域前置“标识提醒”和实时拦截提示。目前，针对GPT式大语言模型的安全测评及准入门槛等标准尚待统一，建议支持国家级AI安全沙箱试点机构的建设，不断强化对新发技术风险的前瞻性辨识和极限测试能力。

技术创新是机遇，而法治与安全是让人们得以安心拥抱机遇的坚实底线。未来只有始终同心同向，不断完善监管法规与技术平台治理能力，才能确保我国人工智能在安全、可控、负责、向善的康庄大路上健步如飞，让科技之光真正惠及每一位国民。（文：周雄，图片由周雄借助AI生成）