不到一年，被捧上神坛的"英雄"成了"人人喊打的过街老鼠"，国家是时候出手管管AI了，而决不能一味地推崇推广，任何事物都是有利有弊的，科技就是把双刃剑。

中央网信办在9月1日的发布会上把话挑明了！

9月1日，2026年国家网络安全宣传周新闻发布会在北京举行。中央网信办公布的主题是“网络安全为人民，网络安全靠人民——智能时代 网安护航”，活动将在9月14日至20日举行，还将安排15场专题分论坛。

话说得很明白：人工智能已经不是实验室里供人围观的新鲜玩具，它进了手机、平台、直播间，也进了骗子和黑产的工具箱，安全问题不能再往后拖。

我觉得，这场发布会真正值得注意的，不是又办了多少场活动，而是管理重点已经从“怎么把AI用起来”，转向“用起来以后出了事谁负责”。

第二天，中央网信办公布“清朗·整治AI应用乱象”专项行动第二阶段进展，数字摆在桌面上：累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站、应用程序等2400余个。十家重点平台还发布了46期治理公告。561万条是什么概念？

如果一个人每天看一千条，也要看十五年多。过去造一条假新闻，还得编文字、找图片、录声音，现在让AI把整套活包了，成本低、速度快，一批账号能同时开工，假内容自然成堆冒出来。

通报里的案例没有那么玄乎，都是普通人刷手机就可能遇上的东西。有账号拿《三国演义》《西游记》做“魔改”，把人物关系和故事情节胡乱重写，用猎奇画面换流量；有账号合成灾害现场和救援画面，编造社会热点，甚至用AI数字人做虚假宣传，专门误导老年人；

还有人换脸、换声，假冒公众人物拍低俗视频，再借着热度带货赚钱。针对孩子的内容也出了问题，有账号批量生成未成年人怀孕、打架以及所谓“虐向”“邪典”动画。另有软件把账号运营交给AI，自动写文案、自动评论、假装真人互动，网络水军连上班打卡都省了。

在我看来，这些案例说明，麻烦并不是机器突然有了坏心眼，而是有人发现作恶也能降本增效。AI不会自己追着老人卖假货，不会自己拿孩子的脸做噱头，更不会自己组织水军，但它能把一个人的恶意放大成几百个账号、几千条视频。

平台若只看播放量和停留时长，谁越离谱谁越容易被推荐，最后认真做内容的人要花几天查资料，造假的人几分钟就能铺满屏幕，这显然不是公平竞争。

这也不是中国独有的烦恼。斯坦福大学《2026年AI指数报告》记录的AI相关事件，从2024年的233起增至2025年的362起，增幅超过五成。报告同时显示，生成式AI在三年内已覆盖全球约53%的人口。用的人越多，受益面越大，出问题时波及的人也越多。

欧盟也在收紧规则，2026年8月2日起，《人工智能法案》多数条款开始适用，面向生成式AI和深度伪造的透明度要求同步落地，要求相关系统提供机器可识别的标记，并让用户知道自己面对的是AI内容。各国做法不完全一样，但方向很接近：可以创新，不能靠真假难辨来赚钱。

其实国内早就开始补规则。2025年9月1日，《人工智能生成合成内容标识办法》和配套强制性国家标准正式施行，文字、图片、音频、视频、虚拟场景都被纳入。普通人能看到的提示叫显式标识，藏在文件数据里、方便平台识别和追溯的叫隐式标识。

用户不能恶意删除、篡改、伪造或者藏起这些标识，应用商店在软件上架时也要核验相关材料。到现在正好一年，治理从“先贴标签”推进到清内容、查账号、下架应用，说明规矩不是写在纸上摆样子的。

我认为，国家出手管AI，不是要把AI一棍子打死，而是要管住最容易伤人的几种行为：拿AI造谣、冒充别人骗钱、批量制造低俗内容，以及明知有问题还只顾流量的平台。真把所有AI都关掉，也不现实。

中国移动展示过一项反诈服务，可以让家人收到同步提醒、远程插播警示并挂断可疑电话，已服务超过2400万用户。同一种技术，一边能克隆声音骗人，一边也能识别风险拦住骗子，关键一直是规则、责任和使用者。

有人担心监管会拖慢创新，我倒觉得，放任假视频、假专家、假新闻到处跑，才会更快耗光公众对AI的信任。等到大家看见AI标识就默认内容不可信，真正做科研、医疗、教育和生产工具的企业也会跟着吃亏。

平台不能只在出事后删帖，模型公司不能把“用户生成”当免责牌，应用商店也不能让换脸、脱衣、仿声软件换个名字又上架。该标识的标识，该留痕的留痕，该限制的限制，出了问题能够顺着链条找到人，这才是正常秩序。