《智能发展与网络安全对立,是个伪命题》
——安全从来不是刹车片,而是底盘
过去十年,连接创造价值;未来十年,安全决定价值。
先看一个场景:一位员工让智能助手"顺手整理一下合同",助手不仅整理了,还顺手改了两处金额,顺手发给了对方。
效率确实高。只是没人授权它"顺手"。
这就是智能时代网络安全的新面孔:风险不再只是机器"说错了什么",而是它被允许"做成了什么"。
一、用户越多,这事越不是小事
一组数字:截至去年底,我国网民规模11.25亿,普及率超八成;到今年上半年,生成式人工智能用户突破7亿,普及率过半。
一个国家把一半人口搬进同一类新工具,只用了不到三年。人类历史上没有先例。
规模改变的不是数量,是性质。一个人误操作,是局部问题;一套系统的共同缺陷,却会沿着同一条技术链条,复制到千家万户。
规模化复制的是效率,没同步复制的,是安全。
但先停一下。
用户多,不等于风险必然失控。三十余年互联网发展,我国已经形成全球最大、也最有活力的网络社会。应用场景越广,安全技术迭代、治理完善的土壤也越厚。关键不是退回去不用,而是让治理追上技术进入现实的速度。
二、风险变了,防线也得搬家
过去谈网络安全,谈的是"墙":防火墙、密码、补丁。攻击者在外,防守者在内,边界清楚。
今天的边界在溶解。算法是黑箱,数据有缺陷,智能体会自主行动——它不只回答问题,还会调用工具、修改记录、登录系统。
过去的漏洞叫"门没锁",现在的漏洞叫"管家自己走出去了"。
输出可信,不等于行动可控;能完成任务,不等于有权完成任务。
同样是辅助办公,生成一份摘要和自动修改业务记录,权限就不该一样。这不是给技术设限,是把能力、权限、责任分开,别让便利悄悄变成越界。
所以"确保人工智能始终处于人类控制之下",分量不在"控制",在"始终"。不是今天能关掉就行,是十年后它比你聪明十倍时,你依然能关掉。落到实处,就是三件事:上线前明确权限,运行中监测异常,出问题时能中止、能回退、能追责。
最危险的不是系统承认"不知道",而是它在无人确认时继续执行。
三、安全不是成本,失控才是
有人觉得,技术还在长,规矩立早了会卡脖子。
恰恰相反。
目前网络领域立法已达190余部,针对生成式人工智能的专门规则在全球范围内率先落地。截至8月底,完成备案的生成式人工智能服务1112款,完成登记的应用与功能731款。
这不是给创新上枷锁,是给创新上保险。没有红绿灯的时候,车跑不快,因为谁都不敢踩油门。
规则不是速度的敌人,混乱才是。
对企业更是如此。模型再强,用户一不信任,就是零。一次数据泄露、一次越权操作,抵消的可能是多年积累。**信任是最慢建的资产,也是最快塌的资产。**把安全当成本,看到的是眼前支出;把安全当底座,守住的是长期收益。
当然,备案登记是治理环节,不是风险归零的证明。制度立起来之后,更重要的是在运行中反复检验:系统更新后权限有没有重审,发现漏洞后责任有没有到人。
四、防线最薄的地方,在手指尖
政府管得了备案、执法、关键信息基础设施。
但管不了你把公司机密贴进聊天框,管不了你用一个密码登录十个平台,管不了你把一段没核实的内容转发给三百个人。
攻击从来瞄准最薄弱的环节,而不是最强大的系统。
所谓大网络安全工作格局,其实是一张网:政府是骨架,企业是肌肉,每个网民是神经末梢。末梢麻木了,骨架再硬也会摔倒。共同责任,不是把专业风险转嫁给普通人,而是让每个环节都有明确负责的人。
对普通人,可操作的三条:敏感信息不随便交,重要结论不核验不采用,涉及资金、身份、账户的操作,保留人工确认。能少给一项权限,就别为了方便多开一道门。
这张网也不止在国内。攻击没有国籍,数据不认国界。一国关起门做安全,等于在泄洪区单独修一段堤。参与国际规则制定、跨境打击网络犯罪,不是姿态,是自保。
五、结语
《诗篇》里说,若不是上帝看守城池,看守的人就枉然儆醒。放在今天同样成立:安全靠的不是哪一件技术神器,而是一种敬畏——对工具的敬畏,对边界的敬畏,对"我并非全知"这件事的敬畏。
从"十五五"规划到国家信息化部署,蓝图已经画好。一分部署,九分落实。落到哪?落到每一个产品的出生证、每一家企业的账本、每一个人的手指尖。
智能化浪潮不会等人。但浪潮越大,占便宜的越是会游泳的人,而不是跳得最早的人。
真正可靠的智能化,是能力可以无限扩展,权力始终有界;这个时代奖励的,不是跑得最快的工具,而是最早学会刹车的人。
(唐加文,笔名金观平;本文成稿后,经AI审阅校对)