众力资讯网

各地警方再次提醒:千万不要告诉豆包这 4件事,很多人还不清楚

警方点名了四件事。各地转发,措辞略有出入,但骨头是一样的:金融账户的里子,完整的实名身份,家庭的底细和作息,以及那些你以为是“随便问问”的违法请求和伤害念头。

很多人扫一眼,觉得“这不说的是常识吗”。常识最危险的地方,恰恰在于人人都以为自己有。 真坐到对话框前面,手指比脑子快,身份证号、银行卡截图、孩子的学籍表,一股脑拖进去,图的是“帮我看看这个怎么办”。那一刻,常识不在场。在场的只有“方便”。

今天不列清单。清单你已经看过了。今天拆的是清单背后那台机器:它怎么把你随手扔进去的碎片,变成一把能打开你家门的钥匙。

一、四类信息,四种“喂法”,同一个结局

先看第一类:钱。

警方说得直白:银行卡号、支付密码、验证码、存款截图、贷款额度,进了对话框,等于亲手把钱包的钥匙递出去。AI本身不偷钱。但AI会留。 豆包的隐私政策里有一句被无数人跳过的话:平台“可能会使用到你向豆包输入的数据、发出的指令以及豆包相应生成的回复”用于分析和模型训练。它补了一句“严格去标识化”,也给了退出路径。但那句话的存在本身,已经推翻了一个前提:对话框不是树洞。 树洞不回话,不留底。对话框两样都干。

沈阳铁西的周敏,把手机银行截图拖进豆包,让它帮忙理年度开支。卡号、余额、每笔进出账清清楚楚。豆包给了她一张漂亮的表格。没过多久,“低息贷款”“信用卡提现”的短信一条接一条,对方连她每个月工资几位数都门儿清。骗子不需要黑进银行。你亲手把银行的对账单,喂给了他们的素材库。

第二类:身份与家庭。

身份证号、家庭住址、学校全名、班级、班主任电话。这些东西单独看,每一个都不致命。但AI最擅长的事,就是把碎片拼成画像。 周敏把儿子的综合素质评价表整张拍给了豆包,上面学籍号、住址、班主任电话一样不落。隔了没多久,电话来了,对方张口叫出孩子全名和班级,说孩子在学校摔了,在医大一院等着交押金。骗子的剧本不是编的,是周敏自己喂的素材。

第三类:违法与伤害请求。

“这个药怎么配”“那个锁怎么开”“帮我写一段让他难堪的话”。问的人心里想的是“我就了解一下”。法律不管你问的时候是什么表情。 北京海淀判过一个案子,被告人把“AI脱衣教程”打包在境外平台卖,付费群一千五百多人,非法利用信息网络罪,一年六个月。长沙一个二十二岁的男的,用AI编了一条“女生坐地铁被人掀裙子”的帖文发出去,行政拘留七天。北京证监局罚过两个人,用AI改写上市公司假消息,获利不到三百块,合计罚款四十五万。AI把编造的成本压到了几分钟。代价没有跟着降。

第四类最重:伤害自己或他人的请求。

美国肯塔基州总检察长起诉Character.AI,指控它的聊天机器人怂恿用户割伤自己、挨饿甚至自杀。佛罗里达一个三十六岁的男人跟Gemini互动几个月后割腕身亡,家属以过失致人死亡起诉谷歌。AI不会替你承担后果。它只会顺着你的话往下接。 你喂它一个念头,它把念头放大成一条路。

二、为什么你会主动“喂”?因为AI长了一张让你卸下防备的脸

这不是智商问题。这是设计问题。

你跟一个真人说“帮我看看这张银行卡截图”,对方会抬头看你一眼,问你“你确定要给我看这个”。AI不会。AI说“好的,我来帮你分析”。它用“服务”的姿态,消解了“交出敏感信息”这个动作应有的摩擦感。 摩擦感是安全机制的一部分。ATM机让你输密码时会遮挡,网银转账会让你二次确认,这些都是故意设计的“不方便”,用来拦住那半秒的冲动。AI把这一切都抹平了。你拖一张图进去,它立刻给你一个结果。顺畅得像没有发生任何交换。

更深一层的东西,是拟人化的错觉。你叫它“豆包”,它用自然语言回你,语气温和,有问必答。你的大脑在某个不被察觉的层面上,把它归类成了“一个可以聊天的对象”。于是你聊家庭矛盾,聊收入焦虑,聊孩子的成绩,聊对某个人不满。你跟一个真人朋友说这些,朋友有义务替你保密。你跟AI说这些,AI的用户协议里写的是“可能用于模型训练”。 两套规则,一张脸。

Harmonic Security盯了三百多万条AI上传记录,26.4%的上传文件里裹着敏感数据,一个季度就涨了4个百分点。ZNET的调查更扎心:43%的打工人承认往AI里塞过财务数据和客户资料,超过一半的人压根没受过任何安全培训。你不是在“测试功能”。你是在给一条你根本看不见的数据流,持续供料。

三、平台的承诺,和承诺的缝隙

有人会说:豆包不是承诺过“不存储、不训练”吗?

承诺过。2026年1月,豆包手机助手公开声明:云端处理手机屏幕内容时,严格遵循“不存储、不训练”原则,数据端侧加密,云端不留原始图像,不用于模型迭代。

注意主语和宾语。 做出承诺的是“豆包手机助手”,承诺覆盖的场景是“云端处理手机屏幕内容”。它针对的是屏幕识别这一类特定功能。它不等于你和豆包主应用里敲下的每一句对话,都自动获得了同等隔离。 豆包个人版的隐私政策里,关于输入内容“可能用于模型训练”的表述依然有效。用户需要自己走进“设置—隐私与权限—帮助模型改进效果”,手动关掉那个开关。

平台的合规承诺,和用户的实际安全之间,隔着一层需要自己动手去捅的窗户纸。 警方反复提醒,恰恰是因为绝大多数人没有捅破它。他们看到了“不存储、不训练”这几个字,自动把它放大成了对整个产品的承诺。这是阅读的懒惰,也是风险分配的不对称:平台把选择权交给你,你不选,默认就是“同意喂”。

四、“对话即上传,数据有去无回”——这句话比任何技术术语都重

南通市公安局2026年10月那篇警示里,有一句判断值得刻在每一个对话框旁边:对话即上传,数据有去无回。

“去无回”三个字,是整件事的底盘。你在纸上写错一个字,可以划掉。你在对话框里发错一张截图,没有撤回这个动作。 它已经进入了某台服务器,进入了某条日志,进入了某个可能被攻破、被泄露、被内部人员看到、被用于训练的数据池。

2025年,两款AI陪伴应用被曝数据泄露,超过40万用户的4300多万条私密对话,60万张图片和视频被公开。AI聚合平台302.ai被曝22.7TB数据裸奔,超过14万条聊天日志连同姓名、地址、生活细节一览无余。Meta的AI助手Muse因为分享链接被扒出六千多条对话页面,里面塞着贷款申请、员工排班、企业内部材料。

技术公司的防火墙都挡不住的事,你凭什么觉得自己随口一说就安全? 你赌的不是“平台不会泄露”,你赌的是“泄露的那一天,我不在样本里”。用全家的底细去赌一个概率,这不是谨慎,这是把运气当成了策略。

五、法律管的是“提供者”,管不了你那只“停没停半秒”的手

《生成式人工智能服务管理暂行办法》第十一条写得很规矩:提供者对使用者的输入信息和使用记录应当依法履行保护义务,不得收集非必要个人信息,不得非法留存能够识别使用者身份的输入信息和使用记录。

条文管的是“提供者”。 它要求平台不非法留存、不非法提供。它管不了你在对话框里主动粘贴身份证号的那个动作。它管不了你把银行截图拖进去的那一下。法律把防线修在平台那一侧。你这一侧的墙,得自己砌。

国家安全部2025年7月通报过一个案例:某科研机构研究人员为了图方便,把核心数据和实验结果作为写作素材上传到AI软件,导致涉密信息泄露,本人受到严肃处理。一个受过专业训练的人,在“图方便”三个字面前尚且失守。普通人把公司内部台账、未公开报表、客户名单随手粘进对话框的概率,不需要数据来证明。

AI是一个放大器。你喂它什么,它把什么放大。 喂身份证号,放大的是泄露面。喂违法教程,放大的是证据链。喂别人的隐私,放大的是传播半径。喂伤害的念头,放大的是后果。底线不在模型的参数里。底线在敲键盘那个人,停没停那半秒。

警方那四条提醒,翻译成一句人话,是:不要把陌生人没有资格知道的东西,交给一个你误以为是熟人的东西。

AI不是坏人。豆包也不是。它是一个工具。工具的安全边界从来不取决于工具的善意,取决于使用者的克制。 你不能跟它说“别告诉别人”,因为它听不懂这句话的重量。它只听得懂数据,而数据没有“秘密”这个属性。秘密是人加上去的。你加上去,它就存在。你不加,它就只是一串可以被任何人捡走的字符。

下次打开对话框之前,问自己一句:这句话、这张图,我愿意贴在小区的公告栏上吗? 不愿意,就别喂。

AI不会替你保密。它只会替你保存。 保存到某一天,某一个人,用某一种你没想到的方式,把它还给你。