最近,在杨澜采访朱纯松和陈繁昌对话里,提到有一位做数据标注的企业家,当他被问到招聘什么人,回答是“招文科生,因为标注这件事,需要理解人是怎么看待事物的”。
我觉得这讲出了人工智能产业正在发生的一项变化:当机器越来越擅长生成答案,企业开始需要有人解释,什么样的答案才值得交给用户。
过去讨论技术,大家习惯问“能不能做到”;现在,大量问题已经变成“做到什么程度才合适”,而一个“合适”,里面包含着事实、法律、利益、情境,以及人对待他人的分寸。
这些东西开始进入产品生产过程,文科训练也就有了新的用武之地。
数据标注为什么需要文科生?先思考一个具体问题。
假设我们要训练一个处理消费者投诉的模型,给它看两段回复,一段语气温和,反复表示理解,却始终没有解释退款条件;另一段没那么亲切,明确指出商家此前的承诺,并给出申诉渠道。哪一段更好?
如果标注标准是“让用户感觉舒服”,第一段可能得高分;如果标准是“帮助用户解决问题”,第二段更值得保留。假如用户提出了不合理要求,情况又会变化:一个无条件支持用户、替他编造投诉理由的模型,也许很受欢迎,却会伤害其他人的合法权益。
所谓数据标注,到了这个层次,就是把“好”拆成可以执行、可以讨论、可以复查的标准。
大语言模型的基础训练,主要让它从海量文本中学习语言规律和知识关联。进入后续训练阶段,人们会提供示范回答、比较不同回答的优劣,或者依据明确规则给输出打分,以此调整模型的行为倾向。训练方式可以不同,背后都绕不开一个问题:由谁来规定什么表现值得奖励?
“有帮助”“诚实”“安全”,写在纸上都很好看,落实时却经常发生冲突。诚实地告诉一个人事实,可能令他难受;照顾他的情绪,又可能强化他的错误判断。拒绝回答可以降低某些风险,拒绝得太宽,正常的学习和研究也会受到影响。
我认为,AI公司招聘哲学、语言学、心理学等专业人才,最直接的原因就在这里:产品需要处理的判断,已经超出了单纯核对事实的范围。
工程师当然也能做这些工作,文科生也未必做得好。企业真正需要的是受过相关训练、能把含混要求讲清楚的人,而人才的来源因此扩大了。
当哲学系的毕业生进入AI实验室哲学系毕业生进入AI实验室,在国外已经不是新闻。
Anthropic的哲学研究者阿曼达·阿斯克尔参与制定Claude的行为原则,Google DeepMind的伊阿松·加布里埃尔研究AI的价值对齐与社会影响。他们面对的很多问题,并没有那么玄妙:模型什么时候应该反驳用户,什么时候需要继续追问,依据不足时该如何表达,有人要求它越过规则时,它应当怎样处理。
就拿“不要迎合用户”来说,这句话很难直接成为一套合格的产品规则。
用户说自己今天很失败,模型如果立刻纠正“你的判断缺乏证据”,大概没人愿意继续聊;用户说同事一定在密谋害他,模型如果为了表示理解而顺着说,又可能加重他的猜疑。这里需要区分的是,对情绪的接纳和对事实判断的认可,应该怎样在同一段回答里分别表达。
语言学关注话语的意图和语境,心理学帮助识别人处在什么状态,哲学擅长澄清概念、检查推理,并追问一项原则在边界情况下还能否成立。这些训练进入AI研发后,可以用于设计样本、编写行为规范、构造测试题,也可以帮助解释模型为什么答得令人不安。
我尤其看重“构造测试题”这件事,因为很多产品的问题,发生在设计者没有想到的地方。
一个模型平时礼貌周全,面对不断改变措辞的诱导,是否仍能坚持基本原则?它在中文里表现得体,换成方言、反话或者长辈训晚辈的表达,是否还能理解真实意图?它会不会因为用户自称专家,就放弃对明显错误的核查?
把这些情况找出来,做成可重复的测试,再根据结果修改系统,是一份需要想象力、语言敏感度和严密推理的工作。文科能力在这里有了明确的交付物。
训练AI需要文科生,并不代表文科生的好日子来了不过,我不赞成把这件事讲成“技术退场,人文接管”。
文科生如果把机会理解为“终于不用学技术了”,很可能再次失望。你可以擅长讨论公正,可进入产品团队之后,必须回答:公正落实在哪个环节,通过哪些案例检验,两个评审意见相反时怎样处理,改进之后又怎样判断有没有效果?
以招聘模型为例,“不要歧视求职者”是一个立场,落地时却需要检查训练材料是否包含历史偏见,模型是否把与岗位无关的信息当作筛选依据,不同群体是否被系统性地误判,以及遭到拒绝的人有没有申诉渠道。
每往前走一步,都需要法律知识、业务经验、数据分析和工程配合。抽象原则必须经过这样的展开,才有机会改变产品。
所以我对文科生的建议很明确:去掌握一项具体业务,再把自己的判断写成别人可以使用的规则。
研究法律,就试着建立法律问答的错误分类和评测样本;研究语言,就分析模型怎样误解省略、讽刺和礼貌表达;研究教育,就追踪一段看似正确的讲解,究竟在哪一步让学生产生误解。你拿得出这样的成果,用人方才知道你的专业训练能解决什么问题。
我不太相信一句“我有批判性思维”能在求职时产生多大作用。我更愿意看见一个人摆出二十个案例,说明现有标准哪里含混,为什么会造成错误,以及怎样修改才能减少分歧。
这种表达,比给自己贴一个“复合型人才”的标签有力得多。
那些模糊的语言地带,正是文科生发挥作用的地方招聘需求出现了,还要问企业为什么愿意付钱。
我的判断是,当生成内容越来越便宜,筛选内容、确定责任和建立信任,会在生产过程中占据更重要的位置。
过去写一份报告需要花很多时间,企业容易把注意力放在写作速度上;现在模型很快就能给出一份语言完整的报告,接下来的麻烦是,里面的依据是否存在,引用是否准确,结论是否越过证据,使用者会不会被流畅表达带偏。
这些问题一旦进入金融、医疗、教育和公共服务,就会转化为实际损失。企业招人处理它们,既有社会责任方面的要求,也有经营上的现实考虑:反复出错的系统难以获得客户信任,缺少责任边界的产品也很难进入严肃场景。
而且,AI正在从回答问题走向执行任务。替用户整理邮件,影响主要还停留在信息层面;替用户发送邮件、筛选候选人、安排采购,就开始涉及他人的利益,以及用户究竟授予了多大权限。
一个人说“帮我把这件事办好”,其中有大量没有明说的条件。理解这些条件、发现需要确认的节点、明确哪些行动必须获得授权,会成为产品能力的一部分。
这也是我认为人文社科人才的机会还会继续出现的原因:AI越深入社会生活,产品团队越需要理解社会生活本身。
谁来定义问题和答案,将是下一个阶段AI训练的必答题但招聘几位哲学博士,距离广大文科毕业生的就业改善,还隔着很长一段路。
高水平研究岗位数量有限,往往要求深厚的专业训练和研究能力;大量数据标注岗位则可能流程严格、议价能力有限,随着工具变化,一些任务还会被进一步自动化。用前者的薪酬吸引所有人,再让后者承接想象,是一种需要警惕的叙事。
同一个技术变化,完全可能一边增加少量高要求岗位,一边压缩大量常规写作、翻译和信息整理工作。对普通人来说,真正有用的问题是:自己现在做的工作里,哪些部分依赖可重复的表达,哪些部分依赖对具体事务的理解,而自己能否向后者移动。
我也反对把“定义问题”说成文科生的专属权利。
一位医生知道患者最常误解什么,一位社区工作者知道办事群众为什么反复跑腿,一位教师知道学生在哪一步开始跟不上,这些人都拥有非常重要的问题定义能力。经过训练的文科工作者,可以把这些经验整理成清晰概念和可执行标准,技术人员则要参与判断实现路径,几方面共同完成产品。
真正值得期待的变化,是不同知识背景的人有机会更早进入研发过程,在目标和规则尚未确定时参与讨论,而非等系统上线之后,再来解释它为何造成了麻烦。
写在最后回到“AI时代为什么开始招聘文科生”,我的回答是:机器进入了越来越多需要理解人、协调利益和作出判断的场景,过去容易被笼统称为“软能力”的一些训练,开始有了直接的生产用途。
这对文科生是机会,也提出了更高要求。靠熟练措辞交差,会越来越难;愿意研究具体事务、把判断变成可检验成果的人,会获得新的位置。
最后我想留给读者一个问题:假如明天让你参与改进一款AI产品,你最想纠正它的哪一种错误,又准备拿什么标准说服整个团队?