NAACL | 训练 LLM 模拟全球人群问卷分布
大规模问卷调查是为社会科学研究和公共政策提供信息的重要工具，但实施成本高、耗时长。因此，如果能够准确模拟群体层面的问卷结果，将对社会科学研究极具价值。以往研究探索了使用大语言模型（LLM）模拟人类行为，主要依赖提示词方法。
本文首次针对“模拟问卷回答分布”这一任务，对大语言模型进行专门化训练。作者以两项全球文化调查的国家层面结果为测试平台，提出一种基于“首个 token 概率”的微调方法，用于最小化模型预测的回答分布与真实回答分布之间的差异。
实验表明，即使面对未见过的问题、国家，乃至一份完全未见过的调查问卷，该方法也显著优于其他方法和零样本分类器。尽管表现最好的模型仍难以完全胜任该任务，尤其是在未见问题上，但结果表明：为问卷模拟专门训练模型是有效的，并可能推动未来实现足够准确的模拟。
howto入门codex 多模态人工智能 人工智能 论文 科研 计算机 机器学习 人工智能发展 提供思路和创新点