【AI正在近亲繁殖：为什么你的ChatGPT越来越蠢了】

最近牛津和剑桥在《Nature》发表的研究揭示了一个残酷真相：AI正在经历Model Collapse。当AI开始用互联网上铺天盖地的AI生成内容来训练自己，它就会迅速退化。

这背后的逻辑是，AI在迭代中会优先丢弃那些最独特、最罕见的“分布尾部”数据，也就是人类特有的奇思妙想和不完美。剩下的只有平庸的公约数。几轮循环下来，模型就只剩下一个单调的声音，最终走向崩溃。

这不仅是技术瓶颈，更是内容生态的“隐形污染”。当真假难辨的AI垃圾信息充斥网络，高质量的纯人类数据将成为未来的稀缺资产。讽刺的是，当人类在追求AI的高效时，反而是我们那些曾经被嫌弃的“不完美”，成了拯救AI免于愚蠢的唯一解药。

arxiv.org/abs/2305.17493