众力资讯网

陶哲轩：假设我们给一个先进的人工智能下达指令：“找到一种能够通过三期临床试验的癌症治愈方案。”在进行了大量计算之后，它提出了一种由此前从未发现过的化学物质组成的混合药剂。根据它的数学模型预测，将这些物质混合后注射进患者体内，就能杀死所有癌细胞。尽管没有人真正知道这种混合药剂是如何被发现的，但这一模型的预测在Lean中得到了验证，而且这种混合药剂确实通过了三期临床试验。那么，有没有可能，人工智能给出的解决方案实际上并没有与人类的意图对齐，而是利用了临床试验流程中的某种漏洞？在把这种混合药剂注入自己的血液之前，你是否希望知道，至少有一位人类癌症专家真正理解这种疗法背后的作用机制？或者，你是否希望有一位人类数学家，真正理解用于发现这种混合药剂的数学模型？==============人话就是：即使人工智能给出了正确的答案，并且通过了外部检验，我们是否还需要理解它为什么正确？就学数学的喜欢纠结，感觉数学界最近被AI打蒙了。能理解的当然尽量去理解，实在不能理解的，坦然接受。其实陶哲轩都算数学界里面能接受AI的了，不知道为什么这么纠结。关于理解的问题，未来必然会出现人类理解和AI理解的区别。无所谓，因为根本阻挡不了。我知道他想什么，上次那个联名信搞得沸沸扬扬的

【25位菲尔兹奖得主警告AI正毁掉数学】数学家警告AI正毁掉数学AI开始能够解决越来越难的数学问题之后，一批世界顶尖数学家却发出了警告：如果AI越来越快地给出答案，数学可能失去一些比答案更重要的东西。当地时间9月11日，陶哲轩、邓煜、彼得·舒尔茨（PeterScholze）等25位菲尔兹奖得主作为最初签署人，联合发表声明《人工智能在数学中的严重错位》（ASevereMisalignmentofAIinMathematics），警告AI公司与数学共同体之间正在出现“严重错位”。陶哲轩当天在个人博客“What’snew”发布了声明全文。他介绍，这份声明源于25位菲尔兹奖得主过去一周的讨论。由于认为当前问题具有紧迫性，他们没有等待更长时间进行更广泛的协商，而是决定尽快公开发表声明。这份声明没有否认AI在数学上的进步，首先承认了一个正在发生的变化：过去几个月，大语言模型的数学能力出现显著提升，已经能够解决多个数学领域的重要未决问题。但问题也由此出现。25位数学家认为，AI公司正在把解决数学问题作为衡量模型能力的基准，而数学共同体真正追求的，并不是尽可能快地得到一道题的答案。“AI公司的目标与数学共同体的目标存在严重错位。”声明称，AI公司推动模型解决数学问题以作为能力基准的做法，可能损害数学研究以及数学共同体。在这些数学家看来，一个著名数学问题之所以重要，并不只是因为最后能够得到“对”或者“错”的结论。长期以来，重要的未解问题更像数学世界中的“地标”和“灯塔”。一个问题被解决，通常意味着研究者发现了新的洞见、方法或者概念。随后，这些成果还需要经过数学家之间的报告、讨论和不断简化，最终才可能变成研究生甚至本科生能够理解的教材内容。一些数学思想甚至要经过几十年乃至几百年，才会成为被更广泛使用的工具。公开信强调，“解决问题只是实现概念理解和洞察这一首要目标的工具和代理指标”。这也是25位数学家最担忧AI竞赛的地方。当AI公司不断以“解决了多少此前未解的问题”衡量模型进展时，原本用于衡量数学理解程度的指标，可能反过来成为被机器快速优化的目标。声明警告，以越来越快的速度批量生产“真/假”结论，可能不是在孕育新的思想，反而可能摧毁孕育思想的沃土。速度带来的另一个问题是，数学成果本身需要时间被理解。声明称，一些AI产生的解答被匆忙宣布，没有留下足够时间完成规范的论文写作、提炼其中真正的新方法和新思想，以及引用其他研究者此前的相关工作。这也由此带来了严重的成果归属和抄袭问题。即便AI能够产生正确而新颖的数学思想，25位数学家认为，人类数学家的工作也没有因此结束。如果没有数学家继续发展这些思想，并将其整合进数学知识体系，AI产生的思想也无法真正“活起来”，数学家之间至关重要的知识传承链条也可能随之丢失。比“AI能不能做数学”更深一层的担忧，是数学家如何被培养出来。公开信称，数学这个职业最宝贵的资源是学生和思想。数学家给学生布置问题，并不只是希望他们得到答案，更重要的目的之一，是让他们在解决问题的过程中发展研究所需要的能力。数学思想同样需要通过报告、私人讨论和严谨写作不断传播，并与此前的研究建立联系，而这些过程都需要时间和人与人之间的互动。当AI能够越来越快地直接产出最终结果时，问题因此发生了变化：如果答案可以直接获得，人类是否还会经历那些形成理解、提出新问题和产生新思想所需要的训练过程？25位数学家因此把这场争论进一步扩展到了数学之外。“我们正在目睹一种对智力劳动的普遍威胁。”声明称，在许多领域，过去多年的专业训练不仅是为了生产最终答案或产品，也是为了发展理解能力，以及提出新问题和新思想的能力。但建立在人类此前积累的大量知识之上，AI系统正在越来越有能力直接产生这些工作的结果，由此造成了目标之间的错位。不过，这份声明并没有主张拒绝AI。25位数学家明确表示，AI具有加强和加速真正数学研究与理解的潜力，数学这一职业也需要适应由此带来的变化。真正尚未确定的是，这种变化最终会推动数学发展，还是产生破坏性影响，而结果在很大程度上取决于掌握这项技术的人如何作出选择。这也让数学界正在讨论的问题，从“AI能否解决人类数学家解决不了的问题”，逐渐转向另一个更基础的问题：当机器越来越擅长给出答案，人类究竟希望从数学研究中得到什么？25位菲尔兹奖得主在声明最后呼吁，数学共同体、开发AI技术的公司以及整个社会都需要尽快面对这一问题。声明还提醒，当AI改变工作的完成方式时，不能因此忘记这些工作最初究竟希望实现什么。（第一财经）菲尔兹奖得主称AI与数学正严重错位