拉马努金先得出答案后补证明的天赋,恰好是今天大语言模型的工作方式。当AI也能即兴生成解释时,我们如何辨别真正的理解?

拉马努金先有答案再补证明的方式,很像当今的大模型

1913年,剑桥数学家哈代收到一封来自印度马德拉斯一个陌生人的信。信里满是定理,几乎没有解释。有些看起来像疯子写的,有些看起来不可能。哈代后来说,这些结果"一定是对的,因为如果是错的,没人能有那样的想象力发明它们。"

这个陌生人是拉马努金,一个几乎没有接受过正规训练的默默无闻的职员。他后来成为史上天赋最强的数学家之一。但最奇特的不是他的聪明,而是他常常在知道怎么推导之前就到达了答案。证明是后来补的,如果补了的话。

答案先行,解释后到:这正是每次我们使用大语言模型时发生的事。

拉马努金16岁时拿到了一本剑桥入学考试的补习手册:卡尔写的《纯粹与应用数学基础结果概要》,包含约5000条定理,几乎没有推导过程。这本书给了他几千个目的地,却几乎没有通往那里的道路。于是他自建道路,在书无物可教之后还走了很久。

但他为此付出了代价。1904年,他凭数学实力考入一所学院,一年后因为拒绝学任何其他科目丢了奖学金。他英语不及格。他在贫苦和半饥半饱中度过了多年,追逐那些有时没有归宿的结论。正是这种挣扎可能在天才之下构建了结构性的基础。

AI的"损失函数"只是被修正的数字,系统里没有任何东西因走错路而受苦。拉马努金在真实的损失中浪费了多年,并因此改变了。模型的"损失"和人的损失,是共享一个词的两回事。

如今,当AI可以即兴给你推导过程、根据你的质疑重构论证时,那个用来逼问出谁只是抄答案的测试失效了。剩下的唯一方法是把机器从房间里拿走。闭卷考试、凌晨2点的突击提问、没有时间去查任何东西,这些曾经被认为是人为制造的场景。但恰恰相反,日常世界才是那个被无处不在的工具支撑的人工状态。

"答案是个影子。拉马努金写在黑板上的方程和我照着抄写的看起来形状完全一样。但我的背后空无一物,他的背后是一个年轻人挨饿十年去理解为什么它是真的。"

AI剥夺了我们看影子推断后面物体形状的能力。几百年来,一个好答案是一个好头脑的可靠证据。这个假设不再安全。问题从来不是机器会不会思考,而是当答案抢先到达的那一刻,影子背后还站得住的,是什么。

原文:https://www.psychologytoday.com/us/blog/the-digital-self/202608/the-genius-who-saw-the-answer-first