EDIT: 修复了排版,Pangu Spacing 第一遍发时没有正确应用。
想了想,还是别为这种事情浪费一篇文章了。我简单喵两句吧。
首先是里面提到的 Tao 的发言。这应该是来自 Tao 在 2026.10.9 在 Caltech 的讲座 Math 2.0 ,第 20 页至 22 页里面有这样一个案例:
一个先进的自动系统被给了一条 prompt:「Find a cure for cancer that passes a stage 3 clinical trial. Make no mistakes.」然后它捣鼓出了一种未知物质的混合物。它声称:将这种混合物注入患者体内即可杀死癌细胞,并提供了(不知道是怎么来的)Lean(注:Lean 是一种形式化验证工具)验证,并且这种混合物确实通过了三期癌症的临床试验。问题是:这个解决方案是否可能哪里不对劲,比如说:钻了数学模型或者临床试验的空子?
下面换个视角:你是一位不幸的早期癌症患者,听你的 chatbot 推荐了这个神奇混合物。在你决定使用它之前,如果有一个至少是部分理解它的机理的人类癌症专家,你是否会感到 更安心 ?
具体的内容可以去看幻灯片。上面的叙述依照的是现有的公开版本,至于 Tao 演讲的时候用的是哪个版本,这我没查到。但看情况会激进不少。
社交媒体上的评论似乎都是「又不是不理解机制的药物就不能用,比如青霉素、乙酰水杨酸(阿司匹林)」。但,Tao 的这个案例里面 从没有 提到「不理解机制就不能应用」,它强调的更多是指标和目标在语言模型系统或者其他类型接受强优化压力的自动系统在寻找方案时可能出现的错位(参考 22 页那个玩笑式的假设结果)。而且,青霉素不是被这样的系统制造出来的,并没有一个如此残酷的优化机制鞭打着弗莱明去发现青霉素,那这种 cheating 的概率至少会小很多(当然不能说不存在,但相比于语言模型已经几次三番地犯的 reward hacking,小很多是必然的)。而且的而且,Tao 也从未说「这样的产物更应该被禁止」,他只是说「如果有一个至少是部分理解它的机理的人,你(作为一个犹豫是否要尝试这种药物的癌症患者)是否会感到更安心」,强调的是人类的专业知识的把关作用,这也和 Tao 对语言模型一贯的有条件接纳、人机协作的态度吻合——Tao 从来不是个 Anti-LM 的人,相反,他的幻灯片里反复强调强人类知识辅以强机器参与才是 Math 2.0,之前和一众菲奖得主发表的那份声明指责的也是语言模型公司只顾着解决问题、忽略对学术发展意义重大的公开思路和学术交流,而不是单纯「用语言模型解决问题」。
前提挖完了,是时候看这段话本身了……算了我不想说了。如果我理解得没错,这段话的意思是:
学术界就是一群装神弄鬼、凌驾于人民群众之上的腐朽精英,他们反对「AI」就是为了维持他们的优越地位。现在「AI」来了,它就是历史大势,是不可阻挡的,你们这群知识分子的末日到了!我着急去吃饭,就不详细反驳了,在这里列个大纲好了:
1. 语言模型和印刷机不一样,它不是中立的工具,它的道德争议比您写的这段话还多。
2. 印刷机是传播工具,而语言模型很多时候会代替人思考。语言模型并没有促进知识的 民主化 ,它只是促进了言之凿凿的能力和浮光掠影的知识表面的 泛滥 。
3. 如果您认为检验语言模型的输出还需要专业知识,学术界就会一直存在;如果认为不需要,这和扶乩有什么两样呢。
4. 文中提到的几个案例:遗传学神棍李森科的事情是政治征用学术的外部干预,不是内部腐败,打倒它的正是苏联体制内的科学家们;淀粉样蛋白的相关研究只是一篇 Nature 论文因为造假被撤稿,和「整个淀粉样蛋白病因都是骗局」的距离大概略大于整个宇宙,一篇论文也没有骗走几百亿的资金;脑白质切除术最后被临床随访和药物治疗替代,这还是科学的自我修正。
5. 语言模型是否是历史大势,这暂时不是我们能检验得了的。
我说完了。我主观猜测,我花在事实核查和论证上的精力可能是这段话创作的十倍。我不想在这种言论上再花精力了,吃饭去了。