陶哲轩在加州理工学院的「Math 2.0」公开讲座上讲了个思想实验,讲完被人质疑,上了知乎热榜。

争的不是药,是一个更大的问题:科研成果,人类非得看懂过程才算数吗?

三件事串起来,这场争论的脉络就清楚了。

讲座上被质疑的那个实验

知乎热榜的问题描述里提到,讲座叫「Math 2.0」,在加州理工学院公开举行。

陶哲轩提出这个思想实验,目的是批评AI。

结果实验本身成了被质疑的对象。热榜上的提问干脆把它摆出来,问大家怎么看。

黑盒AI设计的癌症药

设定是这样的。

有一个「黑盒AI」,也就是内部怎么得出结论、人类说不清的模型。它设计了一款药,号称能治愈癌症。

这款药通过了三期临床试验,也就是药物上市前最后一轮大规模人体试验,用来检验疗效和安全性。它在数学和逻辑上也自洽。

但人类完全不明白它为什么管用。

换句话说,疗效验过了,机理是空白。这个设定把「结果可验证」和「过程可理解」硬生生拆开了。

热榜追问的是验收标准

知乎这条热榜的标题,把问题问得很直接:人类需要完全理解科学研究的过程吗?

这意味着争论的焦点已经不是AI行不行,而是拿什么当验收标准。只看结果,药能治病就够了。坚持看懂过程,没弄明白的东西就不该放心用。

对普通人来说,这不是抽象的哲学题。药、诊断、数学证明,今后都可能有AI插手。

数学圈里AI产出要不要逐条核对,此前就有先例,比如OpenAI数学手稿里被撤回的三篇。另一边,数学家的新闻也不总是学术的,格尔科进富豪榜就是一例。

串起来看,陶哲轩这个实验被抓住不放,是因为它逼着人回答一个躲不开的选择:疗效和理解,到底哪个是底线。