OpenAI 公布数学、计算机科学与物理突破,研究者不满其选择性公开
Researchers are getting tired of OpenAI gatekeeping its breakthroughs
OpenAI 公布数学、计算机科学和物理三项突破,并称正与专家“shepherd”合作决定公开方式:数学结果直接放出 AI 输出,计算机科学结果将组建外部团队解释,物理结果暂不公开。
同一新闻,精选展示《OpenAI 公布数学、计算机科学与物理三项 AI 发现,并引入外部专家把关》
周一,OpenAI 宣布了在数学、计算机科学和物理学领域的重大突破,并称其正在形成一种不断演进的成果沟通方式。然而,尽管该公司显然做出了方向调整,接受The Verge采访的研究人员却对这家公司的种种做派越来越感到厌倦。
过去几个月,OpenAI 与数学家之间的关系颇为动荡,后者至今仍在应对十月初被不由分说地丢给他们的数百篇预印本论文。这一次,OpenAI 表示正与专家“牧羊人”合作,以决定如何最好地分享其最新突破。
这三项成果都涉及数学、计算机科学和物理学中一些最重大的未解难题。部分成果延续了 OpenAI 此前的工作,另一些则开辟了新领域。根据 OpenAI“牧羊人”的建议,每项成果采用了不同的发布策略。对于数学成果,OpenAI 发布了 AI 生成的输出,“让研究人员自由组织自己的力量来解释这一结果”。对于计算机科学发现,OpenAI 还将组建一个外部研究小组“来解释该结果”。而物理学成果则完全没有发布,OpenAI 表示将“听从”外部专家小组关于如何发布这些材料的意见。
- 数学成果看起来颇为引人注目。它声称解决了所有维度下的挂谷猜想。粗略地说,该问题问的是:要在各个方向上旋转一根针或一支铅笔,所需的空间可以小到什么程度。三维版本的证明是纽约大学数学家王虹今年早些时候获颁 prestigious 菲尔兹奖的成就之一。布朗大学数学教授 Brendan Hassett 对The Verge表示,OpenAI 的主张“看起来有充分支持”,但他强调自己尚未检查 Lean 形式化——一种通过计算验证结果的手段。
- 物理学成果探索的是标准模型,这是物理学中最成功、最完整的理论框架。它涉及量子色动力学,该理论研究强核力——自然界四种基本力之一(另外三种是引力、电磁力和弱核力)——及其与杨-米尔斯理论的关系,后者是现代粒子物理学的基石。杨-米尔斯理论也是数学界七大千禧年大奖难题之一的核心,不过 OpenAI 的工作并未触及尚未解决的“质量间隙”问题。
- 最后一项成果声称否证了指数时间假说,这是理论计算机科学中一个被广泛接受的假设,即某些问题无法以显著快于暴力求解的方式解决。它与 P 对 NP 问题密切相关,后者是另一个千禧年大奖难题,也是该领域最大的未解问题之一,其核心问题是:那些解可以被轻易验证的问题,是否也同样容易求解。
鉴于披露程度各不相同,且评估此类工作十分复杂,研究人员很难全面评判该公司的发现。即便掌握全部信息,评判也需要时间。但接受The Verge采访的专家表示,有充分理由认真对待这些结果,他们分别将其描述为“巨大”、“重大突破”和“意义重大”。
“最初只有少数杰出科学家能查看它们,这完全说不通。”
但研究人员对这项科学的兴奋之情,被对 OpenAI 行为的恼怒所冲淡——这是一种熟悉的感受,此前数月里,他们所称的 AI 生成研究成果如连珠炮般涌来,令人疲惫不堪。许多人迫切希望更广泛的学界能着手对这家 AI 实验室的研究成果进行艰苦的审查,并质疑 OpenAI 为何要额外设置障碍,亲手挑选专家来监督这一过程。
接受 The Verge 采访的大多数专家对 OpenAI 咨询外部研究人员的决定表示欢迎,但认为公开宣布结果也应意味着让任何人都能审查这些工作。“我对他们像今天这样公布问题没有意见,”高等研究院研究员康斯坦丁·科格勒(Constantin Kogler)说,他对相比此前发布的数百项结果、这次三项结果这一更易处理的规模表示欢迎。但他质疑限制只有 OpenAI 挑选的专家才能查看的决定。“最初只有少数杰出科学家能查看它们,这完全说不通,”他说。
“他们亲手挑选这个小组,这简直是一场灾难,”得克萨斯大学奥斯汀分校物理学教授安德烈亚斯·卡奇(Andreas Karch)对 The Verge 说。“大型实验室本就拥有足够的权力。他们不应该挑选赢家和输家。”卡奇最初建议通过“竞争性流程”来遴选研究人员,不过他承认这很可能产生类似的小组,他称该小组为“一流的”。后来,他质疑 OpenAI 为何在任命其专家团队之外,“不能现在就公布证明”。“这将在实现访问民主化的同时,仍然表明他们关心让结果有意义且可理解,”他说。
“我的感觉是,无论采用哪种方式,总会有人不满。”
这正是数学与人工智能咨询小组(AGMAI)在公告发布仅一天前所警告反对的那种把关行为——OpenAI 此前曾承诺就如何分享其研究成果咨询该专家组。“我们建议 AI 公司不要采用这种做法,”他们说,并认为挑选特定人群优先获取输出结果是“不必要的”,借用了入选研究人员的声誉,并存在访问不平等、遴选有偏见和延误等风险。相反,他们建议 AI 实验室在学术存储库上发布输出结果,附上形式化证明和有关问题如何被选定的信息,并为致力于理解这些结果的人员提供资金和其他支持。
在最新结果发布后,AGMAI 敦促 OpenAI“毫不拖延地公开其宣布的”物理学结果背后的自然语言和 Lean 输出:
“虽然这些是物理学的核心问题,但它们也是数学中的重要问题。量子杨–米尔斯理论的存在性是千禧年大奖难题的一部分,而构造四维相互作用量子场论数十年来一直是数学物理学的目标。”
我们对OpenAI邀请来领导这项工作的科学家深表敬意。但正如我们在最近的声明中所解释的,理解应当在公开环境中发展,让每个人都获得同等的机会。OpenAI曾表示,他们推迟发布是因为Lean形式化尚未完成。按照他们自己的说法,这项工作现在已经完成,因此没有任何科学理由继续推迟发布。”
哈塞特表示,公开提供这些发现还可能促进更好的科学,并鼓励更广泛地采用人工智能等新工具。“让世界各地的许多团队来研究这些结果,有助于那些想要使用新工具的人迅速采用它们,”他说。
“基础性成果正以极快的速度被解决,而无需人类的贡献……这些论文难以阅读和验证。”
找到一种能让所有人都满意的方式,与OpenAI日益涉足领域的研究人员沟通,或许是不可能的。该公司表示正在尝试不同的方法,并承认每种方法都有取舍。“我的感觉是,无论采用哪种方式,总会有人不满,”斯坦福大学数学家贾里德·杜克·利希特曼说。“所以问题只是找到最不令人反感的选项。”
佐治亚理工学院数学教授何晓宇认为,问题比OpenAI选择如何公布其发现更为深层。“这些结果非常令人印象深刻,”他说,“但我认为他们是在做样子,试图在发布结果的方式上表现得负责任和深思熟虑,却无法改变主要问题:基础性成果正以极快的速度被解决,而无需人类的贡献,而且这些论文难以阅读和验证。”
关注话题和作者,以便在您的个性化主页信息流中看到更多类似内容,并接收电子邮件更新。
- 罗伯特·哈特
来源:The Verge · AI · theverge.com