据消息人士透露,OpenAI的研究人员在首席执行官被撤职之前向董事会发出了警告,称他们取得了人工智能的突破

据路透社报道,OpenAI首席执行官萨姆·奥特曼被解职前的四天内,几位研究人员向董事会发出了一封信,警告称他们取得了一项可能威胁人类的强大人工智能发现。

据两位知情人士透露,这封以前未公开的信和人工智能算法是在董事会解聘奥特曼之前的一个重要进展。在奥特曼胜利地返回之前,超过700名员工一度威胁要辞职,加入投资方微软公司以支持被解雇的领导人。

据消息人士引述,这封信是导致奥特曼被解雇的一系列委屈中的一个因素。路透社无法查阅该信的副本。写信的研究人员尚未立即回复置评请求。

据其中一位消息人士称,长期担任高管的米拉·穆拉蒂(Mira Murati)在周三向员工提到了这个名为Q*的项目,并表示在本周末事件发生之前向董事会发送了一封信。

在该报道发布之后,OpenAI的一位发言人表示,穆拉蒂告诉员工媒体即将要报道的内容,但她没有对报道的准确性发表评论。

据一位知情人士透露,ChatGPT的开发者在Q*(发音为Q-Star)上取得了进展,一些内部人士认为这可能是该初创公司在追求超级智能(也称为人工通用智能,AGI)时取得的突破。OpenAI将AGI定义为比人类更聪明的人工智能系统。

该知情人士表示,鉴于庞大的计算资源,这个新模型能够解决某些数学问题。由于未获得公司授权,该人士要求匿名。尽管该模型只能在小学生水平上进行数学计算,但研究人员在通过这些测试时表现出色,对Q*未来的成功持非常乐观的态度。

路透社无法独立验证研究人员所声称的Q*的能力。

研究人员认为,数学是生成式人工智能发展的前沿。目前,生成式人工智能在写作和语言翻译方面表现出色,通过统计预测下一个词,并且对于同一个问题的答案可能会有很大的变化。但是,征服数学能力——在这里只有一个正确答案——意味着人工智能将具有类似人类智慧的更强推理能力。AI研究人员相信,这可以应用于新颖的科学研究。

与只能解决有限操作的计算器不同,人工通用智能可以进行泛化、学习和理解。

消息人士表示,在他们致董事会的信中,研究人员提到了人工智能的强大能力和潜在危险,但没有具体指出信中提到的安全顾虑。计算机科学家长期以来一直在讨论超级智能机器可能带来的危险,例如他们是否可能认为摧毁人类对他们自身利益有益。

在这种背景下,奥特曼带领努力让ChatGPT成为历史上增长最快的软件应用之一,并且从微软那里获取了向超级智能(或AGI)更近的投资和计算资源。

除了在本月的演示中宣布一系列新工具外,奥特曼上周在旧金山的一次世界领导人聚会上透露,他相信人工通用智能(AGI)已近在眼前。

他在亚太经合组织峰会上说道:“在OpenAI的历史上已经有四次了,最近一次是在过去几个星期,当我们推开无知的面纱,推动探索的边界向前推进时,我有幸参与其中,这是一生中的专业荣誉。”

一天后,董事会解雇了奥特曼。

原文地址


Was this article helpful to you?
Provide feedback

Last edited on December 08, 2023.
Edit this page