首页 要闻 > 内容

OpenAI联合创始人谈公司过去公开分享研究的方法

时间:2023-03-16 11:38:32 来源:
导读 昨天,OpenAI宣布了GPT-4,这是其期待已久的下一代AI语言模型。该系统的功能仍在评估中,但随着研究人员和专家仔细研究其随附材料,许多人

昨天,OpenAI宣布了GPT-4,这是其期待已久的下一代AI语言模型。该系统的功能仍在评估中,但随着研究人员和专家仔细研究其随附材料,许多人对一个特定功能表示失望:尽管其母公司名称为GPT-4,但它并不是一个开放的AI模型。

OpenAI分享了大量GPT-4基准和测试结果,以及一些有趣的演示,但基本上没有提供有关用于训练系统的数据、其能源成本或用于创建它的特定硬件或方法的信息.

人工智能研究应该开放还是封闭?专家意见不一

AI社区中的许多人批评了这一决定,指出它破坏了公司作为研究组织的创始精神,并使其他人更难复制其工作。或许更重要的是,一些人表示,这也使得针对GPT-4等AI系统所构成的威胁制定保护措施变得困难,这些投诉是在AI世界紧张局势加剧和快速发展之际出现的。

“我认为我们可以将其称为‘开放’人工智能:介绍GPT-4的98页论文自豪地宣称他们没有披露关于训练集内容的*任何*信息,”信息设计副总裁BenSchmidt发推文说。NomicAI,在关于该主题的线程中。

在这里,施密特指的是GPT-4技术报告中的一段内容,内容如下:

鉴于竞争格局和GPT-4等大型模型的安全影响,本报告不包含有关架构(包括模型大小)、硬件、训练计算、数据集构建、训练方法或类似内容的更多详细信息。

OpenAI的首席科学家兼联合创始人IlyaSutskever在接受TheVerge采访时对这一点进行了扩展。Sutskever说OpenAI不分享更多关于GPT-4的信息的原因——害怕竞争和担心安全——是“不言而喻的”:

“在竞争格局方面——那里竞争激烈,”Sutskever说。“GPT-4不容易开发。几乎所有的OpenAI都花了很长时间才生产出这个东西。而且有很多公司都想做同样的事情,所以从竞争的角度来看,你可以将其视为该领域的成熟。”

“在安全方面,我想说安全方面还没有竞争方面那么突出。但是要改,基本是这样的。这些模型非常有效,而且它们正变得越来越有效。在某些时候,如果有人愿意,很容易对这些模型造成很大的伤害。随着能力越来越强,你不想公开它们是有道理的。”

标签:
最新文章