OpenAI联合创始人谈公司过去公开分享研究的方法

昨天，OpenAI宣布了GPT-4，这是其期待已久的下一代AI语言模型。该系统的功能仍在评估中，但随着研究人员和专家仔细研究其随附材料，许多人对一个特定功能表示失望：尽管其母公司名称为GPT-4，但它并不是一个开放的AI模型。

OpenAI分享了大量GPT-4基准和测试结果，以及一些有趣的演示，但基本上没有提供有关用于训练系统的数据、其能源成本或用于创建它的特定硬件或方法的信息.

人工智能研究应该开放还是封闭?专家意见不一

AI社区中的许多人批评了这一决定，指出它破坏了公司作为研究组织的创始精神，并使其他人更难复制其工作。或许更重要的是，一些人表示，这也使得针对GPT-4等AI系统所构成的威胁制定保护措施变得困难，这些投诉是在AI世界紧张局势加剧和快速发展之际出现的。

“我认为我们可以将其称为‘开放’人工智能：介绍GPT-4的98页论文自豪地宣称他们没有披露关于训练集内容的*任何*信息，”信息设计副总裁BenSchmidt发推文说。NomicAI，在关于该主题的线程中。

在这里，施密特指的是GPT-4技术报告中的一段内容，内容如下：

鉴于竞争格局和GPT-4等大型模型的安全影响，本报告不包含有关架构(包括模型大小)、硬件、训练计算、数据集构建、训练方法或类似内容的更多详细信息。

OpenAI的首席科学家兼联合创始人IlyaSutskever在接受TheVerge采访时对这一点进行了扩展。Sutskever说OpenAI不分享更多关于GPT-4的信息的原因——害怕竞争和担心安全——是“不言而喻的”：

“在竞争格局方面——那里竞争激烈，”Sutskever说。“GPT-4不容易开发。几乎所有的OpenAI都花了很长时间才生产出这个东西。而且有很多公司都想做同样的事情，所以从竞争的角度来看，你可以将其视为该领域的成熟。”

“在安全方面，我想说安全方面还没有竞争方面那么突出。但是要改，基本是这样的。这些模型非常有效，而且它们正变得越来越有效。在某些时候，如果有人愿意，很容易对这些模型造成很大的伤害。随着能力越来越强，你不想公开它们是有道理的。”

　　免责声明：本文由用户上传，与本网站立场无关。财经信息仅供读者参考，并不构成投资建议。投资者据此操作，风险自担。 如有侵权请联系删除！