DeepMind研究成果发布受限:商业利益驱动下的学术自由收紧

DeepMind研究成果发布受限:商业利益驱动下的学术自由收紧

本文总结了DeepMind(谷歌AI部门)为保持在生成式AI(GenAI)竞赛中的领先地位,对其内部研究成果发布实施的严格限制和审查机制。核心要点在于:谷歌正收紧对DeepMind研究论文的发表控制,以保护商业竞争优势,这标志着DeepMind传统上开放的学术研究文化发生了重大转变。

一、 核心限制与审查机制

谷歌AI部门现正执行一项严格的论文审查制度,主要限制了以下几类研究的公开发表:

  1. 创新成果“封箱”: 对可能被竞争对手迅速利用的开创性创新成果,实施严格管控,避免技术泄露。
  2. Gemini短板规避: 任何暴露Gemini模型能力短板或相对弱点的研究,将被搁置或禁止发表。
  3. 战略性研究的“6个月禁发期”: 涉及生成式AI的关键“战略性研究”,被设定了长达六个月的禁发期。研究人员如需发表,必须获得多位相关人员的批准,证明其发表的必要性。

这些限制使得DeepMind以往那种“突破性研究即刻公开”的文化受到冲击。

二、 DeepMind文化与学术精神的转变

DeepMind曾是全球AI研究的标杆,以发布里程碑式论文著称,例如2017年奠定现代大模型基础的 Transformer架构(“Attention is All you Need”)。然而,在与OpenAI等竞争对手的激烈角逐下,谷歌的战略重心已明显转向商业化和产品落地,牺牲了部分学术开放性:

  • 审查流程的官僚化: 自2023年DeepMind与Google Brain合并以来,内部的论文审查流程变得更加繁琐和官僚化。研究人员指出,公司现在更侧重于产品驱动,而非公共利益驱动的研究发布。
  • 开放精神的“冻结”: 为了在AI战场保持领先,AI研究的开放精神在谷歌内部受到限制。尽管每年仍有数百篇论文产出,但像Transformer那样具有颠覆性的基础研究,在当前环境下几乎不可能在第一时间公开。
  • 内部挫败感: 这种限制在研究人员中引发了挫败感,因为论文发表是衡量其职业成功的重要标准。

三、 商业利益优先与研究生态的限制

新的政策直接服务于谷歌的商业利益和市场竞争策略,导致了多个敏感领域的成果被压制:

  • 商业敏感信息保护: 新政策尤其限制了涉及商业敏感领域的研究发布,防止潜在的竞争优势泄露。
  • Gemini相关研究的限制: 一项显示Gemini模型在能力和安全性上不如GPT-4的内部研究被谷歌叫停。
  • “负责任披露”的变通应用: 谷歌阻止了一篇揭露ChatGPT漏洞的论文,理由是担心被视为“敌对报复行为”。DeepMind方面辩称,公司遵循“负责任披露政策”,即必须给予相关公司修复漏洞的时间,但外界解读这进一步限制了安全研究的公开速度。

四、 人才流失与科研自由的冲突

严格的管控机制已经导致部分顶级AI人才流失,这些人才视论文发表为职业生命线:

  • 职业生涯的冲击: 对于以高水平学术成果衡量价值的研究人员,无法发表研究成果是“致命打击”。
  • 人才出走案例: 谷歌DeepMind资深研究员Nicholas Carlini离职,他公开表示领导层已成为追求科研自由的绊脚石。Carlini强调,机器学习安全与缺陷研究应默认开放以促进合作,且科学出版物应传递事实真相,而非公关修饰。
  • 资源分配倾斜: 内部资源(如算力、数据集)的分配正日益倾向于支持Gemini等核心产品开发项目,进一步压缩了基础、前沿研究的生存空间。

五、 管理层的立场与战略考量

作为DeepMind的领导者,Demis Hassabis面临着平衡商业化需求与实现通用人工智能(AGI)使命之间的张力。

  • 强硬立场: Hassabis对暂缓研究的质疑者采取了强硬立场,明确指出:“这里是公司,不是大学校园;想在大学那样的环境工作,那就请你离开。”这表明谷歌高层已将商业目标置于传统学术开放性之上。
  • 商业成果显著: 尽管研究受限,谷歌在AI产品化方面进展显著,例如推出AI生成搜索摘要、Astra智能体,以及升级的Gemini模型在多项能力上据称已超越OpenAI的顶尖模型。这些商业进展也体现在股价的积极表现上。

结论

谷歌通过对DeepMind的研究发布实施严格的“封箱”和限制策略,旨在巩固其在当前AI商业竞赛中的市场地位。这种策略虽然短期内可能保护了商业敏感信息和产品迭代的领先优势,但代价是牺牲了DeepMind的学术开放性、加剧了内部人才流失,并将AI研发推向了“囚徒困境”——在保护自身优势的同时,可能因创新活力受限而错失下一波颠覆性突破。
DeepMind内部研究要「封箱」了!为保谷歌在AI竞赛领先优势,生成式AI相关论文设定6个月禁发期。不仅如此,创新成果不发,Gemini短板不提。

DeepMind研究成果,已被按下暂停键。

FT爆料称,由Demis Hassabis领导的谷歌AI部门,正对研究论文发布实施更严格的审查机制。

总结来说,有这么几种论文不发:

会被竞争对手利用的创新成果

让Gemini模型相形见绌的研究

而那些涉及到GenAI的「战略性研究」,更是有着长达6个月「禁发期」。

如果研究员非要发论文,就得去说服多名相关人员,认可其发表的价值。

这对于DeepMind而言,是一个重大转变。

6个月禁发期,DeepMind文化之变

一直以来,DeepMind以发布突破性论文闻名。

2017年,「Attention is All you Need」开山之作出世,研究团队提出的Transformer架构为如今生成式AI热潮奠定了基础。

然而,AI战场上激烈厮杀,让谷歌领先优势不再。他们不得不考虑在公开研究上策略进行重大调整。

为了保持领先优势,获取最大商业利益,AI研究开放精神正在谷歌内部「冻结」。

至此,曾以AlphaGo击败人类棋手、Transformer架构革新AI领域的DeepMind,也正式走向了学术寒冬的变革。

据7位现任及前任研究科学家透露,「公司引入了更严格的审查流程和更繁琐的程序,加大了发表研究论文的难度」。

6个月禁发期,成为了最大的限制。

不过,研究人员通过说服多位内部员工,证明发表必要性,还是可以刊发论文的。

从某种程度上,这样可以减轻研究人员因谷歌战略、竞争原因,而无法发表成果的挫败感。

但想要像2017年那样公开发表Transformer这类的论文,几乎是不可能了。

尽管如此,DeepMind每年仍然可以产出数百篇论文,并且是各大AI顶会最重要的贡献者之一。

商业利益first,研究生态受限

从时间线看,自23年DeepMind与Google Brain合并以来,谷歌加速推出了大量AI产品,试图在与OpenAI等劲敌的较量中迎头赶上。

然而,这一转变也伴随着企业文化的变化。

其实,在两大机构合并前,谷歌内部便已有论文发表的审查流程,但自那之后流程变得更加官僚化。

一位前DeepMind研究科学家表示,「公司现在更关心产品,不关心为了公共利益而发布研究成果,这并非我当初加入的初衷」。

内部人士透露,新政策尤其限制了涉及了商业敏感领域的研究发布,避免潜在创新成果泄露。

此前,一项内部研究显示Gemini大模型,在能力/安全性方面不及GPT-4,直接被谷歌叫停。

甚至,他们还阻止了一篇揭露ChatGPT漏洞的论文,因为担心此举显得像是一种敌对的报复行为。

不过,DeepMind方面辩称,内部遵循「负责任披露政策」,即在研究员公开漏洞前,必须给予相关公司修复的机会,并非完全禁止此类研究。

AI大佬从谷歌「逃亡」

这种繁琐的审查流程,已经导致部分谷歌AI人才的流失。

对于以顶级期刊发表成果衡量成功的DeepMind研究员来说,这种加强管控带来了不小的冲击。

一位前员工更是直言,「如果你不能发表论文,那对研究人员的职业生涯是致命打击」。

前段时间,谷歌DeepMind七年老将Nicholas Carlini官宣离职,在长文中自述领导层已成绊脚石,想要去追寻真正的科研自由。

他的研究方向重点在于AI安全与隐私方面。

18年博士毕业后,Nicholas怀揣着梦想加入了梦寐以求的工作场所——谷歌大脑。

七年过去,情况却发生了天翻地覆的变化。谷歌大脑在与DeepMind合并之后,Nicholas意识到——DeepMind及I领导层不再支持自己热衷的安全与隐私研究,这也成为他离职的主要原因。

他提出了两条自己的核心信念:

机器学习安全与与缺陷的科学研究,应该默认开放:这个领域还有太多未知,我们需要在有限时间内取得进展,边需要相互学习,充分协作。

科学出版物应该是传递科学成果的方式:论文是为科学家写的,不应该参杂公关的浮夸或法律文件的模棱两可。

Nicholas进一步表示,「写出真相,有时并不等于写出我们希望的真相,但这是科学应该有的态度」。

此外,内部资源(算力、数据集)的争夺也愈加倾向于,支持Gemini系列产品的开发项目,进一步压缩了基础研究的生存空间。

Hassabis:不接受,就辞职

不过相应的,谷歌近年来在AI产品上的进展,可谓是十分显著。

从优化搜索结果上方的「AI生成摘要」,到推出能实时处理视频、音频、文本查询的「Astra」智能体,谷歌的市场反响令人瞩目。

甚至,包括迭代后的Gemini系模型,已经在编码、生图等方面,得到了全面升级,超越了OpenAI最强模型。

动图封面

尽管近期有所回落,过去一年,谷歌股价一度上涨高达1/3。

而作为DeepMind掌舵人,Hassabis一直在谷歌领导层商业化需求与个人追求AGI使命之间寻求平衡。

一位现任员工透露,「任何阻碍这一目标的障碍,他都会毫不犹豫地移除」。

对于暂缓研究的质疑声,Hassabis是这么回应的:

这里是公司,不是大学校园;想在大学那样的环境工作,那就请你离开。

或许,谷歌的这种谨慎能巩固其地位,但也可能让它失去部分创新活力,甚至是AI行业翘楚。

这场AI竞赛的「囚徒困境」,谷歌能否走出