大佬说｜DeepMind CEO：未来10年有可能实现AGI

「这些意见领袖对智能的观点值得听，因为他们影响AI的成长方向」

撰文：张司钰

编辑：王杰夫

Key Person

Demis Hassabis

戴密斯·哈萨比斯

Google DeepMind首席执行官，他带领DeepMind破解了围棋这一历史难题，研究成果两次登上《自然》（Nature）杂志封面，他研发的AI围棋软件AlphaGo于2016年打败全人类最顶尖棋手。

Hassabis称自己为科学与创造力的结合体，他以「创造解决世界上一切问题的通用人工智能」为目标，带领DeepMind开创了科学研究与创业团队完美结合的机制——在积极探索AI研究、应用的同时，推动AI伦理研究的发展。

7月11日，The Verge总编辑Nilay Patel对Hassabis做了一场专访。Hassabis保持一贯谦逊温和、严谨认真的态度，回应了关于通用人工智能、人工智能风险、人工智能对劳动力市场的影响等问题。

访谈中，Hassabis对Google在组织架构方面的重大决策也多有提及——今年4月，在AI竞争的白热化阶段，Google宣布Google Brain和DeepMind合并，成立名为Google DeepMind的新部门。此前，DeepMind和Google一样都是Alphabet的子公司。

如今在人工智能领域，Google不仅面临来自OpenAI、微软等竞争对手的威胁，也面临普通硬件即可运行的开源模型带来的挑战。此前，流传甚广的一份Google工程师备忘录指出，Google在人工智能领域没有竞争壁垒。Hassabis确认了这份备忘录的真实性，但他也提出了不同的观点。

以下是Hassabis讲述的核心内容：

DeepMind为何创立，又为何加入Google

Hassabis：我们在2010年成立DeepMind，那时候可以说是人工智能的史前时期。当时可以看到GPU和其他硬件正在崛起，我们非常支持强化学习，专注于通用学习系统，借鉴神经科学和大脑工作方式，并将其最先应用在游戏系统中。我认为游戏是发展人工智能算法的一个完美测试场所，在这里可以高效、快速地开发AI算法，并生成大量数据，其目标函数也非常明确。

2014年，当我们需要更多的计算资源，而Google拥有全球最多的计算机，为了尽快推进研究，我们选择被Google收购，当时收购协议之一是我们将继续推动通用人工智能的研究，这也是我个人的热情所在。

Google DeepMind「超级单元」的诞生

Hassabis：2023年4月，DeepMind与Google Brain合并成为Google DeepMind，原因是人工智能进入了一个新的成熟阶段,需要简化工作方式来更加专注于工程实现和产品化。DeepMind一直专注前沿研究，取得了AlphaGo、AlphaFold等科研突破,而Google Brain更侧重产品，比如为Google产品加入AI新功能。

DeepMind一直保持研究自主性,以保证可以自主选择研究方向，专注发展通用人工智能系统。这是DeepMind的初衷，也是它成功的重要原因。DeepMind也积极地和Google产品部门合作，将AlphaFold等研究成果应用到Google产品中,使产品更智能化。这种研究与产品的互补合作一直运行良好，合并后预计会更加紧密，形成正向循环。

目前团队结构还在调整中，预计在夏末DeepMind和Google的团队将整合为单一实体，即一个统一的「超级单元」（Super Unit）。通过这种方式，我们能省略一些重复的工作，因为AI工程化阶段需要包括计算资源、工程资源等在内的大量资源，即使是Google这样规模的公司，也必须谨慎选择在哪些方面发力。

开始执行日常任务是AI产业的转折点

Hassabis：人工智能产业过去主要关注那些人们无法做到的复杂任务，而开始执行人们的日常任务才是转折点。ChatGPT的出现标志着人工智能进入了一个新时代，因为它可以执行普通人能做的任务，人工智能系统的成熟度和复杂性达到了一个新的水平，可以真正走出研究阶段和实验室，实际应用于产品，解决实际问题。因此，ChatGPT令人惊讶的不是技术本身，而是公众对它的热情以及所带来的轰动效应。

这种转变意味着需要改变研究方法，更加注重产品应用，以满足人们在日常生活中解决实际且具有挑战性问题的需求。现在是时候精简我们的人工智能工作并更加专注了，而这种情况的明显结论就是合并。

聊天机器人是冰山一角，多种能力将在下一轮浪潮中回归

Hassabis：语言是人类智能和我们日常生活的核心，这解释了为什么聊天机器人会像病毒一样传播开来。全世界几乎所有的科学家都知道AlphaFold，但普通大众并不知道蛋白质，也不知道AlphaFold对药物研发的重要性。但对于聊天机器人，每个人都能理解。

我们正处在一个令人难以置信的新时代的开端，这个时代将在未来5到10年内展开。不仅是利用AI推动科学研究，我们还可以利用AI构建各种类型的产品以改善数十亿人民的日常生活，帮助他们更高效、丰富地生活，今天我们看到的这些聊天机器人只是冰山一角。

生成式AI现在是「时髦的」东西，但我认为在此之后，规划、深度强化学习、问题解决和推理等能力将在下一轮浪潮中回归，同时还将保留当前系统在当下具备的能力。所以我认为，一两年后，我们将会谈论全新类型的产品、体验和服务，具备前所未有的能力。

AI产品的未来形态是全能个人助手，可能在10年内实现

Hassabis：未来通用助手可能会通过「工具使用」,调用不同的专业AI系统如语言、视觉、推理等,并整合这些系统的结果,来完成各种复杂任务。这是迈向通用AI的重要一步。不同AI系统既保持独立性又能协同合作,更接近人类大脑的工作方式。

目前的产品如Bard只是起点，还未完善。未来的发展将涉及Gemini等新产品的推出以及对现有产品的改进，目标是构建全能的个人助手，为人们的日常生活提供各种有用的帮助和服务。想要构建像通用助手一样在日常生活中有用的产品，计划、记忆和推理的能力至关重要，但目前还比较早期。产品和研究之间的密切合作可以形成良性循环，相互促进进步。

不过实现通用人工智能涉及许多关键突破和创新，时间上存在不确定性。基于目前的进展，未来10年内接近通用人工智能或类似通用人工智能是有可能的，但具体的时间还取决于未来的突破和创新。

开源和发布是重要的，Google的优势在于研究人员

Hassabis：对于之前一份传言从Google内部流出的备忘录——「Google在AI领域没有护城河，开源人工智能模型或泄露的模型将在人们的笔记本电脑上运行，他们将超越闭源的大公司」，我认为这是真实的。

在Google，工程师们经常撰写各种文件，有时会泄露并迅速传播开来，这是经常发生的事情，但我不会过分看重这些备忘录。它们只是意见而已。我认为倾听它们是很有趣的，但你必须制定自己的路线。

我没有详细阅读过那份备忘录，但我不同意其中部分观点。我认为开源和发布是重要的， DeepMind也曾大量采用这些方法。比如，AlphaFold就是开源的。

当然，Google在过去10年或更长时间里取得了许多关键突破，但基于这些发明的下一代产品/技术并不能构成Google的护城河。不过我们在全世界任何地方都拥有最多的顶级研究人员，随着DeepMind与Google Brain的合并，我们未来可能会取得更多、更快速的突破。

防止AI系统被恶意利用需要国际行动

Hassabis：一方面，开源有很多好处，可以加速科学讨论和进步，让许多开发人员可以访问这些平台。另一方面，如果有一些坏人利用访问权限做出危害社会的行为，这可能会带来一些负面影响。这是未来几年需要解决的问题。

现在系统没有那么复杂或强大，因此风险暂时还不大。但随着工具的使用变得越来越复杂，并且可以用不同的方式将不同的AI系统组合在一起，就会有一定的风险，它可能会被恶意利用，无论利用它们的是个人还是国家。这就是我与英国、美国、欧盟等政府会谈的原因。

伴随AI系统而来的风险和负面影响需要政府部门、企业、学术界、公众等各界密切配合,共同参与讨论,制定国际标准和监管方案。现阶段还没有完美的解决方案,需要持续努力。不同国家和地区也须达成共识，避免出现监管差异。

提高大模型的可靠性有很长的路要走

Hassabis：我相信Google搜索生成的内容，但我也会再次检验。有个有趣的现象，当你要求模型总结某个研究领域时，你可能会提问「我应该阅读哪些关键论文？」，模型会提供一些论文和作者名单。但当你查看这些信息时，会发现它们只是该领域最著名的人与不同论文标题的组合。

我们都知道，大型语言模型会虚构内容，这是未来几年必须改进的，我们要确保它们不会传播虚假信息，这是一个关键领域。DeepMind几年前发布Sparrow语言模型，目的就是看看能在这些系统中获得多少事实性信息。结果表明，我们或许可以使系统变得更好，但这会牺牲语言模型的清晰度和创造力，降低实用性。改善一个方面，就会降低模型另一个方面的能力。

理想情况下，我们希望在下一代系统中结合这两个方面的优点——保持目前的创造力、清晰度和趣味性，同时提高它们的事实性和可靠性。我们还有很长的路要走。

我们正在研究一些非常有趣的管理方法，比如做一些加密的水印、复杂的标记，并将其内置在模型中，使之成为生成过程的一部分。这些标记不容易或根本无法消除。我们尝试给图像、音频，甚至可能是文本，加上一个kite mark（一种质量和安全的象征），以标注这些内容都是AI生成的。

-END-

上一篇：

若想了解更多当日资讯，请点击阅读往期智能晚报：

我们是一个诞生于GPT浪潮、由《第一财经》YiMagazine孵化的全新内容IP。

和每一位关心技术、关注人类命运的读者一样，我们希望在这个充满不确定性的时代，更好地理解快速变化的科技世界，也更好地理解生而为「高级智能」的我们自己。

在这个目标下，我们计划从学术、商业、伦理、监管等多个角度报道和讨论与“智能”相关的议题。请注意，我们说的智能，不只是 AI。

与记者交流，可添加微信（请备注公司名称和姓名）：

王杰夫 微信号: wjfsty

张司钰 微信号: helianthus351

吴洋洋 微信号: qitianjiuye

再次，喜欢就关注我们吧，记得「设为星标」