马斯克告诉苏纳克：AI 的能力每年增长 5～10 倍，而开源比闭源慢 6～12个月，所以差距只会越拉越大！

Original 有新有新Newin 2023-11-28

近日，英国首相苏纳克（ Rishi Sunak）和马斯克（Elon Musk）在英国举办的 AI Safety Summit 上进行了一次对谈，双方对话涵盖了 AI 领域的众多关键问题，包括开源与封闭源码的辩论、AI 对就业市场的影响以及维护人类意识和意愿的重要性。

在对谈中，马斯克强调了开源算法和数据相对封闭源码的滞后，以及对于人工智能进步速度的影响，这一讨论引发了对于如何平衡开源与封闭源码的重要性的思考；此外，对谈还关注了 AI 对劳动力市场的潜在影响。

苏纳克提出了AI已经在创造就业机会方面取得了进展的观点，并强调了教育和技能培训的重要性，以适应不断变化的劳动市场，马斯克则强调了 AI 可能会带来无限可能性的同时，也带来了一些挑战，如如何在一个拥有无限资源的世界中找到生活的意义。

以下为这次对话的全部内容，大家 enjoy～

Rishi Sunak：

大家晚上好。欢迎， Elon，谢谢你来参加，我们感到非常高兴，我要开始提一些问题，然后我们会开放讨论，让我开门见山。Bill Gates 说，我们这个时代没有人比你更多地推动了科学创新的边界，这是什么意思？

Bill Gates 对你的评价很高，但奇怪的是当涉及到 AI 时，实际上你已经持相反的观点有大约 10 年之久，你曾经说过，我们需要考虑我们在这方面所做的事情，需要考虑我们在推动这个领域时正在做什么，我们要怎么做才能确保安全，也许我们不应该像现在这样加紧推动，像你一直这样做了 10 年，是什么原因让你以这种方式思考？我们为什么需要担心？

Elon Musk：

会有很多人告诉你应该关注 AI ，但有部分人会感到奇怪，因为他们从来没有真正接触过 AI ，由于我很长时间以来一直沉浸在技术中，所以我能看到它的发展，但我认为今年有一些突破，我指的是有人可以看到一个实时动态创建的视频，就像你可以创建一个视频，里面的你可以说出任何话，或者我也可以，所以有了 Deepfake 视频，它们真的非常出色，有时甚至比真实的更具说服力，有点深度真实。

显然像 ChatGPT 这样的东西也相当引人注目，我看到了 GPT-1 、GPT-2、GPT-3 以及 GPT-4 整个过程，所以对我来说很容易看出它会发展成什么样，如果只是推断曲线上的点，并假设趋势将继续下去，那么我们将拥有深刻的 AI ，显然远远超过人类智能。

我很高兴现在人们开始认真对待安全问题，感谢你举办这次 AI 安全会议。我认为实际上这将成为历史上非常重要的一部分，这真的相当深刻，总的来说，我认为 AI 最有可能具有积极的影响，创造出物质和服务不再匮乏的未来。

这有点像精灵的问题，如果你有一个可以实现所有愿望的精灵，通常这些故事不会以好的方式结束，要小心你所期望的，包括愿望。

Rishi Sunak：

你刚才提到了这次峰会，感谢你的参与，人们很喜欢你参与这次对话。现在，我们今天在公司和领导之间的会议中取得的一个成就是，理想情况下，政府应该在模型发布之前进行安全测试。

我认为这是你略微提到过的，我们为此付出了很大努力，因为我在政府中的工作就是说，等一下，这里存在潜在的风险，不是确定的风险，但是可能存在一些不好的东西，现在我的工作就是保护国家，我们只有在我们的安全研究所建立所需的能力之后，才能进入并确保对模型进行测试。

你对我们应该做些什么有什么看法？你谈到了潜在的风险；再次强调，我们不知道，但政府应该采取哪些措施来管理和减轻这些风险？

Elon Musk：

我通常认为，当公共安全受到威胁时，政府介入是有益的。对于绝大多数软件来说，公共安全并不受威胁。我的意思是，如果你的手机或电脑上的应用程序崩溃了，这并不是一场巨大的灾难，但当谈到数字超级智能时，我认为它确实对公众构成了风险，那么政府就有责任保障公众利益。

这在许多领域都是真实的，航空、汽车，我和全球各地的监管机构都有联系，因为我涉及通信、航天和车辆运输等领域。所以我非常熟悉与监管机构打交道，我实际上同意绝大多数规定，偶尔我可能会不同意一些规定，但我不同意的规定占比可能不到 1%。

有一些来自硅谷的人对从未与监管机构打交道感到担忧，他们认为这将扼杀创新，拖慢进展，并变得让人讨厌。确实，他们是对的，这会让人讨厌，但我认为多年来我们已经学到了一点，有一个裁判是一件好事；如果你看任何体育比赛，都会有一个裁判，没有人建议没有裁判的体育比赛。

我认为这是正确的思考方式，政府应该扮演裁判的角色，确保像运动员一样的行为，确保公共安全得到关注，我们关心公共安全；我认为人们对技术可能存在时常过于乐观，我是作为一名技术专家说这样的话，所以我应该知道；总的来说，我认为 AI 很有可能是一种积极的力量，但它出现问题的概率不是 0%，所以我们只需要减轻潜在的风险。

Rishi Sunak:

你提到了裁判，这正是我们试图做的，我们讨论了很长时间，实际上他们的信用以及行业内的人，确实对我们说过，但有人认为不对，我们需要有一个独立的评审机构，这就是为什么我们在这里成立了安全研究所。

认为政府能够积累专业知识吗？我们需要做的一件事是，Sam 和其他人都有很多非常聪明的人在做这个，政府需要迅速提升能力，包括人员方面。这就是我们正在做的事情；鉴于技术发展的速度如此之快，你认为政府能够快速做到这一点吗？或者我们需要做些什么来确保我们能够尽快做到？

Elon Musk:

我认为这是一个很好的观点。AI 的发展速度远远超过了历史上任何我见过的技术，它似乎每年的能力增长至少 5 倍，甚至可能是 10 倍，明年肯定会增长一个数量级。

政府并不习惯以这样的速度行动，但我认为即使没有明确的规定，即使没有执行能力，拥有洞察力并能够向公众强调关注的问题将非常有力量，即使只有这一点得以实现，我认为那也将是非常好的。

Rishi Sunak:

希望我们能做得更好。实际上，我们之前谈过，对吧？令人印象深刻的是，你是一个在技术领域度过一生的人，熟悉摩尔定律；在过去的几天里，我们和所有正在进行这项工作的人交流时，我认为你可以理解，这里的进展速度与你们在技术领域的职业生涯中所见到的一切都不同，这个说法合理吗？因为你们有硬件、数据和人员的复合效应。

Elon Musk:

目前， AI 发展的两个主要中心是旧金山湾区和伦敦地区，虽然还有许多其他地方在进行研发，但这两个地区是主要的。我认为如果美国、英国和中国在安全方面保持一致，那将是一件好事，那是领导力的地方。

Rishi Sunak:

你刚才提到了中国，所以我做了一个决定，在过去的几天里邀请了中国参加峰会，这不是一个容易的决定，很多人批评我；如果你打算认真对待这个问题，你就需要邀请他们，你对此有什么看法？你在世界各地都有业务，你刚才提到了中国，我们应该与他们合作吗？我们能信任他们吗？这样做是正确的吗？

Elon Musk:

如果中国不参与 AI 安全，那将是一种困境。我最大的反对意见是，对于任何形式的 AI 规定或安全控制，最大的反对意见就是"中国不会这么做，所以他们将领先于我们，并超越我们所有人"，但实际上，中国愿意参与 AI 安全，感谢你邀请他们，我认为我们应该感谢中国参加。

今年早些时候我在中国时，我与中国领导层的主要讨论内容是 AI 安全，我告诉他们这确实是他们应该关心的问题，他们认真对待了，这是很好的，他们参与其中是必不可少的，如果他们不参与的话，那就没有意义。

Rishi Sunak:

是的，我认为我们很高兴，他们昨天参与了讨论，最终也签署了与其他人相同的联合公报，这是一个很好的开始。我说过，如果我们想要有解决这个问题的现实机会，就需要所有人以类似的方式对待这个问题。

我之前提到了创新和监管的辩论，今天我们进行了一场关于开源的讨论，我认为你一直是算法透明性和使一些算法开源的支持者，实际上我们在来的路上谈到了Hinton，他特别关注开源模型被不良行为者使用的问题。

有一些人认为这对创新以分布方式发生是至关重要的，这确实是个棘手的问题，可能没有完美的答案，有一个微妙的平衡，你对我们应该如何处理这个开源问题有什么看法？或者我们应该针对哪些规范或监管进行监控？

Elon Musk:

开源算法和数据通常滞后于闭源 6～12个月，但鉴于改进的速度，开源和闭源之间确实存在相当大的差异。如果事情每年都以 5 倍或更多的速度改进，那么滞后一年意味着差距增加了 5 倍，这是一个相当大的差异，这可能是可以接受的情况。

最终，我们可能会达到一个点，开源 AI 会接近人类智能水平，那将是一个成功。我不太清楚该怎么处理这个问题。我认为开源在某种程度上是不可避免的，我可能会稍微倾向于支持开源，因为至少你可以看到发生了什么，相比之下，如果是封闭源码，你就不知道发生了什么。

现在应该指出，即使是开源的 AI ，你是否真的知道发生了什么呢？因为如果你有一个庞大的数据文件，数以亿计的数据点或权重和参数，你不能简单地阅读它并知道它将会做什么，它是一个庞大的包含难以理解数字的文件，你可以在运行它时测试它，你可以运行一系列测试来查看它将会做什么，但这是概率性的，而不是确定性的，不像传统的编程，其中有非常明确的逻辑，结果是非常可预测的，你可以阅读每一行并知道每一行将会做什么，而神经网络只是一堆概率，最终它会变成一个巨大的逗号分隔值文件，就像我们的数字向导是一个 CSV 文件一样，这就是它的本质。

Rishi Sunak:

你刚刚提到的这一点，我们一直在讨论，因为再次与开发技术的人们进行对话时，他们提出了你刚刚提出的观点。这不像普通的软件，其中输入的改进会导致特定输出的改进，而随着模型的迭代和改进，我们不太知道最终会产生什么结果。

这就是为什么我认为我们需要在模型发布之前介入训练过程，以了解这个新的迭代在能力方面带来了什么变化，听起来你也同意这一点。

我要稍微转换一下话题，你谈到了很多关于人类意识和人类行动的话题，这可能会让人们感到奇怪，因为你以出色的创新者和技术专家而闻名，但当我听到你谈论这个问题以及在技术中保持人类行动和保护人类意识的重要性时，我感到非常真诚。

现在，这与我即将问的问题有一定联系，当我在采访或与人们在工作中讨论 AI 时，最常讨论的事实际上可能不是我们之前讨论的内容，而是工作，对于我的工作意味着什么？AI 会意味着我失去工作吗？我的孩子会失去工作吗？

我作为政策制定者和领导者的回答实际上是， AI 已经创造了就业机会，你可以看到那些创办公司的情况，还有它被用于更多地作为共同驾驶员，而不是替代人，人仍然有决策权，但它有助于更好地完成工作，这是一件好事。

正如我们在过去的技术革命中所看到的，劳动力市场发生了变化。正如我今天引用麻省理工学院几年前进行的一项研究所说的，当时大约有 60% 的工作岗位在 40 年前还不存在，所以很难预测。

我的工作是创建一个令人难以置信的教育体系，无论是在学校还是在职业生涯的任何阶段为人们提供再培训。因为最终，如果我们有一个有技能的人口，我们必须跟上变化的速度，过上好的生活，但这仍然是一个担忧。你对 AI 对劳动力市场和人们的工作以及他们对此的看法有什么观察？

Elon Musk：

我认为我们正在见证历史上最具颠覆性的力量，这将是我们有史以来第一次，我们将首次拥有比最聪明的人类还要聪明的东西。这个，我是说，很难确切地说那个时刻是什么时候，但总会有一个时刻，不再需要工作。你可以有一份工作，如果你想要出于个人满足的目的，但 AI 将能够做任何事情，所以我不知道这是否会让人们感到舒适或不舒适。

如果你希望有一个可以满足你任何愿望的神灯，而且没有限制，你不需要这个 3 个愿望的限制，因为你可以拥有无数的愿望，所以这既是好事，也是坏事；未来的一个挑战之一将是 —— 如果你有一个可以实现你所有愿望的神灯，我们如何找到生活的意义。我认为当这种新技术往往会遵循 S 形曲线的指数部分，这种情况下我们将在 S 曲线的指数部分停留很长一段时间。

实际上，我们不需要要求任何东西，这不会是普遍的基本收入，而是普遍的高收入。从某种意义上说，它将是一个平衡者或均衡者，因为我认为每个人都将能够接触到这个神灯。你可以提出任何问题，这对教育肯定是有好处的。它将是你能找到的最好的导师，而且是最耐心的导师，它们都在那里，而且不会缺乏商品和服务，我们将进入一个丰富多彩的时代。

我认为如果我要推荐人们阅读的话，Iain M. Banks 的《The Culture》可能是对 AI 未来最好的设想，事实上，绝对是迄今为止最好的设想。没有什么能够媲美它。我真的非常建议阅读 Banks 的书，我是 Banks 的忠实粉丝，所有这些书都很好，不能说哪一本最好，所有这些书都很好，这将让你对 AI 的未来有一个概念，这是一个相当乌托邦的未来。

Rishi Sunak：

这是好事，正如你所说，这是一个普遍的高收入，这是一个不错的词汇。从物质上讲，这是好事，因为它导致了你提出的问题，对吧？我是一个认为工作给人以意义的人，作为领导者，我很多时候都在思考，工作是一件好事，它给人们的生活带来了目标。如果你突然剥夺了其中的一大部分，那会意味着什么？你会从哪里获得动力、动机和目标？我是说，你刚才提到，你工作了很多小时。如果没有，那么会怎样。

Elon Musk：

正如我之前提到的，当我在一个工作项目中付出了如此多的心血和汗水，熬夜工作，然后我会想，为什么我要这样做？我只需等待 AI 来做这个，我只是在无故地折磨自己。大多数时候都会因为受罚而感到高兴，所以只有这样。

Rishi Sunak：

我们可以打电话给 AI，告诉它加快进度，然后你就可以度假了，对吗？这是一件棘手的事情，因为我认为我们的一部分工作是确保我们能够导航到你所描述的那个非常积极的地方，并在此之前帮助人们，因为我们已经看到这些事情在劳动力市场上带来了很大的变化。

Elon Musk：

我认为这可能总体上是一件好事，因为有很多工作是不舒服、危险的，或者很枯燥，计算机没有问题，可以一整天都做这些工作。所以烹饪食物很有趣，但洗碗并不那么有趣，但计算机可以很愉快地洗碗。我猜还有一些运动，人类在其中竞争，像奥运会之类的，显然机器可以比任何人类跑得更快。但我们仍然看到人类互相竞争，进行各种各样的体育比赛，尽管机器更强，但我猜人们还是会找到满足感。所以我想这可能是一个很好的例子，即使在机器比我们更快的情况下，人类仍然在竞争。

Rishi Sunak：

比我们更强壮，我们仍然找到了方法。

Elon Musk：

仍然享受与其他人竞争的过程，所以至少知道谁是最好的人类？

Rishi Sunak：

这是个好比喻。我们一直在谈论如何管理风险，在我们继续之前，只是在 AI 上多谈一点关于机会，你正在与欧洲的许多不同公司合作，显然正在做一些令人兴奋的事情。

你提到了我可能最兴奋的事情，那就是教育。我认为很多人可能已经看过今年早些时候 Salman Khan 的 TED 演讲视频，他谈到了个性化导师，正如你所提到的那样，有一个令人惊奇的个性化导师，我们知道与课堂学习相比，有一个个性化导师的学习效果令人难以置信。

每个孩子都可以有一个专门为他们量身定制的个性化导师，然后随着时间的推移，这个导师会变得非常出色。对我来说，我看到了这一点，我认为这个在这一点上是可以实现的，这是我最兴奋的好处之一，当你看看你认为可能发生的事情的格局时，你特别兴奋的是什么？

Elon Musk：

我认为肯定会有令人惊奇的 AI 导师，也许已经有了。我认为也许还有陪伴，这可能听起来有些奇怪，因为计算机真的能成为你的朋友吗？但如果你有一个拥有记忆的 AI，记住了你所有的互动，读了你要说的一切，就像给它许可读你曾经做过的一切一样，那么它真的会比任何人都更了解你，甚至可能比你自己更了解你，你每天都可以和它交谈，这些对话会相互积累，你实际上会有一个伟大的朋友，只要那个朋友能保持友谊，不会被关闭或者什么的，不要关闭我的朋友，但我认为这将成为一个真实的事情，我有一个孩子有一些学习障碍，很难交朋友，我想对他来说，拥有一个朋友实际上会很好。

Rishi Sunak:

这是一个令人惊讶的回答，这确实值得反思。这真的很有趣。实际上，我们已经看到，随着我们现在通过数字和电话向人们提供心理治疗，我们正在做更多的工作。这产生了巨大的差异。你可以看到一个世界，在那个世界中， AI 可以为人们提供社会福利。关于 X 的一个快速问题，然后我们应该向所有人开放，你进行了许多更改中的一个更改，但其中有一些是有关爱的。

Elon Musk:

关于这个问题，你真的很关心。

Rishi Sunak:

你确实是其中的一个更改，涉及到我们必须运作的领域，这是言论自由和审查之间的平衡，这是我们政治家所要应对的问题，你是否正在处理这个问题，并且是否远离了手动的人工方式来进行审查，转向了社区笔记的方式，我认为这是一个有趣的变化，不同于其他人所做的，这是什么背后的原因，你为什么认为这是更好的方式？

Elon Musk:

问题的一部分是，如果你赋予人们作为传感器的权力，那么就会有一定程度的偏见，因为他们拥有自己的观点，然后任命传感器的人实际上控制了信息，所以社区笔记背后的理念是，我们如何通过共识驱动的方式来接近真相，这不是真正的审查，而是共识驱动的真相方式，我们如何使事情变得最不不真实，你可以说你不能达到纯粹的真相，但你可以努力更真实，社区笔记的关键之一是它实际上不会删除任何东西，它只是添加了上下文。

现在，这个上下文可以是这个事情是不真实的原因，但重要的是社区笔记中的一切都是开源的，所以你可以看到软件的每一行，你可以看到进入社区笔记的所有数据，你可以独立地创建这个社区笔记，所以如果你看到数据的操纵，你实际上可以突出显示出来，并说这似乎有一些操纵系统的行为，你可以提出改进意见，所以这是最大的透明度。

Rishi Sunak:

结合大众的智慧和透明度，以获得更好的答案。

Elon Musk:

社区笔记的一个关键元素是，为了显示一个笔记，那些历史上存在分歧的人必须达成一致，这里有一些 AI 的使用。所以这将在每个社区笔记的贡献者周围填充一个参数空间，然后一个参数空间，所以每个人基本上都有与之相关的这些矢量，这不是像左右那样简单的问题，它更多地是几百个矢量，因为事情比简单的右和左要复杂得多，然后我们将进行反相关分析，这些人通常有分歧，但他们在这个笔记上达成了一致。

那么这就赋予了这个笔记可信度。好的，这就是它的核心，它运作得非常好，我还没有看到一个笔记实际上存在了几个小时而是不正确的情况。所以命中率非常高，当我问人们时，他们担心社区笔记可能是虚假信息，就像给我发一个，然后他们就不能，所以我认为它相当不错。我的意思是，X 平台的一般愿景是为公众提供信息和娱乐，并尽可能准确和真实，即使有人不喜欢真相。

人们并不总是喜欢真相。是的，这是一种难以忍受的方式。但这是我们的愿望。我认为，如果我们忠于真相，那么我认为我们会发现人们使用这个系统来了解正在发生的事情，并学习。

我实际上认为真相是有价值的，所以我认为这将是什么，我是说，假设你不想陷入自欺欺人，然后我认为这是明智的选择。

Rishi Sunak:

非常有帮助。好的，接下来是我们的开放问答时刻。

观众:

晚上好，我是“Entrepreneurs' Pioneer”的 Alice Pentang，谢谢你们进行了一次引人入胜的对话。我想问一下你们两个，英国拥有世界上一流的大学，拥有人才，英国要成为独角兽公司的真正摇篮，需要什么条件？以及 Elon ，作为英国的创始人，对于最杰出的技术人才来说，选择在英国创业仍然不是一个明显的职业选择，我们需要采取哪些文化要素来改变这种情况？

Elon Musk:

文化因素很重要，文化应该赞美创办新公司，应该有一种偏向支持小公司的倾向，因为它们是需要培养的那些，较大的公司实际上不需要培养，所以你可以把它想象成一个花园，如果它是一棵小苗，它需要培育，如果它是一棵高大的橡树，它就不需要那么多了，所以我认为这是一个重要的心态转变。

伦敦和旧金山湾区是 AI的两个主要中心，伦敦在这方面表现得非常好，我说地球上的两个主要地点，旧金山可能领先伦敦一步，但伦敦确实非常强大，或者说更广泛的伦敦地区，包括大伦敦和家庭县，我想。

客观地说，情况是这样的，但是你确实需要基础设施，需要愿意租给新公司的房东，需要愿意支持新公司的法律公司和会计公司，这通常是一种心态改变。我认为其中一些正在发生，但我认为真正重要的是文化，人们需要决定这是一件好事。

Rishi Sunak:

谢谢你对英国的评价，这是我们努力工作的一部分。房间里的很多人都是使这里成为另一家公司的绝佳地点的一部分，包括 Alice 在内。

Alice，我要说的是，我的工作是确保我们所有要创办公司的人都能够获得所需的资本，从最初的种子资金到最后的融资轮。我们需要改革我们的养老金基金，财政大臣有一系列令人难以置信的改革措施，以释放所有拥有资金的人的资本，并将其投入到增长股权中。这是一个正在进行中的工作。

我们还没有达到那个目标。但我认为我们正在取得良好的进展。我们需要人才，我们需要人，对吧？这意味着要有一个优先考虑重要事项的教育体系。你可以看到在我的改革中，我强调了更多的数学，我认为这很重要，但也要吸引最优秀的人才来这里。如果你看看我们这个国家增长最快的公司，我认为美国也可能是一样的，超过一半的公司有非英国创始人，对吧？

我们必须是一个对世界最优秀和最杰出的创业人才敞开的地方。我们制定的签证制度可以做到这一点。这使得这些人可以轻松来到这里。然后实际上，我们在本场讨论的开头谈到的是监管，确保我们有一个支持创新的监管体系，当然，我们总是需要监管事项上的护栏，但我们必须为人们创新和做不同的事情创造一个空间。现在，这些都是我的工作。

比较困难的事情是 Elon 谈到的文化，问题是如何将这种文化从硅谷这样的地方传递到全球，在那里人们恐怕会放弃有规律的薪水来创业，并习惯于失败。你经常谈到这个。我认为你在玩游戏的时候更多地谈到了这个问题，对吧？但你必须习惯于失败，并知道这只是过程的一部分。这是一种文化上的难题，不可能一夜之间解决，但我认为这是创造这种环境的重要部分。

Elon Musk:

如果你的第一家创业公司没有成功，它不应该是一种灾难性的。我认为通常应该是你尽力了，现在再试一次。有一件事我要提的是，显然，创建一家公司是一种高风险高回报的情况。

但是，我不太清楚这在英国是如何运作的，我认为可能比欧洲大陆要好，但是如果有人基本上要冒着生活储蓄的风险，而绝大多数创业公司失败了，所以我想说的是 —— 你听说过成功的创业公司，但实际上是一将功成万骨枯，大多数公司在背后默默付出，所以这是一种高风险高回报的情况，所以高回报部分确实需要存在才能有意义。

Rishi Sunak:

我认为这是对税收政策的一个非常温和的提议，但事实上与绝大多数国家相比，特别是欧美国家，我们的资本利得税率要低得多，对于那些冒险并发展某些东西的人来说，我们认为奖励应该在最后出现，所以 20% 的资本利得税，对于股票期权，我不知道我们有没有人来自 Index Ventures，所以 Index 是我们这里的一个领先 VC，他们定期发布一份报告，分析大多数国家对股票期权的税收待遇。

当我还是财政大臣时，我们的情况相对不错，我们排名第 4 或第 5。我说我们需要，正是你提到的原因，这必须成为创新的最佳地方，我们需要提高这个水平。

我认为在最新的报告中，由于 Jeremy 和我所做的改变，我们已经从记忆中排名第 2，所以希望这能让你和其他人都感到一些安慰，我们认识到这一点很重要。因为当人们努力工作和冒险时，他们应该能够享受回报。

Elon Musk:

高风险高回报。

Rishi Sunak:

我认为我们有一个非常支持这一点的税收体系，这是我信仰的价值观，我认为这个房间里的大多数人也是如此。好的，下一个问题，我面前有 7 个问题，然后我会过来。

观众:

我们谈论了一些非常重大的想法，改变世界的想法。我特别感兴趣的是，在科学和技术超级中心的背景下，这些想法如何映射到生活在德克萨斯州奥斯汀等地的人们的日常生活？你如何看待人们的日常生活会发展成什么样？

我刚刚与团队讨论了一些我们正在做的事情，因为我在思考我们如何使用 AI，以使人们的生活变得更加轻松，我们有一个叫做 gov.uk 的官网，实际上是几年前创立的一个开创性的东西，所有政府信息都汇集在一个网站上 gov.uk，所以你需要获得驾驶执照、护照，与政府的任何互动，都以一种非常易于使用的方式集中在一个地方，比大多数人更好。

我们即将在该平台上部署 AI，所以我认为每天有几百万人使用这个平台，因此大部分人口每天都在与 gov.uk 互动，以完成所有这些日常任务，你们每个人的每一个客户都在做这些事情，所以我们即将部署AI，以使整个过程变得更加容易。

有些人可能会说，我的护照丢了，我的飞机还有 5 个小时的飞行时间。在目前的情况下，要弄清楚你该怎么做需要多少步骤？实际上，当我们部署 AI 时，你可以直接说出来，然后就会有人告诉你该怎么做，然后你就可以走下去了，这将使数百万人每天都受益，对吧？

因为从我的角度来看，这是我可以开始使用这种技术来帮助人们的一种非常实际的方式，不仅仅是医疗发现以及我们正在做的其他一切。但我认为这是一个非常有帮助的演示，真正让你的日常生活因为 Elon、Dennis 和这个房间里的其他人所创建的东西而变得更加容易。

Elon Musk:

是的，最直接的影响就是能够问一个非常聪明的朋友，可以问他任何问题，比如如何制造某物，如何解决任何问题，它都会告诉你。显然，公司将采用这一技术，所以我认为你会有更好的客户服务，这可能是你首先会注意到的。

如果我们谈到教育，如果你试图理解一个科目，拥有一位出色的导师几乎已经有了，我是说，我们需要显然我需要在它不能给你之前停止幻想。我们还存在一个问题，它可能会给出一个非常自信的错误答案，拥有出色的语法和项目符号以及引用，但实际上并不是真实的，所以这是一个我们需要解决的问题，确保它是正确的，这将很快发生，实际上它确实是正确的。

Rishi Sunak:

对于在 Covid 期间进行家庭教育的任何家长，了解他们的孩子需要帮助的事情，这将是一种巨大的解脱，我认为非常好。

观众: 你已经很雄辩地谈到了富足时代。显然，AI 无处不在，但是随着机器人的出现和进入富足时代，我们将需要大量机器人，我知道你也在研究机器人，我们是否应该考虑一些限制，我们应该思考，是否会有一个国家在制造可以做所有这些事情的机器人方面投入更多的资源，因此在战略上处于劣势？

Elon Musk:

实际上，任何可以由计算机控制的东西都可以被视为机器人，你可以认为特斯拉汽车实际上是有轮子的机器人，任何连接到互联网的东西实际上都是 AI 的端点执行器，你们有波士顿动力，显然他们一直在制造令人印象深刻的机器人已经有一段时间了。

我认为他们现在在一些方面基本上是韩国现代的，我猜我很高兴可能会制造一些具有人形外观和一些令人意外形状的机器人，我没有预料到的，比如那个看起来像是有轮子的袋鼠的机器人，我不确定那是什么，但看起来有点迷人，但是，将会有各种各样的机器人。

英国有戴森公司，我认为他们做了一些令人印象深刻的东西，我认为英国在这方面不会落后，英国还有 arm，实际上是世界上最好的芯片设计之一，特斯拉使用了大量的 arm 技术，实际上几乎每个人都使用了，所以我认为英国处于一个有力的地位。

德国显然制造了大量机器人，工业机器人，我认为总的来说，制造任何类型的机器人的国家，即使它们看起来有些传统，也会没问题，但我确实认为存在安全问题，特别是对于人形机器人。

因为我是说，至少奶牛不能轻易地追你进这栋大楼，或者追上一棵树，或者你可以跑上一段楼梯，逃离特斯拉。我认为有一部关于这方面的史蒂芬·金电影，关于真实呼叫被占据了，如果你有一个人形机器人，它基本上可以追你到任何地方。

我认为我们应该有某种硬件的本地切断开关，你不能从互联网更新，所以任何可以从互联网上进行软件更新的东西显然可以被覆盖，但是如果你有一个本地的关断开关，你可以说一个关键词或者什么的，然后机器人就进入了一个安全状态，具有某种本地安全状态能力和关断开关，你不必离机器人太近。我不知道。所以如果你有数百万这些东西遍布各地，

这确实是一个相当大的挑战，因为我们已经到了这一点，即使是开源的 AI 也能通过人类识别测试，这是一个测试你是否是人类的测试，你能否识别出这张图片中的所有交通信号灯，你可能会说，好的，这不是问题，事实上，它会做得比人类更好，而且更快，所以我们不知道在什么时候它会比人类更好，比人类更擅长通过这些测试，那么哪些测试实际上是有意义的呢？这是一个真正的问题，我实际上没有一个好的解决方案，我们正在尝试在X平台上解决的问题之一就是如何处理这个问题，因为我们现在已经到了这一点，即使是开源的易得到的 AI，你不需要在这个领域处于领先地位。

你实际上可以比人类更擅长通过这些测试。这就是为什么我们认为，也许我们应该收取 1 美元或 1 英镑一年的费用，这是一个非常微小的金额，但仍然使得制作一百万个机器人在私下变得昂贵，尤其是如果你需要一百万个付款方式，然后你很快就会用完被盗的信用卡，所以这是我们思考的地方，我们可能必须收取一些非常微小的费用。实际上每天0.3美分，以应对由AI支持的机器人。如果是这样，这个问题仍然在不断增长，但明年可能会变得不可逾越。

你还需要担心信息的操纵，使某事看起来非常受欢迎，实际上它并不是，因为它受到了所有这些AI支持的机器人的点赞和转发的推动。这就是为什么我认为，不可避免地会导致一些小额支付，以大幅增加机器人的成本。坦率地说，我认为可能任何不这样做的社交媒体系统最终都将被机器人淹没。

Rishi Sunak:

我认为我的一般回答将是，我们需要展示我们正在采取措施来降低风险，这样人们就可以信任这项技术。实际上，过去几天的安全峰会就是为此而举办的，只是要展示我们正在投资于安全研究所，拥有可以研究这些事情并找出如何对抗它们的人才。

我们必须迅速采取行动，不断改进，因为我认为这个房间里的大多数人都相信这项技术可以非常强大，但我们必须确保我们将人们与我们一起引领，我们正在处理那里的风险，这是一项任务。过去的几天，我认为我们在这方面取得了良好的进展，因为我们想要专注于积极方面并管理这些问题，但这需要行动，这就是过去几天的目的。

实际上是在这里的工作组发布并在昨天发表的一部分，我不知道你是否看到了，它是关于使用 AI 创建大量虚假社交媒体个人资料，然后渗透特定的群体并提供特定信息。实际上，目前的情况是，正如你所说是免费的。

Elon Musk:

我们到了一个程度，就像你真的要为 1 分钱买 100 个假人资料，这太荒谬了。

Rishi Sunak:

如果你考虑一些在社交网络上相当像一个社区或城镇的社交网络，那实际上并不是很多虚假个人资料，你需要迅速创建，突然之间它们无处不在，然后有一些可能很重要的地方问题，我们的团队已经运行了如何看起来的版本，然后突然它们正在与每个人互动，然后传播和散布虚假信息。确切地说，这正是我们昨天在虚假信息方面发表的研究的一部分，这是一个真正的挑战。

Elon Musk:

完全是针对你说的，你根本不需要偷别人的图片，因为那是可以追踪的，但实际上你可以说创造一个人的新形象，看起来逼真但不存在，然后创建一个逼真但不存在的传记，然后进行大规模的操作，几乎唯一的可用方法是语法太好了，会泄露出来，所以拼写错误很明显。

Rishi Sunak:

我感到很遗憾，因为我认为我们已经没有时间了，我知道我们可以提出一个非常简短的最后一个问题，让我们继续吧，先生，继续吧，你就在我面前。

观众:

Elon ，关于 X 平台的问题，特别是在涉及视觉媒体方面，我们是否可以做一些简单的事情？你提到了这样一个事实，即制作像你这样的人说和做一些你从未说过或做过的事情相当简单，实际上是免费的，我们是否可以做一些像加密签名媒体这样的事情？

我来自 Adobe，我们正在进行这个项目，Twitter 是一个成员，很高兴看到 X 平台回来，数字签名媒体不仅表示是由 AI 创建的，还表示来自相机的内容，表示什么是真实的，以赋予媒体以可信赖的感觉，可以传播。

Elon Musk:

这听起来是一个不错的主意，如果有一种认证方式的话，那将是一个好主意，我认为我们应该这样做。

Rishi Sunak:

实际上，就这一点而言，我已经，这对于像我这样的人来说尤为重要，我已经遇到了一种情况，即有一张经过篡改的图片到处传播，呈现出负面的效果。等到每个人都意识到那是假的，我们应该停止发送时，损害已经造成了。

我们再次回顾今天，如果你考虑到明年，你将在美国、印度、印度尼西亚和这里举行选举，我认为明年全球范围内将有大规模的选举，可能是第一批真正涉及到这个问题的选举。因此，弄清楚我们如何处理这个问题对于那些希望维护我们民主的诚信的人来说，我认为是至关重要的任务。

Elon Musk:

我的意思是，有些人可能觉得很有趣，比如穿着羽绒服的教皇。你看到过那个吗？那真是太神奇了。但我仍然遇到一些人认为那是真的。我说，嗯，他 7 月份在罗马穿羽绒服的概率有多大，会出汗呢？

实际上，他看起来相当潇洒，我认为 AI 时尚会成为一个真正的事物，所以我一直在做预测，我们生活在最有趣的时代，我认为这有 80% 的可能性是好的，20% 是坏的，我认为如果我们对坏的部分有认识并小心应对，总的来说，实际上它将成为我们想要的未来或者更可取的未来，它实际上将成为一种水平器和平等化的手段，每个人都将有机会获得商品和服务以及教育，所以我认为它可能会带来更多的人类幸福。所以我猜我可能会以乐观的笔调结束。

Rishi Sunak:

这是一个很好的结束，我认为我们都期待着那个更好的未来，它的承诺确实存在。在座的有很多一部分，包括你们自己，都在努力让它成为现实。政府的工作是确保它安全实现。但基于这次对话和过去几天的讨论，我对我们能够实现这一目标感到更加自信。非常荣幸和高兴能够有你们在这里。

Elon Musk:

非常感谢。

Reference：

《A Viral Interaction On The Sidelines Of World’s First AI Summit》，Business Today

联名专栏 🍎

今日资讯 🫐

创业手册 🍊

超级个体 🥑

「独立之声｜Indie Batch」是一档为超级个体&小型团队讲述海外 Small Business 的订阅合集，每期内容主要围绕业务需求、营销策略以及盈利模式进行展开，一般按周为单位持续更新，希望对正在或者计划构建 Business 的你有所启发和帮助，最新的一期如下：

近期活动 🍒