查看原文
其他

智能晚报|英国计划举办全球首场AI安全峰会;DeepMind发现新排序算法AlphaDev;OpenAI否认训练GPT-5

张司钰 新皮层NewNewThing 2023-08-02
「每天重要的新闻不会超过五条」

整理:张司钰

编辑:吴洋洋

Key Points


英国计划举办全球首场AI安全峰会;


DeepMind发现新排序算法AlphaDev;


Altman:OpenAI尚未训练GPT-5;


全球第一部全程用AI制作的电影时长13分钟;


Google Cloud与Salesforce达成战略合作。



英国计划举办全球首场AI安全峰会

6月8日,英国政府表示,将于今年晚些时候举办关于AI安全的全球峰会,讨论包括AI前沿技术研发与应用开发在内的风险问题,以及如何通过国际行动减轻AI风险。该想法最先于5月底在与OpenAI、Google DeepMind和Anthropic负责人的圆桌会议上提出。6月9日,英国首相苏纳克(Rishi Sunak)与美国总统拜登(Joe Biden)会谈时,也将继续讨论这一议题。

苏纳克关于AI安全的两点提议

AI的「IAEA(国际原子能机构)」:由英国承办一个类似IAEA(国际原子能机构)的全球AI监管机构,这个想法曾由OpenAI CEO Sam Altman(山姆·奥特曼)在5月底提出;
AI的「CERN(国际粒子物理研究所)」:在英国建立一个类似于国际粒子物理研究所的国际研究机构。

「Make Britain Great Again」

苏纳克希望将英国推广为全球AI治理的领导者,并将制定AI安全标准作为其软实力工具,推动英国AI产业发展。曾有一名政府顾问表示,苏纳克在官员提供的一份「英国可能在国际标准制定中发挥领导作用的前沿技术清单」中选择了AI,清单上还有「半导体」和「太空」,这两项最终被否决了。
今年4月,英国政府曾发布AI白皮书,提倡依靠现有监管机构负责AI的监管工作,从而避免重复性工作和资源浪费。但近几个月里,几乎每周都有AI专家发出灾难性警告,AI公司也表示希望有更多的监管。随着担忧的增加,英国政府的态度也变得更为谨慎。不过英国政府仍对媒体坚称AI白皮书不需要做重大更新,唯一的转变是从「亲创新」转向「风险评估」。
(注:「Make Britain Great Again」是一本书的副标,作者是英国前副首相Nick Clegg,该书主标是「How to Stop Brexit」,写于英国脱欧时刻。)

参考链接:

https://www.politico.eu/article/rishi-sunak-ai-technology-wants-to-lead-the-world-on-ai-the-world-aint-listening/




DeepMind发现新排序算法AlphaDev

6月8日,Google旗下的DeepMind在最新研究中表示,其AI系统AlphaDev发现了排序列表的新方法,可以将排序算法提速70%。目前,新算法已经成为两个标准C++编码库的一部分,这是10多年来C++排序算法的首次更改。DeepMind开源了该算法。

AlphaDev是什么?

AlphaDev可被视作一个玩排序游戏的AlphaGo。具体训练方式是,DeepMind先将 “寻找更好的排序程序” 任务制定成一个名为「AssemblyGame」的单人游戏。在这个游戏中,玩家需要选择一系列低级汇编指令,然后将其组合起来产生一种新的高效排序算法。
接着,DeepMind训练了一个新的深度强化学习代理 「AlphaDev」来玩这个游戏,AlphaDev的内核还是擅长下棋游戏的AlphaZero,不过加上了用深度神经网络指导的搜索树技术。结果,AlphaDev从零开始地发现了几项新的小型排序算法,更新了C++ 算法库中已经用了10多年的排序算法。

从AlphaGo到AlphaDev

DeepMind的「Alpha」家族多数都与游戏相关:
AlphaGo:2016年发布,用于下围棋;
AlphaZero:2017年发布,用于掌握复杂的策略性游戏,其采用更通用的方法,最初以围棋为基础训练,随后适用于国际象棋、日本将棋等其他棋类游戏中;
AlphaStar:2019年发布,专注于实时战略游戏《星际争霸II》;
AlphaFold:2020年发布,用于蛋白质结构预测。
与AlphaGo不同,AlphaStar、AlphaZero不依赖于人类的指导或预先编写的启发式算法,而是通过自我对弈学习发现最佳策略。AlphaDev便是在AlphaZero的基础上构建,是AlphaZero的改进、扩展版本。
总之,作为Alpha家族的新成员,AlphaDev让外界再次看到了强化学习的价值——在GPT突出了深度学习的价值之后。

参考链接:

https://www.deepmind.com/blog/alphadev-discovers-faster-sorting-algorithms

开源地址:

https://reviews.llvm.org/D118029




Altman:OpenAI尚未训练GPT-5

6月8日,OpenAI CEO Sam Altman(山姆·奥特曼)在印度《经济时报(EconomicTimes)》主办的一次会议上表示,启动GPT-5训练需要很多新想法与准备工作,目前OpenAI还未训练GPT-5。

前情提要:

最早对OpenAI训练下一代GPT模型的“抗议”来自今年3月生命未来研究所(Future of Life Institute)公布的一封公开信。当时包括马斯克(Elon Musk)、辛顿(Geoffrey Hinton)、马库斯(Gary Fred Marcus)在内的1100多人都签了名,呼吁「所有AI实验室应立即暂停训练比GPT—4更强大的AI系统至少6个月」。
几周后,Altman回应称,这封信遗漏了关于需要暂停的大部分技术细节,可能无法解决AI技术发展带来的安全问题。当时,他已坚称OpenAI还没有开始训练GPT-5,而且一段时间内也不打算这样做。

为什么很多人警惕GPT-5的训练?

微软曾在研究报告中表示,GPT-4的表现已接近人类水平,且远超前一代模型。鉴于GPT-4的能力,微软将其称作通用人工智能(AGI)的早期(但仍不完整)的版本。
支持暂停训练GPT-5的人称,训练或许会对人类社会构成风险;不过,反对暂停训练的人称,让AI研究停下来,就像叫停福特市场畅销款A型车的量产。
目前,全球尚未有监管AI设计与开发的法律推出,AI风险警示成为几个月来AI公司高层频频建言的议题。不久前,Altman还提出限制AI能力发展速度、设置AI监督机构、开发确保超级智能安全的技术等3点建议降低AI风险,但他从未按照公开信要求承诺过暂停AI的进一步研发。

参考链接:

https://techcrunch.com/2023/06/07/openai-gpt5-sam-altman/




全球第一部全程用AI制作的电影来了

6月2日,人工智能初创公司Waymark发布了一部全程使用AI相关技术制作的电影《The Frost(寒霜)》,时长达12分55秒,电影中的每一帧画面均由DALL-E 2生成。

Waymark是一家怎样的公司?

Waymark成立于2013年,通过大语言模型(接入了OpenAI的GPT-3)、图像识别、语音合成、视频生成技术,为企业提供快速且成本低廉的广告片。客户只需提供企业名称和位置,Waymark的工具会从企业的网站和社交媒体账户中收集文本和图像数据,并使用OpenAI的GPT-3撰写广告脚本,再由合成的语音朗读,同时配以突出展示企业的图像。

《The Frost》是怎么制作出来的?

Waymark采用公司的执行制片人Josh Rubin所写的剧本,将其输入OpenAI的图像生成模型DALL-E 2中。随后,团队使用一种能够为静止图像添加动画效果的AI工具——D-ID对画面做了动画处理,以使眼睛眨动和嘴唇活动。

这部13分钟长的AI电影意味着什么?

目前最好的生成视频模型仍然只能生成几秒钟的视频,但这部电影长达近13分钟,且能够在需要时随时生成新镜头。不过,AI生成的动作还不够逼真,当画面切到一个男人在火边啃一块粉红色肉干的特写镜头时,他的嘴唇动作就好像在嚼自己冻僵的舌头。

你可以在这个链接中看到这部影片:

https://www.technologyreview.com/2023/06/01/1073858/surreal-ai-generative-video-changing-film/?utm_medium=tr_social&utm_campaign=site_visitor.unpaid.engagement&utm_source=Twitter




Google Cloud与Salesforce达成战略合作

6月8日,Salesforce宣布与Google Cloud达成战略合作,客户可以在Salesforce上直接访问和使用其储存在Google Cloud上的数据,同时也可以使用Google Cloud提供的人工智能服务Vertex AI构建、部署和管理机器学习模型。

Salesforce是什么机构?

Salesforce是美国最大的SaaS(Software as a service,软件即服务)平台,提供包括销售管理、客户服务、营销和应用开发等在内的SaaS软件。
不过,随着云计算平台比如Google Cloud、阿里云等平台等出现和崛起,越来越多开发者倾向于直接到这些云计算平台上开发和销售SaaS软件。Salesforce因此也于去年8月关闭了其位于香港的办公室,将中国业务转由阿里云代销。而Salesforce自身正在将自我重新定义为一个「数据公司」。

与Google Cloud的合作内容:

数据连接:Salesforce数据云与Google Cloud的数据平台实现数据的共享和交互。这意味着客户可以将存储在Google Cloud平台上的数据直接集成到Salesforce数据云中,避免了重复记录的存储成本;
AI模型整合:客户可以在Google Cloud的Vertex AI平台上构建和训练自定义的AI模型,并将这些模型带入Salesforce,与Salesforce数据一起使用。

Salesforce的AI布局

3月,Salesforce推出Einstein GPT,接入了OpenAI的GPT模型。通过Einstein GPT,客户可以直接在Salesforce CRM中使用自然语言处理、图像识别、语音助手等功能。

参考链接:

https://techcrunch.com/2023/06/07/google-cloud-and-salesforce-team-up-to-bolster-ai-offerings/



-END-
我们是一个诞生于GPT浪潮、由《第一财经》YiMagazine孵化的全新内容IP。
和每一位关心技术、关照人的命运的读者一样,我们希望在这个有史以来不确定性最高的时代,更好地理解快速变化的科技世界,也更好地理解生而为“高级智能”的我们自己。
在这个目标下,我们计划从学术、商业、伦理、监管等多个角度报道和讨论与“智能”相关的议题。请注意,我们说的是智能,不只是AI。



若想了解更多资讯,请点击阅读往期智能晚报:

智能晚报|苹果收购AR初创公司Mira;Vision Pro被曝使用了「脑机接口」技术;OpenAI短期没有上市计划
智能晚报|华为已申请GPT商标;与苹果合作开发Vision Pro应用,Unity股价飙升;英特尔出售部分Mobileye股权


若想了解更多头条新闻,请点击:

大公司|苹果发布首款头显,押注下一代硬件平台
大佬说|库克:苹果在密切跟踪大模型的相关进展

喜欢就关注我们吧,记得“设为星标”哦~
 
与记者交流,可添加微信(请备注公司名称和姓名):

王杰夫 微信号: wjfsty

张司钰 微信号: helianthus351

吴洋洋 微信号: qitianjiuye

 

再次,喜欢就关注我们吧,记得“设为星标


您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存