联名禁止“杀手机器人”，马斯克还会让嘲笑他的人自打脸吗？

文  | 吕梦

微信公众号ID | ai_xingqiu

网址 | http://www.51aistar.com

对于人工智能可能为人类社会带来的危险，AI大佬们从未放松警惕。

近日，马斯克、谷歌DeepMind联合创始人Mustafa Suleyman以及其他114位AI和机器人专家就联名发布了一封公开信，要求联合国禁止“机器人杀手”的研发和使用。

这里的“机器人杀手”，主要是指在下一代战场上由AI控制的无人机、自动化机枪、坦克和其他形式的致命的自动化武器。

以下是公开信中提到的部分内容：

致命自动化武器正在带来第三次战争革命。一旦发展起来，它们将会带来比以往更大规模的武装冲突，其发展速度也远超人类的理解能力。

这些致命武器很可能会被恐怖分子所利用，成为恐怖分子杀害无辜平民的帮手。

我们必须立马行动。一旦潘多拉盒子被打开，将再难以关上。

马斯克一直以来都是一名坚定的AI威胁论者，并多次在公开场合声称AI是人类文明面临的最大威胁。

上周五，他还在Twitter上发文，呼吁人们提高对人工智能崛起的警惕，“如果你不担心人工智能的安全性，那么现在你应该担心，它比朝鲜核武器危险得多”。

对于AI的发展，马斯克的态度也不是完全否定，而是主动监管。这也是他投资OpenAI的目的所在——随时监视AI的危害性。

从商人的角度，马斯克的每一步都是成功的。而且每一次都让嘲笑他的人自打脸。

最初，他和弟弟创立zip2，90年代就开始搞电子地图，那时候百度地图还不知道在哪里。创业苦逼在所难免，俩人天天住办公室，一天吃四顿汉堡，一天恨不得工作23小时。

1998年，他和自己的竞争对手合并，并且毫不犹豫地把自己创立的第一家公司以3.07亿美元卖给康柏。

挖到第一桶金后，马斯克又创立了X.com，开始搞网上金融，这在当时也是非常超前的思维。后来，X.com和Peter Thiel的paypal合并。最终，PayPal上市，并被Ebay以15亿美元价格收购，马斯克迈入硅谷最牛新贵。

而在大多数硅谷新贵都开始专注地享受人生，利用闲暇时间投一投五花八门的网络公司时，马斯克迈入实业，直接自学火箭知识、搞电动车、进军太阳能领域，建立SpaceX、特斯拉，联合创建SalarCity。

有段时间马斯克几近破产，他把几亿身家全砸在火箭上。换做其他人，可能没几个赶重金砸实业的，早买豪车约网红或者老婆孩子热炕头了。这没啥不对，只是想说马斯克真的勇敢。

但在AI这件事情上，商人出身的马斯克谈不上困难重重，但也因为自己的观点引来潮水般的指责。

谷歌母公司Alphabet执行董事长埃里克·施密特（Eric Schmidt）去年在斯德哥尔摩的一次研讨会上就强力反击马斯克的AI威胁论是杞人忧天。

“如果你觉得人工智能在智商上超越人类后就将毁灭我们的种族，那你科幻电影一定是看多了——难道人类会傻到察觉不了AI造反的蛛丝马迹？直接断了它们的电源就好。”

的确，就在近日，Facebook人工智能实验室的两位机器人用自己的语言开始聊天时，Facebook的工程师只能选择拔掉电源插头。

小扎一直是马斯克言论的反对者，7月底在Facebook Live直播过程中更是直接呛声马斯克，“我强烈反对散播AI威胁论的言论，我持乐观态度。”

半个月前，脑机接口大牛杜克大学的Miguel Nicolelis教授就在一次公开课中说：

“马斯克很多东西就是忽悠，虽然我有几个学生都在他公司，他们都是好学生，但是马斯克本人对脑科学知识并不是很广，脑科学不是做火箭、造车，对他还是高端了一点”。

（美国就是有很多这种直爽的科学家）

持“AI威胁论”的一方主要是看到了人工智能对人类工作的威胁，担心人工智能被当做军事武器威胁人类的生存等负面作用。

虽然有些危言耸听，但有一件事是正确的：需要政府开始着手监管人工智能。

正因为现如今的人工智能都不够聪明，才需要人类的监管，例如有偏见的算法、军备竞赛中的杀人机器人等等，这些不够聪明的人工智能被赋予了决定生死存亡的能力。

除此之外，一些科技公司掌握了我们所有的个人和医疗数据对我们隐私造成威胁，同时，互联网扭曲了人们的观念。这些当下科技公司所存在的问题都需要着手去处理，否则就需要政府出面干涉管理。

马丁·福特，《机器人的兴起：技术和失业未来的威胁》作者表示，对于人工智能对人类构成生存威胁这件事，Elon Musk的担忧是合理的，也不应该被忽视 。

“但这种担忧要在至少50年之后才可能会出现。要求立即规范或限制人工智能发展的原因有很多，其中最重要的一个原因是美国目前正在与其他国家特别是中国展开积极竞争，我们在这场关键的比赛中不能落后。”

另外，对真正先进的人工智能“接管”的担忧，让我们忽视了与专业人工智能发展相关的更紧迫的问题。

这些因素包括，随着数以百万计的工作岗位被淘汰，以及潜在的隐私威胁，以及在网络犯罪和网络战争中部署人工智能，以及真正自主的军事和安全机器人的出现，可能出现大规模经济和社会动荡的可能性。

公众需要全面的看到人工智能背后的所有信息，包括正面和负面的。

我们必须区分科幻小说和科学。在虚幻小说中，人工智能经常被认为是一个“坏人”，试图统治人类世界。但事实上，人工智能是一种工具、一种技术，它有望通过改善交通方式、医疗服务等方式来拯救生命。

而创造和毁灭，往往就在一念之间。