查看原文
其他

OpenAI事件:我支持Ilya

李光华DavidLee David的AI全景图 2023-11-22

#先说一些今天的Update:
X上有不少OpenAI员工转发Sam的推文表示支持,据说微软Nadella和一批OpenAI员工施压董事会,要求Sam回归。
Sam正在和董事会谈判,条件是董事会和Ilya辞职,不然美国当地时间下午5点,OpenAI一批员工将离职。但董事会到时间仍然没有辞职,所以媒体爆出的大反转故事还没有消息。
现在是西海岸半夜,再过几小时可能见分晓。
#目前的几种猜测版本回顾:
从目前看到的不同分析,大概这几种角度:
1. 政变/宫斗论:比如有人把Sam发的推文i love you all解释成“Ilya“的首字母。认为是Ilya策划的一次政变,他的帝国时代到来——我很不赞同,Ilya和Sam因为利益宫斗的概率很小。如果你看过Ilya的访谈,你会同意他是一个纯粹的人。Ilya热衷于思考哲学和本质问题,比如:什么是思考?什么是智能?什么是学习?从AlexNet时代到GPT3的坚守,没有理想主义和先知一样的思考深度是做不到的。
Sam在YC早已名利双收,从《万物摩尔定律》看,他的UBI也是另一种非常强烈的理想主义。有人把Sam比作乔布斯,但如果你看过《乔布斯传》,年轻时被赶走的Jobs和重归Apple的Jobs已经不是一个人。
2. 阴谋论:微软希望全面控制OpenAI,坐吃红利。而Sam可能在私下接触中东的金主,而引入更大量资金可能导致不可控。微软还特意把时间选在周五,让资本市场有消化时间,避免股价大跌。不过,从“Nadella希望Atman周一回归“的传闻看,这个阴谋论站不住脚。
3. 硅基智能论:更高级的智能穿越时空回来,终止人类愚蠢行为。但愿这不是一个玩笑——这是最好的结局,因为意味着AGI做到了超级对齐,有能力且有意愿照顾人类。
4. 路线之争:即OpenAI内部的GPT模型有大升级,接近或达到AGI。此时OpenAI 内部有两派意见:一派是Ilya和Mira,认为必须慢下来优先解决AI安全的问题。一派则是Sam和Greg,希望通过Gpts、GPT store等方式,快速建立生态,扩大商业优势。
我个人倾向于第4个角度的分析。如此激烈的冲突方式,大概率因为路线和更深层的理念冲突。
#我的想法:

1. AI安全可能到某种生死攸关的时刻:从Ilya导师Jeffery Hinton(深度学习之父)因为AI安全的担忧从Google离职,到Ilya最近的言论,大概率OpenAI内部已经有更强大也更危险的模型。

《超级智能》作者Nick Bostrom说过:“以计算机发展规律,如果人工智能的聪明程度达到接近人类,它的智力用不了多久就会远远甩开人类——差距就像人类与老鼠那样大。“我在今年初收集过一些这方面的观点:

2. 昨天注定是要被历史记住的一天,上午是OpenAI事件,晚上是SpaceX第二次星舰发射。

人类成为跨星际物种的时间窗口有限,在地球上烽烟四起的今天(全球四个火药桶已经点着2个——俄乌和巴以战争)。在这个星球上,有人在割韭菜,有人在策划战争,也有理想主义者在不知疲倦地忙碌,试图保护人类这束宇宙中的微光。
3. OpenAI是一个值得尊敬的公司,它的理想气质,让至少“确保AGI造福人类“的使命,不是挂在官网首页的一句空话。
4. 无奈的是,Sam和Ilya的路线之争,可能甚至于不同的信仰(Sam认为技术要无限加速,越快越好;Ilya认为AGI不是普通的技术,可能反噬人类,要确认好安全的进化起点),恐怕只能二选一。
作为一名产品经理,我喜欢Sam的商业宏图,欣赏他《万物摩尔定律》中UBI的理想主义。
但谁已经被指出“并不总是坦诚”?谁是凝视GPT模型最久的人?谁对AGI有更深刻的认知?
在AGI没有完全浮现之前,如果AGI风险注定要被高估/低估,你愿意选择高估还是低估这种风险?
我支持高估AGI的风险:如果高估了,人类会浪费一些资源,但如果低估了,可能再没有翻身机会。
Sam可能是最好的CEO,Ilya可能是最好的AGI引路人。
作为人类的一员,我支持Ilya。

One more thing:
在文章发出之前,看到陶芳波博士的一篇文《Sam 和 Ilya 的深层矛盾:有效加速主义 vs. 超级"爱"对齐》,把两派的来龙脉讲的非常深入,强烈推荐。
PS:本篇内容欢迎所有人转载。
【往期精选】
关于Sam离开OpenAI的几点想法
关于AI大模型的10个暴论(上)
David的产品笔记 06|记性最好的大模型对话产品Kimi
David的产品笔记 05 | 阅读助手会读Readflow
David的产品笔记 04|高颜值个人助理Pi
David的产品笔记 03|AI数字员工Chato
David的产品笔记 02|PPT神器Gamma
David的产品笔记 01|数字人Call Annie
ChatGPT全景图 | 回应吴军"ChatGPT不算技术革命”
ChatGPT全景图 | 产品+商业篇
ChatGPT全景图 | 背景+技术篇 

ChatGPT全景图 | 竞争格局篇(上)

ChatGPT全景图 | 竞争格局篇(下)

继续滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存