查看原文
人工智能

警惕新“造神”运动——人工智能的神话与陷阱

先知书店 千字文华 2023-07-29


英国思想家艾德蒙·柏克:“人是天生的宗教生物”。作为有限的个体,我们对至善和永生的渴望,我们对苦难和死亡的恐惧,都支配着我们的生活,贯穿了我们一生。宗教激情是人的本能,这种本能往往会强大到压制人的理性。
如伏尔泰所说:“即使没有神,也要造出一个神来”。“崇拜”与“造神”是刻在人类心灵与文化基因中的东西,也是任何人类群体的必然产物。因为,“神”可以为世界提供意义与秩序,可以成为人类模仿、追随的“偶像”。大多数时候,人们宁愿造出假神,也不能容忍一个没有神的精神世界。
危险的造神运动
从思想观念的角度来看,人类历史就是“造神运动VS偶像坍塌”交替上演的历史。到21世纪,人类分别经历了政治造神、宗教造神和科技造神。被人们造出来的“神”,每一个都威力巨大、贻害无穷,动辄将几亿人卷入战争,将整个种群变成奴隶。
古今中外的政治造神运动,都难逃“周公恐惧流言日,王莽谦恭未篡时”的结局。宗教的造神更是沦为笑柄。科学理性发展到今天,倘若仍有人跳出来自称“救世主”、“大先知”、“保惠师”……那一定是骗子或者精神病患。
可见,对于宗教造神、政治造神,人类已经有了足够的能力去鉴别、防范。并且,这些被造出来的偶像一旦坍塌,人们都乐见其成,置身事外——真正让人难以鉴别、防范,又让人无法置身事外的,是“科技造神”运动。
我们无法拒绝科技,因为科技实实在在地造福了人类。在当今世界,科技意味着物质财富、发展优势,科技带来了更多的安全健康、精神娱乐,科技决定了人类的未来……‍‍
然而,人类对科技的认识还极其肤浅。科技也可以毁灭人类、奴役人类。不幸的是,我们们被裹挟其中,也乐于沉溺其中。可以毫不夸张地说,“科技造神”是当前危害最大、最隐蔽的一种造神。
人工智能神话的兴起

在当今世界,最大的“科技造神运动”是什么?恐怕非“人工智能”(AI)莫属。数年前谷歌的阿尔法系列,近期Open AI的大规模语言模型Chat GPT,人工智能的话题炙手可热,每隔几天都有新的热点上头条。
俗话说,“风口来了,猪都会飞”伴随着人工智能运动的兴起,各种神话甚嚣尘上:“第四次工业革命”、“下一个数字财富增长点”、“启蒙运动后最大的智识革命”、“无数人即将失业”、“人类意识将变成数据”……
兴奋、焦躁、功利、忧虑、恐慌,混乱地交织在一起,人们忽略了最重要的问题:人工智能的本质究竟是什么?人工智能真的有那么厉害、那么重要吗?占据先机的人会成为下一个盖茨、马斯克,还是下一个笑柄和殉道者?对人工智能的意义,对人类的未来究竟意味着什么?
在人工智能神话炙手可热的当下,我们急需一部提升智识、祛除迷思的著作。而且,作者绝不能是挤占风口的门外汉,更不能是居心不良的收割者——能够讲清楚人工智能的来龙去脉,褪去人工智能的假面,捍卫人的价值尊严。
美国学者埃里克·J·拉森的《造神:人工智能神话的起源和破除》,正是这样一本“逆时代潮流”之作。与马斯克一样,他不仅是与顶尖的科技企业家,也是一名兴趣广泛的科学家。他致力于计算机科学的前沿研究,亲眼见证、亲身参与了人工智能的兴起,更难得的是,他还有着深厚的古典人文功底。这本书对人工智能“造神运动”所展现的洞见和批判,对于乐观或焦虑、业内或业外的人,都是极其应时的醒脑之作。
破除人工智能的四大神话

拉森说:“现有的人工智能技术,只是对人类深层思想的肤浅模仿。对人工智能过分夸张,其实是一种技术媚俗。媚俗左右着我们的思考和感受;媚俗为生产者带来利益,却使消费者蒙受损失;媚俗使我们陷入一个肤浅世界”。
神话一:人工智能很智能

Chat GPT的确有很强的语言输出能力,也显示出了某种“对答如流”的应对能力。但事实上,人工智能远比人们想象的更愚笨。

没有洞见。Chat GPT的语句输出规则,源自字与字之间概率链接的统计结果,其根本原理并没有超出一般的统计学规则。但是正如哈耶克指出的一般的统计学原理不能产生新知识,因为新知识都是统计中的“野点”,就是人们熟知的、塔勒布提出的“黑天鹅”。(推荐阅读——世纪思想家《哈耶克去世30年,世界却更需要他》)
推理能力差。面对同类型的问题,没有训练过的语句GPT就说不出来;它也不能依据一般推理原则“举一反三”,甚至基于算法,它明明不知道,照样胡说一气。

人文素养差。Chat GPT是基于大规模生成式语言模型,它的数学能力很差不足为奇。但事实上,Chat GPT人文素养其实也很差。在与正常人沟通的时候,Chat GPT几乎不能发现提问者话语的意向性、潜在文本下的情绪,表达也只是简单、生硬、机械般地鹦鹉学舌。我们可以说,它是一台没有“常识”的机械人。

也就是说,人工智能的行为,最终由训练数据及其算法决定,而人工智能自身并不理解自己在做什么。所以Meta的首席AI科学家杨立昆才会感叹:“科学家不该训练一台学习了大量人类知识的机器,而是让AI系统去理解人类世界的运作原理”。
神话二:人工智能很高效

人工智能对话的时候,在很短时间就能输出很多文字,给人一种很高效的错觉。事实上,这种“高效”不仅漏洞百出,而且很难持续。

人工智能的知识总量,远远落后于真实世界。大规模模型的训练,需要海量数据,但人类诸多宝贵知识,其实根本不能数据化,比如很多经典古籍,并没有pdf文本。模型现有的可训练数据,只占了人类知识总量的很小一部分。哈耶克早就指出,人类社会运转所需的知识都是分散的,不能通过中央系统数据收集而来。

最重要的知识,无法量化或传递。与哈耶克、波普尔齐名的哲学家迈克尔·波兰尼,早就指出,人类社会存在大量无法量化、无法言说,甚至无法传授的“缄默知识”,比如驾驶技术、烹饪技艺、艺术家和科学家的灵感……这些恰恰是人类最丰富、最重要的非书面知识,连人类自己都无法归纳和复制,更何谈人工智能。

训练人工智能的模型,成本很高。据测算,训练GPT-3耗用了1.287吉瓦时电量,大约相当于120个美国家庭1年的用电量。同时,这样的训练产生了502吨碳,相当于110辆美国汽车1年的排放量。而且这种训练只适用于一个程序或是“模型”。AI模型也在变得越来越大,Open AI的GPT-3使用了1750亿个参数或变量。
简言之,无论是知识总量、知识质量,还是学习的速度与成本,人工智能和人类智力都不不可同日而语。
神话三:人工智能很复杂

航空界有句名言,人类不是通过模仿鸟类飞翔,而是掌握了空气动力学,才发明了飞机。伟大的发明,往往不是来自简单的生物仿生,而是源自掌握了其底层科学规律

直至今日,人类对人脑工作原理的理解几乎为零,对自己“意识”的理解也少得可怜。也就是说,人工智能距离人类的思考、意识还不能模仿,更别说造出一个更强的大脑。

目前流行的人工智能,大部分都采用一种名为“神经网络深度学习”的统计算法,只是一种形式上对人类大脑神经元架构的拙劣模仿。其工作原理只是“像”人脑运行机制。人工智能算法貌似很复杂,其实仍未超出统计学的应用。

拉森《造神:人工智能神话的起源和破除》就一针见血地指出,当前所有最前沿的脑科学,对人脑工作原理的解释,如“数据拟合”“模式识别”“乐高积木”,实际上都只是“对人脑运作模式的简化想象”,与真实的、复杂的人脑工作原理,根本就不能比拟。
神话四:人工智能很“革命”

很多人吹嘘,AI技术取得了革命性突破,“机器像人一样思考”就要实现。还有人发出警告说,“机器奴役、屠杀人类的时代已经不远了!”但是拉森在书中说,这些大多是无知的危言耸听,也有人是为了吸引投资。
这一次,人工智能虽然取得了很大的进步,但就其表现而言,还完全停留在局部特定领域下的具体应用场景。一些应用的确展现了新奇的样式,但远谈不上某种“革命”,离通用人工智能更是天壤之别。

所谓“通用人工智能(AGI)”,就是让机器完全像人一样,在所有领域都能实现人类的智能,这相当于人类用机器再造生命。
从基础科学突破,到真正的技术突破,其过程究竟多么艰难?“人类第N次科技革命”,究竟有没有衡量标准?美国科学哲学家托马斯·库恩在其名著《科学革命的结构》中告诉我们——凡是颠覆式的技术或工业革命,一定起于科学范式革命之后:

第一次工业革命,源自牛顿力学对亚里士多德力学范式的革命;第二次工业革命,起源于电学、磁学、化学新科学对传统科学的范式革命;第三次工业革命,起源于量子力学、生物学、核物理学对牛顿力学的范式革命。

但是当前的AI技术,从其底层技术逻辑而言,依然是传统三基石——算法、算力和数据的堆积,并没有新的范式革命。

甚至通用人工智能在理论上能否实现,多大数专业人士也表示怀疑。比如L4级别以上的自动驾驶,很多公司实际上已经放弃研制了,只专注于特殊场景下完全脱离监督的L3级别自动驾驶。
人工智能神话的四个危害

就像所有速朽的技术概念一样,AI最大的危险其实不在于技术本身,更在于人们对它的歪曲、神化和滥用。拉森在书中指出人工智能实质就是某种数据科学,它充其量只是充当类智能的“假体”,使用得当,可以帮助我们应对“数据洪流”,使用不当,就会侵蚀人类智能和创新文化,而后者无疑是现代人重要的财富。对人工智能的过度追捧,至少有四个危害。

危害一:戕害创新文化,阻碍科学研究

人工智能的一切产出,都源自旧有经验的统计算法而来,严格意义上说没有产生任何真正意义上的“新知识”。正如拉森在书中所言:“健康的创新文化强调探索未知,而非宣扬已有的方法”

对人工智能的过度追捧,首先是抹杀了真正带来进步的主体——创新精神。鼓动“算法机器”在各个领域蔓延,就会使真正的创新被边缘化。

正如作者拉森在书中封面所言:“我们进入了一个技术媚俗时代,只有破除人工智能的迷信,才能迎来真正的科学进步
危害二:舍本逐末,贬低人性和人的智能
英国伟大剧作家莎士比亚曾在《哈姆雷特》一剧中,用抒情诗般的美丽语言,讴歌人类——“人类是多么了不起的杰作!高贵的理性,伟大的力量,优美的仪表,文雅的举动!行为像天使,智慧像天神!宇宙之精华,万物之灵长!”

人类为什么能够成为万物之灵长?人的高贵和伟大,不在于肉体能力,而在于我们的思想观念、精神气质。
现有的生物学、脑科学等前沿学科认为,人类的特殊之处,并不在于其计算能力,而在于人类具备强大的特殊“智能”——
常识能力。作者拉森引用科学哲学家迈克尔·波兰尼观点,认为人类有大量不可量化、说不清楚的默会知识,比如我们其实根本不理解我们是如何学会骑车的。

推理能力。作者拉森大力赞美国实用主义哲学家皮尔士的观点,认为人类除了具有归纳推理与演绎推理能力,最特殊之处在于,具备溯因推理能力,比如我们看到地面湿了会大胆推测昨天下雨了;

人类还有迁移能力(举一反三)、情感能力(存在某些特殊偏好)以及合作能力(信任他人、语言交流)……

正是这些人的特征,让人成为人。人工智能的出现,恰恰衬托出人类理性、智能的伟大。如果把依靠算法、算力、数据工作的计算机,视为比人还要丰富、伟大的事物,这无疑是漠视人类的智能,贬低人的价值尊严。
危害三:造就非人化的社会

十八世纪法国医生、哲学家朱利安·美特利,基于当时的物理学与医学成就,曾发出过“人是机器”的论调。他认为活物质和死物质之间没有明显区别,人和动物乃至世间一切事物,都遵循牛顿力学运动规律,并不是什么特殊的存在。

这种把人物化的思维,曾把人类代入“非人”的时代,人类开始像处理动物、矿物一样,对待人类同胞:大屠杀、优生优育学、工业化流水线……20世纪的一名企业主就曾说:“我明明雇佣的是一双手,可为什么却来了一个人?”

即便脑科学、神经科学等复杂科学仍在发展,人类仍然很难回答“人是否有灵魂”这样的问题。但是历史、情感和良知的事实,却已经毫无疑问地证明了——把人简单的看成“耗能极低的机械”、“细胞的堆积物”,这既是对人类的蔑视,也是对科学的无知。

这一波“人工智能造神运动”的鼓噪,使得“人是机器”的叫嚣再次高涨,有人甚至主张:“人类的思维、意志和情感,无非就是神经元基因某种算法加总而成”。在书中,作者拉森多次引用约翰·密尔的名言“人的本质不是机器”,就是为了驳斥“人工智能造神运动”所渲染那种“非人”的观念。
危害四:导致集全主义回潮

过去四百年,随着科学理性的兴起,那些妄称救世主、愚弄大众的宗教造神运动,越来越被人唾弃。上世纪以来,政治造神运动此起彼伏,随着人们对其认识越来越深刻,尊重个人、保护私产的限正法治,已经成为了世界潮流。‍
最近几十年,随着互联网“知识平权”的展开,人与人之间的“信息鸿沟”被一次次被抹平,人们一度乐观地以为,“去中心化”的开放社会已经成型。即便这不是人类社会的终极形态,将来也一定是个更加自由、繁荣的良序社会。
但是,伴随着人工智能的兴起,“数字乌托邦”、数据中心主义开始大行其道。当它们与宗教造神、科学造神融合之后,极有可能使我们复归集全主义社会。
权力的嗅觉总是非常灵敏,它们不会放过任何扩张的机会。它们会宣称:人工智能非常重要、非常强大,事关族群命运、国民生存;让私企掌控人工智能是危险的、没有前途的……
《美丽新世界》中“福特纪元”最终没有实现,但某种更加集权化的“数字纪元”可能已经不久远了。就连汤姆·克鲁斯最新上映的《碟中谍7》,这样一部纯粹的商业电影,都对此发出了警告,一个“权力无所不能”的社会就要再次降临。

但是,人们对此仍然懵懂无知,甚至心向往之。拉森发出深深的感叹:“重视人类个体潜能的观念已逐渐衰退”
很多缺乏政治敏锐、痴迷宏大叙事的人,喜欢生造“蜂巢思维”、“巨型大脑”等新词,来夸大人工智能的作用。但是在拉森看来,这些“新词”其实就是集体主义、集权主义,无论它们披上了怎样的“科学外衣”。在书中,拉森对“数字集权崇拜“提出了尖锐的批驳——忽视个体价值,强调整体决策,迷信统计,忽略灵性……
所有的造神运动,都源自恐惧、贪婪和懦弱。在“人工智能造神运动”如火如荼的今天,一个被现代科技裹挟向前的人,如何才能保持“人之为人”的理性、尊严与独立?先知书店诚挚推荐独家书《造神:人工智能神话的起源和破除》,本书恰似为以上需求量身定制:

‣一本书读懂人工智能的陷阱与未来
有人说,人工智能是下一个知识分化、财富分层、国运兴衰、生命形态的分岔路口。也有人说,人工智能崛起之时,就是人类灭亡之时这些耸人听闻的断言,无疑凸显了人工智能热潮下,人们的盲目、功利、焦虑和沮丧。
本书是一本严肃、通俗、生动的科普读物,梳理了人工智能起源、发展、风险和前景,是一本当代人亟需的应时佳作。另外,本书分别从文学、哲学脑科学、政治学等视角审视人工智能,对某些流行的“新理论”做出了尖锐的批评,还涉及到神话、信仰等终极命题的思考。本书笔调流畅,翻译绝佳,非专业人士读起来毫无生涩,而业内人士读起来也大有收获,

‣前沿科学的反思&古典人文的关怀‍‍‍‍‍‍‍‍
关于人工智能的书,市面上多如牛毛、良莠不齐,但大多陷入技术细节的梳理,还有的就是制造焦虑、渲染情绪、趁机收割。本书作者是计算机科学的前沿学者,也是与美国名校合作的科技企业家。最难能可贵的是,作者能将扎实的专业知识、深厚的人文学养融会贯通,读起来是一种涵养的提升、美的享受。
‣揭破神话,做一个清醒的现代人‍
作者对“人工智能造神运动”的抨击,并不是否定科学,恰恰相反,本书不仅是对科学精神的正本清源,也是对各种“造神运动”的警告,对于深陷政治造神、宗教造神的人们,也是帮助他们“敲破偶像”的案头教材。点击图片链接或识别二维码,即可一键购买、收藏独家新书《造神:人工智能神话的起源与破除》(还可一键购买收藏“三大造神书单”)。
策划:先知书店
文稿:万壑松 千字君
编发:先知书店店长
排版:刘淘淘Range
美术:煜杨 
▌延伸阅读

读懂宗教的意义——无神论者的必修课

ChatGPT的启示:“奴隶是造不出金字塔的”

苏格兰启蒙运动:奠定现代文明的四块基石

革命的迷思:对“革命”的六个错误认知

复杂的现代社会,智者总是充满疑惑,愚者却坚信不疑

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存