查看原文
其他

奥特曼警告:ChatGPT 与人工智能的有害后果

21CTO 2023-06-18

导读:当被问及未来最糟糕的结果时,奥特曼说这些技术可能会传播大量错误信息。

OpenAI和ChatGPT的CEO与创始人奥特曼近日警告说,人工智能应用可能会产生一些不良后果,社会应该对此类技术的使用要非常小心。

“我们必须在这里保持谨慎。我认为在实验室里所做的一些行为是行不通的。必须将这些产品推向世界并与现实接触,并且在风险较低时犯错误。但综上所述,我认为人们应该为我们对此有点恐惧而感到高兴,”奥特曼是在最近媒体的访问时说出此番言论。

ChatGPT或 Conversational Generative Pre-trained Transformer 是一种由 OpenAI 创建的大规模语言模型。这是一个生成式人工智能 (AI) 系统,可以帮助用户做出与人类完全一样的回复,这要归功于大量的自然语言问题或提示。

当被问到未来最糟糕的结果时,奥特曼说这些技术可能会传播大量的错误推理和信息。

“我特别担心的一件事是,这些模型可能会被用于大规模的虚假信息,”奥特曼说,“现在AI们在编写计算机代码方面做得越来越好,它们可能会被用于攻击性网络攻击。”

然后,他又说ChatGPT 4技术也是“人类迄今发展出的最伟大的技术”。

10秒钟将一张手绘图生成最终设计的网页代码;

能处理超过25000个单词的文本;

700分将SAT考试拿下;

律师模拟考试成绩排进前10%;

GRE考试接近满分;

Invest 公司的首席未来学家 Brett Winton 在最新版本的GPT-4发布后表示,这个版本在人类基准测试中的表现,相当令人印象深刻。

而 Altman 的警告是在 OpenAI 发布其语言人工智能模型 GPT-4 的最新版本几天后发出的。

“GPT-3.5 在律师考试中得了 10 分,GPT-4 达到了90分。在微积分考试中,它得了 3 分,这对 75% 的大学的大学学分有非常多的好处”。

在回复奥特曼(Altman)这条推文时,特斯拉 CEO埃隆·马斯克,他是 OpenAI 的首批投资者之一,说:“我们人类还有什么可做的?我们最好回去用 Neuralink!” 

相关文章:Neuralink:马斯克将把芯片植入大脑

今年 2 月,马斯克就发布警告称,人工智能是人类未来文明面临的最大风险之一。马斯克在阿联酋迪拜举行的世界政府峰会上说:“它既有积极的也有消极的,并且有很大的希望和能力。” 他随后强调,“随之而来的是巨大的危险”。

去年 12 月,马斯克表示政府没有对 AI 进行监管,“这是一个非常重大且严重的问题。十多年来我一直在呼吁对 AI 进行安全监管。”

也许马斯克说的话是正确的,我们无法预料接下来的5年、10年,GPT大模型会进化到何种程度。但是需要确保,启动与控制它们的“按钮”牢牢掌握在人类手中,就不必担心将来有一天会遭到AI的反噬。

作者:高朋


相关阅读:

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存