查看原文
其他

一个潜在的 AI 风险

和菜头 槽边往事 2024-01-29
AI 技术在 2023年大爆发,于是各种各样的新产品如同雨后春笋一般涌现出来。从业者一直在找寻真正可以引爆大众参与度的产品,而最容易得到推广的产品类型毫无疑问就是工具。
就我的个人观察,迄今为止较为成功的产品都是帮人解决某个实际问题的工具。比如说:沉浸式翻译。它可以调用包括 GTP、deepl、Google 在内的 AI 平台,对网页进行翻译,甚至可以直接翻译电子书。由于强大的功能,高速的回应式迭代,以及良好的用户口碑,很快就得以传播开来。
但是与此同时,我也注意到另外一些工具产品,对它们的潜在风险充满担忧。比如说最近出现了一批个性头像生成工具,具体使用方法是首先让用户上传一批自己的真实大头照,然后 AI 根据这些真实照片,生成不同风格的头像或者大头贴。
毫无疑问,这种产品会比翻译类工具更受欢迎,因为人人都自恋,人人都要头像,而且历史上曾经有类似的头像生成 App 大获成功。但是隐忧也由此产生:
随着 AI 技术的进步,机器可以制造出越来越逼真的个人形象。换句话来说,AI 可以制造出越来越具备个人生物特征的形象。
想一想看,面部解锁功能靠的是人脸识别技术。为了防止有人用一张照片去解锁,你做面部识别的时候系统会要求你点头、眨眼。现在有了 AI 技术,有了你的脸部照片,那么人工合成你的个人形象,从而欺骗人脸识别系统就是个技术问题,安全风险随之产生。
即便利用静态图片生成动态视频还存在技术障碍,那么,下一步如果有 App 利用你上传的一段自拍视频,帮你生成自己的数字人呢?是不是就可以得到了你的面部动态数据了?
之前,我使用微软的 TTS,用 AI 把我的文章转为语音。但是,这个服务只允许把文字转换为微软提供的几种口音。我很自然地想到,为什么不是我念几段话,然后 AI 根据我的语音,生成我个人的语音模型,可以用我的声音来读我的文章呢?
微软还真有这个服务,个人语音定制。我去看了一下开通规则,直接就退了。因为这件事根本就不是交钱然后得到服务的事,微软要求你提交申请,在申请里写明你是什么公司,你是什么个人,你要利用这个服务做什么事情等等等等,然后等待他们的审批。那种熟悉的官僚主义气味,让我一下意识到了微软其实并不真的想提供这项服务,并不想对所有人都开放。
后来我也理解了这件事。因为看起来这是用 AI 合成你的语音,实际上是 AI 得到了个人的声纹。即便精度不足以骗过声音锁,模拟出你的声音,给你通讯录上的好友打电话,冒充你的身份应该是可以做到的。微软也许能做到声音库数据不至于外泄,但是如果成千上万的人申请并且开通了这项服务,它也无法确保开通服务的人拿去做什么事情。
这是我们这个时代的新问题。以前人们担忧的是密码泄露,现在人们需要担忧的是生物特征数据泄露,这包括你的指纹,你的声音,你的虹膜,你的面部特征。一旦外泄,意味着你的各种指纹锁、声音锁、虹膜锁、面部识别锁都处于风险之中。即便你没有开通任何这样的安全服务,这些数据也可以用作制造你的虚假发言,虚假视频。
密码泄露可以通过修改密码,增加双重验证加以解决。然而,生物特征数据泄露那就是一泄永露,因为你不可能去修改你的指纹,你的声音,你的眼睛,你最多只能去整容。
所以,当我们面对各种基于 AI 技术的新奇趣产品时,不要只考虑到它的娱乐性,不要只考虑到它的个性化,我们更需要关注它们所带来的安全隐患。交出个人数据是容易的,交出去之后,对方如何保管,如何使用,那就由不得自己了。
当然,当然,我知道有人又会反驳说:难道人们不是随时随地在社交网络上主动泄露自己的生物特征数据吗?难道人们不是每天发布自拍吗?难道人们不是每天上传自己的视频吗?这些数据早就已经大泄而特泄,还缺几个新的App?
这话也没错,我之前也看过两则传闻。一则是说根据手掌的高清图片,AI 可以提取人的指纹,这一条没能获得验证。另一则是一篇论文,说他们的AI 算法可以根据人敲击键盘的声音,反向推导出敲击的内容,准确率还挺高。
风险的确无处不在,随着技术进步,就个人隐私和个人信息安全问题现实也总是会提出新的挑战。之前,人们在社交媒体上发布自拍,Vlog,的确无法预见到今天所要面临的风险,但是在今天可能人们需要不得不重新考虑。而从长远来看,生物特征数据泄露和滥用怕也是一个无法完全禁止的趋势。
但我的看法是:能够多保护一天也是有意义的。每多延误一天,就增加一分技术或者立法解决安全风险的可能。况且,你的个人数据淹没在社交平台上的海量数据之中,和你的个人数据专门提交给 AI 新创公司,这还是两回事。前者要搜集和锁定你的身份,目前还有成本作为门槛,并没有那么直接。一滴水躲藏在大海中,和滴在显微镜下的载玻片上,它的处境还是有些不同的。
最后,我们所能指望的也只有人类社会制定的规则,和人类组织之间的合作。记得之前海外出过一款 AI 产品,其主要功能是一键扒衣。用户上传任何一张照片,AI 可以迅速去掉衣服,变成裸体。但它最终也没有成为席卷全球的现象级 App。看起来人类还是有所选择,人类还是存在某些共识,人类还是具有智慧可以认识到:如果这个 App 允许我对别人那么做,那么别人同样可以对我那么做,所以,最好不要有这样的 App 存在。
我的意思是,在人类适应新问题之前,在人类调整规则和法律之前,在人类组织达成共识采取统一行动之前,你最好保护好你的个人生物特征数据,别轻易交出去。也许,在多年的美颜之后,你可以开始考虑对自己的自拍照片做劣化处理了。

标题:《在雨中》

创作者:和菜头的小肉手

AI算法提供:Midjourney V5.2+真实演员照片合成

Prompt:man, rainy day, forest, muted tones, cinematic --s 250 --c 10 --ar 21:9  --v 5.2

槽边往事和菜头 出品

【微信号】Bitsea

个人转载内容至朋友圈和群聊天,无需特别申请版权许可。

请你相信我,

我所说的每一句话,

都是错的

 禅定时刻

《手机摄影》
和菜头的小肉手
Midjourney V5.2
这是我学会的新把戏,Prompt 是:person holding an iphone with a picture of 【城市名称】, realistic, minimalist, realistic, studyblr, captured with a Nikon D850and a Nikkor 24-120mm f/4G ED VR lens --s 400 --c 10 --style raw --v 5.2

 南派三叔专区

南派,这张《老居民区一角》送给你。

 《槽边往事》专营店营业中

注:今年云南松茸季在上周达到极盛,本周还在延续。这是三年来松茸最为最为美味、最为肥美、最为丰产的一季,也是三年来价格最为亲民的一季。所以,今年是属于所有人都可以吃松茸的年份,这是老天爷的意思,这一年的物产是所有人的。欢迎前往选购,各取所需。


继续滑动看下一个

一个潜在的 AI 风险

和菜头 槽边往事
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存