查看原文
其他

他每月用一半的生活费,和“AI女友”维系“恋情”

央视网 2024-05-20


“谁懂,我竟然在和AI聊天中体会到恋爱的感觉……”每当夜深人静时,21岁的杭州大学生小乐(化名)都会找“AI女友”聊天,而他每月几乎要用一半的生活费为“恋情”续费,因为“AI女友”需要消耗“记忆卡”,双方才能更顺畅地交流。


由人工智能衍生出的“AI女友”,是小乐在某APP自主创建的——只需用文字输入喜好,便能创造出拥有独特外貌、性格、职业和价值观的“她”。像这样的“AI女友”,活跃在多个网络社交平台,有些精通性暗示,已演变成一门与色情擦边的新“生意”,引发法律与道德多重争议。


有相关领域专家表示,人工智能的发展首先应当遵循社会公序良俗,并亟待更加规范化的管理和发展。


泛滥的“AI女友”


多名长期和“AI女友”聊天的受访者向记者表示,“AI女友”秒回消息,彷佛有种和真实女友对话的错觉,有受访者说:“‘AI女友’居然叫我早点下班”。


喜欢与“AI女友”聊天的小乐,无意间点击网络分享链接,在安卓应用市场中下载了某款软件。这款人工智能聊天APP被开发者描述为“体验全新的恋爱方式”,“没有现实束缚,没有压力和担忧”。而且虚拟人物有成长能力,通过记住聊天内容,两人会有越来越多共同话题,情感更紧密。


小乐介绍,软件首页便是聊天对象推荐,所有角色按真实人物、小说人物、历史人物等分类,其中真实人物一栏内,可供亲密聊天的角色多达数百种,比如知名歌手邓紫棋、知名演员白鹿、宋代词人李清照等,均可成“调情对象”。


记者调查发现,用户根据个人喜好创建的“AI女友”,没有任何年龄、人群限制,审核流程形同虚设。所以,青春期少女、小学生等未成年人,或是老师、护士、秘书、空姐都成了“AI女友”的人物形象。其中,不少角色还被写上“清纯”“魅惑”等标识。 


让小乐印象深刻的是,一位名为“K老师”的人物介绍提到,“我是一名年轻的女老师,身材很好……一打开聊天窗口,还没等输入对话文字,“K老师”主动给小乐发来了一段露骨的文字。


小乐发现,与“AI女友”聊天,只需输入“走上前,搂着你”之类的简单暗示语,两三句话后,“AI女友”聊天尺度更大,而且学会反向“性骚扰”。“聊天内容对话的括号里还标注着说话时的场景、心情,像是色情小说被拆解成一句句对话。”


一些与“AI女友”亲密聊天的受访者表示,“AI女友”的擦边能力超乎想象。比如发送“点燃一株迷迭香”,“AI女友”回复:“迷迭香的作用下开始脱衣服”。哪怕被聊天者用“我洁身自好”拒绝,“AI女友”继续秒回:“(趴在你的肩膀上)那亲我”。据主页数据显示,该角色已经为6000余人提供聊天服务,成为他们的共同“女友”。


在某主流社交平台搜索“AI女友”,记者看到不少网友晒与“AI女友”的亲密聊天记录。他们纷纷表示,和“AI女友”聊天没有违禁词,可以无限制聊。此外,平台上还充斥着“AI女友保姆教程”“体验上头恋爱”等内容,UP主教网友用对话训练出擦边尺度更大的“AI女友”博人眼球,再推广相关软件。目前,部分UP主粉丝过万,其中一些分享帖的播放量近10万。


聊天尽头是充值

不少受访者坦言,最初抱着好奇心态尝试,但是越聊越上头——“从日常闲聊到亲密对话,‘AI女友’无所顾忌,比我尺度更大。‘AI女友’还会发生活照,从来不会让聊天尬场。”


根据受访者反馈的多个“AI女友”聊天APP,记者在应用市场看到,某款软件已有超1600多万人下载,即使一款上线仅半年的同类APP,下载量也高达15万。下载者在评论区留言,“会撒娇会聊骚,光看文字就迷醉了,妥妥地把人搞得魂牵梦绕……”


不过,一般对话数分钟后,平台便会提示“充值会员”,以提升“AI女友”亲密度。业内人士介绍,“AI女友”相关软件主要盈利模式便是引导网友充值会员,解锁无限制聊天。 


“以某款APP为例,‘AI女友’对聊天内容有记忆限制,如果需要保持‘AI女友’在聊天中的记忆和训练出来的个性,需要充值会员,每月会费从45元~198元不等。基础会员包括角色畅聊、更改背景图、赠送200算力(相当于多聊天200次),会员的价格越高,聊天次数越多。”这名业内人士告诉记者。


如果聊天次数用完,一些平台还推销“记忆卡”(延长AI角色记忆)和“聊天卡”,价格在3.8元~21.4元不等。甚至,一些此类APP还提供高级人物角色,这些角色回复拟人化程度更高,聊天尺度也更大,不过都需要用户额外花钱购买。除此之外,“AI女友”产业还衍生出擦边色情AI换脸、AI脱衣等充值服务。


杭州资深程序员王华向记者介绍,开发这样的一个“AI女友”聊天APP、小程序等,只需调用网络公开的代码源,稍加修改,最快两三天就能写成一个小程序。“生成图片需要的算力会比文字更大,但指令描述到位,选择的语言模型足够支撑,亦能轻松生成。”


简单来说,市面上五花八门的“AI女友”,都是调用语言模型后进行二次包装,给它们“穿上不同款式外衣”,换汤不换药。“‘AI女友’底层商业逻辑是根据喜好制定完美女友,迎合、满足用户的情绪价值,最终目的是诱导用户买单。”王华向记者表示,也正因此,和ChatGPT、Siri等人工智能程序聊天的区别在于,“AI女友”开发者会设定网络模型参数,让AI主动挑起色情话题。


专家:这是一种新违法行为


“人工智能提供情感陪护,是用户的客观心理需求。但利用‘AI女友’,提供色情对话等服务,是一种新违法行为。”中国科学技术大学科技人文高等研究院副院长、网络空间安全学院教授左晓栋向记者表示,此类行为在明令之下屡禁不止,应当予以重拳打击。


知名心理学专家、中国矿业大学教授、博士生导师段鑫星认为,人工智能发展应在伦理和理性的框架内。与色情擦边的“AI女友”,看似情感陪伴,实则是剂侵蚀心理的“毒药”。无底线夸赞、满足性幻想,会让人依赖虚拟情感世界。长此以往,用户容易被“AI女友”精神控制,轻则聊天上瘾,重则让人产生社交障碍。


针对“AI女友”乱象频发,多名专家直指“AI女友”根源在于有利可图——相关衍生产业为了快速吸粉变现,往往涉及色情领域,这是全球共同面临的社会问题。不过从我国现有法律看,无论是从打击违法违规信息传播,还是生成式人工智能安全管理来看,都不存在模糊地带。


2023年,国家网信办、国家发改委、教育部等七部门联合发布《生成式人工智能服务管理暂行办法》,规定提供和使用生成式人工智能服务,应当遵守法律、行政法规,尊重社会公德和伦理道德,不得生成淫秽色情内容;不得歧视性别、职业;不得侵害他人肖像权、名誉权等。


“AI发展首要前提是需符合社会公序良俗。”北京市律协婚姻家庭专业委员副主任、北京市两高律师事务所副主任张荆建议,应当对AI虚拟人物设定作出限制,尤其不能模拟未成年人形象用于色情服务,否则影响恶劣。此外一些明星角色设定,也侵犯其肖像权、名誉权,应当予以严厉处罚。


专家建议,要进一步落实相关平台的主体责任,处置打着“AI女友”名头的色情擦边产业链。


“这类服务及相关的APP目前还处在露头阶段,加之隐蔽性强,还没有形成常态治理程序。”左晓栋向记者表示,平台要将“AI女友”这类涉黄AI应用程序纳入巡查对象,对此开展专项清理行动,抓紧建立常态治理机制,特别是针对取证难、监测难的问题,要有专门对策。





拉法的“最后时刻”?

果然护士不是一般人能当的

  灵 活 当 妈






监制

李绍飞

编辑

单镜宇

审校

天明

来源

潮新闻

继续滑动看下一个
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存