wuhu专题

文 | Subwater

01

AI一方面成为了外行人的“神器”、内行人的“好帮手”以及投机者的“吸睛诱饵”，另一方面却导致社会问题的发生。

最近，国际新闻的焦点放到了西班牙的南部小镇阿尔门德拉莱霍（Almendralejo）上，原因是近30名未成年女性的公开照片，经由AI应用，被人伪造成裸照，并在社交网络散播，而涉案人员，是至少11名未满14岁的男性。

这些裸照是以女孩们衣着整齐的照片为基础生成的，其中许多照片来自她们自己的社交媒体账户。

这28名年龄在11至17岁之间的女孩表示自己是阿尔门德拉莱霍及其附近地区的受害者。

一位名叫玛丽亚·布兰科·雷奥（María Blanco Rayo）的14岁女孩的母亲说：“有一天，我女儿从学校出来，她说，‘妈妈，我的半裸照片在流传’。”

“我问她是否有自己拍过裸照，她说，‘不，妈妈，这些是被生成出来的伪造照片，我的班上也有其他女孩遭受到同样的事情’。”

这位母亲还说，受影响的28名女孩的父母在小镇成立了一个支援小组。

警方目前正在调查，据报道，涉案的当地男孩有可能先利用AI应用生成假照片后，再透过WhatsApp和Telegram这两款应用进行传播。

调查人员还在跟进其中一项指控，即有人试图借合成裸照来敲诈其中一名受害者。

照片的传播对女孩们产生了不同程度的影响。布兰科·雷奥女士表示，虽然她的女儿情况良好，但有些女孩甚至不敢离开家。

阿尔门德拉莱霍是一个拥有30000多人口的小镇，以生产橄榄和红酒而闻名，而这个小镇因为本次的网络性暴力事件，很快出现在全国的头条新闻当中。

这很大程度上要归功于其中一位女孩的母亲米莉亚姆·艾尔·阿迪布（Miriam Al Adib）。她除了是一名妇科医生，还是在Instagram上拥有13.8万关注者的influencer（指对他人有影响力的人），她将这个令无数人难以忽略的重要问题，置于西班牙公共讨论的中心。

尽管当地警方猜测照片是在今年夏季生成的，但直到阿迪布女士发布一段她安抚受到伤害的女孩及其父母的视频之后，这起案件才在近些天得到曝光。

“我们不知道有多少孩子拥有这些图片，它们是否被上传到成人网站，对此我们都感到很担忧”，阿迪布说。

“当你成了犯罪的受害者，比如说假设你被抢劫，你会提出控告，而不会作隐瞒，因为其他人已经给你带来了伤害。但在性犯罪的情况下，受害者常常感到羞耻，并且选择闭口不言，自觉要为这种事情承担责任。因此我想告诉女孩们的是：这不是你的错。”

示意图，非当事人

然而由于涉案人员都未满14岁，可能不会受到刑事惩处，并且在涉及成人图像生成方面，西班牙目前尚无具体法规进行监管，只将AI裸照视为与儿童相关的非法内容物，另一个可能的指控是违反隐私法。

当地没有受到此次事件直接影响的家长也向媒体诉说着其担忧：

“我们这些有孩子的人非常担心”，一位名叫吉玛·洛伦佐（Gema Lorenzo）的女性说，她有一个16岁的儿子和一个12岁的女儿。

“你会担心两件事情：如果你有一个儿子，你会担心他可能做了这样（制作AI裸照并在网上进行传播）的事情；如果你有一个女儿，你会更担心，因为（平常发布到社交网络的照片被人用于生成AI裸照）是一种暴力行为。”

这样的案件并非第一次登上西班牙的新闻版面。今年早些时候，歌手罗莎莉亚（Rosalía）同样被人用AI来生成半裸图像，且散播到社交媒体。

“来自世界各地的女性写信给我，述说她们也遭受了类似情况，而且不知道该怎么办”，阿迪布透露。

“如今它（基于AI技术的性暴力事件）正在全世界发生着。唯一的不同在于，身处阿尔门德拉莱霍的我们引发了关注。”

西班牙网络犯罪部门儿童保护组主管哈维尔·伊斯基耶多（Javier Izquierdo）告诉媒体，这种犯罪不再仅限于从暗网或某个隐秘的网络论坛下载儿童非法性内容物的人，显然，这类案件仍在继续，但他们正面临的新挑战是儿童在比较小的年纪下就可以使用AI应用了。

02

以《周刊少年JUMP》等而闻名出版业的日本集英社，旗下刊物《周刊Playboy》编辑部通过生成式AI制造出写真偶像さつきあい，并经由官方Twitter于5月28日公开。

多位现实中的写真偶像出现在《周刊Playboy》封面，这一次编辑部利用AI写真作为话题，吸引了不少关注。

《周刊Playboy》在公开さつきあい图片的推文中，写道：“AI写真，你拥有了吗？”

另外，还附上了相对应的宣传语：

“将男性的理想充分地汇聚一身的“狸猫脸妹系美少女”诞生。即使她不存在于现实，但萌生出来的恋幕之情是真实的。”

赞成这一做法的人表示，AI写真不需要考虑排期或支付薪资等问题，还有人认为“可爱就足够了”。

对此持否定看法的人担心真人写真偶像的工作会减少。此外，还有人指出，さつきあい的面容与特定演员相似，这就把话题延伸到公众人物的肖像权及其作品的著作权之上。

5月29日，《周刊Playboy》2023年 6/12号发售，除了さつきあい的图片外，还刊载了关于“AI写真”的专题文章。

没过多久，或许会令AI写真偶像さつきあい的目标受众感到意外的事情发生了。さつきあい的电子写真集《生まれたて。》宣布于6月7日之后停止贩售。

网站“週プレ グラジャパ！”从6月7日上午11时开始停止了销售写真集，此外，在亚马逊等平台上也作出同样的处理（而在该平台上，杂志2023年 6/12号可以正常购买）。

有关停售一事，编辑部公开回应：

“《周刊Playboy》第24期（于5月29日发售）刊载的专题文章《AI写真大研究》中出现的さつきあい图片，以及电子写真集《生まれたて。》，皆为探索生成式AI在写真领域的可能性而策划之产物。

杂志与写真集在发售后，我们收到了许多读者的意见，并且在编辑部内重新进行审查。在制作过程中，我们对于生成式AI所涉及的各种论点和问题讨论不足，我们认为应该更加谨慎地考虑基于此技术的商品化。所以，我们决定停售写真集，并着眼于世界范围内对AI不断深入的争论。

我们诚挚地希望各位能够理解此决定，并感谢大家的支持。”

在面对NHK的采访，集英社表示，他们用AI生成写真偶像的过程中，并未以特定的真实人物为素材，虽然写真集已经停售，但出版社没有做出违法的事情。

目前，在亚马逊这样的购物网站上，有大量AI写真集正在贩售，有些甚至只需几百日元就能购得。并且，相关的制作与如何在平台上架的教程，能轻易地搜索得到。

虽然对抗伪造图像的技术已经开始，但由于人类有行恶或阴暗的一面（如既想要泄欲，又想要赚钱，就将认识的人的照片透过AI生成大尺度写真集），所以这仍难以消解人们的担忧。

针对这种情况，专精于AI生成图像检测技术的日本国立情报学研究所的越前功教授提供以下见解：

“我们无法确定生成AI学习了哪些图像，因此有足够的理由怀疑个人在网络上发布的照片可能会被使用。

近年来，生成式AI已经能够轻松生成高质量的特定人物图像。对于现实中的人物，只要有数十张照片，就可以创建出看似真实的图像，这使得不当使用变得严重。普通人也能够以高效和低成本的方式做到这一点。”

越前教授强调，现在需要更加谨慎地注意上传到网络的图像。

“我们必须让大众了解，技术在不断进步，我们无法预测一年后的世界将会变成什么样子，因此必须了解风险。由于无法阻止技术的发展，我们需要作多方努力，包括技术手段，例如开发识别伪造图像的工具、法律规范、宣传教育活动。”

03

有人专门利用AI来生成性内容物，并危及到公众人物和一般民众，有人则是藉由AI在更短的时间内制造含有错误资讯甚至是阴谋论的所谓“知识向”视频，误导儿童，然后试图从平台那里获得收益。

AI会令内容市场中，劣质内容驱逐优质内容的现象愈发猖獗吗？

BBC经过调查发现，目前在Youtube上，存在大量由AI生成文本及影像、并完成朗读的视频。这些视频传播着各种阴谋论，比方说政府已经与外星人接触过，只是他们将其刻意保密，又比方说在文艺复兴时期的画作中，能够找到可怕的不明飞行物图样。

“知识向”视频打上“教育性质”的标签，经过算法，推荐给儿童观众。

有学生看完视频后，开始相信上面所说的，这令教师感到头疼。一位英国的小学老师说，“这是个逐渐浮现的威胁，我们还没有清楚意识到，AI生成的内容正改变着孩子们的认知。”

另一位来自泰国的科学老师说，“学生会在学校内分享这些视频内容，如果我看到他们这么做，就让同学们多去思考，不要完全相信。”

发布有错误资讯的AI生成视频后，内容制作者可以通过Youtube内置的广告来获利，而对于这家全球视频网站巨头而言，每个视频，它会从中抽取一半的收益。

针对这一现象，虽然Youtube发言人表示会移除违反关于错误资讯政策的内容，并在阴谋论相关的内容上，显示更多信息，以提供额外的上下文，供观众参考，但是，Youtube尚未对广告收益的部分进行评论。

AI所生成的虚假内容当然不只存在于像Youtube这样的网站，之前，在微博等社交平台上，流传着一张国际影星汤姆·克鲁斯和他的两名替身演员的合影，在图片中，三个“阿汤哥”身着白色衬衫。

后来，经过事实查核组织的验证，图片其实是由AI生成的，造图者发文表示：“我是为了求好玩，就用Midjourney做出了几张阿汤哥的特技替身演员AI图片，没想到竟然火了......起初我在Midjourney的群组上分享了图片，在那里，其他成员也会分享各种AI图片或者插画，后来，图片被传到别的地方。”

造图者Ong Hui Woo使用Midjourney生成了一些汤姆·克鲁斯特技替身的图像，纯粹出于娱乐目的，没有预料到这些图像会迅速在全球传播，引起超过一百万人的关注，人们开始对图像的真实性提出疑问。这篇声明提到，可能是在Youtube上，汤姆·克鲁斯挂在飞行的空中巴士侧边的特技视频，使这些图像变得热门。Ong Hui Woo解释了其生成这些图像背后的故事，以及首次使用Midjourney来实现梦想。最后，Ong Hui Woo指出其并没有收钱来宣传汤姆·克鲁斯的电影。

AI工具、内容制造者、内容阅听人这三者，其实都要为现在所造成的局面负上责任，我们让ChatGPT生成一段阴谋论，它在完成任务的同时，确实也给出了“这些内容是虚构的、仅供娱乐”的提示，而别有用心的人不一定理会，照样把生成出来的内容变形为煞有介事的新闻。

而相当一部分阅听人对内容品质以及媒体识读能力培养的不重视，也促使劣质内容的产制者更加“合理化”其行为，试想一下，不理智的、带有错误资讯的内容是会被大众所群嘲嫌弃的（就像大家对待假冒伪劣，且危害身体健康的食品的态度一样），那他们还敢如此肆无忌惮地生产传播有问题的内容？

04

在监管生成式AI及其内容方面，中国、日本及欧盟均作出尝试与调整。

《生成式人工智能服务管理暂行办法》（以下简称《办法》）已经2023年5月23日国家互联网信息办公室2023年第12次室务会会议审议通过，并经国家发展和改革委员会、教育部、科学技术部、工业和信息化部、公安部、国家广播电视总局同意，予以公布，自2023年8月15日起施行。

《办法》对生成式人工智能服务实行包容审慎和分类分级监管，条文中包括以下规定：

尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益；

基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性；

（生成式人工智能服务）提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识；

提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告。

国家网信办于今年4月就已发布《生成式人工智能服务管理办法（征求意见稿）》公开征求意见的通知

日本文化厅于今年6月19日举办了一场线上研讨会，解释了在考虑AI生成和著作权时，应将其分为两个阶段：AI开发与学习，以及生成与使用。

（1）AI开发与学习

根据日本的著作权法，原则上，对于像AI开发中的情报分析这样的不以享有著作物中表现的思想为目的的使用，可以在不需要著作权持有人的许可下进行。

（2）生成与使用

另一方面，如果上传并公开生成的图像，或者以插画集等形式出售生成的图像等，则需要考虑图像与现有著作物的“相似性”以及是否使用了其他公司的作品来创作，如果两者都在法律上得到认定，则需要获得著作权持有人的使用许可。如果没有许可，可能存在侵犯著作权的风险。

另外，日本政府在9月8日公布了面向业者的规范指南，其内容中明确规定，不得提供或使用可能侵犯人权、进行恐怖主义活动或者犯罪等的AI；业者有责任开发可以抑制不当使用的技术，并积极导入；业者有义务遵守各国法律制度，如违反则可能受到处罚等；负责开发的业者有义务披露与AI系统功能和风险相关的信息。

日本政府计划基于这一框架，继续与专家进行讨论，并在年底前将其整理成正式的指导方针。

至于欧盟，先前欧洲议会以压倒性的赞成票数通过《人工智能法案》，该法案明确规定不同的风险等级有不同的监管标准，还规定经由AI生成的内容必须要标示，以及服务提供方要对自家产品的风险进行评估。

之后，法案仍要在欧洲理事会进行辩论，以求真正过关。而根据《华盛顿邮报》报导，有AI开发商称，欧盟通过的《人工智能法案》，对他们来说反而是一种威胁。

部分参考资料：

1.中国政府网，生成式人工智能服务管理暂行办法 

2.有据，这是汤姆·克鲁斯与替身合影？

3.BBC News 中文，政府和外星人有过接触？AI生成视频正向儿童推送错误资讯

4.BBC，AI-generated naked child images shock Spanish town of Almendralejo

5.The Guardian，Spanish prosecutor investigates if shared AI images of naked girls constitute a crime

6.NHK，私の写真が知らぬ間に？！AIグラビアが浮き彫りにしたリスクは

7.NHK，政府 生成AIの事業者向けガイドラインの骨子案示す

8.KAI-YOU，集英社、AIグラビア「さつきあい」写真集の販売終了「慎重に考えるべきだった」

END