查看原文
其他

9.9元AI写真刷屏,如何保证用户隐私和数据安全?

The following article is from 人民数据 Author 张咏琴



只需9.9元、21张照片,就可以获得一套写真?近日,一款名为“妙鸭相机”的小程序迅速走红,并引发广泛关注。





9.9元获得一套写真集?

用户褒贬不一


根据官方信息,用户只需在妙鸭相机小程序上传一张正面照以及至少20张上半身照,并支付29.9元(限时优惠为9.9元)费用后,就可以获得一个专属的数字分身。基于数字分身,用户可以在30多个写真模板任选一款,生成自己的写真。


妙鸭相机已上线模板

来源:妙鸭相机微信公众号


花上9.9元、21张照片,就可以拥有一套属于自己的AI写真。有网友直呼:“和线下动辄几百上千的拍照体验相比,真是太香了。”“不知道妙鸭都不懂最近的朋友圈了”“分分钟觉得自己可以出道做明星了。”


然而,也有用户吐槽,“上传20张照片太多啦”“手部有时候不对劲”“还想要双人照”“有些模板效果不是很好”。还有用户表示,“别人的妙鸭:一模一样;我的妙鸭:毫无关系,痛失九块九。”



此外,随着访问量增多,数字分身制作等待时间较长遭到用户诟病。网络截图显示,有用户“前面有1308个人正在制作数字分身”,预计需要等待约3小时25分钟。还有网友表示,晚上高峰期曾碰到4000至5000人排队,等待时间长达十多个小时。



用户隐私和数据安全

引争议


伴随妙鸭相机产品热度上升,妙鸭相机小程序被指过度索取用户隐私权限。


妙鸭相机在用户服务授权许可中提出,用户授予妙鸭相机“在全世界(包括元宇宙等虚拟空间)范围内享有永久的、不可撤销的、可转让的、可转授权的、免费的和非独家的许可”等。


有用户对此表示担忧,“隐私问题不注意的话,万一被滥用,比如AI换脸拿来诈骗之类的,很可怕。”针对生成式人工智能服务,网信办于7月13日公开的《生成式人工智能服务管理暂行办法》明确提出,“生成式人工智能服务提供者对使用者的输入信息和使用记录应当依法履行保护义务,不得收集非必要个人信息,不得非法留存能够识别使用者身份的输入信息和使用记录,不得非法向他人提供使用者的输入信息和使用记录”。该办法自2023年8月15日起施行。



面对质疑,7月20日,妙鸭相机在其官方公众号发文称,原协议内容有误,已根据实际情况进行修改,并承诺用户“上传的照片只会用于数字分身制作,不会提取也不会用于识别和其他用途,且分身制作完成后自动删除。”




“不支持退款”被上海市消保委点名,

妙鸭相机回应


除了用户隐私和数据安全问题,妙鸭相机“一旦购买成功,不支持退款”条款涉嫌侵害消费者的公平交易权,被上海市消保委点名。


据上海市消保委消息,有消费者投诉,在小程序上储值6元却没法用于合成,要求退款无果。据调查,妙鸭相机小程序仅在支付页面标注“一旦购买成功,不支持退款”,服务协议中再无退款相关条款。对此,上海市消保委拨打妙鸭相机小程序注册公司未序网络科技(上海)有限公司所留电话,但不是无人接听就是空号。


《中华人民共和国消费者权益保护法》第二十六条第二款规定:经营者不得以格式条款、通知、声明、店堂告示等方式,作出排除或者限制消费者权利、减轻或者免除经营者责任、加重消费者责任等对消费者不公平、不合理的规定,不得利用格式条款并借助技术手段强制交易。


上海市消保委指出,支持并鼓励新技术催生新场景创造新需求,但企业在新技术的商用过程中也应该重视消费者权益。妙鸭相机仅在在付款页面以灰色小字标注的“一旦购买成功,不支持退款”涉嫌侵害消费者的公平交易权。


图:妙鸭相机回应退费问题

来源:妙鸭相机微博


被点名批评后,26日下午,妙鸭相机官方微博回应称,针对用户反映的“一旦购买成功,不支持退费”问题,如果因为技术问题,造成数字分身生成失败,可以退款,而且免费再次生成。回应中同时指出,由于下载照片涉及虚拟币充值,虚拟币和现金目前只能单向流转,充值协议已进行明确约定,因此目前不支持退款。




起底妙鸭,

背靠阿里


引发大众热议的“妙鸭相机”是何来头?据官方介绍,“妙鸭相机”是一款基于AI技术的写真生成工具,注册主体未序网络科技(上海)有限公司,自6月30日开启邀请制内测,7月17日正式上线。


人民数据资产服务平台显示,未序网络科技(上海)有限公司立于2006年,法定代表人为张龙,他同时也担任优酷视频(西安)传媒科技有限公司的法定代表人、执行董事兼总经理。而该公司监事冯云乐也同时担任了多家阿里系公司的监事。


此外,该公司是土豆网背后主体公司。2012年,土豆网与优酷完成合并,成立的合一集团则被阿里大文娱收购。


《证券时报》报道,一位业内人士表示,“妙鸭相机”来自阿里,为优酷旗下的内部创业项目。另据优酷内部人士透露,目前妙鸭相机由2020年加入阿里巴巴的张月光带队开发,以小程序形式存在,产品孵化团队暂未独立。


用户隐私安全、数据安全、退费问题……妙鸭相机火爆的背后,也暗藏多重风险。深度科技研究院院长张孝荣认为,由于涉及利用个人照片生成数字分身,妙鸭相机的隐私和安全问题需要引起重视。而保护用户的个人信息和照片安全需要耗费不小的成本,对企业来说是个挑战。此外,随着AI技术的不断发展和改进,市场上也可能会出现更多替代性产品,这也是“妙鸭”的挑战。




AI写真爆火,线下照相馆危矣?

妙鸭在用户群体间走红后,关于AI写真会不会替代线下照相馆的讨论愈演愈烈。


根据中国报告大厅公开信息,2023年,中国写真市场目标人群突破2亿。但线下照相馆高昂的价格让许多消费者望而却步。以海马体照相馆为例,目前在大众点评的一套证件照团购价169元,单人文艺写真299元、形象照259元。天真蓝照相馆的证件照180元起,形象照和写真照分别是359元起和249元起。即便同是互联网模式,美图秀秀的证件照服务最少需要9.9元。


在华福证券互联网传媒首席分析师陈泽敏看来,利用AI技术生成写真的妙鸭相机,对海马体、天真蓝等动辄花费数百元才能拍摄风格化形象照的摄影机构来说,“是一种降维打击。”


性价比之外,AI写真存在诸多不确定因素。以AI证件照为例,存在无法通过人脸识别的风险。一位计算机视觉算法工程师表示,从生成图片来看和本人并不是很像,属于美型,有可能改变了人脸的基本结构,也就是关键点分布,初步判断无法通过人脸识别,但还需进一步测试。


在微媒创始人天狐看来,目前妙鸭应用场景相对垂直,只有形象照一项,虽然效果和口碑不错,且相较于线下拍摄更方便、高效,但也不能完全替代后者。





推荐 · 阅读


南京地铁乘客喝水被开“罚单”,规则理性还应与执法柔性相平衡

茉酸奶新品征集价格最低68元,现制酸奶是好生意吗?

人工智能帮孩子写暑假作业?有可能还需改进!

齐齐哈尔体育馆坍塌事故致11人死亡,学生安全问题容不得一点马虎!
你情我愿,闲鱼不管?平台在逃避责任!

作者:人民数据研究院研究员 张咏琴

编辑:谭琳 | 责编:  王晓彤 陈丽

 

继续滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存