查看原文
其他

欧盟议会通过最新版《人工智能法案》!





欧盟在本周三(6月14日)迈出了重要一步,通过了将成为监管人工智能的首个奠基性法律《人工智能法案》

欧洲议会以499票赞成、28票反对的压倒性结果通过了草案,为最终落地生效扫清了一个关键障碍。接下来的程序将进入成员国、欧洲议会和欧盟委员会的三方谈判。在此过程中,最终文本的法案可能会有一些措辞方面的改变。法案的最终审批预计将在今年年底前通过。

不过,这些规则距离正式生效还有一段时间。法案最终审批通过后,将会为企业和组织留出一段宽限适应期,通常为两年左右。

值得注意的是,为了填补法案正式生效前的这段空白期,欧洲和美国正在联合起草一份自愿行为准则。双方官员在5月底承诺将在“几周内”起草,并可能扩大到其他“志同道合的国家”。

该法案在2021年就已着手制定,但是随着去年底生成式人工智能的快速发展,制定过程更加紧迫。针对新情况,周三通过的法案做了部分调整。

法案内容

这项法案的框架在2021年首次提出,旨在对任何使用人工智能系统的产品或服务进行管理。根据风险的高低,人工智能系统的使用场景被划分为四个级别:低风险、有限风险、高风险和不可接受的风险。

对于风险较高的应用程序,如针对儿童的招聘或技术,将面临更严格的要求,包括提高透明度和使用准确的数据等。违反规则的应用程序可能被要求下架,具体执行尺度将取决于欧盟27个成员国自身的判断。

在最严重的情况下,违规行为可能会被处以最高4000万欧元的罚款,或公司全球年营业收入的7%左右。如谷歌和微软这样体量的科技巨头而言,罚款可能高达数十亿欧元。

欧盟委员会表示,大多数人工智能系统,如视频游戏或垃圾邮件过滤器,都属于低风险或无风险类别

法案对人工智能的使用场景划定了禁忌区,比如利用儿童等弱势群体,或使用可能导致伤害的潜意识操纵的人工智能,或鼓励危险行为的互动对话玩具。而对于那些预测性警务工具,比如通过分析数据来预测谁会犯罪,也被禁止

另外,在周三的投票中,一项允许利用人工智能寻找失踪儿童,或防止恐怖主义威胁等执法例外的修正条款没有被通过。

对于部分领域,最新的法案收紧了要求。比如,实时远程生物识别技术在最初的提案中是“高风险”,但在最新投票中被调整为“不可接受的风险”,即人工智能在该领域的应用是被禁止的。

该法案最初的内容并不包括聊天机器人,为了应对近几个月该领域的最新进展,法案增加了一些条款,比如要求明确标注出聊天机器人,以便用户知道他们正在与机器进行交互。

另一个重大补充是要求全面记录用于训练人工智能系统的人类作品(文本、图像、视频和音乐)的任何版权材料。这将让内容创作者知道自己的作品是否被用于训练算法,进而决定自己是否被抄袭,并寻求赔偿。

而考虑到人工智能在就业和教育等领域的应用可能会影响个人生活和工作,因此这些应用面临更严格的监管要求,比如需要对用户保持高度透明,并采取措施评估和减少算法产生偏见的风险等

来源:界面新闻


END
往期推荐01最高奖补1.5亿!两部门启动中小企业数字化转型城市试点02ChatGPT因捏造虚假和误导信息被正式起诉!03网络明星AI克隆人上线,隐私和安全如何保障?

继续滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存