查看原文
其他

张玉洁:机器人权利有哪些?怎么规制? | 前沿

郭咪萍选编 中国民商法律网 2021-03-08

中国民商法律网


本文选编自张玉洁:《论人工智能时代的机器人权利及其风险规制》,载《东方法学》2017年第6期。本文为其删减版,注释已省略,内容也进行了精简处理,完整版请点击阅读原文查看。


作者:张玉洁,广州大学公法研究中心特聘研究员,法学博士。


全文共4464字,阅读时间约22分钟。


目前,人工智能机器人(下文所称为“机器人”)已经广泛运用于社会生活、工作、生产与军事等领域,并逐渐体现出自主性、社会化优势。然而,基于一种独立于科技伦理与物种危机的规范视角,机器人同法律之间的结合点究竟始于何处?或者说机器人如何融入法律体系?无论是人工智能学界、哲学界还是法学界,不约而同地将视角转向了法律主体的共有内容——“权利”。有鉴于此,广州大学公法研究中心张玉洁特聘研究员在《论人工智能时代的机器人权利及其风险规制》一文中,从历史的视角来探究法定权利的发展过程,揭示出群体“实力”变化对法定权利的重要影响,以期国家正视机器人权利所带来的社会风险,并作出法制化的预防措施。


一、机器人权利真的存在吗?


机器人的法律地位是法治国家对机器人社会化应用的一种制度回应。它能否归结为“权利”,尚未形成一致的观点。但权利发展史证明,权利体系的构成从来不是固定不变的,在原有权利遭遇新兴事物冲击的情况下,不同群体的实力博弈将重新构筑权利体系。约翰·厄姆拜克将这种现象归结为“实力界定权利”。


(一)机器人权利主体地位的历史正当性


现行法律对于机器人的权利主体地位持开放态度,并且否认物种差异构成法定权利的技术性难题。在这种情况下,真正影响机器人权利主体地位的客观要素在于机器人同人类之间的实力对比,而主观要素则是人们对于机器人权利的态度。


目前来看,虽然机器人的发展水平总体上落后于人类,但机器人的研发速度却大大高于人类的进化速度。一旦机器人的社会化程度陡增,并在各个领域占据较高的应用率。那么,不必等机器人对人类提出何种权利诉求,其所有权人自然会呼吁立法机关来界定机器人的权利主体地位。由此观之,承认并赋予机器人的权利主体地位,既是权利发展的内在规律,也是社会发展的必然趋势。


(二)机器人权利类型的历史正当性


在现代科技(尤其是大数据、人工智能)的冲击下,权利的类型已经超越了传统制定法所划定的权利范畴,并逐步发展出被遗忘权、个人信息权等虚拟权利。现传统权利类型难以适用于机器人,甚至整个法律体系也因机器人的自主性功能而面临瓦解的危机。由此可以推断,机器人的社会化应用必将改写现行法律体系,而起点则是机器人权利的获得。


(三)机器人权利理论的起源


人类发展历程表明,群体之间的实力对比会影响法定权利的分配。由此推之,当机器人的效率、智能和功能等方面全面改写人类发展进程的情况下,机器人与人类之间的实力变化可能催生出机器人权利。至此,机器人权利将重塑整个法律体系。


二、机器人权利的基本属性


机器人权利既符合权利发展的内在规律,又产生诸多不同于传统权利的特性。从机器人同公民权利的差异性来看,机器人权利具有以下特定属性。


(一)拟制性权利属性


“法律拟制”是“立法者为了实现法律背后的制度目的而作出的一种不容辩驳的决断性的虚构”。这种“虚构”不再纠结于机器人是否存在意识,而是强制性地要求人们之间达成“机器人拥有权利”的基本共识;对于机器人而言,权利“虚构”是人类接纳机器人的一种方式,并保证人们按照对待同类的方式处理人机关系。


当然,机器人的权利拟制属性不能全面套用其他拟制权利。在机器人社会化应用尚未真正实现之前,法律仅允许机器人权利的必要拟制、有益拟制。


(二)利他主义权利属性


机器人的功能在于帮助人类更好地工作、生活,其工具性价值决定了机器人的天然利他特性。如果机器人的利他权利(如机器人代理权)能够给人类带来更多的好处,并且机器人本身仅付出较小的代价,那么,人们基于利益的追求,会选择同机器人进行深入合作,进而催生出更多的利他主义行为。为此,国家基于增进社会福祉、推动人类进步的需要,必须创造出“利他主义行为”的保护机制,即利他主义型权利。这种权利属性既是人类应自身发展需求而赋予机器人的拟制权利,同时也是机器人利他功能的法律表征。


(三)机器人权利的功能属性


机器人的功能分化,如同人类社会的职业分工一样,是应对社会化生产的重要举措,也是机器人研发的必然趋势。机器人的功能差异不仅分化出不同形态的机器人,也造就了机器人权利的功能化属性。换言之,法律在赋予机器人权利过程中,必须考虑机器人的具体功能,并据此实行有差别的权利拟制与保护机制。


另一方面,机器人权利的功能分化属性并没有违背“权利平等”的现代法治观念。对于机器人而言,其所具有的社会价值仅仅反映为它的功能。当机器人寻求功能以外的权利保护之时(如医疗机器人寻求交通权保护),国家和公民就会缺乏足够的保护意愿。因此,机器人权利的功能分化属性不仅没有违背“权利平等”的理念,还同国家公共资源的运用逻辑保持着一致性。


三、机器人权利的基本类型


对机器人基本权利的探讨,实际上可以归结为机器人普遍存在哪些权利的追问。在此意义上,机器人权利的基本类型,往往体现为机器人生存所必要的保障。


(一)数据资源的共享权利


机器人的社会化应用,在很大程度上依赖于大数据、决策技术和算法的交互使用。为此,机器人的首要基本权利应当是保障机器人功能实现的数据共享权利。在此,“共享”是指机器人同数据所有人共同享有数据使用权、知情权的一种数据使用模式。


由于数据资源内含商业价值和个人隐私(商业机密),机器人的数据共享权利同其他法律主体的权利保障之间看似具有明显的冲突。然而,大数据在当下或许具备无可估计的商业价值,但随着老龄化社会的到来,机器人所带来的社会变革远非数据价值所能衡量。私权领域的数据权利保护仅在公权领域获得了极小的胜利,“数据共享”才是未来发展的主要趋势。因而,法律在建立明确的数据保密等级与公开等级的同时,应推动各类数据资源的社会共享,肯定机器人的数据共享权利。


(二)个体数据的专有权利


机器人的数据专有权利能够有效对抗机器人使用者吗?


对此,“专有数据”的概念将成为解答这一疑问的关键点。一般认为,专有数据是指只属于某个主体或某类主体的可识别符号的统称。考虑到机器人超高的科技属性以及主体差异,机器人专有数据可以分为以下几种类型:一是生产商所掌握的专有数据,这部分数据主要包括机器人的内部构成及技术函数;二是机器人销售商(兼服务商)所植入的功能优化型专有数据,这类数据主要针对客户的不同需求,改善机器人的服务事项;三是机器人应用过程中获取的专有数据,主要是指机器人基于服务功能所获取的使用者的信息数据。对比上述三种专有数据类型可以发现,机器人的数据专有权利分别指向生产商、服务商的专利权以及使用者的个人信息权。为此,机器人的数据专有权利是一项排他性权利。它既排除生产商、销售商以及使用者之外其他人对机器人专有数据的使用权,也排除了前述三类主体之间的数据交叉使用。


(三)基于功能约束的自由权


康奈尔大学人工智能实验室的研究发现,人工智能机器人在无需预先录入指令的情况下,已经能够在一定程度上自主地进行学习、交流。尽管它无法同人类的意识相媲美,但在特定功能的范围内,机器人已经能够自主的决定是否从事某种行为。更为重要的是,机器人自由权的行使依赖于法律的权利拟制,而非独立的“思维意识”。其社会功能则才是真正约束机器人自由权的重要尺度。根据机器人的运行逻辑,机器人可以以功能实现的目标,基于自身的算法和决策能力,自主地作出某种行为。无论其自主能力能否承担法律所赋予的权利,机器人的具体功能都将对它的行为、权利施加限制。


(四)获得法律救济的权利


机器人基本权利的实现不仅要求国家提供强有力的法律保障,同时也需要国家给予足够的法律救济。在私权领域,救济权可以转化为机器人及其所有人要求侵权人停止侵权、回复原状、赔偿损失的权利。而在公权领域,救济权则表现为机器人要求国家纠正或减轻侵权后果的权利。由此来看,机器人获得法律救济的权利,既是真正落实其他权利的保险机制,也是对侵权行为的一种警告。


四、我国如何应对机器人权利引发的社会风险


通过法律拟制的方式赋予机器人权利、深化人工智能法律法规已经成为时代发展的必然趋势。在此趋势下,我国应当积极应对机器人权利所带来的法律挑战,竭力降低机器人权利所带来的社会风险。


(一)机器人权利的边界及其法律保留


我国在机器人权利的拟制上,应当明确必要的权利边界。从立法技术角度来看,无论是采取“例示规定”,还是“列举式”的立法方法,都会引发机器人权利的不可穷尽性难题。与之相反的是“法律保留”。尽管法律保留难以明确机器人权利的具体内容,却能够在限定机器人权利边界上带来更好的效果。因此,应在法律上对机器人的政治权利、自我复制权利和紧急避险权利等重要权利进行保留。


(二)加强法律规范与机器人伦理规范的衔接


我国必须借助法律规范来建立稳定、有序的机器人权利、义务和责任。当然,这并非是说机器人伦理规范已然可以退出历史舞台。恰恰相反,机器人法律规范的制定只是弥补机器人伦理规范的部分缺陷,两者的衔接与沟通才是我国规制机器人权利风险的最佳模式。


(三)建立机器人监管机制


我国在保障机器人权利的基础上,建议采取渐进式分级监管模式:


第一,设立独立的机器人监管机构。这一专门性机构能够统一行使机器人伦理、研发、应用以及安全等方面的监管权力,实现人工智能领域内部的全面监控。


第二,建立机器人强制登记制度。我国应当建立机器人强制登记制度,确保机器人在推向社会之前获得唯一的编号。这既是机器人权责追溯的必要保证,也是确立个体机器人法律主体地位的基础。


第三,确立机器人分级监管模式。我国在实施机器人监管上,应当根据机器人社会风险和伦理问题的不同,采用分级监管、重点治理的模式,优化机器人的监管效率,减少机器人社会化应用中的潜在风险。


五、结语


在人工智能高度发达的时代,权利意识将觉醒于机器人体内。而作为一种社会活动的产物,机器人权利有别于人类的“自然权利”,具有独特的权利属性和基本权利类型。同时,机器人权利也对我国的法律体系提出了严峻的挑战,并引发了诸多新型权利纠纷。因此,在应对机器人权利所带来的社会风险上,原文提出了三项制度措施建议,这将有利于我国引领人机关系走向正常化、法治化,也有助于保证我国人工智能的顺利发展,提升国家的科技竞争力。


推荐阅读

胎儿民事权利能力:法律性质与实现机制 | 前沿

近期好文

小议《三块广告牌》中的租赁合同风波 | 品茗

庄加园:《登记对抗主义的反思与改造:<物权法>第24条解析》 | 前沿


责任编辑:王羽嘉

图片编辑:师文、李欣南、刘小铃、金今


    您可能也对以下帖子感兴趣

    文章有问题?点此查看未经处理的缓存