阿里巴巴集团联合中国信通院编写了《人工智能治理与可持续发展实践白皮书》，于2022世界人工智能大会“数字时代的技术责任论坛”上，正式发布！全面总结了阿里巴巴在人工智能治理与可持续发展领域的实践，重点针对当前人工智能应用中的热点问题，从数据、技术、管理及多元协同等方面，系统性介绍了我们的实践思路和方法，同时辅以若干专题进行阐释，期待为社会各界提供有益参考。算法服务提供者通常使用算法来处理数据，但对于用户来说，看到的只是数据（或个人信息）被收集、以及依据数据决策的部分结果，看不到整个数据处理过程、算法工作原理、算法决策结果，算法服务提供者也没有对此进行解释或公开，因而形成“黑箱”。为打破摸不着、看不懂的算法“黑箱”，算法服务提供者需要设计并实施合理的算法透明机制，对算法工作机理和运行结果等做出解释，保障用户知情权，构建用户理解和信任算法的基础。算法透明是一项复杂工程，业界主要存在两种不同的实践路径。一种认为需完全公开算法源代码在内的所有算法要素，另一种不要求完全公开源代码，而是向用户解释算法如何运作和决策，侧重算法运行原理和运行效果的透明。完全披露源代码并不能有效解决算法透明问题。公开源代码是一种纯粹技术性的公开，没有做到对算法使用数据的情况、算法的运行原理进行有效解释，因而不能达到用户知情的目的。
算法透明的目的是打破算法“黑箱”，让用户和监管了解算法服务提供者如何使用算法处理采集的数据（包括用户人群的行为和特征标识等）、了解算法运行机制，进而对算法运行结果达成理解。因此，实现算法透明应当是使用合适的方式对算法的工作原理、目的意图、运行机制、决策逻辑等进行充分解释和说明，通过企业自控、监管监督、用户反馈的方式，构建用户理解和信任的算法透明体系。我国《互联网信息服务算法推荐管理规定》（以下简称“《算法推荐管理规定》”）等法律法规对算法透明度和可解释性作出了相关规定，阿里深刻认识到算法治理对于维护网络空间健康发展的重要意义，根据要求一方面建立对监管透明的算法管理体系，另一方面构建对用户透明的算法运行机制：1) 建立面向监管透明的算法管理体系—启动清朗专项，维护清朗网络空间全面构建算法合规制度。阿里积极对内解读、宣贯《算法推荐管理规定》等法律法规，修订完善集团算法相关规章制度，包括《阿里巴巴算法安全规范（总纲）》《阿里巴巴算法干预机制指南》等，提升全员算法合规意识。积极履行算法备案义务。阿里集团层面成立算法备案小组，对各业务线开展备案培训，开展备案工作。努力确保与监管在算法治理上的信息对称，积极配合监管开展的安全评估和监督检查工作，提供相应的技术支持。完善算法安全审查机制，落实算法全生命周期管理。阿里对照《算法推荐管理规定》等法律法规，逐条梳理，完善自身的算法审核机制，规范算法流程管理，摸排检查集团算法应用合规情况，启动内部清朗专项，按照“清朗-算法综合治理”要求，进行算法自查自纠。2) 构建面向用户透明的算法运行机制——以淘宝和饿了么为例面向所有用户进行通用算法解释，保证用户知情权。淘宝在隐私协议中对所利用的算法部署的情况、算法类型、收集的信息范围、使用目的，以及对用户带来的潜在影响等情况进行了明确说明。针对特定应用以及用户量不大的小众应用，设计了单独的产品页面，用户通过访问产品页面，可以方便地了解算法的相关情况。针对大众普遍关心的话题，如骑手调度算法，饿了么发布《2022蓝骑士发展与保障报告》进行了详细阐述。为了提高用户触达效果，帮助用户更为快捷、便利地了解算法运行情况，阿里还计划未来通过官网展示、官方微博和微信公众号发布等方式将算法规则进行公开，让更多的社会公众了解并进行监督。对于使用个人信息进行决策的场景，赋予用户便捷退出个性化推荐的权利。淘宝APP在隐私页面二级目录设置了退出个性化广告和个性化推荐的选项，用户可以轻松地关闭基于个人信息的商品广告和推荐服务，同时对于关闭后因推送精度下降影响用户体验进行提示，帮助用户清楚地做出决策。建立用户负反馈机制，让用户了解用于算法决策的信息，并可进行有效控制。对于个性化推荐的商品进行效果反馈，淘宝提供了非常方便的操作方式（比如用户可以长按推荐列表中的商品选择负反馈的具体原因），帮助优化算法推荐决策，屏蔽用户不喜欢的商品信息，让用户对算法推荐的商品有最终选择权。对于个性化广告，赋予用户选择和关闭自己不感兴趣的商品品类标签，满足用户对于商品广告的自主需求。建立人机协同的用户投诉申诉反馈机制。淘宝用户数量巨大，用户反馈频次高、类型多、问题广。通过使用深度学习算法，淘宝为用户提供智能问答对话、智能语音客服服务，一方面及时解决用户大部分的投诉建议问题，另一方面也甄别用户权益受损的案件，通过人工进行进一步解决。
算法透明实践需要全方位考虑社会各主体的期待和利益。阿里在实践中不断完善面向社会各方的算法透明机制，未来也将持续更新和丰富治理措施，确保算法可控可信。
🌟下期预告专题：《调度决策：落实即时物流系统“算法取中”》
我们将持续更新，敬请期待😚～关注【AAIG】公众号，回复「 白皮书 」一键下载全文👇👇AAIG课代表，获取最新动态就找她 关注公众号发现更多干货❤️