汇业评论 | 人工智能辅助诊断的主要法律问题
近日，工信部发布《关于运用新一代信息技术支撑服务疫情防控和复工复产工作的通知》，鼓励利用人工智能等技术监测分析疫情、病毒溯源、患者追踪、病毒检测诊断、疫苗新药研发、防控救治等。此前，国务院办公厅发布《关于促进“互联网+医疗健康”发展的意见》明确规定，推动基于人工智能的智能医学影像识别、病理分型技术研发，以及个人健康实时监测与评估、疾病预警等。在这样的政策背景下，行业涌现了大量基于人工智能的医疗科技公司，开发了用于不同场景的医疗健康类人工智能产品，包括AI辅助诊断产品。
本文中，结合汇业黄春林律师团队项目经验及近期监管实践，简要分析AI辅助诊断产品是否属于医疗器械，如何开展医疗新技术临床应用备案，如何把握产品的数据及算法合规尺度，如何开展伦理审查与患者/受试者同意等问题。
第一部分
AI辅助诊断产品属于哪类医疗器械
根据《医疗器械监督管理条例》等规定，直接或者间接用于人体的仪器、设备、器具、体外诊断试剂及校准物、材料以及其他类似或者相关的物品（包括计算机软件）属于医疗器械。此外，《医疗器械分类目录（2017版）》第21类软件部分新增了21-04决策支持软件子类别，即明确了提供辅助诊断或者用药建议等决策的AI辅助诊断软件属于医疗器械。此外，参考《移动医疗器械注册技术审查指导原则》等规定，AI辅助诊断软件在预期目的、目标人群、软件功能等识别维度更符合医疗器械的范围。
关于AI辅助诊断软件属于哪一类医疗器械，实践中可以参照《医疗器械分类目录（2017版）》判断注册AI辅助诊断软件医疗器械的具体类别：
第二部分
AI辅助诊断的数据合规问题
为提高辅助诊断意见的精准性，AI辅助诊断产品研发、临床试验时需要海量病历、CT影像等数据对算法模型进行训练。参考《国家健康医疗大数据标准、安全和服务管理办法（试行）》、《人工智能辅助诊断技术管理规范 》、《AI辅助诊断技术临床应用治疗标准》、《临床试验数据管理工作技术指南》、《深度学习辅助决策医疗器械软件审评要点》、《信息安全技术 健康医疗信息安全指南（征）》、《个人信息安全规范》等规定，汇业黄春林律师团队梳理AI辅助诊断产品的主要数据合规问题如下：
除用于研发产品需要的数据，使用AI辅助诊断产品过程中还会产生大量能够反映人口健康信息的数据，如病理图像特征分析、病症类型统计、设备运行情况等。根据《关于促进和规范健康医疗大数据应用发展的指导意见》、《国家健康医疗大数据标准、安全和服务管理办法（试行）》等规定，应当打通医疗机构及企业间数据壁垒，建立健康医疗大数据共享平台。因此，技术公司/医疗机构在开放自身数据库、接收其他平台数据时，还应当满足回溯性、标准化、互联互通等有关要求。
第三部分
AI辅助诊断的算法合规问题
为避免AI算法产生误诊、歧视等问题， AI辅助诊断产品的合规要求包括但不限于：
1. 数据集构建、算法训练、算法性能评估、软件验证等内部活动应当在封闭的网络环境下开展，以防止数据污染；
2. 构建数据集时，应明确训练集、调优集、测试集的划分方法、划分依据、数据分配比例。训练集、调优集、测试集的样本应当两两无交集；
3. 算法性能应当考虑假阴性与假阳性（指标、关系）、重复性与再现性、鲁棒性/健壮性等要求；
4. 应当确保算法安全，应当结合软件的预期用途、使用场景和核心功能，基于保密性、完整性、可得性等网络安全特性，确定软件网络安全能力建设要求；
5. 制定人工智能道德准则，划定业务合规边界，要求员工在数据收集、使用、存储和传输数据等方面遵守严格的程序，定期展开数据隐私保护、防止技术滥用的培训；
6. 使用云计算服务应当确保服务模式、部署模式、核心功能、数据接口、网络安全能力和服务（质量）协议等的合规要求，使用移动计算终端应当结合终端的类型、特点和使用风险确保相应性能指标的合规要求；
7. 还应当符合人工智能的一般合规要求，包括但不限于非歧视性、可解释性等；
8. 还应当符合《医疗器械临床试验质量管理规范》、《医疗器械临床试验设计指导原则》等其他规定要求；…等等。
第四部分
AI辅助诊断产品的临床应用合规要点
根据《医疗技术临床应用管理办法》、《人工智能辅助诊断技术管理规范（2017版）》、《AI辅助诊断技术临床应用治疗标准》等规定，汇业黄春林律师团队梳理的医疗机构临床应用AI辅助诊断产品的合规要求包括但不限于：
黄春林
汇业律师事务所高级合伙人
Ramon.huang@huiyelaw.com
黄春林律师，现为上海市律协互联网与信息技术专业委员会副主任，主要执业领域为网络与数据合规、高新技术及泛娱乐领域综合法律服务，常年为数十家境内外企业提供前瞻性法律服务解决方案，2019年在人民法院出版社出版专著《网络与数据法律实务：法律适用及合规落地》，多次被LegalBand、知产力等评为中国顶级律师之一。
健康管理类可穿戴设备的主要法律问题
远程医疗服务的主要法律合规问题
互联网诊疗活动的主要法律合规问题
互联网医院的主要法律合规问题（上）
互联网医院的主要法律合规问题（中）
互联网医院的主要法律合规问题（下）
十余位网安及数据合规大牛热评新书《网络与数据法律实务：法律适用与合规落地》
十余位知名外企法务大咖热评新书《网络与数据法律实务：法律适用与合规落地》