大模型治理蓝皮报告(2023年)
蓝皮报告首先分析了大模型技术变革引发的风险挑战,提炼出大模型治理基本框架;然后聚焦各方高度关注的四大议题,探讨相应制度方案,同时挖掘欧美等主要国家和地区在大模型治理领域最新动态趋势;最后聚焦到我国以事前备案、全流程评估、事后溯源检测为代表的大模型治理落地实践,期望为完善大模型治理体系提供有益参考。
来源 | 中国信息通信研究院、中国科学院(转载请注明来源)
报告核心观点
1. 大模型变革带来的风险挑战
大模型基于大数据、大算力、多模态的技术优势,实现了从感知世界、理解世界向创造世界的跃迁,成为内容生产方式的“颠覆者”、通用人工智能的“先行者”、人机交互的“协作者”。
2. 大模型治理聚焦四大核心议题
一是探索数据治理规则,构建高质量训练数据。二是创新知识产权保护。三是探索大模型伦理治理应对策略。四是强调信息内容治理。
3. 全球大模型治理最新动态趋势
全球大模型治理体系加速构建。美国从各部门松散式行业治理走向拜登政府统筹的政府集体行动,总体仍体现“对内发展、对外竞争”的治理内核。欧盟继续发挥人工智能治理领域的布鲁塞尔效应,加紧推进《人工智能法案》的制定进程。联合国、G7和金砖等国际组织在大模型治理国际合作中各显其能,各有侧重推动大模型治理的国际化进程。
4. 探索我国大模型治理的主要落地工具
在风险动态管控方面,我国主张全流程安全评估,各界积极推进安全评估标准化、智能化,目前学界业界发布了各类评测工具和评测平台,但存在评价方式、标准不统一、评估结果差异大等问题。事后溯源检测方面,我国探索基于隐式标识的检测、基于内容分布的检测等技术工具,实现细粒度来源追踪和责任追溯。
具体内容如下
文琳编辑
免责声明:转载内容仅供读者参考,观点仅代表作者本人,不构成投资意见,也不代表本平台立场。若文章涉及版权问题,敬请原作者添加 wenlin-swl 微信联系删除。
为便于研究人员查找相关行业研究报告,特将2018年以来各期文章汇总。欢迎点击下面红色字体查阅!
《文琳资讯》
提供每日最新财经资讯,判断经济形势,做有价值的传播者。欢迎关注