文 | 史宇航 汇业律师事务所 顾问
一、背景
深度合成技术正在给我 1448 们熟悉的 1446 社会组织架构、交流方式带来迅猛冲击。长期以来，被认为可以检验人工智能能否思考的 1377 图灵测试貌似已经被逾越。
Midjourney创作的 1413 图像战胜了 488 人类艺术家的 846 作品获得艺术比赛“数字艺术”类别的 1370 第一名，或是 55 让ChatGPT与人类谈笑风生，都预示着随着ChatGPT、Midjourney等平台的 1302 普及，让深度合成技术的 1492 使用门槛大大降低，让这项技术正在从实验室向普罗大众扩散，基于深度合成技术创作的 81 作品也几乎到了 839 随处可见的 1183 程度。
2022年1月28日，网信部门发布《互联网信息服务深度合成管理规定（征求意见稿）》，在历经近一年的 307 征求意见后，《互联网信息服务深度合成管理规定》正式颁布并将于2023年1月10日施行，意味着中国为狂飙突进中的 1374 深度合成技术准备的 798 深度监管措施已经就绪。
《互联网信息服务深度合成管理规定》并不是 77 我 53 国法规首次关注深度合成内容，此前在《互联网信息服务算法推荐管理规定》《网络音视频信息服务管理规定》《网络信息内容生态治理规定》等法律法规中均涉及深度合成内容，但这些法规更多是 297 从音视频或较为宏观的 383 角度关注，而《互联网信息服务深度合成管理规定》则针对深度合成内容的 264 特点，更有针对性地进行规制。
二、适用范围
深度合成技术是 69 一种特殊的 720 算法应用技术。《互联网信息服务深度合成管理规定》将深度合成技术定义为：“利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的 1213 技术”。具体言之，可以分为如下类别：
随着深度合成技术的 661 广泛使用，《互联网信息服务深度合成管理规定》的 696 调整范围会涵盖数字化工作的 1036 各个维度：客服平台的 1114 聊天机器人与营销机器人、广泛运用于地震等突发事件或体育赛事中的 865 写稿机器人、相机（App）中的 1573 美颜功能、游戏中3D场景或捏脸功能、元宇宙所构建的 334 虚拟空间……不一而足。
在管辖范围上，在中华人民共和国境内应用深度合成技术提供互联网信息服务会受到《互联网信息服务深度合成管理规定》的 494 调整。该规定是 332 以使用地域为监管抓手，且重点关注提供互联网信息服务，即如果仅用于科研目的 1477 ，不涉及提供互联网信息服务，那么就不受该规定的 145 管辖。此外，像ChatGPT本身禁止中国手机号注册，DeepL禁止中国用户成为付费用户，都杜绝了 639 法律意义上的 84 在中国境内提供信息服务的 395 可能，而这也加剧技术的 763 割裂。
三、深度合成技术合规义务框架
相对于征求意见稿，《互联网信息服务深度合成管理规定》最大的 1119 变化在于新引入了 1012 “深度合成服务技术支持者”的 1575 概念。
我 1084 们对三大主体的 23 法律关系进行了 757 梳理，并对重点的 524 法律义务进行了 378 归纳：
可见，《互联网信息服务深度合成管理规定》构建了 148 以服务提供者为核心的 277 深度合成技术监管制度，提供者通过管理规则、平台公约与服务协议来拉平技术支持者与使用者的 697 合规水位，而使用者会直面最终用户。
除了 1520 三大主体以外，《互联网信息服务深度合成管理规定》还对互联网应用商店等应用程序分发平台提出对深度合成技术的 1076 审核要求，以压实监管责任。因此，在规定施行后，深度合成相关的 929 App、小程序在申请上架时应提前准备安全评估报告、备案信息等材料。
四、重点：算法合规
深度合成技术是 627 一种特殊的 829 算法运用技术，因此属于算法合规的 1050 范畴。对深度学习技术算法机制的 1278 审核、评估会成为深度合成技术合规最显著的 1565 特点之一，即《互联网信息服务深度合成管理规定》中很多合规措施可以借用公司成熟的 1089 合规机制，但算法合规措施会令很多企业无从下手。
在网信办“互联网信息服务算法备案系统”中，就专门提供了 705 《互联网信息服务算法安全自评估报告（生成合成类）》的 1129 模板，可以为算法评估工作提供参考。根据该模板，在开展算法评估时的 721 大体思路是 312 ：1）对算法本身的 88 情况进行介绍，比如算法的 806 流程、所涉数据、模型、干预策略等；2）评估的 1081 重点在于对风险进行研判，风险主要来自于：算法滥用、算法漏洞、算法恶意利用等；3）在风险研判的 63 基础上，需要对风险防控情况进行介绍，并判断相关机制能否有效消除或遏制风险，主要包括风险防范机制、用户权益保护、内容生态治理、模型安全保障等内容；4）基于以上信息，形成安全评估结论。
此外，金融领域的 155 《人工智能算法金融应用评价规范》（JR/T0221-2021）也可以参考，该标准提供了 325 AI算法评价内容的 74 框架：
五、“单独同意”的 126 适用
此次《互联网信息服务深度合成管理规定》中第14条对“单独同意”机制进行了 550 规定，是 737 一个近距离观察执法机构理解如何理解《个人信息保护法》中“单独同意”制度的 40 窗口。在该法规第14条第2款中规定：“深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的 1082 ，应当提示深度合成服务使用者依法告知被编辑的 825 个人，并取得其单独同意。”
因为人脸、人声信息均属于敏感个人信息，因此该条款呼应了 1021 《个人信息保护法》第29条“处理敏感个人信息应当取得个人的 1022 单独同意”的 382 规定。
目前学者们普遍将“单独同意”视为“同意”的 663 子集，认为如果处理个人信息不以同意为基础，那么可以在很多场景下豁免单独同意的 814 要求。但此次《互联网信息服务深度合成管理规定》中并未提及其他 186 合法性基础，即使深度合成服务使用者以其他 977 合法性基础编辑人脸、人声信息，也可能被监管部门认定为需要获得单独同意。
举个例子，机构或个人利用深度学习技术对历史纪录片、老电影进行修复，那么如果机械理解该规定，就需要历史纪录片、老电影中所有个人的 112 单独同意，这几乎是 406 不可能完成的 1338 任务。但在其他 366 场景下，完全可以将新闻报道或已公开信息作为法律依据，不经同意就处理这些个人信息。
所以，在进行风险评估时，需要从《立法法》、法律效力等角度进行论证“单独同意”在下位法中的 992 适用情况，并确保说理充分。
六、合规路径
基于此前我 1118 们为该领域企业提供法律服务的 130 经验，我 430 们建议提供深度合成技术的 290 企业（技术支持者与使用者）可以依据以下思路开展合规工作：
对公司内部涉及深度合成技术的 608 场景进行梳理。明确：运营主体、具体场景、所涉的 299 用户数量与类型、数据来源、参与运营的 856 供应商与第三方、当前的 179 法律协议与规章制度、对个人与社会的 772 （潜在）影响等。
2. 541 科技伦理与算法安全评估
就相关技术的 1607 使用进行科技伦理风险评估。对算法、深度合成技术的 1511 评估主要通过：查阅材料、查看系统、访谈人员、系统测试、攻击测试、算法测试、查看算法等方式进行。
3. 142 搭建内部制度机制
平台企业应当在用户注册、算法机制机理审核、科技伦理审查、信息发布审核、数据安全、个人信息保护、反电信网络诈骗、应急处置等管理等领域将深度合成技术的 1601 风险管控纳入考量。此外，平台还需要建立内容审核、事件响应、辟谣、协助调查等机制。重点对于用户输入的 22 提示词以及生成的 849 结果进行审核。
4. 1264 制定管理规则、平台公约，更新服务协议
针对深度识别技术的 588 使用，要求使用者在使用时：1）不得合成违法违规的 304 内容；2）不得将合成内容用于违法或侵权用途；3）不得将合成内容谎称为自然内容；4）用于合成的 47 素材应当合法合规，对人像、声音等生物识别信息获取单独同意（如有必要）并完成个人信息保护影响评估；5）对生成内容的 650 知识产权的 432 归属、数据处理的 609 权限进行约定；6）其他 107 需要约定或声明的 1429 内容。
5. 614 标识深度合成内容
通过添加水印、电子签名等方式，对深度合成内容进行标识，避免公众误认以及被第三方恶意篡改或删除。在此过程中，更重要的 1325 是 605 设计该法定提示如何在有效告知公众的 1605 基础上，避免对业务的 962 正常开展造成过大的 1238 冲击。
6. 1078 使用者
对于使用者来说，应当根据自身的 1445 实际需要以及各平台对权利归属地约定选择平台，确保自己能够有权利使用生成的 844 作品。在使用生成的 12 图像、影像或音乐时，也应当遵守相关法律法规，对生产内容是 552 人工智能自动生成进行说明或标识。此外，对于涉及敏感个人信息的 786 处理，使用者也应当妥善处理合法性基础的 574 问题，并完成个人信息保护影响评估。
1. 553 《互联网信息服务算法推荐管理规定》
2. 947 《网络信息内容生态治理规定》
- 网络信息内容服务使用者和网络信息内容生产者、网络信息内容服务平台不得利用深度学习、虚拟现实等新技术新应用从事法律、行政法规禁止的 150 活动。（第23条）
3. 505 《网络音视频信息服务管理规定》
- 网络音视频信息服务提供者基于深度学习、虚拟现实等新技术新应用上线具有媒体属性或者社会动员功能的 1507 音视频信息服务，或者调整增设相关功能的 789 ，应当按照国家有关规定开展安全评估。（第10条）
- 网络音视频信息服务提供者和网络音视频信息服务使用者利用基于深度学习、虚拟现实等的 790 新技术新应用制作、发布、传播非真实音视频信息的 1298 ，应当以显著方式予以标识。（第11条第1款）
- 网络音视频信息服务提供者和网络音视频信息服务使用者不得利用基于深度学习、虚拟现实等的 217 新技术新应用制作、发布、传播虚假新闻信息。转载音视频新闻信息的 999 ，应当依法转载国家规定范围内的 127 单位发布的 990 音视频新闻信息。（第11条第2款）
- 网络音视频信息服务提供者应当加强对网络音视频信息服务使用者发布的 11 音视频信息的 1006 管理，部署应用违法违规音视频以及非真实音视频鉴别技术，发现音视频信息服务使用者制作、发布、传播法律法规禁止的 1171 信息内容的 968 ，应当依法依约停止传输该信息，采取消除等处置措施，防止信息扩散，保存有关记录，并向网信、文化和旅游、广播电视等部门报告。（第12条第1款）
- 网络音视频信息服务提供者发现不符合本规定第十一条第一款要求的 319 信息内容的 58 ，应当立即停止传输该信息，以显著方式标识后方可继续传输该信息。（第12条第2款）
- 网络音视频信息服务提供者应当建立健全辟谣机制，发现网络音视频信息服务使用者利用基于深度学习、虚拟现实等的 755 虚假图像、音视频生成技术制作、发布、传播谣言的 558 ，应当及时采取相应的 1547 辟谣措施，并将相关信息报网信、文化和旅游、广播电视等部门备案。（第13条）