4月11日，国家互联网信息办公室（以下简称“网信办”）起草发布了《生成式人工智能服务管理办法（征求意见稿）》，并向社会公众展开为期一个月的意见征求。

这份管理办法（征求意见稿）共计21条，从适用范围看，既包括了提供生成式人工智能服务的主体，也包括使用这些服务的组织和个人；管理办法覆盖了生成式人工智能输出内容的价值导向、服务提供方的训练原则、隐私权/知识产权等各项权利的保护等等。

GPT类生成式自然语言大模型及产品出现后，既让公众体验到了人工智能的飞跃式进步，也暴露出安全风险，包括产生带偏见和歧视性的内容、数据泄露、侵犯隐私、AI造假等问题。全球范围，各国对人工智能的监管渐成趋势。

在中国，《生成式人工智能服务管理办法》一旦出台，国内生成式AI的大模型及产品提供方不能再无序乱“卷”了，采用者使用生成式AI时也有了规范圈。

为生成内容设“禁区”

“研发、利用生成式人工智能产品，面向中华人民共和国境内公众提供服务的，适用本办法。

本办法所称生成式人工智能，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。”

4月11日，网信办公布的《生成式人工智能服务管理办法（征求意见稿）》（以下简称《办法》）在第二条中明确了《办法》的适用主体和“生成式人工智能”的定义。

从该条内容看，诸如百度、阿里、腾讯、华为等目前已经公开表示有生成式大模型及产品的公司，如果对中国境内用户提供服务，将在《办法》的管理范围内，而用户使用相关产品和服务，也需要遵守《办法》的规定。

《办法》也强调了，国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。

在这一前提下，《办法》为生成式人工智能产品或服务的提供方划定了“禁区”，包括生成的内容和研发的基本原则。

在内容上，《办法》要求：利用生成式人工智能生成的内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容；利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。

在研发上，《办法》要求提供方在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。

从这些要求看，《办法》基本涵盖了市面上的自然语言大模型产品在用户实操中暴露出来的安全及伦理问题，包括产生歧视性偏见、虚假信息等内容

人类借由生成式AI产出的问题内容已经层出不穷地出现在网络上。

比如，ChatGPT曾为用户咨询“如何入店行窃”时提供过步骤，尽管附上了“入店行窃违法的提示”；它的“角色扮演”功能曾被用户诱导以DAN（Do Anyting Now）身份回答问题，给出的答案里出现了“爆粗口”的情况；还有人用ChatGPT测试的假消息在国内传播，成了“辟谣”的内容。

微软集合进搜素引擎Bing的聊天机器人，被海外媒体人曝光“辱骂用户”；AI生图应用Midjourney更是被人利用造出过“教皇穿巴黎世家羽绒服”、“马斯克与通用汽车CEO约会”的假图，甚至还有人用它制造了各种不存在的地震历史和太阳风暴灾害等等。

有关教皇（左）与马斯克的假图

针对虚假信息、辨别AI生成内容层面，《办法》要求提供者从源头上“能够保数据的真实性、准确性、客观性、多样性”；应当按照《互联网信息服务深度合成管理规定》对生成式的图片、视频等内容进行标识；而生成式人工智能产品研制中采用人工标注时，提供者应当制定符合本办法要求，清晰、具体、可操作的标注规则，对标注人员进行必要培训，抽样核验标注内容的正确性。

中国监管为生成式人工智能的内容设置禁区，某种程度上也是在要求提供大模型及产品的企业把好预训练和数据的关。

强调数据来源和个人信息保护

除了对生成内容强调价值观导向、社会公德、遵守法律及反歧视外，《办法》也对生成式人工智能相关的预训练及数据来源、个人信息保护等权益做出要求。

例如，《办法》要求，提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责，不含有侵犯知识产权的内容；数据包含个人信息的，应当征得个人信息主体同意；对用户输入信息和使用记录承担保护义务，不得非法留存能够判断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息。

生成式AI产生的数据侵权问题也确实存在，比如，用户在使用对话式机器人满足一些工作需求时，难免会上传公司的资料，如不注意，很可能造成商业秘密的泄露。此前，韩国电子巨头三星在对ChatGPT提出“限问令”后就表示，内部数据因员工与该应用的交互而出现泄露。

《办法》不仅指向生成式人工智能产品和服务的提供者，也对产品和服务使用者划定了原则。

比如，不利用生成内容损害他人形象、名誉及其他合法权益，不进行商业炒作、不正当营销。

由于《办法》时根据上位法《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律、行政法规制定，这些法律法规将适用于违反《办法》的行为，包括侵犯知识产权、侵犯个人信息等违法行为。

《办法》共计21条，其中有13条明确针对 “提供者”，即利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人。

公众可通过三条途径反馈意见

由此可见，《办法》一旦正式出台，国内做生成式大模型及产品的企业及采用方将须在规则范围内行事。据网信办官网显示，公众可以通过三个渠道提出反馈意见，反馈的截至日期为2023年5月10日。