首个GenAI管理办法公布!一宗旨两兼顾五规定为发展赢得制度空间

生成式AI是一个快速增长的技术领域，基于其上的人工智能服务能够生成文本、图像、音乐等内容，应用范围之广前所未有，甚至可以编写计算机代码，淘汰程序员!

目前，全球都出现了大模型热，尤其以中美两国为甚！单单中国就出现了上百个大模型，而包括ChatGPT等语音大模型也在积极寻求进入国内市场。

这些大模型服务是在大量数据上进行训练的，因此在大模型商业化时就出现了传播虚假信息、侵害个人信息权益、出现数据安全和偏见歧视等问题，引起了全球监管机构的担忧。

近日，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》(简称《办法》)，自2023年8月15日起施行。《办法》的推出，表明中国生成式人工智能服务的“高铁”正式高速启航。

《办法》在网信办4月11日公布的征求意见的《生成式人工智能服务管理办法》(征求意见稿)的基础上广泛吸收了公众反馈意见，做出了大幅度修改。

这一全球首个生成式AI监管办法的推出，既是促进生成式人工智能健康发展的重要要求，也是防范生成式人工智能服务风险的现实需要。

而美国、欧盟和英国等国家的生成式AI监管办法还在酝酿中，以解决生成人工智能的潜在滥用问题。欧盟提出了一些全球最严格的规则，导致了该地区公司和高管的反对。与此同时，美国正在就人工智能治理和控制进行讨论，而英国正在启动对此事的审查。

针对《办法》对促进生成式人工智能健康发展有哪些考虑的问题，该负责人表示，《办法》在治理对象上，针对生成式人工智能服务;在监管方式上，提出对生成式人工智能服务实行包容审慎和分类分级监管，要求国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用，完善与创新发展相适应的科学监管方式，制定相应的分类分级监管规则或者指引。

在促进生成式人工智能发展具体措施上，办法明确了四条：

一是明确鼓励生成式人工智能技术在各行业、各领域的创新应用，生成积极健康、向上向善的优质内容，探索优化应用场景，构建应用生态体系。

二是支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等在生成式人工智能技术创新、数据资源建设、转化应用、风险防范等方面开展协作。

三是鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新，平等互利开展国际交流与合作，参与生成式人工智能相关国际规则制定。

四是提出推动生成式人工智能基础设施和公共训练数据资源平台建设。促进算力资源协同共享，提升算力资源利用效能。推动公共数据分类分级有序开放，扩展高质量的公共训练数据资源。鼓励采用安全可信的芯片、软件、工具、算力和数据资源。

我国的《生成式人工智能服务管理暂行办法》的适用范围是什么?核心是锁定向境内公众提供服务，同时排除研发和内部应用。

《办法》规定，利用生成式人工智能技术向我国境内公众提供生成文本、图片、音频、视频等内容的服务，适用本办法。

国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的，从其规定。

行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定。

而《办法》中所称生成式人工智能技术，是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术;生成式人工智能服务提供者，是指利用生成式人工智能技术提供生成式人工智能服务(包括通过提供可编程接口等方式提供生成式人工智能服务)的组织、个人。

由此可以看出，《办法》坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。显然，监管办法的推出，并不会像外媒理解的那样“扼杀了新人工智能技术的发展”。

另外，如果境内服务提供者将境外生成式人工智能服务嵌入自己的产品向境内公众提供服务，则需要遵守《办法》的相关规定。

《办法》第20条规定，“对来源于中华人民共和国境外向境内提供生成式人工智能服务不符合法律、行政法规和本办法规定的，国家网信部门应当通知有关机构采取技术措施和其他必要措施予以处置。”

为中国GenAI发展赢得制度空间

《办法》要求，生成式人工智能服务提供者应当依法开展预训练、优化训练等训练数据处理活动，遵守以下5项规定：

一是使用具有合法来源的数据和基础模型;

二是涉及知识产权的，不得侵害他人依法享有的知识产权;

三是涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形;

四是采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性;

五是《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》等法律、行政法规的其他有关规定和有关主管部门的相关监管要求。

同时，在生成式人工智能技术研发过程中进行数据标注的，提供者应当制定符合本办法要求的清晰、具体、可操作的标注规则;开展数据标注质量评估，抽样核验标注内容的准确性;对标注人员进行必要培训，提升尊法守法意识，监督指导标注人员规范开展标注工作。

专家认为，监管部门从善如流，《办法》成稿体现了产业界和公众对4月出台的《征求意见稿》提出的许多建议，更充分地考虑了当前生成式人工智能的技术局限，在明确安全规范“红线”的基础上，基于“审慎包容”的原则，适度放松了生成式人工智能从研发、模型训练到应用、优化各阶段的合规要求，体现出了鼓励新技术发展、应用的政策导向。

从具体规则设置来看，《办法》在训练数据合规性、生成内容安全准确、透明度等方面的要求需要企业结合技术与法律力量提出创造性的解决方案，以缓解监管机构的安全顾虑，为产业发展赢得更多的制度空间。

·https://mp.weixin.qq.com/s/K229n0FOXsO2lpiNzcfdww

·https://mp.weixin.qq.com/s/x5nsgaf-7zVkbCKJc-Mwuw

·https://mp.weixin.qq.com/s/NlmvE_ujTL8HGxJ02lA24A

·https://mp.weixin.qq.com/s/T8mY3ttwFmY7lWCbrYZqUQ

·https://analyticsindiamag.com/why-china-is-killing-its-generative-ai-ecosystem/

·https://mp.weixin.qq.com/s/CLg8ydoQlYnMWvToE_fZtg

·https://www.cnbc.com/2023/07/13/china-introduces-rules-governing-generative-ai-services-like-chatgpt.html

扫码关注