近日，国家网信办会同国家发改委、教育部、科技部、工信部、公安部、广电总局颁布了《生成式人工智能服务管理暂行办法》(以下简称《办法》)，这充分体现了国家对生成式人工智能发展应用的高度重视，也标志着我国对生成式人工智能的治理迈出了坚实的一步。《办法》坚持发展与安全并重、促进创新与依法治理相结合的原则，为生成式人工智能的健康发展和规范应用提供了制度“锚点”和实践指导，确保生成式人工智能服务在促进相关技术进步和产业落地的同时，更好地造福人民。
近两年来，生成式人工智能模型在内容生成、理解推理、多轮对话等方面都达到了超出预期的水平。将为数字经济的蓬勃发展提供垂直化、场景化、个性化的应用工具，广泛赋能电子商务、创意产业、金融服务、医疗健康等领域。但目前主流的生成式人工智能属于“黑箱”模型，在应用中可能会产生有害言论、虚假信息、隐私泄露、偏见和歧视等风险。发展可信、安全的生成式人工智能已成为全球共识。发展与安全是辩证统一的关系。安全对生成式人工智能的发展提出了规范的要求，也是其市场应用和社会接受的基础。
《办法》坚持发展与安全并重、创新与治理相结合的原则，对生成性人工智能服务实施包容审慎监管。一方面，围绕应用、研发、基础设施等措施营造自主开放的创新生态，鼓励生成式人工智能技术在各行业、各领域的创新应用，支持相关机构在技术创新、数据资源建设、转化应用、风险防范等方面开展合作，鼓励基础技术自主创新，在平等互利的基础上开展国际交流合作，推进生成式人工智能基础设施和公共训练数据资源平台建设。另一方面，建立了鼓励多主体参与、贯穿生成式人工智能服务全过程的规范体系，对训练数据处理和生成式人工智能服务规范提出了相应要求，规定了安全评估、算法备案、投诉举报等配套制度，明确了违法内容的法律责任和处置措施。《办法》还对国家有关机关的管理提出了要求。应根据生成式人工智能的技术特点和服务特点，完善适合创新发展的科学监管方式，制定相应的分类分级监管规则或指南。《办法》为生成式人工智能的健康有序发展奠定了坚实的制度基础，也为大模型等新技术的监管做出了示范。
下一步，落实《办法》精神和相关要求，需要行业内科研机构和企业共同努力，在相关部门的支持下，推进重点领域攻关，打造中国生成式人工智能“发展”和“安全”的双基地。在基座的开发中，我们将进一步开发和开源高质量的基础模型，同时构建大模型开发应用的全链条开源体系，贯穿数据、前期训练、微调、部署、评估的各个环节，降低国内大模型开发和商业开发的门槛。在安全基础方面，推进生成式人工智能优质数据集建设，研发相关系列标准，搭建生成式人工智能评估平台，打造“数据、标准、评估”一体化的生成式人工智能模型可信安全体系，为生成式人工智能的健康发展和规范应用保驾护航。
作者:乔宇，上海人工智能实验室主任助理、教授
来源:“网信中国”微信微信官方账号
长按二维码关注
北京市互联网信息办公室官方微信
长按二维码关注
首都互联网协会官方微信
微信扫码
QQ扫码
