计算机设备:《生成式人工智能服务管理办法》正式出台 推动人工智能规范前行
核心观点
7 月13 日,国家网信办等七部门联合正式公布《生成式人工智能服务管理暂行办法》(后称《办法》),相关部门将采取有效措施鼓励生成式人工智能创新发展,对生成式人工智能服务实行包容审慎和分类分级监管。
我们认为《办法》的出台是国家支持生成式人工智能发展的积极信号,将推动生成式人工智能向着健康发展和规范应用迈进。随着《办法》出台,我们建议持续关注AI 领域投资机会。
事件:
2023 年7 月13 日,国家网信办等七部门联合公布《办法》,《办法》从技术发展与治理、服务规范、监督检查和法律责任等方面对生成式人工智能发展进行相关规定与说明。
简评
1、《办法》主基调是支持与鼓励
2023 年4 月11 日,网信办发布《生成式人工智能服务管理办法(征求意见稿)》,7 月13 日正式发布《办法》。前者表述 “国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作,鼓励优先采用安全可信的软件、工具、计算和数据资源。”,后者表述“采取有效措施鼓励生成式人工智能创新发展”、“鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新,平等互利开展国际交流与合作,参与生成式人工智能相关国际规则制定。”综合来看,不论是征求意见稿或是《办法》,总体对于生成式人工智能发展保持支持与鼓励。
2、《办法》进一步对生成式人工智能进行相关范围划定1)适用范围划定:《办法》第二条规定利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务(以下称生成式人工智能服务),适用本办法。2)发展支持措施范围划定:《办法》第五条从宏观角度指出“鼓励生成式人工智能技术在各行业、各领域的创新应用,生成积极健康、向上向善的优质内容,探索优化应用场景,构建应用生态体系。”
第六条更加具体地从算法、芯片等领域指出“鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新,平等互利开展国际交流与合作,参与生成式人工智能相关国际规则制定。
3)管理方式/方法范围划定:《办法》第十六条直接指出“网信、发展改革、教育、科技、工业和信息化、公安、广播电视、新闻出版等部门,依据各自职责依法加强对生成式人工智能服务的管理。”具体管理方式上,第十九条明确指出“有关主管部门依据职责对生成式人工智能服务开展监督检查,提供者应当依法予以配合,按要求对训练数据来源、规模、类型、标注规则、算法机制机理等予以说明,并提供必要的技术、数据等支持和协助。”4)责任主体范围划定:《办法》对生成式人工智能服务提供者与使用者进行了清晰的责任主体划定,例如,第九条指出“提供者应当依法承担网络信息内容生产者责任,履行网络信息安全义务。涉及个人信息的,依法承担个人信息处理者责任,履行个人信息保护义务。”;第十四条指出“提供者发现违法内容的,应当及时采取停止生成、停止传输、消除等处置措施,采取模型优化训练等措施进行整改,并向有关主管部门报告。
提供者发现使用者利用生成式人工智能服务从事违法活动的,应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施,保存有关记录,并向有关主管部门报告。”;第十七条指出“提供具有舆论属性或者社会动员能力的生成式人工智能服务的,应当按照国家有关规定开展安全评估,并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。”
3、《办法》为生成式人工智能行业发展规范提供了丰富的法律依据《办法》为相关从业者与有关主管部门提供了丰富的法律依据,《办法》第一条就指出“根据《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《中华人民共和国科学技术进步法》等法律、行政法规,制定本办法。;第七条“生成式人工智能服务提供者应当依法开展预训练、优化训练等训练数据处理活动,遵守《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》等法律、行政法规的其他有关规定和有关主管部门的相关监管要求。
4、《办法》的出台为生成式人工智能发展指明前进道路,建议持续关注AI 领域投资机会《办法》从技术发展与治理、服务规范、监督检查和法律责任等方面对生成式人工智能发展进行相关规定与说明。我们认为《办法》的出台是国家支持生成式人工智能发展的积极信号,将推动生成式人工智能向着健康发展和规范应用迈进。随着《办法》出台,我们建议持续关注AI 领域投资机会。
风险提示:人工智能模型技术发展不及预期:人工智能模型属于先进AI 算法,若后续算法更新迭代效果不及预期,则会影响人工智能模型演进及拓展,进而会影响其商业化落地等;数据数量与数据质量不及预期:人工智能模型需要大量的高质量数据进行训练,若数据数量和质量存在短板,则会影响模型效果;隐私问题:人工智能在进行预训练过程中,使用了大量数据,其中会涉及相关隐私问题;伦理冲突风险:技术进步推动人工智能迈向通用型人工智能,可能将产生人工智能欺骗、人工智能上瘾等一系列伦理问题。