计算机行业点评:AI内容合成迎来规范发展新阶段

类别:行业 机构:民生证券股份有限公司 研究员:吕伟/杨立天 日期:2025-03-16

  事件概述:2025 年3 月14 日,国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》,办法聚焦人工智能“生成合成内容标识”关键点,通过标识提醒用户辨别虚假信息,明确相关服务主体的标识责任义务,规范内容制作、传播各环节标识行为,将于2025 年9 月1 日起施行。

      AI 生成内容必须添加显式标识,推动生成到传播全流程安全管理。《标识办法》规定,服务提供者提供智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务时,应当按照要求对生成合成内容添加显式标识。显式标识能够帮助用户快速识别AI 生成内容,从而降低虚假信息的传播风险,并明确AI生成内容的归属和来源,避免未经授权的使用或抄袭。合规导向下,AI 生成内容的制作、传播和审核流程进一步规范化,以合理成本提高安全性,促进人工智能在文本对话、内容制作、辅助设计等各应用场景加快落地,同时减轻人工智能生成合成技术滥用危害,防范利用AI 技术制作传播虚假信息等风险行为,有利于推动AI 内容产业的高质量发展。

      鼓励服务提供者添加数字水印等隐式标识,合规导向创造新业务需求。服务提供者在文件中添加数字水印等元数据隐式标识,可以在不直接改变文件原始内容的情况下,为内容传播服务提供者有效识别生成合成内容提供便捷方案。数字水印需要适应多种模态的数据,同时要具备足够的鲁棒性以抵御各种攻击,其技术难度较高。考虑人工智能技术发展需要,针对在文本内容中添加隐式标识,在多媒体文件中添加数字水印,仍是技术难点或可能增加企业成本,《标识办法》暂未进行强制要求。政策驱动下,相关厂商有望增加数字水印等技术的研发投入,以技术优势率先抢占合规需求催生的隐式标识市场。

      重点厂商率先布局,塑造AI 标识行业生态。行业领军企业从不同角度出发,力争确保标识的准确性:

      国投智能推出了 AI-3300 “慧眼” 视频图像鉴真工作站、美亚内容鉴真平台等产品,针对深度合成生成视频图像检测鉴定,满足生成式人工智能标识等方面的应用和监管需求;

      海康威视利用其在智能安防和物联网领域积累的技术经验,在前端通过摄像头等硬件采集信息,并通过观澜AI 大模型对相关信息进行标识和溯源;

      大华股份推出了以视觉为核心的多模态“星汉”大模型,专注于视觉解析,持续推进AI 技术在智慧物联场景中的落地应用。

      投资建议:国家层面针对AI 生成合成内容标识发布指导意见,有望通过政策引领,推动数字水印等前沿技术进步,创造合规服务场景下的市场机遇。

      建议重点关注在AI 生成领域深度布局的国投智能、海康威视、大华股份、格尔软件、永信至诚、浩瀚深度、中新赛克等核心标的。

      风险提示:技术发展不确定,行业竞争加剧。