软件与服务:训推一体机助力大模型应用本地化落地

类别:行业 机构:长江证券股份有限公司 研究员:宗建树/余庚宗 日期:2023-11-25

事件描述

      近期,随着美国对于中国高端AI 芯片的出口管制和大模型AI 的推进落地,基于华为昇腾的训推一体机产品及解决方案引发市场关注。其中恒为科技11 月15 日公告,中标AI 算力一体机480 柜,中标金额为21.12 亿元。

      事件评论

      所谓一体机,一般而言是兼具多种功能、软硬件一体化的设备和解决方案的统称,而当前时点市场关注的一体机主要以大模型AI 一体机为主,一般最基本的都要包含硬件层面的算力支撑和面向不同场景和功能的软件或者解决方案。在2023 年WAIC 2023 会议上,华为联合科大讯飞、面壁智能、智谱AI、云从科技共同发布了昇腾AI 大模型训推一体化解决方案,产业不同环节厂商通过共同设计、联合开发、协同上市、持续迭代的方式为客户提供开箱即用的大模型一体化解决方案。

      训推一体机是适合我国市场的优选解决方案。当前我国大模型产业正高速发展,与此同时技术变革带来的大模型应用研发周期长、研发门槛高、业务安全隐患等问题一定程度上阻碍里技术落地,尤其是在中国存在大量的G 端和大B 端客户,而训推一体机很好的解决了这些痛点:1)开箱即用,直接享用新技术成果。训推一体机可实现定制化的大模型应用软硬一体解决方案,一般可集成优选的成熟大模型产品,厂家可以协助大模型预训练定制、微调定制、训练标注、技术培训等;2)简化部署,一般一体机均会提前做好适配调优,算法迁移,帮助客户简化大模型部署;3)数据安全,我国高度重视数据安全,尤其是政企客户,常规链接通用大模型存在数据泄露安全隐患,政府等客户更希望能本地化部署,训推一体机可完成本地训练和推理,解决大模型应用数据安全难题,试用于高安全要求场景和客户。

      训推一体机助力大模型应用本地化落地。当前大模型AI 蓬勃发展,海内外头部厂商大模型AI 以在线服务为主,而具体到我国市场,由于当前大模型技术变化快,应用门槛高,较多本身IT 能力相对薄弱和安全要求高的客户其大模型AI 需求无法得到安全高效的满足,训推一体机针对性的降低应用门槛、简化AI 部署、保障数据安全,可更加灵活、高效和定制化的满足对应的广大场景和客户,是大模型AI 本地化落地的优选方案。考虑到我国政企客户潜在的广阔的大模型数字化需求亟待满足,预计一体机市场空间广阔,且一体机模式包含软硬件完整功能,预计盈利能力较好,建议关注其投资机遇,重点推荐科大讯飞,建议关注其他一体机布局厂商。

      风险提示

      1、一体机需求不及预期;

      2、一体机盈利下降风险。