查看原文
其他

人工智能行业AI算力报告:穿越AI的基石,算力基建的起始

(报告出品:国泰君安证券)

01算力是智能世界的基础,产业生态和投资图谱逐步清晰

算力是智能世界的基础,基础设施从云向算泛在演进

智能世界三要素:数据、算力、算法是智能世界三要素,其中算力平台是核心基础。算力两大类:通用算力、 HPC(高性能计算,High-performance computing)算力。其中通用算力计算量小,用于常规应用。HPC算力是一个计 算机集群系统,通过各种互联技术将多个计算机系统连接在一起,利用所有被连接系统的综合计算能力来处理大型计算问题。算力基础设施从云向算泛在演进,其位置的分布从中心向边缘和端侧泛在延伸,将出现云、边、端三级算力架构。

AI大模型带动算力需求超越摩尔定律增长

AI模型训练算力增长速度超越芯片摩尔定律。AI 训练任务中的算力增长(所需算力每 3.5个月翻一倍)已经超越摩尔定律(晶体管数量每 18 月翻一 倍)。ChatGPT仅推出两个月,月活跃用户数预计已达1亿。ChatGPT在2023年1月达到1亿月活跃用户,平均每天有1,300多万访客,用2个月时间达到1亿 月活数,成为史上最快达到1亿月活跃用户的应用,TikTok、Instagram、Facebook、Twitter则分别用了9个月、2年半、4年半、5年的时间。

MR、车载等数字经济新型应用场景带来新的算力需求

MR的推出更带来对低延时网络传输和底层算力技术升级的需求。虚拟世界需要强大的图像实时渲染能力、计算和存储海量数据资源,头 显交互设备的出现将进一步增加对云计算和边缘计算的应用需求。云计算能将终端渲染逐步迁移至云端,基于规模效应摊低运算成本, 提升服务器使用效率,提升虚拟世界的可进入性。而边缘计算则更能满足实时数据分析需求、缓解中心云的计算负载。汽车智能化需求持续升级带来数据流量的急剧飙升。随着自动驾驶等级提升,车载信息娱乐系统、长续航电池及5G网络的引入,车辆要 面对的计算量越来越大,网络架构升级、本地实时处理能力、“大容量缓存和存储”规格将成为硬需求。

中美算力布局较为领先,中国智能算力在追赶

智能算力规模和增速亮眼。根据信通院算力白皮书,2021年全球算力增速超过40%,华为 GIV 预测2030 年人类将迎来 YB 数据时代,全球算力平 均年增速达到 65%,其中基础算力平均年增速达 27%;智能算力占大头,平均年增速超过 80%;超算算力平均年增速超过 34%。中美算力在全球属于领先地位。美国、中国、欧洲、日本在全球算力规模中的份额分别为 34%、33%、14%和 5%,其中全球基础算力美国份额达 37%,中国以 26%份额排名第二;智能算力方面,中国、美国分别占比为 45%和 28%;美国、日本、中国在超级计算综合性能指标方面份额分别为 48%、22%、18%。

02基础设备:数据中心加速升级,芯片PCB等上游部件量价齐升

AI服务器采用异构式架构,GPU数量远高于普通服务器。AI服务器和普通服务器的主要区别在于:1)架构不同,AI服务器采用 CPU+GPU/FPGA/ASIC等异构式架构,而普通服务器一般是CPU架构;2)GPU数量差别巨大,AI服务器单服务器GPU用量通 常在 4 颗以上。例如:NVIDIA DGX A100包括8个A100 GPU + 2个AMD Rome CPU,而浪潮英信服务器NF5280M6仅配置 1-2个英特尔第三代Xeon处理器。GPU 架构为主流加速架构,是服务器核心成本构成。GPU采用并行计算,适用于处理密集型运算,如图形渲染、机器学习等场 景,AI算力需求的提升推动了GPU卡的运算速度和用量需求进一步增长。根据 IDC 数据,2022年GPU加速卡占据AI市场89% 的份额,在机器学习型服务器中GPU成本占比达 72.8% 。

高速互连技术开创者,多卡互联优势显著。为实现超算模型的高速通信需求,英伟达开创式提出NVLink和NVSwitch技术:NVLink主要用于连接多个GPU,以加速高性能计算和深度学习等应用;NVSwitch用于连接多个GPU和CPU,形成高性能计算系 统,适用于更复杂和大规模的场景,用户可根据具体应用需求和系统配置来决定使用NVLink或NVSwitch。GH200超级芯片所采 用的NVLink-C2C技术,通过Chiplet工艺将CPU+GPU组合到同一封装,相比于PCIe5在能效方面提升25倍,面积效率提升90倍。CUDA生态不断演进,满足各类行业需求。英伟达依托于CUDA软件栈进行第三方应用及工具的扩展,形成了广义的CUDA生态, 并在此基础上向上扩展出CUDA-X,以对接不同的行业应用需求,分为面向AI计算的CUDA-X AI和面向HPC计算的CUDA-X HPC。

受益大模型热潮,国内AI服务器市场增量明显。ChatGPT横空出世,引发科技企业大模型竞赛,全球算力需求呈指数级增加,带 动国内AI服务器市场快速增长,以浪潮信息为主的国内厂家占据国内AI服务器主要市场。头部厂商持续加单,国内AI芯片需求强劲。全球头部互联网厂商相继入局大模型赛道,以英伟达GPU为代表的算力核心产品订单 暴增,一批中国AI芯片企业立足于不同技术路径开展研发,面向云计算、汽车、智能家居等领域,国内AI芯片市场同样前景广阔。

大力发展硬件的同时,软件也是及其重要的一环。英伟达不仅在硬件方面具有统治力,在软件平台也具有很强的竞争力,CUDA生 态已成为行业标的。对国内企业而言,兼顾软硬的发展路径至关重要,大力发展算力的同时,国产软件生态的建立刻不容缓。共建生态开发平台,加速AI芯片落地。寒武纪不仅实现了终端、云端、边缘端产品的完整布局,还为云边端全系列智能芯片与处理 器产品提供统一的平台级基础系统软件Cambricon Neuware,使开发的应用可以在云边端互相兼容,大幅减少云边端不同平台的 开发和应用迁移成本。华为同样致力于“一平台双驱动”为核心的昇腾AI生态,已有200多家合作伙伴经过认证,围绕昇腾的开发 者超30万,其中核心开发者超2000,并在100多所高校开展了昇腾的人工智能课程。

HBM:需求暴增,产能紧缺

HBM内存技术:新型高性能存储产品的竞争与短缺。HBM(High Bandwidth Memory,高带宽内存)是一款新型的 CPU/GPU 内 存芯片,是将多个 DDR 芯片堆叠在一起后和 GPU 封装在一起,实现大容量和高位宽的 DDR 组合阵列。目前 HBM 占整个 DRAM 市场比重约 1.5%,为新型高性能存储产品,处于缺货低库存阶段。SK海力士、三星、美光等存储巨头都在HBM领域展开了升级竞 赛。

SerDes作为底层接口技术,是充分发挥AI硬件算力效能的关键。SerDes是Serializer/Deserializer的缩写,即串行器和解串器, 是目前主流的串行通信技术。通过数据在发送端并转串—串行传输—在接收端串转并,实现芯片间信号的有线传输。相比于传统 并行接口传输,SerDes具有更高的速率(Gbps级)、更低的功耗,以及显著的成本优势,能够满足AI训练&推理等场景下高带 宽、低延迟的数据传输要求,适用于电信、汽车、工业等领域。

PCB及载板:规格加速升级,单机ASP持续上升

OAM卡,是承载GPU加速卡片的PCB板,以NVIDIA DGX H100服务器为例,其可搭载8颗GPU,显著高于普通服务器,因此其PCB用量显著 高于普通服务器。AI服务器的OAM卡需要用更高层数的PCB板,价值量更大。由于AI服务器电路更加复杂,需要更大带宽和更高传输速率,因此OAM需要更高 层数PCB。NVIDIA OAM共两个版本,SXM约需要20层PCB,而Pcle版本层数相对较少;相比传统服务器,AI服务器的PCB层数更高,单台 PCB价值量大幅提升。AI服务器的OAM由于芯片性能的提升,对布线密度提出了更高要求。其需要4阶及以上HDI加工工艺,根据靖邦电子,HDI板增加一阶,成本 增加18%左右,因此带动OAM的ASP上升。目前国内企业鹏鼎控股、沪电股份、奥士康、胜宏科技等均有领先布局。

交换机:速率需求升级,锐捷和新华三竞争力提升

数据流量快速增长和人工智能快速发展推动数据中心网络架构转型,有望驱动交换机数量和端口速率上行,高速以太网交换机市场有望 实现强劲增长。根据IDC预测,中国25G端口交换机市场规模到2022年将达到4.4亿美元,而100G交换机市场规模将达到13.87亿美元。国内交换机市场集中度较高, 锐捷和新华三市场份额提升。根据IDC测算,2022前三个季度新华三、华为、星网锐捷三家市占率已经超 过80%,国产份额持续保持领先。

03网络连接:算力配套的核心,兼顾800G主线和扩散行情

800G主线:互联带宽快速提升,催化800G模块需求

(本文仅供参考,不代表我们的任何投资建议)

文琳编辑

免责声明:转载内容仅供读者参考,观点仅代表作者本人,不构成投资意见,也不代表本平台立场。若文章涉及版权问题,敬请原作者添加 wenlin-swl  微信联系删除。

为便于研究人员查找相关行业研究报告,特将2018年以来各期文章汇总。欢迎点击下面红色字体查阅!

文琳行业研究 2018年—2023年6月文章汇总


今日导读:点击下面链接可查阅

公众号 :文琳行业研究

  1. 2023全球汽车供应链核心企业竞争力白皮书

  2. 新能源汽车产业链

  3. 2023汽车行业研究报告

  4. 全球电动汽车展望2023

  5. 汽车品牌影响力研究(2022版)

  6. 2023年乘用车行业深度研究报告

  7. 2023汽车定制改装行业发展白皮书

  8. 2023汽车产业紧缺人才趋势观察

    ▼长按2秒识别二维码关注我们


《文琳资讯》

提供每日最新财经资讯,判断经济形势,做有价值的传播者。欢迎关注

今日导读:点击下面链接可查阅

  1. 最新!世纪老人来访,释放何种信号?大桥被炸,普京强硬表态!罕见一幕:"大量"猫感染禽流感

  2. 央行发声后,存量房贷利率调降有无进展?来看最新调查

  3. 工信部最新回应

  4. 国家发展改革委回应关键问题!信息量很大

  5. 同比增长64.6%!国家知识产权局最新发声

  6. 华北这么热,究竟怎么回事?


▼长按2秒识别二维码关注我们
公众号 :就业与创业
点击下方可看
  1. 社保断缴1次,这些待遇全部取消!7月起正式执行

  2. 工资未发先报个税是否可行?税务总局明确回复了!

  3. 大儿子成老赖,小儿子砸招牌,75岁出山的陶华碧救不回“老干妈”

  4. 排队过万人,爆火6年!这个餐饮黑马,在东北杀疯了


继续滑动看下一个
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存