AI催化HBM需求爆发,核心工艺变化带来供给侧增加

小夏 财经 更新 2024-02-02

HBM代表高带宽内存,应用场景集中在服务器GPU内存

高带宽内存(HBM)是一种用于GPU和CPU之间高速数据传输的高带宽内存,主要应用场景集中在数据中心高性能服务器的GPU内存中,一小部分用于CPU内存芯片。 HBM 也是 3D 结构,由多层 DRAMDIE 垂直堆叠而成,每层 DIE 通过 TSV(Through Silicon VIA)+BUMPS 技术连接到逻辑 DIE,然后通过中间层连接到 GPU CPU SoC,使 4 层、8 层、12 层等 DIE 封装在很小的体积空间内。

HBM 帮助 AI 服务器升级到更高的带宽和容量。

目前主流显卡使用的显存是GDDR5,但在应用上还是有痛点的: 1)占用PCB面积大:12 16颗GDDR5芯片分布在GPU核心周围,GDDR芯片的尺寸不能继续缩小,占用更多的空间,还需要更大的调压模块, 2)GDDR5的功耗提升已经达到了一个拐点,对GPU性能的提升有负面影响:因为平台和设备需要实现逻辑芯片和DRAM之间的功耗平衡,而目前的GDDR进入了功能性能曲线的低效区,内存功耗的增加将阻碍未来GPU性能的提升。

需求端:HBM 广泛应用于 AI 服务器,市场上主流服务器均采用 HBM 解决方案。

HBM 因其高带宽、低功耗和小尺寸而广泛应用于 AI 服务器场景。 HBM 的应用主要集中在高性能服务器,2016 年首先在 NVP100GPU (HBM2) 中实现,然后于 2017 年应用于 V100 (HBM2)、2020 年 A100 (HBM2)、2022 年 H100 (HBM2E HBM3),最新一代 HBM3E 搭载了 NVIDIA 于 2023 年发布的 H200,为服务器提供了更快的速度和更高的容量。

需求端:AI服务器出货量增长,催化HBM需求爆发,市场规模快速增长

AI服务器出货量的增长催化了HBM需求的爆发,预计2025年HBM市场规模将超过150亿美元,增长率超过50%。 2022年AI服务器出货量为86万台,渗透率将持续提升,AI服务器约占整体服务器的10%,预计2026年AI服务器出货量将超过200万台,预计复合年增长率为29%。 同时,主流AI服务器的HBM容量需求从40GB升级到80GB和141GB,带动HBM平均容量提升。 我们预计,2025 年 HBM 全球市场规模将达到 150 亿美元,同比增长 68%。

供应端:三大存储厂商占据主要市场份额。

HBM供应商主要集中在SK海力士、三星、美光三大工厂,SK海力士是其中的佼佼者。 其中,SK海力士与AMD合作发布全球首款HBM,23年来率先推出新一代HBM3E,并率先奠定市场地位,主要为**NVIDIA、三星**等云厂商,根据TrendForce集邦咨询数据显示,2022年SK海力士的市场份额为50%,三星的市场份额为40%, 美光将拥有约10%的市场份额。2023年,SK海力士的市场份额预计将达到53%,三星的市场份额为38%,美光的市场份额为9%。

供应端:原储能工厂增产HBM,预计24年内增加2台5次。

原来的存储工厂增加了HBM的产能,SK海力士计划在24年内将产能翻一番。 SK海力士HBM3E将于24年上半年量产,目标是在24年将HBM产能翻番,虽然24年的资本支出计划与23年基本相同,但与TSV相关的投资将同比增长一倍以上。 美光HBM3E将于24年初开始量产,预计24年资本支出为7.5-80亿美元,略高于去年同期,主要用于HBM量产。 三星计划在天安工厂新建一条包装线,用于大规模生产HBM,追加投资7亿美元。

HBM 封装工艺的变化主要体现在 COWO 和 TSV 上。 1)CoUVes:将DRAMDIE一起放置在硅中介层上,通过Chiponwafer(COW)的封装工艺连接到底层衬底,即通过Chiponwafer(COW)的封装工艺将芯片连接到硅片上,然后将COW芯片连接到衬底上,集成到CODOS中。目前,HBM和GPU集成的主流解决方案是台积电的CODOS,它已经广泛应用于A100和GH200等计算芯片中,通过缩短互连长度来实现更高速的数据传输。

供给侧的变化:核心流程的变化带来增量

HBM 封装工艺的变化主要体现在 COWO 和 TSV 上。 2)TSV:TSV硅通孔是容量和带宽扩展的核心,通过在整个硅晶圆厚度上打孔,在芯片的正面和背面之间形成数千个垂直互连。在 HBM 中,多层 DRAMDIE 堆叠在一起,通过硅通孔和焊料凸块连接,只有最底部的芯片可以向外连接到内存控制器,而其余的芯片则通过内部 TSV 互连。

配套链条——封装和测试。

同福微电子:公司国内前2名5D 3D封装平台和超大尺寸FCBGA研发平台,并完成高层重布线技术开发,为客户提供晶圆级和衬底级小芯片封装测试解决方案,并已量产多层堆叠NAND Flash和LPDDR封装,是国内首家完成基于TSV技术的3DS DRAM封装开发的封测工厂。 AMD于2023年推出MI300,并将在23Q4继续下滑,预计24年后将迎来销量大幅增长,公司将充分受益。

长电科技:公司与客户共同开发25DFCBGA产品,TSV异构键合3DSOC FCBGA通过认证。 公司封测服务涵盖DRAM、FLASH等,深耕行业20余年,在16层Nandflash堆叠、35um超薄芯片制程能力、混合异形堆叠等方面处于行业领先地位。 公司XDFOI技术平台布局AI、5G、汽车、工业等领域,XDFOI小芯片量产。

太极实业:公司子公司海泰半导体与SK海力士签署为期五年的合作协议,SK海力士持有与SK海力士深度绑定的海泰半导体45%的股权,海泰为SK海力士提供DRAM封装服务。 SK海力士在23年中占据了HBM市场约50%的份额,随着24年来HBM出货量的爆发,公司有望承接溢出的封测需求。 深科技:公司通过收购专注于高端封测的培盾科技进入存储封测领域,拥有DDR5和LPDDR5封测的生产能力。 培盾凸块项目已通过小批量试制,重点关注FC翻转工艺、POPT堆叠封装技术研发、16层超薄芯片堆叠技术优化等。

支撑链 - 设备。

赛腾股份:公司通过收购全球领先的晶圆检测设备供应商日本Optima进入晶圆检测设备领域,公司产品涉及实心芯片设备、分选设备、晶圆封装机、晶圆缺陷检测机、倒角粗糙度测量、晶圆字符检测机、晶圆激光打标机、晶圆激光开槽机等, 通过Optima切入三星、SK siltron、Sumco等主要客户连锁店,三星增加了24年的资本支出,预计公司将受益于24年内HBM产线的扩建计划,23年内将扩大一倍以上,对测量设备的需求将增加。

随着 NANOV**E HP 和 Nanova Lux 的推出,ICP 刻蚀设备的验证工艺范围不断扩大,ICP 验证刻蚀工艺在先进逻辑芯片、高级 DRAM 和 3D NAND 中的覆盖率有望扩大到 50%-70%。 该公司的 8 英寸和 12 英寸 Primo TSV 200E 和 Primo TSV 300E 用于晶圆级先进封装,25D封装和MEMS芯片生产线订单充裕,12英寸3D芯片通硅刻蚀工艺已成功验证。

随着存储芯片的主流制造工艺已经从2D NAND发展到3D NAND结构,结构的复杂性导致对薄膜沉积设备的需求逐渐增加,3D NAND闪存芯片的堆叠层数不断增加,逐渐从32层到64层发展到更多层和更先进的工艺, 而对薄膜沉积设备需求增加的趋势也将持续下去。

支撑链 - 材料。

雅克科技:2016年,公司通过收购UP Chemical正式进入前驱体行业,UP化学自04年起成为SK海力士的核心前驱体供应商,形成了多年的深度绑定。 SK海力士拥有50%的市场份额,并将在22Q3独家供应NVIDIA的HBM3。 公司产品涵盖硅前驱体、高K前驱体、金属前驱体,将充分受益于HBM需求的增加和SK海力士出货量的增加。

诺沃瑞新材料:公司深耕无机填料和颗粒载体行业近40年,是国内领先的硅粉。 公司持续专注于高端芯片AI、5G、HPC封装、异构集成先进封装小芯片、HBM、新一代高频高速覆铜板,推出多种规格的低切点低微米亚微米球形硅粉、低切点低微米亚微米球形氧化铝粉、高频高速覆铜板用低损耗超低损耗球形硅粉, 以及用于新能源电池的高导热微米亚微米球形氧化铝粉。

益仕通:公司布局了低高纯石英和低纯氧化铝制备技术、低粉制备技术、记忆封装球形生产工艺等核心技术,具备低射线球形氧化铝的产业化能力。 公司计划新建年产200吨的高端芯片封装用低球形氧化铝项目,预计2023年下半年部分投产。 低球形氧化铝粉末在EMC或GMC中约占80%-90%的体积填充,预计将受益于HBM出货量的增加。

华海诚科:公司是国内领先的环氧成型材料,在先进封装领域,公司已成功开发出用于QFN BGA、FC、SIP、FOWLP FOPLP等封装形式的封装材料。 GMC颗粒环氧模塑材料可用于HBM封装,公司相关产品已通过客户验证,目前正处于样品交付阶段,有望受益于国产材料的替代。

这是报告的节选,是报告的原始PDF

信息技术-算力系列报道(1):AI服务器催化HBM需求爆发,核心工艺变革带来供给侧增量-太平洋 [张世杰,李觉涵]-20240125[第26页]。

报告**:价值目录

相似文章

    对 HBM 的需求激增,强烈推荐给材料方面的公司

    AI产生了巨大的算力需求,HBM芯片需求呈爆发式增长,上游材料企业迎来了新的发展机遇。 年 月底,OpenAI 发布了一款名为 ChatGPT 的对话式聊天机器人模型,该模型一经推出就迅速在互联网上走红。年月,OpenAI正式推出大规模多模态模型GPT ,引领AI大模型突破。年月,谷歌AI模型Gem...

    中金公司需求与政策双重催化 储能产业有望迎来快速发展

    智通财经获悉,中金公司发布研报称,在全球 碳中和 背景下,新型储能装机量增加,催化长期储能应用需求,扶持政策不断出台,同时发展了多种技术路线。中金公司主要观点如下 长期储能具有多种优势,在能源消耗中起着重要作用。一般认为,长时储能是放电时间在小时以上的储能系统,凭借其长效 大容量的特点,在跨日 跨月...

    光催化设备 如何选择最适合您需求的光催化设备?

    在选择最适合您需求的光催化设备时,需要考虑以下几个因素 处理能力 确定需要处理的污染物的类型和数量。不同的光催化设备具有不同的处理能力,从小型家用设备到大型工业设备不等。.污染物的种类 不同的光催化装置对不同类型的污染物有不同的影响。例如,一些设备更适合处理有机物质,而另一些设备则更适合处理无机物质...

    2024年AI应用需求及支付意愿调查报告

    今天分享的报告是 年AI应用需求与支付意愿调查报告 特色报告 行业报告智库。摘要 报告显示,人工智能技术在商业世界中引起了极大的关注和支付意愿。不同层次的人都对人工智能技术表现出了浓厚的兴趣。调查用户的付费意愿也空前高涨,其中 是由个人支付的 和 呈现出明显的增长态势。这种现象在以往的创业浪潮中并不...

    2024年AI应用需求及支付意愿调查报告(325家企业深度调研)。

    报告的全部内容请阅读公开市场分析报告中的原文。年AI应用需求与支付意愿调查报告 家企业深度调研 大纲目录。 AI行业调研的核心数据及三大新机遇。.对 AI 应用的 个新见解。.基于人工智能应用的个实践观察。以下为报告摘录 关于市场分析报告。不管你从事什么行业,都要做行业分析 产品分析 市场调研,其目...