多家市场研究机构本周发布报告,预测 2026 年全球 AI 推理芯片市场规模将接近翻倍增长。随着大模型应用大规模落地,推理负载首次超过训练负载,成为数据中心算力需求的主要构成。
报告指出,推理场景对成本与延迟的敏感度远高于训练,这为专用推理芯片与存算一体架构带来了机会。多家初创公司的新一代推理加速卡已进入量产周期,单位token成本较通用 GPU 有明显优势。
不过,供应链分析师也提醒,先进封装产能与 HBM 存储供应仍是主要瓶颈,预计短缺状态将延续至明年下半年。
多家市场研究机构本周发布报告,预测 2026 年全球 AI 推理芯片市场规模将接近翻倍增长。随着大模型应用大规模落地,推理负载首次超过训练负载,成为数据中心算力需求的主要构成。
报告指出,推理场景对成本与延迟的敏感度远高于训练,这为专用推理芯片与存算一体架构带来了机会。多家初创公司的新一代推理加速卡已进入量产周期,单位token成本较通用 GPU 有明显优势。
不过,供应链分析师也提醒,先进封装产能与 HBM 存储供应仍是主要瓶颈,预计短缺状态将延续至明年下半年。