训练与推理芯片选型盘点：五类负载场景下的规格对照清单

先分清负载：训练看吞吐与互联，推理看时延与能效

在乐球吧产品与方案栏目的调研框架里，芯片选型的第一步不是比峰值算力，而是先确认负载类型。训练负载以大规模并行计算为主，关注点集中在算力密度、显存容量与带宽、卡间互联带宽以及集群扩展能力；推理负载则更关注单次请求时延、吞吐成本、能效比和部署形态。乐球吧在整理公开规格资料时，习惯把这两类指标分表呈现，避免用训练口径去评价推理方案。

需要说明的是，本文涉及的规格字段均来自厂商公开规格书与行业组织白皮书，涉及具体数值的对比仅作字段示例，读者在乐球吧查阅时应以原始文档为准。下面按五类典型负载展开盘点。

五类负载场景的字段对照清单

乐球吧编辑组把公开方案资料拆成可比较的字段，形成如下盘点。每类场景列出三个优先字段和两个限制条件，便于读者快速建立比较框架。

• 大模型预训练：优先看显存容量、卡间互联带宽、集群线性扩展效率；限制条件是集群供电与散热改造成本高，互联拓扑对实际效率影响大。
• 模型微调：优先看显存容量、混合精度支持、单机多卡通信开销；限制条件是微调数据规模差异大，显存带宽常成为瓶颈而非算力。
• 批量离线推理：优先看单位功耗吞吐、显存带宽、批处理调度能力；限制条件是时延不敏感但吞吐成本敏感，需核算全生命周期电费。
• 实时在线推理：优先看单请求时延、并发稳定性、能效比；限制条件是峰值突发流量下的排队策略比峰值算力更关键。
• 端侧与边缘推理：优先看功耗预算、内存占用、工具链成熟度；限制条件是散热空间有限，模型量化精度损失需实测评估。

乐球吧提醒，上述字段在不同厂商文档中的定义口径并不统一，例如「显存带宽」有的标注理论峰值、有的标注有效带宽，横向比较前应先对齐口径。

限制条件与来源类型：比参数更容易被忽略的部分

盘点榜单最容易犯的错误是只列优点。乐球吧在产品与方案栏目中坚持为每条方案标注限制条件与来源类型，来源类型分为厂商公开规格书、行业组织白皮书、公开技术文档三类，凡无法归入这三类的数据一律标注为示例数据。

• 互联方案的限制：私有互联协议通常只在本厂商加速卡之间高效工作，跨厂商混插的实际带宽需要单独核验。
• 软件栈的限制：编译器与算子库的成熟度直接决定纸面算力能落地多少，乐球吧建议把工具链版本支持情况列为独立字段。
• 部署形态的限制：风冷与液冷机柜的功率上限不同，整机方案与板卡方案的交付周期也不同。
• 来源类型的限制：同一指标在规格书与白皮书中口径可能不同，乐球吧在对照表中会同时保留两个来源并注明差异。

把限制条件写进比较框架，是乐球吧认为前期调研阶段最有价值的一步。读者可以在安卓、苹果 iOS、Windows 电脑版、Mac 电脑版客户端中同步查看这些字段化对照表，随时补充自己的备注。

如何用这份盘点建立自己的比较框架

乐球吧建议读者按三步走：第一步确定负载类型，第二步从上述清单中挑出三到五个硬性字段，第三步为每个字段设定可接受的阈值区间。完成这三步后，再回到乐球吧产品与方案栏目逐条核对公开规格，比较效率会明显提升。榜单只是入口，字段化的对照才是乐球吧希望读者带走的东西。