硬件并排对比
勾选 2–4 款硬件（默认 4 款文献引用数据），并排查看厂商标称规格、实测 / 文献引用指标与价格。 标注“待补”的条目为占位（example=true）或 result=null 未实测，未参与数值对比。
选择硬件
并排对比图
分组柱状图：每个维度一组，组内每款硬件一根柱；柱高按组内最大值归一（100%）。“—” 为未实测 / 占位条目。
NVIDIA H100 SXM5 80GB
NVIDIA A100 SXM4 80GB
AMD Instinct MI300X 192GB OAM
Intel Gaudi 2 (HL-225B) 96GB
| 维度 | NVIDIA H100 SXM5 80GB | NVIDIA A100 SXM4 80GB | AMD Instinct MI300X 192GB OAM | Intel Gaudi 2 (HL-225B) 96GB |
|---|---|---|---|---|
| 显存带宽（实测） | —（待补） | —（待补） | —（待补） | —（待补） |
| 推理吞吐（70B 离线） | 13250 tokens/s | 6200 tokens/s | 14500 tokens/s | 4800 tokens/s |
| 训练吞吐 | 950 tokens/s | 470 tokens/s | 720 tokens/s | 380 tokens/s |
| 稳态功耗 | 680 W | 380 W | 720 W | 560 W |
| 价格性能（派生） | 1.887 USD/MTok | 1.935 USD/MTok | 1.034 USD/MTok | 1.875 USD/MTok |
对比结果
| NVIDIA H100 SXM5 80GB | NVIDIA A100 SXM4 80GB | AMD Instinct MI300X 192GB OAM | Intel Gaudi 2 (HL-225B) 96GB | |
|---|---|---|---|---|
| 厂商标称规格 | ||||
| 架构 | Hopper (GH100) | Ampere (GA100) | CDNA 3 | Gaudi 2 |
| 显存 | 80 GB HBM3 | 80 GB HBM2e | 192 GB HBM3 | 96 GB HBM2e |
| 带宽（标称） | 3350 GB/s | 2039 GB/s | 5300 GB/s | 2450 GB/s |
| TDP | 700 W | 400 W | 750 W | 600 W |
| FP16 | 989 TFLOPS | 312 TFLOPS | 1307 TFLOPS | 432 TFLOPS |
| INT8 | 1979 TOPS | 624 TOPS | 2614 TOPS | 864 TOPS |
| 发布年份 | 2022 | 2020 | 2023 | 2022 |
| 实测 / 文献引用指标 | ||||
| 显存带宽（实测） | —（待补） | —（待补） | —（待补） | —（待补） |
| 推理吞吐（70B 离线） | 13250 tokens/s | 6200 tokens/s | 14500 tokens/s | 4800 tokens/s |
| 训练吞吐 | 950 tokens/s | 470 tokens/s | 720 tokens/s | 380 tokens/s |
| 稳态功耗 | 680 W | 380 W | 720 W | 560 W |
| 价格性能（派生） | 1.887 USD/MTok | 1.935 USD/MTok | 1.034 USD/MTok | 1.875 USD/MTok |
| 价格 | ||||
| 价格（本币） | USD 25,000 | USD 12,000 | USD 15,000 | USD 9,000 |
| USD 等值 | ≈ 25,000 USD（参考汇率 7.17） | ≈ 12,000 USD（参考汇率 7.17） | ≈ 15,000 USD（参考汇率 7.17） | ≈ 9,000 USD（参考汇率 7.17） |
| 价格抓取日期 | 2026-09-10 | 2026-09-10 | 2026-09-10 | 2026-09-10 |
| 税制 | 不含税 | 不含税 | 不含税 | 渠道参考价 |
数据状态：partial — 厂商标称 / 文献引用（MLPerf 公开提交、厂商白皮书等），非本团队独立实测。标注“待补”的条目为 example=true 占位 / result=null 未实测，未参与对比数值。