声明:这篇文章不是要论证 TPU 不如 GPU。TPU 和 GPU 各有适用场景,谁强谁弱要看具体负载。我要说的是,目前网上流传的那批对比数据本身不准确,很多是 AI 编造、无法溯源的。下面拆的就是这些假数据。
Artificial Analysis 最近放出一组硬件基准测试1,以 Llama 3.3 70B、vLLM、每查询 30 output tokens/s 的参考速度计算每百万输入输出 token 的成本,NVIDIA 对 TPU v6e (Trillium) 有大约 5 倍的每美元 token 优势,对 AMD MI300X 有大约 2 倍优势2。

Artificial Analysis 在 X 上公布的硬件基准结论,NVIDIA 对 TPU v6e 有约 5 倍每美元 token 优势,对 MI300X 约 2 倍,H100 是 1.06 美元,MI300X 是 2.24 美元,TPU v6e 是 5.13 美元。
跟这些能复现的数据一起在网上传的,还有另一类东西。
#
一篇高调的对比文
introl 有一篇文章,标题叫 Google TPU v6e vs GPU: 4x Better AI Performance Per Dollar3。核心论点是 TPU 每美元性能比 H100 好 4 倍,TPU 在推理经济性上全面压过 NVIDIA。它的关键数据来自另一篇文章,ainewshub.org 的 Nvidia vs Google TPU 2025 Cost Comparison4。顺着这条引用链往下看,会发现两篇都是 AI 生成的,数据是编的。
