谷歌TPU跑Kimi推理速度超英伟达GPU - AI 圈动态

有团队在谷歌TPU上运行Kimi模型，实测推理速度比英伟达GPU快57%，且使用的是DeepSeek的推理框架。这一结果由vLLM背景的创业团队完成，说明非英伟达硬件配合开源推理栈也能获得可观性能，对长期由GPU主导的AI推理市场构成新的变量，也让TPU与开源框架的组合受到更多关注。

TPU此前多用于谷歌内部训练与推理，第三方团队在其上跑出优于GPU的成绩并不常见。若该结果可复现，意味着推理成本与硬件选择空间可能扩大，英伟达在推理端的优势或面临更多挑战。不过测试条件、模型规模与具体框架版本尚未明确，后续值得观察。