谷歌一天加两款 TPU：8tx 专做保密推理，8i Max 两颗芯片拼一起扛百万级上下文

谷歌 11 月 9 日宣布第八代 TPU 再添两款系统：TPU 8tx 与 TPU 8i Max。加上 4 月在 Google Cloud Next 上发布的 8t（大规模训练）与 8i（实时推理），谷歌一年内推出四款 TPU 系统，官方称这是第一次。需要说明的是，两款新品都是已有芯片的新封装与新系统组合，而非全新芯片。

TPU 8tx 主打保密推理：它用与 8t 相同的芯片，配第五代 AMD EPYC 主机，把安全做进硬件层——数据与模型权重即使在处理过程中也保持受保护与隔离，面向银行、政府等受监管客户在最敏感的数据上跑前沿模型与自主智能体。借用 8i 的 Boardfly 低延迟网络，多步骤智能体的延迟比 8t 最多低一半，且性能损失接近于零；同一系统还能同时跑推理与微调、蒸馏、强化学习，敏感数据不用在不同集群间搬运。

TPU 8i Max 解决的是另一头的问题：内存墙。谷歌把两颗 8i 芯片封进同一个封装，算力、片上 SRAM 与 HBM 带宽都比单颗 8i 翻倍，机架占地不变，面向数十个智能体同时处理整个代码库或数小时视频这类百万 token 级上下文场景；谷歌称这是同代产品里单位机架算力密度最高的配置。

谷歌同时称 TPU 客户已近 100 家，包括前沿实验室、交易公司、零售商与大学，但没有点名；配套的开源与易用性动作也在同一天推出，包括开源 TorchTPU、TPU agent suite 进入预览、开源 TPU Sync 模型状态层、Cloud Pathways 在 GKE 上正式可用。保留两点：官方公告没有公布价格与上市时间，彭博社引述谷歌称两款系统明年（2027 年）才供货；所有性能数字均为谷歌自述，没有独立基准。此前谷歌的 TPU 刚第一次走出自家云、由 Oracle 2027 年起上架，加上英伟达拉上韩国厂商打通主权 AI 基建，AI 算力底层的争夺正在从芯片本身蔓延到封装、网络与软件栈。

来源：Google 官方博客，原文