11 月 9 日,谷歌云发布第八代 TPU 的两款新系统:面向机密推理的 TPU 8tx 和面向超长上下文的 TPU 8i Max。加上 4 月推出的训练型 TPU 8t 与推理型 TPU 8i,第八代 TPU 在一年内从两款扩到四款。这是谷歌做 TPU 十多年来第一次在单一年份放出四套系统,而两款新品都没有新流片,用的是已有的 8t 和 8i 硅片,改的是封装、主机 CPU 和互连。
8tx 换的是主机与安全边界
TPU 8tx 沿用 TPU 8t 的同一颗芯片,整机配置按机密计算重做:主机侧换成第五代 AMD EPYC,加密做到硬件层,模型权重和客户数据在运算过程中保持加密与隔离,而不是先解密进内存再算。这一点对上政府、金融、医疗这类受监管客户是关键——传统云方案加密的是静态数据和传输中的数据,正在被处理的那份数据本身是裸露的。
8tx 还借了 8i 的 Boardfly 光互连。按谷歌的说法,相比 8t 基线,延迟最多可以砍半,性能代价接近于零。训练级算力配推理级网络,意味着客户可以在同一套系统里用私有数据微调、把大模型蒸馏成小模型、再用强化学习训练智能体,不必把敏感数据搬到另一个集群。

谷歌官方博客:左侧为面向机密推理的 TPU 8tx,右侧为双芯片封装的 TPU 8i Max
8i Max 换的是封装密度
TPU 8i Max 把两颗低延迟的 8i 封进同一个封装,算力、SRAM、HBM 容量与带宽都翻倍。它解决的是长上下文场景下的内存墙:处理几小时音频、大型代码库、长视频流时,瓶颈不在算力,而在数据供给跟不上。双芯封装仍塞得进现有 19 英寸机柜,单柜部署的硅片数量翻倍,每平方英尺、每瓦的算力密度跟着上去。
真正的信号:芯片按年走,系统按月走
谷歌芯片业务负责人 Amin Vahdat 的说法很直接:新品不是全新设计,是按客户需求重新配置的产品。他的逻辑是,与其做一颗试图覆盖全部市场的芯片,不如做多个专用版本。这条路的前提是模块化——加速器芯片、封装、高速内存、光互连、主机 CPU 各自可以换。同时放出的 Agent Compute Engine 是同一思路的软件版本:空闲的智能体会话可以在毫秒级挂起,把工作内存移出芯片。
对硬件供应链,这意味着采购清单在变长。加速器之外,主机 CPU 成了绑定项,8tx 明确配 AMD EPYC;光互连成了性能项;封装成了密度项。谷歌称云 TPU 目前有近 100 家外部客户;10 月 Oracle 宣布在 OCI 上提供 TPU,这是 TPU 第一次出现在竞争性超大规模云上。行业研究机构给出的预测是,到 2028 年 TPU 相关软硬件销售额超过 1350 亿美元,今年约为 120 亿美元。
给做方案的人一条建议
如果你在做服务器、板卡或液冷方案,别再只盯加速器的型号和算力数字。这一轮专用化的实际约束落在主机侧 CPU 供货、光模块配比和封装后的单柜功率密度上。建议在 2027 年平台规划里把主机 CPU 与光互连的供货确定性单列成风险项,按季度跟踪,而不是等样机做出来才发现某个环节卡住。