谷歌将推出第六代数据中心AI芯片Trillium TPU，性能提升 4.7 倍、节能 67%

在2024年的I/O开发者大会上，谷歌发布了第六代TPU（张量处理器）芯片Trillium。这款新芯片由谷歌自行开发，预计将在今年年底对谷歌云客户启用。Trillium TPU的计算性能是上一代产品TPU v5e的近五倍，同时能效比提高了67%。谷歌表示，这款芯片将用于支持生成文本和其他内容的技术。

Trillium芯片的性能提升主要通过扩大芯片的矩阵乘法单元（MXU）和提高整体时钟速度实现。此外，Trillium芯片的内存带宽也提高了一倍。新芯片采用了第三代SparseCore，谷歌将其描述为处理常见大规模任务的专用加速器，能让Trillium TPU更快地训练模型，并以更低的延迟为模型提供服务。

谷歌TPU芯片是专为人工智能数据中心设计的，与谷歌紧密相关的软件使其在市场份额中占据了重要地位。虽然在人工智能数据中心芯片市场，英伟达仍占大约80%的份额，但谷歌TPU占据了剩下的20%。值得注意的是，谷歌并不直接销售BD9701FP-E2芯片，而是通过云计算平台提供访问权限。

这次发布的Trillium TPU芯片计算性能的提升和能效比的提高，对于行业对ML计算需求持续增长背景下尤为重要。在自然语言处理、计算机视觉、语音识别等领域，Trillium TPU的性能提升将使得研究人员和工程师能够更快地训练更大、更复杂的神经网络模型，提高实时应用的性能和响应速度。

Trillium TPU还采用了第三代SparseCore技术，这是一种专门为处理大规模任务设计的加速器。通过利用SparseCore技术，Trillium TPU能够更高效地处理神经网络中的稀疏矩阵运算，从而进一步提高计算性能。这对于深度学习任务来说是一个重要的突破，因为稀疏矩阵运算在训练和推理过程中占据了很大的比例。

在能效方面，Trillium TPU的表现同样令人瞩目。谷歌表示，这款新芯片的能效比提高了67%，这意味着在相同的计算任务下，Trillium TPU所需的能耗更少。这一改进对于行业来说具有重要意义，因为在ML计算需求不断增长的背景下，降低能耗成为了迫切的需求。谷歌通过优化芯片设计和制造工艺，成功地将能效比提高了67%，为行业树立了新的标杆。

此外，随着生成式人工智能及大型语言模型的大火，包括谷歌在内的一众科技巨头都在加大在这方面的投入，这也就增加了对高性能GPU、高带宽存储器的需求，芯片行业也迎来一个新的发展契机。谷歌此次发布的Trillium TPU芯片，无疑将为这一领域的技术发展和应用推广提供强大的支持。

总的来说，谷歌发布的第六代数据中心AI芯片Trillium TPU，以其强大的性能和高效的能效比，再次展现了谷歌在人工智能硬件领域的领先地位。随着人工智能技术的不断发展和应用的广泛推广，Trillium TPU芯片的推出将对整个行业产生深远的影响。