导读 谷歌宣布推出该公司最强大的可扩展且灵活的人工智能加速器,称为 Cloud TPU v5p 以及新的人工智能超级计算机模型。谷歌计划通过其全新...
谷歌宣布推出该公司“最强大”的可扩展且灵活的人工智能加速器,称为 Cloud TPU v5p 以及新的人工智能超级计算机模型。
谷歌计划通过其全新的云 TPV v5p 芯片和人工智能超级计算机解决方案占领人工智能潮流
随着人工智能市场的快速发展,在为持续开发提供计算能力方面,公司正在转向他们的解决方案。像 Microsoft 的 Maia 100 AI Accelerator 和 Amazon 的 Trainium2 这样的公司的目标是在处理 AI 工作负载的性能优化硬件方面超越彼此,而 Google 也确实加入了这个名单。
现在,谷歌已经推出了几个令人兴奋的元素,例如针对人工智能行业的新 Gemini 模型,但我们的报道将更多地集中在硬件方面。Cloud TPU v5p 是 Google 迄今为止功能最强大且最具成本效益的 TPU(云张量处理单元)。每个 TPU v5p Pod 由多达 8,960 个芯片组成,使用最高带宽的芯片间连接(每芯片 4,800 Gbps)进行互连,确保快速传输速度和最佳性能。谷歌并不打算退缩,因为即将到来的代际飞跃数字会让你大吃一惊。
与TPU v4相比,新发布的v5p具有两倍的FLOPS(每秒浮点运算)和三倍的高内存带宽,这在人工智能领域是令人惊叹的。
此外,在模型训练方面,TPU v5p 在 LLM 训练速度上显示出 2.8 倍的代际跳跃。谷歌还创造了空间来挤出更多的计算能力,因为 TPU v5p“就每个 Pod 的总可用 FLOP 而言,可扩展性比 TPU v4 高 4 倍”。