GOOGLE加入AI超算芯片竞赛

coffee198375

GOOGLE在周二年度云计算大会Cloud Next 2024上正式推出基于Arm架构的首款自研CPU Axion，并宣布最新一代云端AI加速芯片TPU v5p正式上市。


GOOGLE云首席实行官托马斯·库里安（Thomas Kurian）在大会上宣称Axion比当今云中最快的、基于Arm架构的通用芯片的性能高出30%，也比当前一代x86架构芯片的性能高出50%，能效高出60%。


Axion专门用于数据中心的数据处理和运算。GOOGLE在官网先容称，在应对信息检索、全球视频分发以及生成式AI等场景时，Axion能提供业界领先的性能和能效。


一、GOOGLE首款Arm CPU，将用于GOOGLE云服务


Axion采用Arm Neoverse V2 CPU核心，能够为计算机在内存缓存、数据分析、介质处理等通用工作提供较高的性能支撑，并提升基于CPU的AI训练和推理能力。


此外，Axion以Titanium架构为基础。由于Titanium卸载了网络和安全等平台操作，因此Axion能够获得更大设备内存，承担更大的工作负载。对于不同的工作，Axion也能实时动态调配设备内存，提升工作效率。


利用在Arm生态系统中的贡献，GOOGLE与Arm和行业合作伙伴密切合作，针对Arm架构对其进行优化。在此基础上，Axion基于Armv9架构和指令集构建，确保常见操作系统和App包可以在基于Arm的服务器和虚拟机上无缝运行，使客户能够更轻松地在GOOGLE云上部署Arm工作负载。


GOOGLE云副总裁兼计算和机器学习基础设施总经理马克·洛迈尔（Mark Lohmeyer）说：“大家让客户更容易将现有的工作负载转移到基于Arm的平台上。Axion建立在开放基础之上，因此客户可以轻松使用Axion，而无需在基于Arm的平台上重新构建或重写他们的应用程序。”


GOOGLE计划将Axion用于GOOGLE旗下的多种服务，例如YouTube广告投放、大数据分析等。GOOGLE称将扩大Axion的使用范围，并在今年晚些时候向客户开放。


二、从TPU到CPU，GOOGLE加快自研步伐


GOOGLE自研CPU Axion的推出，意味着GOOGLE正紧跟AMAZON和MicroSoft这些云领域竞争对手的领先地位。


2021年，AMAZON和MicroSoft推出了基于Arm架构的CPU，以提供差异化的计算服务。GOOGLE此前为YouTube视频网站、AI和智能手机等不同场景推出了定制芯片，但并没有研发过CPU。


事实上，GOOGLE在2016年5月开发者大会上推出自研AI芯片TPU（张量处理单元），并在去年12月7日发布了最新云端AI加速芯片TPU v5p。TPU v5p配备95GB的HBM3内存，每个Pod最多有8960个加速核心，这些加速核心相互连接以支撑最大规模的大模型训练。


与上一代TPU相比，TPU v5p每个Pod计算能力提升了4倍，为AI大模型的训练提供了更强的性能。GOOGLE的TPU也是少数能够替代英伟达先进AI芯片的处理器，但开发者只能通过GOOGLE的云平台访问TPU，不能直接购买。


结语：GOOGLE自研“芯片家族”扩大，占据AI芯片竞赛有利地位


继MicroSoft、AMAZON之后，GOOGLE成为了第三家推出基于Arm架构CPU的科技巨头。从TPU到CPU，GOOGLE自研芯片的能力正不断提升，这些芯片为生成式AI发展提供强劲性能。


虽然Axion具体上市时间还未公布，但凭借这款高能效高性能的CPU，以及Axion对基于Arm架构应用程序的轻松迁移，GOOGLE或将在“造芯”竞赛中占据有利位置。