谷歌开源TorchTPU,挑战英伟达AI开发主导地位
原文:Google has joined Amazon in attacking Nvidia’s stronghold with AI app developers
周二,Google宣布其备受期待的PyTorch版本TorchTPU现已作为开源项目开放。至此,Google加入了Amazon的行列,试图打破Nvidia在AI行业的垄断地位——目前大多数AI应用默认运行在Nvidia的芯片(即GPU)上。PyTorch是AI应用开发者和初创公司广泛使用的流行开源工具包,用于构建、训练和运行AI模型。据某些统计,85%的AI应用都在使用它。PyTorch最初由Meta(当时的Facebook)于2016年开发,远早于世人意识到大语言模型将改变世界之时。当时,Nvidia的GPU已经是AI研究的标准硬件,因此PyTorch的许多功能都是专门针对Nvidia GPU构建的。2022年,Meta将PyTorch移交给了Linux基金会——一家管理众多重要开源项目的非营利组织。Google的版本TorchTPU可让AI应用运行在Google自研的AI芯片——张量处理单元(TPU)上。它还能让现有的PyTorch应用轻松迁移到TPU,进而迁移到Google Cloud。开发者只需修改简单的配置即可实现,无需重写应用。Amazon在周一也发布了类似公告,推出了自己的PyTorch版本TorchNeuron。TorchNeuron允许AI应用无需重写即可移植到Amazon自研AI芯片Trainium和AWS上。Amazon还表示,它正在更进一步 loosening Nvidia对PyTorch的控制——向PyTorch主项目提交代码,将各项功能与Nvidia芯片解耦,使其默认对任何硬件更加开放。不过,Google在几个方面可能比Amazon更胜一筹。Google表示,它与Meta、Hugging Face、Inferact(vLLM的开发者)、RadixArk(SGLang的开发者)等直接合作,确保TorchTPU的功能和代码库能与这些流行的AI开发工具良好配合,就像原版PyTorch一样。此外,这家搜索巨头还推出了一个专用工具——TPU ag