首页 > 科技推动 > 内容

这些AI芯片初创公司想要挑战英伟达，他们能成功吗？

发布于：2024-07-18 编辑：匿名来源：网络

科幻小说《沙丘》中有一句话：“谁控制了GPU，谁就控制了宇宙”。

在当今科技世界，任何公司想要在AI领域有所作为，就必须购买NVIDIA GPU。

　　分析师喋喋不休，将追逐AI梦想的公司分为两类，即“GPU丰富”和“GPU匮乏”。

前者有很多 GPU，后者则不多。

为了证明自己的实力，科技公司的老总们纷纷炫耀自己囤积了多少GPU。

　　在AI浪潮的推动下，英伟达市值已达2万亿美元。

5月22日，NVIDIA公布第一季度财报。

财报显示，NVIDIA期内营收4亿美元，同比增长%；净利润8亿美元，同比增长%。

　　那么，我们可以设计没有GPU的AI专用芯片吗？当然，这也是很多大大小小的公司正在做的事情，他们想要挑战英伟达。

　　Nvidia主导的GPU也有缺陷　　从本质上来说，CPU处理一件又一件事情。

GPU 不同。

它有数千个处理引擎（或核心）可以同时处理它。

数以千计的简单任务。

当GPU运行大型AI模型时，相当于同时运行同一任务的数千个副本。

弄清楚如何重写AI代码以在GPU上运行是一个核心问题，也正是因为大家对这个问题的研究，AI才得以突飞猛进。

　　但是 GPU 也有缺陷。

当数据来回移动时，它们处理数据的速度不够快。

运行大型现代人工智能模型通常需要大量相互连接的 GPU 和内存芯片。

数据在 GPU 和内存芯片之间移动的速度越快，性能就越好。

当研究人员训练大型人工智能模型时，一些 GPU 核心几乎有一半时间处于闲置状态，等待数据。

　　加州初创公司 Cerebras 的创始人安德鲁·费尔德曼 (Andrew Feldman) 解释说，等待数据就像购物假期期间在杂货店前排队一样。

他说：“大家都在排队，停车场堵，过道堵，结帐堵，GPU也类似。

” 　　该怎么办？ Cerebras 将 900,000 个核心和海量内存组合成一个巨大的整体。

这样就降低了连接多个芯片的复杂度，加快了中间的数据移动速度。

这些核心在芯片上连接在一起，运行速度比独立 GPU 组合快数百倍，因为连接更紧密，并且消耗的能源只有 Nvidia 产品的一半。

来自加利福尼亚州山景城的　　Groq 走了一条略有不同的道路。

它还正在开发一种称为语言处理单元（LPU）的人工智能芯片，可以训练和运行大型语言模型（LLM）。

芯片内有存储元件，芯片还具有路由功能，可以在相连的接口板之间传输数据。

与智能路由软件配合使用，可以消除延迟并减少数据等待时间。

独特的设计大大提高了效率和速度。

Groq 声称他们的 LPU 运行 LLM 的速度比现有系统快 10 倍。

　　来自加州的MatX公司则相反。

它认为GPU包含各种功能和电路。

这些组件适用于图形处理，但在 LLM 领域没有用处。

MatX去掉了不必要的组件，当芯片执行一些任务时，性能会更好。

　　还有很多公司也在默默耕耘，比如今年4月融资1.2亿美元的Israel Hailo；多伦多Taalas和美国Tenstorrent，使用开源RISC V架构开发AI芯片；较早进入的英国公司 Graphcore 但失败了，目前正在考虑出售给软银。

　　科技巨头也在开发自己的AI芯片，例如谷歌、亚马逊、Meta和微软。

他们还开发了云人工智能的定制芯片。

AMD 和英特尔与 Nvidia 直接竞争，并且已经拥有 GPU AI 芯片。

　　挑战Nvidia的垄断并不容易　　新手敢于挑战霸主，但可能过于激进、走得太远。

　　斯坦福大学计算机科学家Christos Kozyrakis表示，设计一款芯片需要2-3年的时间。

考虑到大型人工智能模型正在快速发展，2-3年是一个很长的时间。

　　创业公司想要成功，最好抓住机遇，提前为未来车型设计芯片。

这些芯片的性能比Nvidia的一些GPU更好，让他们找到了突破口。

但选择这条路也是有风险的。

为未来模型设计专用芯片的公司最终可能会发现他们下了错误的赌注。

　　MatX 联合创始人 Reiner Pope 相信他们已经看到了未来。

最新的状态空间模型逐渐流行，MatX完全可以适应。

Cerebras 创始人 Andrew Feldman 认为，现代人工智能本质上是“稀疏线性代数”，他们开发的芯片可以快速适应。

　　挑战NVIDIA还有一个障碍，那就是软件层。

CUDA实际上已经成为行业标准，虽然使用起来很麻烦，但其标准地位却很难撼动。

　　Christos Kozyrakis 认为软件为王，Nvidia 在这方面有明显的优势。

毕竟它花了多年时间打磨AI芯片创业生态。

如果他们想要成功，他们必须说服程序员针对新芯片优化他们的程序，并且公司必须提供兼容的主流机器学习框架。

问题在于优化软件以适应新的架构是困难且复杂的。

。

　　AI芯片的客户相对简单。

一类是大型模型开发商，如OpenAI、Anthropic、Mistral，以及科技巨头，如亚马逊、微软、Meta、Google。

他们有兴趣收购优秀的AI芯片初创公司，以抢占技术并增强竞争力。

芯片初创公司可以放弃与英伟达的竞争，努力把自己推销给上述两类公司。