普洛斯ASP管理园发布首份可持续发展报告
06-17
本周，全球IT行业最大的新闻就是OpenAI联合创始人Sam Altman离开原来的公司，加盟微软。
当然，这还没有结束。
Sam Altman 被开除出 OpenAI 董事会，这被认为是技术派的胜利，因为另一位联合创始人 Saskville 认为 Altman 的商业化行为过于激进，存在诸多安全风险。
因此，他联手另外三名外部董事，驱逐了奥特曼。
本文不重点讨论OpenAI的“法庭之战”大戏。
无论Altman最终留在微软还是回归OpenAI，都不会影响他创造新的AI软硬件技术和市场的意愿。
区别只是在哪里做。
据悉，在被解雇之前，奥特曼正在探索新业务。
他试图在中东为人工智能（AI）芯片项目Tigris筹集数十亿美元，还想创建一家专注于AI芯片研发的公司。
或许，这个项目已经被微软拿下了。
Altman 还一直在寻求为他与前苹果设计总监 Jony Ive 共同开发的人工智能硬件设备筹集资金。
近年来，在人工智能蓬勃发展的背景下，奥特曼并不是唯一一个不满足于已经取得的“辉煌成就”而选择另起炉灶的行业领军者（要么创业，要么创业）。
加入一家充满活力的大型公司）。
还有很多其他的。
许多业内知名人士，尤其是技术专家，因为无法抗拒人工智能发展的巨大潜力，纷纷选择再次创业。
他们必须利用当前行业仍处于“野蛮生长”的初级阶段，努力采用先进的技术和产品。
，掌控未来竞争的主动权。
这些人中，典型代表是CPU架构大师Jim Keller和GPU架构大师Raja Koduri。
今年6月，吉姆·凯勒在工作两年后离开了英特尔。
今年年初，AI芯片初创公司Tenstorrent宣布任命Jim Keller为公司总裁兼首席技术官，以及董事会成员。
Tenstorrent成立于2016年，旨在通过新的方法和架构开发新的AI处理器，以推动AI和机器学习的发展。
近两年来，Tenstorrent非常看重RISC-V的应用前景，认为其非常适合未来低功耗AI应用市场需求。
今年3月，Raja Koduri离开了工作了五年的英特尔，选择创业。
Koduri 表示，他的新创业公司 Mihira AI 将打造新的生成式人工智能工具，可以在英特尔、AMD、苹果等公司的芯片以及未来的 RISC-V 架构芯片上运行。
1、AI系统和芯片有待完善。
目前的AI服务器大多采用异构形式构建。
即计算系统中使用多种不同类型的处理器（CPU、GPU、FPGA、NPU等），可以增加计算量。
速度和效率满足不同工作负载的需求，因为AI工作负载往往需要大量的数值计算和并行运算。
传统CPU在通用计算中表现良好，但对于深度学习等需要大量矩阵计算的任务，性能就会不足。
这时，结合GPU、TPU等处理器，可以更好地满足AI任务的需求，提供更高效的计算能力。
针对AI系统的这种异构需求，不同的处理器厂商，尤其是AMD、Nvidia等传统厂商，以及自研AI芯片的互联网厂商，都有自己的解决方案。
然而，虽然不同的解决方案都有各自的优点，但也都存在着这样或那样的缺点。
AMD推出了APU概念和产品，它是CPU+GPU的组合。
其优点在于可以充分发挥两种处理器各自的优势，弥补彼此的不足，并在一定程度上降低功耗。
然而，其AI训练性能并不比独立GPU好。
为了满足自家系统的需求，谷歌开发了自己的张量处理器TPU（TensorProcessingUnit）。
它是一种ASIC处理器，与CPU、GPU、APU等通用处理器有很大不同。
TPU 非常具体。
功能强大，针对机器学习、深度学习等AI应用进行优化，专门用于加速AI计算任务。
不过，谷歌的整个网络系统仍然需要使用大量的通用CPU和GPU。
尽管 TPU 非常有用，但其使用规模仍然有限。
可见，要不断提升AI服务器系统的性能，单靠单一的通用或专用处理器是无法解决问题的。
需要多种处理器协同工作。
这为人工智能芯片新技术和产品的发展提供了机遇。
人工智能系统的训练和推理之间的平衡需要改善。
目前，NVIDIA的GPU是AI训练芯片市场的领导者，但仅占整个AI芯片需求的20%左右。
推理芯片市场相当大。
目前的GPU擅长AI训练，而CPU擅长推理。
两人在彼此的领域展开竞争。
限制是巨大的。
在AI推理市场中，除了数据中心和云计算之外，用户对边缘（如手机、PC，以及机器人、工业系统、汽车）推理的需求正在快速增长。
因此，AI推理市场不仅规模大，而且相当分散。
在这种情况下，边缘侧AI推理芯片的市场规模非常大，发展潜力巨大。
苹果公司的iPhone就是一个典型的例子。
它将 AI 核心集成到 A 系列处理器中。
目前，AI功能占A系列处理器整体功能的20%。
近年来，不少公司也采取了与苹果类似的SoC AI策略。
粗略计算，AI芯片市场大约包括15%的训练、45%的数据中心推理、40%的边缘侧推理。
在这样的市场背景下，一方面，各大处理器厂商都在提升AI训练和推理能力的集成度。
另一方面，边缘推理市场巨大的发展空间为众多移动处理器厂商提供了扩张机会。
AI系统和芯片的功耗也需要改进。
如上所述，边缘侧推理市场巨大，这些应用对低功耗的要求很高。
与此同时，数据中心和云计算系统的功耗高得吓人，不可能无限制地增加。
解决这一大应用领域的功耗问题也受到越来越多芯片和系统厂商的重视。
2、如何解决问题？ 从上面的介绍可以看出，AI系统及相关芯片仍处于成长期，还有很多问题需要解决，特别是AI训练和推理芯片的功能集成、边缘侧AI推理和边缘计算等。
功耗问题，这是各大厂商面临的问题。
，也是初创企业普遍关心的问题。
近期，英伟达推出的新款GPU在AI训练和推理能力的融合方面取得了长足的进步。
该公司表示，H芯片的升级产品H集成了GB的HBM3e内存，推理能力更强，可用于推理或生成问题答案。
时，性能较H提升了60%-90%。
Nvidia表示，与H相比，H在像Llama 2这样拥有1亿个参数的大型语言模型上的推理速度提高了近一倍。
在边缘侧推理方面，以苹果为学习对象，传统手机处理器厂商也在加大新产品的AI推理能力。
以联发科为例，该公司的天玑可以支持生成式AI，支持高达1亿参数的AI大语言模型。
该芯片集成了生成式人工智能引擎。
整数运算和浮点运算的性能是上一代的两倍。
它支持Transformer算子加速和混合精度INT4量化技术。
整体AI性能是上一代的3.3倍，可以流畅运行终端。
生成人工智能的各种新应用。
在降低AI服务器功耗方面，初创企业和各大知名厂商投入较多。
以上面提到的Jim Keller加入的Tenstorrent为例。
该公司正在开发数据中心解决方案。
其核心产品是基于RISC-V架构的AI/ML加速器和通用处理器。
使用RISC-V指令集的重要原因之一是其低功耗。
据悉，Tenstorrent正在与日本新晶圆代工厂Rapidus合作，开发基于2nm工艺技术的边缘侧AI处理器及相关IP。
从目前AI系统的市场需求以及未来该领域对低功耗的要求（数据中心、云端和边缘侧均要求降低功耗）来看，先进工艺未来的发展前景仍然值得期待，因为3nm、2nm，即使是1nm等先进制程技术，也需要不断提升性能，同时不断降低功耗。
未来，先进的制造工艺几乎全部用于AI芯片。
主要半导体国家政府高度重视RISC-V芯片和系统的发展。
美国政府已发布指令，使用RISC-V处理器来模拟下一代稀疏超级计算机，欧盟也建立了基于RISC-V架构的本地加速器项目，称为EPAC。
除了新创公司之外，传统大厂也在不遗余力地研发低功耗AI芯片。
以微软为例。
该公司最近推出了 Cobalt，一款用于云软件服务的处理器。
该芯片是一款基于Arm架构的通用处理器。
与此同时，微软还推出了另一款专用于云训练的AI加速器Maia。
和推理。
这两款芯片将于2020年引入该公司的Azure数据中心。
微软基于Arm架构开发芯片。
重要原因之一是其功耗相对较低。
除了集成AI训练和推理以及低功耗之外，现有架构芯片尤其是CPU和GPU在AI计算方面存在局限性。
因此，一些初创企业和知名传统厂商仍在探索新的架构。
AI芯片，尤其是在打破处理单元和内存之间的“通信墙”方面，投入了大量的精力。
近年来，以Groq、Cerebras、SambaNova、NextSilicon等为代表的初创公司一直在开发自己的新型AI加速器，目标是取代Nvidia的GPU。
这些公司的大部分产品都是ASIC，即AI专用处理器。
目前，这些新型处理器正被美国能源部实验室用于科学研究。
与此同时，美国的许多大学也愿意尝试这些芯片。
例如，NCSA正在与SambaNova合作开发芯片，Cerebras的处理器已用于AI训练。
在创新架构处理器的研发方面，大厂IBM一直是业界的典型代表，AI专用芯片亦是如此。
近日，IBM推出了NorthPole，这是一种新的原型芯片架构，可以让AI计算更快、更节能。
NorthPole是一款数字人工智能芯片，可根据人脑的计算路径进行神经推理。
它采用完全不同的设计方法，将所有存储器集成在处理器芯片上，无需外部RAM。
这使得处理器能够执行快速的人工智能推理。
该芯片专为人工智能推理而设计，不需要复杂的冷却系统。
据悉，紧凑灵活的NorthPole非常适合边缘侧AI应用。
以上介绍的是各类AI处理器和硬件。
要让整个AI系统充分发挥作用，软件工具也发挥着重要作用。
前面提到，GPU架构大师Raja Koduri离开英特尔后，创立了一家新公司Mihira AI，专门开发AI软件工具。
据Koduri介绍，Mihira AI的第一层是异构数据中心架构，涵盖三类工作负载，即：用于渲染的通用CPU计算；人工智能异构加速器；和游戏 GPU 工作负载。
他说，未来的第四个集群可以针对低功耗人工智能推理进行优化。
从未来发展的角度来看，Mihira AI的目标很可能取代NVIDIA的CUDA和AMD的ROCm软件生态系统。
但目前仍处于发展初期，前进的道路十分艰难。
3.结论人工智能系统、芯片和软件市场发展潜力巨大。
各种传统与创新产品同台竞技。
随着应用和市场的发展，未来还有很大的想象和操作空间。
看到各种人工智能技术、产品和业务的发展可能性，越来越多的行业巨头依托初创公司或各大知名厂商开始了各种创新努力。
在撰写本文时，有报道称 Sam Altman 已重返 OpenAI 并继续担任首席执行官。
经过这一波操作，奥特曼有望在OpenAI获得更大的发展空间，其AI技术和业务发展路径有望加速。
【本文由投资界合作伙伴微信公众号授权：半导体产业纵横。
本平台仅提供信息存储服务。
】如有任何疑问，请联系投资界（）。
版权声明：本文内容由互联网用户自发贡献，本站不拥有所有权，不承担相关法律责任。如果发现本站有涉嫌抄袭的内容，欢迎发送邮件 举报，并提供相关证据，一经查实，本站将立刻删除涉嫌侵权内容。
标签：
相关文章
06-17
06-21
06-17
06-17
06-17
06-08
06-17
06-18
最新文章
Android旗舰之王的过去与未来
智能手表不被开发、AR眼镜被推迟，Meta的产品经历了一波三折
为什么Cybertruck是特斯拉史上最难造的车？
更新鸿蒙3后，文杰允许你在车里做PPT了
新起亚K3试驾体验：追求“性价比”，韩系汽车仍不想放弃
阿维塔15登场！汽车配备了增程动力，理想情况下会迎来新的对手吗？
马斯克宣布创建 ChatGPT 竞争对手！ OpenAI的CEO给他泼了冷水， GPT-5可能会发生巨大变化
骁龙无处不在，是平台也是生态