商汤科技也进场：上线“每日新SenseNova”大模型系统
06-18
在数据中心领域，除了提供大家熟知的AI芯片——GPU之外，NVIDIA还可以在产品“百宝箱”中提供一系列其他产品为客户提供服务。
比如DPU是最具竞争力的产品之一？根据NVIDIA的说法，所谓的DPU是一种新型可编程处理器，结合了三个关键要素。
DPU 是一种 SOC（片上系统），它结合了：行业标准、高性能和软件可编程的多核 CPU，通常基于广泛使用的 Arm 架构，并与其他 SOC 组件紧密配合。
高性能网络接口，能够以线速或网络中可用的速度解析、处理数据并高效地将数据传输到 GPU 和 CPU。
各种灵活且可编程的加速引擎，用于加载和改进人工智能、机器学习、安全、电信和存储等应用程序工作负载。
所有这些 DPU 功能对于实现安全、裸机和云原生的下一代云规模计算至关重要。
数据显示，每年全球DPU行业市场规模将达到30.5亿美元。
预计到2020年全球DPU行业市场规模将突破3亿美元，期内CAGR高达51.73%。
因为这样的性能和市场前景，除了NVIDIA之外，很多第三方芯片供应商也在进入这个市场。
例如Intel、AMD、Marvell等知名芯片巨头。
云宝智能、中科御数、云麦芯联等国内新兴厂商也跃跃欲试。
但与此同时，云厂商也加入了这场游戏，微软就是最新的一个。
微软，进军DPU 据消息称，微软正在开发一款新网卡，可以提高其Maia AI服务器芯片的性能，并有可能减少该公司对芯片设计商Nvidia的依赖。
报道援引知情人士的话称，微软首席执行官萨蒂亚·纳德拉(Satya Nadella)已任命网络设备开发商瞻博网络(Juniper Networks)联合创始人普拉迪普·辛杜(Pradeep Sindhu)担任首席执行官。
领导网卡工作。
报告补充说，新网卡与 Nvidia 的 ConnectX-7 卡类似。
NVIDIA ConnectX-7 NIC 提供多达 4 个连接端口和高达 Gb/s 的吞吐量，可为云、电信、人工智能和企业工作负载提供数据中心规模的硬件加速网络、存储、安全和管理服务。
ConnectX-7 为灵活的高性能网络解决方案提供支持，具有加速交换和数据包处理 (ASAP2)、高级 RoCE、GPUDirect 存储以及用于 TLS、IPsec 和 MACsec 加密和解密的内联硬件加速等功能。
ConnectX-7 使组织能够满足高带宽和高密度环境中当前和未来的网络需求。
为了协同工作，组成人工智能集群的服务器需要能够共享存储在各自内存池中的数据。
数据共享请求通常必须通过服务器的中央处理单元。
Nvidia 的 ConnectX-7 适配器??包含一种名为 RDMA 的技术，可以绕过 CPU，显着加快数据检索速度。
该器件还具有其他一些性能优化功能。
值得注意的是，它可以执行网络安全任务，例如加密数据流量，否则这些任务将由服务器的 CPU 执行，从而为应用程序提供更多的 CPU 容量。
ConnectX-7 还卸载了检测数据传输错误所涉及的一些计算。
来到微软，他们之前在一篇文章中谈到了 DPU 的使用：“SmartNIC 或数据处理单元 (DPU) 带来了使软件定义基础设施的优势加倍的机会，而无需牺牲（虚拟机）VM 或所需的主机资源。
借助 DPU，我们可以启用 SR-IOV 并消除合成数据路径造成的主机 CPU 消耗，同时享受 SDN 的优势。
随着时间的推移，我们预计 DPU 将提供更大的优势并重新定义。
我们的旗舰边缘产品（例如 Azure Stack HCI）的主机架构。
”在同一篇博客中，微软以NVIDIA产品为例描述了其在网卡方面的一些做法和优势，而这是微软除了自己之外，放弃对Nvidia芯片的依赖的第二次尝试。
对于微软来说，除了自己的团队之外，去年收购的Fungible也是该公司进入这一市场的另一种方式，微软在收购Fungible的公告中表示，一家可组合基础设施提供商，旨在通过高效、低功耗的数据处理单元 (DPU) 加速数据中心的网络和存储性能，Fungible 的技术有助于实现具有可靠性和安全性的高性能、可扩展、分类、横向扩展的数据中心基础设施。
。
从Fungible的背景来看，此次收购无疑为其DPU业务增添了优势。
著名半导体分析师 Dylan Patel 曾撰文称，Fungible 曾经是最热门的半导体初创公司之一。
Fungible 是第一家针对云规模 DPU 的商业芯片公司，领先于英特尔、Nvidia、Pensando (AMD) 和 Marvell。
作为一家致力于开发和构建数据处理单元（DPU）芯片的制造商，Fungible 拥有一支梦之队。
创始人 Pradeep Sindhu 和 Bertrand Serlet 都拥有杰出的技术背景。
Sindhu 在加入初创公司 Fungible 之前，曾担任瞻博网络 (Juniper Networks) 的创始首席执行官兼董事长、副董事长、首席技术官和首席科学家。
Serlet 在创立消费者云存储业务 Upthere 之前曾担任苹果公司软件工程高级副总裁，Upthere 于 2006 年被西部数据公司收购。
在此之前，他曾担任苹果公司软件工程高级副总裁和史蒂夫·乔布斯公司软件工程总监' 下一个。
Fungible 认为 DPU 可以解决数据中心效率低下的五个根本原因。
所有数据中心计算都是通过数据包完成的。
网络、存储、虚拟化和安全堆栈通过数据包进行分发。
因此，有比将所有内容迁移到 x86 系统上更有效的方法来将计算和数据结合在一起并执行工作。
Fungible 指出，DPU 本质上一侧是 PCIe，另一侧是以太网。
对于这四个主要的超分解构建块，其 DPU 提供了一种“TrueFabric”技术，允许将所有这些元素带入网络中。
对于那些有网络背景的人来说，一切最终都会回到与连接设备的网络，这与那些开始构建更大的 CPU 或 GPU 的人不同。
据介绍，TrueFabric是一种大规模IP-over-Ethernet结构协议，可提供全网络横截面带宽、低平均和尾部延迟、端到端QoS、无拥塞连接以及服务器节点之间的安全性。
性别。
TrueFabric协议完全符合标准，并且可与以太网上的TCP/IP互操作，确保数据中心SpineLeaf网络可以使用标准以太网交换机离线构建。
具体到产品上，Fungible开发了两款令人印象深刻的DPU芯片：用于存储、分析、人工智能服务器或安全设备的设备前端F1，以及用于裸机服务器虚拟化、节点安全和存储启动器的F1。
，基于服务器的 S1，用于本地实例存储和网络虚拟化。
首先看F1侧，如图所示，我们可以看到一组8个数据簇，它们被分为8x 24个线程簇。
有一个用于芯片安全和控制平面的控制集群。
F1 DPU 具有 Gbps 网络速度，例如 8x GbE。
有 64 个 PCIe Gen3/Gen4 通道，分为四个 x16 主机；数据集群基于采用SMT=4设计的MIPS内核。
这意味着每个数据集群有 24 个线程，加上它们的本地缓存、加速器以及与更大芯片结构的连接。
该系统配备 8GB 高速 HBM2 内存以及 DDR4 ECC 内存控制器；它还可以支持 NVDIMM-N，这很有趣，因为它有效地在 DPU 级别添加了持久内存功能。
来到S1，据悉这是Fungible DPU系列专用处理器中的第二款设备，针对以数据为中心的计算进行了优化。
作为业界最灵活的 Gbps DPU，S1 可以比通用 CPU 更高效地执行以数据为中心的计算。
S1DPU 将整个存储、网络、安全和虚拟化堆栈从主机服务器中的 x86 核心完全卸载，从而释放超过 50% 的 x86 CPU 周期来运行应用程序工作负载。
Fungible 表示，虽然 F1 DPU 专为存储、安全、人工智能和分析服务器等高性能独立设备而设计，但 S1 DPU 在标准 PCIe 适配器的占用空间和功率范围内最大限度地提高了性能。
S1 的先进 SoC 架构集成了运行完全独立的控制平面和数据平面的多核处理器集群。
这些集群通过快速片上网络 (NoC) 互连到精心挑选的硬件加速器块集合。
SoC 通过标准以太网端口和支持端点 (EP) SR-IOV 和根复合体 (RC) 功能的 PCIeGen3/Gen 4 控制器与外部组件交互。
尽管一开始的表现令人印象深刻，但 Dylan Patel 在他的文章中透露，该公司在 8 月裁员并于当年 11 月缩减产品线后，放弃了可组合基础设施的雄心，转而专注于 DPU。
增强型 NVMe/TCP 存储阵列。
据知情人士透露，造成这一结果的原因是，Fungible想要重点关注的（存储）市场已经被财力雄厚、产品非常成熟的成熟公司所饱和。
这对他们来说将是一个挑战。
Fungible 在回答媒体提问时还表示：“早在 2016 年，Fungible 就决定通过收购和有机开发，以更高水平的可组合性软件解决方案来增强其 DPU 产品组合。
尽管我们尽了最大努力，但与 Fungible 的关系相比取得的成功尽管基于 DPU 的存储技术，Fungible 仍然无法在编排领域取得成功，这促使我们将精力集中在由 Fungible DPU 实现的横向扩展存储上，并在我们的 Fungible 存储集群中提供，以推动公司的成功。
”。
但最终，正如 Dylan Patel 所说，在多方筹集资金失败后，Fungible 想出售给 Meta，但最终他们无法获得任何具体到微软的支持，这家云巨头最初考虑的是定制芯片交易。
与Fungible，但最终决定低价收购公司、员工和知识产权，于是，文章开头的故事就应运而生了，DPU一开始的光芒在哪里呢？随着明星新贵被收购以及云巨头和芯片巨头纷纷进入该行业，其前景似乎变得更加不确定，正如BlocksandFiles此前透露的那样，DPU初创公司Nebulon可能已被NVIDIA收购，而且早于明星公司Fungible。
Mellanox被NVIDIA收购，AMD也收购了Pensando；云厂商方面，AWS有内部Nitro技术；华为也有自研的DPU产品。
再加上之前提到的DPU芯片厂商，可见对于DPU厂商来说，留给他们的机会并不多。
消息人士称，在他们看来，可组合基础设施和其他芯片开发初创公司在 DPU 方面存在三种潜在的市场路径：建立一家可组合基础设施公司；成为其他 OEM、ODM 和云的军火商，提供组件和随附软件；构建特定的盒子，例如存储或 GPU 服务器； Blocksandfiles 在文章中还强调：DPU 市场已被证明是一个难以破解的难题。
大型服务器供应商相对较少：戴尔、HPE、联想、Supermicro，以及规模较小的思科。
如果他们中的一个或多个采用您的 DPU 作为标准组件，您就有很大机会成为一般市场供应商。
但从 DPU 初创公司 Fungible 和 Pensando 的发展来看，这种情况并没有发生。
非常大的服务器买家，例如超大规模企业，如果不直接收购业务，可以采用供应商的 DPU（Fungible 就是这样）。
微软于年底以 1.9 亿美元收购了它。
当这些公司被收购时，它们成为内部系统组件供应商，而不是一般市场供应商。
此外，处理器供应商可以开发自己的 DPU——Intel 及其 IPU； Nvidia 与 BlueField 合作，或者收购一家 DPU 初创公司，就像 AMD 在 4 月份以 19 亿美元收购 Pensando 所做的那样。
这使得 Kalray 和 Nebulon 很难在不情愿的服务器 OEM 市场上销售 DPU 产品，而且企业不清楚使用专有基础设施技术的 DPU 的好处，而背后没有大而值得信赖的品牌。
在此背景下，小型芯片公司如何与英特尔、AMD、Nvidia竞争？ “总而言之，通用的 DPU 市场还没有出现，”Blocksandfiles 总结道。
参考链接1. 2.【本文由投资社区合作伙伴微信公众号授权：半导体行业观察。
本平台仅提供信息存储服务。
】如有任何疑问，请联系投资界（）。
#阿里云#创新创业#创业支持#创业资讯我们关注国内外最热门的创新创业动态，提供一站式资讯服务，实时传递行业热点新闻、深度评论和前瞻观点帮助企业家掌握新兴技术。
趋势和行业变化，以及对未来技术趋势的洞察。
版权声明：本文内容由互联网用户自发贡献，本站不拥有所有权，不承担相关法律责任。如果发现本站有涉嫌抄袭的内容，欢迎发送邮件 举报，并提供相关证据，一经查实，本站将立刻删除涉嫌侵权内容。
标签：
相关文章
06-18
06-18
06-17
06-17
06-18
06-17
最新文章
Android旗舰之王的过去与未来
智能手表不被开发、AR眼镜被推迟，Meta的产品经历了一波三折
为什么Cybertruck是特斯拉史上最难造的车？
更新鸿蒙3后，文杰允许你在车里做PPT了
新起亚K3试驾体验：追求“性价比”，韩系汽车仍不想放弃
阿维塔15登场！汽车配备了增程动力，理想情况下会迎来新的对手吗？
马斯克宣布创建 ChatGPT 竞争对手！ OpenAI的CEO给他泼了冷水， GPT-5可能会发生巨大变化
骁龙无处不在，是平台也是生态