米其林星级“京兆尹”遭到众人嘲笑，我们讨厌什么样的素食主义？
06-21
12月16日，戈壁创投年度投资峰会在线上举行。
戈壁创投邀请LP及被投企业管理者参加会议，分享收获，共同探讨趋势、见证未来。
2019年，国际环境复杂严峻，资本市场波动剧烈，加上疫情影响，股权投资面临前所未有的考验。
在“危机”与“机遇”交叉的环境下，戈壁创投继续保持有条不紊的投资节奏，努力寻找那些能够突破、重生的伟大公司。
趋势科技副总裁徐景松做了题为“《基础软件助力中国芯片突围》”的报告演讲。
他表示：AI产业快速发展的背后是算力的不断发展。
目前AI产业发展已经到了大规模商用阶段。
找到降低整个AI行业算力成本的方法，对于行业发展具有重要意义。
趋势科技提供的算力池技术将成为算力的高效利用。
资源和独特的解决方案来降低计算能力成本。
以下内容为徐景松讲话实录，由戈壁创投整理整理，有部分删减：今天我代表趋势科技分享主题《基础软件助力中国芯片突围》。
首先我们看一下AI产业发展的整体环境。
过去几年，AI产业快速发展，离不开算力的强大支撑。
全球对人工智能算力的需求增长非常快，已经超过摩尔定律。
公开数据显示，今年至今，全球AI算力需求增长远超30万倍。
正是因为AI算力特别强大，很多以前做不好的AI任务，今天才能做得更好。
比如语音文本识别的准确率会更高。
国内AI算力用户的三大痛点 如今AI算力的主要提供者不再是传统意义上的CPU。
以GPU为代表的新一代AI加速芯片已成为AI算力的主要提供者。
企业级GPU在AI领域的性能现在可以达到CPU的两倍；同时，企业级GPU的成本相对于CPU来说也非常高。
企业级CPU的成本通常在数千美元左右。
企业级GPU可以达到10,000美元。
根据AWS统计报告，其用户的GPU利用率实际上只有10%-30%。
国内很多企业的GPU利用率基本都在这个范围内。
利用率低造成的一个问题是浪费非常严重。
此外，美国政府今年8月底发布了出口禁令，要求英伟达停止在中国销售A级及更高性能的芯片。
英伟达是GPU的主流供应商，在全球AI算力市场占有率超过90%。
我们可以从中解读出一个信息：算力不再完全是一个技术问题，它将成为影响整个AI产业发展的关键因素。
基于目前NVIDIA在国内算力市场持续领先的供给格局，国内AI用户在算力的使用上存在三大痛点。
首先，在存量市场上，NVIDIA GPU芯片的利用率很低，导致算力成本增加，影响整个行业的发展。
目前，国内人工智能产业发展已达到规模商用阶段。
AI应用很多，也比较成熟。
算力成本已成为制约行业发展的重要因素。
因此，找到降低整个AI行业算力成本的方法，对于行业的发展具有重要意义。
其次，未来增量市场，受美国管制影响，如果继续使用英伟达、AMD等公司的芯片，算力芯片的进口存在巨大的不确定性。
第三，在未来增量市场，国产芯片仍处于起步阶段，商业化程度还不高，软件生态仍在追赶中。
NVIDIA的先发效应和巨大的市场份额，成为国产芯片发展的巨大壁垒，既是技术壁垒，也是生态壁垒。
这些都是迫切需要解决的具体问题。
软件定义助力算力突破。
那么如何找到应对之道并突破硬核技术呢？从趋势科技的角度来看，我们从平台软件层面打破壁垒。
我们参考电网的概念，我们的目标是构建一个大型的算力网络，或者叫算力池，来管理和连接全球的算力。
如今，客户通常采用两种方式来解决算力需求。
一是自行购买并搭建算力平台，即自建并实现私有化部署。
算力资产归客户自己所有。
行业领先的互联网公司、自动驾驶公司、运营商、金融、证券、保险等金融机构、大学等都采用这种方式。
第二类客户没有自己的计算硬件。
如果他们自己建设算力，将会有很大的成本压力和运维压力。
另外，他们还要考虑工期，所以主要采取“租用”算力的方式。
针对这类客户，我们发布了全球第一个算力池化云平台，叫趋势云。
趋势云上提供国内外芯片，可以通过软件定义的方式为客户提供超低成本的服务。
，高性价比的计算能力。
为什么 GPU 利用率如此低且浪费？简单来说，就是因为大多数客户对GPU的使用和管理过于细化、过于粗放。
我们通过一个类比来解释这个问题。
现在将强大的GPU芯片比作一辆公交车，将不同的AI应用比作一个旅行团，将计算能力的使用比作运输能力的调度。
通常旅行团的规模不同，巴士的规格也可能非常固定，例如50座巴士。
当今使用计算能力的最简单方法称为使用总线。
无论多大的旅行团（AI应用），我都会派一辆巴士（GPU芯片），这肯定会浪费很多座位（计算能力）。
），因为在这种管理和使用方式下，公交车是最小的调度单位。
当然，有时需要几辆公交车来运输货物，这自然会造成计算资源的大量浪费。
为了解决这个问题，有很多方法可以提高资源利用率。
其中之一是通过硬件来解决。
硬件调整可以在一定程度上缓解资源浪费，但没有办法从根本上解决这个问题。
比如车队中除了公交车之外，还可以购买一些小巴、七座车等，相当于性能较低的GPU。
这可以通过不同类型车辆的组合来减少座位浪费，但没有办法从根本上解决这个问题——你不可能拥有无限数量各种规格的车辆来满足每次旅行团数量的需求；而且汽车一旦购买，座位数就固定了，没有办法动态调整。
因此，通过硬件来解决计算资源浪费的效果有限。
如果想要真正提高算力利用效率，还是要通过软件来解决——通过软件定义的方式灵活提供算力。
基于软件定义的方法，使用计算能力的调度单元从车辆层面改为座位层面。
也就是以前用整卡来解决算力需求，现在变成了虚拟卡。
比如我们有10辆50座的公交车，加起来就是3个座位。
通过软件定义，这些座位可以组合在一起，变成一个有座位的座位池。
那么无论旅行团有多大，他们都可以从座位池中组装一辆刚好满足需求的虚拟汽车。
。
这样所有的资源都可以在使用过程中进行缩放和调整，不会造成任何浪费。
因此，软件定义是所有硬件成熟后的必然趋势，包括数据中心的存储网络，现在都是通过软件定义的方式来实现。
并且在资源池中，我们还可以配置不同品牌的型号（GPU）来满足计算需求。
打造国内算力生态系统，提供高性价比算力。
趋势科技所做的就是通过创新的下一代软件定义算力技术，帮助客户高效利用算力资源。
我们把算力的使用和提供分开，增加了算力池化层，相当于引入了一个中介，根据应用的需求来分配算力，最大限度地利用芯片的算力。
这样还可以实现“东数西数”等远程单独部署。
这可以给客户带来一些具体的效益，特别是在降本增效、提高管理水平、节能减排等方面。
因此我们的软件也得到了市场上一大批国内领先企业的关注和采用。
总体而言，趋势科技现在可以将AI资源的利用率平均每年提高4倍，将算法工程师的人力效率提高50%，降低客户的整体运营成本55%，并减少75%的电力消耗。
就是说，硬件的功能是通过软件的形式来实现的。
自2008年成立以来，趋势科技一直在开发产品，从管理全球算力到连接全球算力。
之前我们提到，企业获得AI算力有两种方式，一是自建，二是租赁。
自建的初期采购成本较高，后续对企业本身的管理成本和技术要求也很高。
受算力需求潮汐效应影响，资源利用率和弹性伸缩能力很低。
二是租用算力。
中小企业通常选择这种方式。
他们不拥有计算能力。
这种方式的初期采购成本比较低，也比较灵活。
但在后期的使用过程中，算力的单价相对较高。
同样的问题是资源利用率较低，长期成本也较高。
综合来看，利用率低、成本高是这两种算力获取方式面临的共同问题。
所以今年我们发布了一个叫做“超动云”的产品，利用我们在算力池化和开发培训平台领域的积累，为企业、科研和个人AI开发者搭建开发和培训服务。
与市场上现有的GPU计算服务相比，我们的主要优势有两个，一是成本低，二是使用起来特别方便。
首先是成本低。
Trendong Cloud使用我们自己的算力池软件，具有非常明显的成本优势。
同时采用按量付费的方式，可以为用户降低80%的相对成本。
另外，使用起来也非常方便。
我们为用户提供了许多用于开发和培训的GUI界面，并支持常用的开发工具。
此外，它还为用户提供了许多代码、数据集和项目管理功能，使团队协作和开发更加高效。
同时，我们还构建了全球开发者共享社区，为大家提供丰富的算法资源、高质量的数据集以及一些经过验证的预训练模型，可以帮助开发者快速复制和实施最佳实践。
**Trendong Cloud是独家AI算力池云，真正实现了软件定义算力方式。
未来我们将国产芯片与国外芯片混合，与国产芯片一起帮助用户用好芯片，提供高性价比的算力**。
目前，围绕AI算力，初步构建了包括国产芯片、国产服务器厂商、国产云厂商和应用厂商在内的生态系统。
国内主流厂商已经在我们的生态合作伙伴名单中。
三方面助力中国芯片突围。
回到我们今天讨论的话题，基础软件助力中国芯片突围。
趋势科技可以在以下三个方面为用户和国产芯片提供帮助。
首先，已经有一些客户在使用国产芯片，包括政府数据中心、金融机构等，趋势科技可以帮助他们提高现有算力的效率，降低成本；第二个是通过我们的算力Pooling技术，在数据中心里把国产芯片和国外芯片混合起来，帮助用户更方便的使用国产芯片。
我们打造异构资源池，统一管理国产芯片和国外芯片，帮助国产芯片进入客户数据中心。
第三是通过我们自己的技术，在我们自己的计算云平台上，我们将有很多机会使用国产芯片，加速国产芯片的市场化进程。
对于客户来说，他不需要知道后端使用的是国产芯片还是国外芯片。
他只需要关注他的任务和应用级别。
行业正迎来系统性机遇。
美国限制性政策出台后，英伟达自身及其客户正在芯片采购方面做出一些调整。
但对于国内客户来说，现有市场短期内仍将持续，大规模采用国产芯片还需要一段时间。
另外，很多客户也开始考虑使用我们的软件，因为我们的软件有聚合功能，可以聚合一些性能不是那么高的算力，所以现在很多业内人士都来和我们讨论构建一个计算能力。
电力网络。
对于我们来说，更明显的感受是整个市场在加速。
一方面，客户在寻找替代方案，另一方面，客户自身的AI应用研发也在加速。
两年前，AI应用主要集中在互联网行业，占比约一半。
去年以来，尤其是今年以来，运营商、金融、石油石化、电力等许多传统行业都开始布局人工智能应用。
。
整个行业有点像当时互联网行业的发展趋势。
大家都在加速向AI转型，都想建一个计算中心。
例如，政府在中国部署了许多算力中心来实施西部数据和东方计算。
大型企业也在内部开发算力中心。
在降低成本、提高效率、碳排放等多重压力下，他们也看到了算力使用效率的巨大提升。
空间。
我们的软件一方面帮助客户降低成本、提高效率，另一方面帮助客户以现有的硬件规模支持更大的算力需求。
可以说，大环境给我??们带来了非常大的系统性机会。
行业正在从现实走向现实，客户结构也发生了变化。
今年我们看到一个特别大的势头，就是整个市场对AI算力的巨大需求。
从我们的角度来看，国产芯片的规模化应用正在加速。
从技术上来说，国内一些企业的技术已经不错了。
但目前的不足主要是在生态建设上，需要支持和适配更多的应用。
一旦生态建设加速，未来国产芯片仍然存在很多机会。
版权声明：本文内容由互联网用户自发贡献，本站不拥有所有权，不承担相关法律责任。如果发现本站有涉嫌抄袭的内容，欢迎发送邮件 举报，并提供相关证据，一经查实，本站将立刻删除涉嫌侵权内容。
标签：
相关文章
06-18
06-21
06-17
06-18
06-18
最新文章
3月，腾讯《王者荣耀》在全球App Store和Google Play吸引了2.57亿美元，同比增长63%
生鲜传奇宣布完成数亿元B+轮融资
裁员20%？红杉中国回应：胡说，员工总数不降反升
第二次影视创新“闯”短剧世界：看、留、跳都是钱
ASML：从飞利浦弃儿到光刻之王
宁康瑞珠获数千万元A轮融资 横琴金投、翰颐资本投资
智能金融服务生态平台科客完成A+轮融资
拼多多九鼎：信息披露无懈可击，竞争对手才是“浇水”的