首页 > 科技未来 > 内容

如何克服算力焦虑?

发布于:2024-06-17 编辑:匿名 来源:网络

11月底,以“智能算力就是创新”为主题的人工智能计算大会在北京召开,数千名来自各行各业的参会者络绎不绝。

在算力短缺问题尚未解决的当下,大家关心的问题普遍围绕大型模型的最新创新和实现成果,以及它们给算力、AI基础设施带来的创新和变化。

(AI软件基础设施)等方面。

业内人士观察到,今年很可能是从移动互联网时代迈向智能时代的关键一年。

过去,当互联网转向移动互联网时,人们首先在手机上使用网页。

后来,iPhone创造了用于交互的移动APP。

智能时代,未来很可能不再是点击APP,而是直接弹出AI Agents(人工智能代理)来实现沟通和交互。

“我们现在正处于智能时代所谓iPhone时刻的早期阶段,智能iPhone时刻随时可能发生。

” IDC中国的副总裁和周震刚才打了一个比喻。

在此背景下,国际数据公司(IDC)与浪潮信息在会议现场联合发布的《年中国人工智能计算力发展评估报告》(以下简称报告)也受到了广泛关注。

1、大模型的散热面远比想象的丰富。

中国企业对生成式人工智能的接受度可能超乎你的想象。

比如,大模型开始投入到一些难以想象的行业和领域。

近期,手机企业在大机型上动作频频,包括小米、vivo、OPPO、三星等,短短一个月时间,就陆续推出了10余款AI大机型,参数规模从数十亿到数十亿不等。

数十亿。

范围从1亿到1亿不等。

但你可能很难想象,手机背后的芯片公司也在尝试推出大机型。

例如,上海某上市手机芯片公司尝试用大模型来解决传统客服问答系统智能化程度低的问题。

过去,由于芯片品种数千种,涉及大量技术名词和参数信息,技术服务团队除了本职工作外,还得花大量时间帮助确认细节。

现在,他们利用大模型的语义理解和判断推理能力,解放一线技术工程师,实现降本增效。

生物医药领域也是一个探索很多大模型的行业。

数据显示,今年以来,国内已发布近50个大型医疗模型。

医学科学研究、药物研发、智慧诊疗、医院管理等都是正在探索的方向。

但你可能很难想象,国内一些花卉研究所正在基于大型模型构建大型花卉AI育种模型。

汽车行业对于大型车型的探索也很多。

吉利、奇瑞、红旗、知己等多家车企均宣布进军大车型产品。

大家都在争夺谁能第一个实现智能座舱、自动驾驶等场景的大规模模型。

模型落地。

就连摩托车企业也不愿意袖手旁观。

例如,成立于2007年的国内摩托车龙头企业隆鑫通用,正在利用大车型的能力为消费者打造“AI骑行助手”,并尝试探索大车型在生产质量控制和生产中的运用。

摩托车发动机综合管理。

地形车辆智能改造等应用。

IDC和浪潮信息发布的《报告》也从数据层面证实了这一点——67%的中国企业已经开始探索生成式AI在企业中的应用机会或进行相关资本投资。

“中国企业尤其认识到生成式人工智能在加速决策、提高效率、优化用户和员工体验等方面的价值,未来三年将持续加大投入,超过70%的企业将投资增加20% %-40%。

”IDC中国副总裁周震刚介绍。

当然,在这波大规模模型建设热潮中,那些更具有先发优势和投资动力的行业,是在AI方面积累较深、AI渗透率较高的行业。

可以看到,在年度人工智能行业渗透率排名中,排名前5的行业分别是互联网、电信、政府、金融和制造业,交通、服务、教育等行业对人工智能领域的投资力度也较大。

其中,排名第一的互联网行业仍然是最新的生成式AI热潮中大模型和AIGC技术应用和研发的主战场。

将用大模型重做所有产品,而且“不是整合,也不是接入,而是重做和重构”,而渗透排行榜上最“黑马”——电信行业,它超越了政府和金融,跃升至第二位。

最近一两个月,电信行业大机型进度加快,三大运营商也纷纷亮相各自的“最新基础大机型+多个行业大机型”。

而对于财大气粗、一向对技术有较高追求的金融行业来说,自今年年初ChatGPT火爆以来,纷纷投入大模型技术。

这种流行直接带来了智能算力的“激增”。

IDC数据显示,2020年,中国通用算力预计达到59.3EFLOPS,同比增长8.8%;智能算力预计达到.1EFLOPS,同比增长59.3%,是通用算力增速的6.7倍。

2、算力新挑战 大模型时代,“卖铲子”的生意首先开始红火。

典型的例子就是Nvidia,它拥有大量的GPU资源。

如何克服算力焦虑?

今年以来,收获颇丰。

不仅年初在资本市场市值首次突破万亿美元,还收获了雪花般的订单,收获了真金白银。

银。

最新财报显示,8月至10月的单季度,英伟达向全球大量数据中心销售了总计1亿美元的芯片,远高于去年同期的38亿美元,也高于市场预期的1亿美元。

% 同比增长。

国内的“百模大战”也给英伟达带来了大量的业务。

在第二季度财报会议上,NVIDIA高管透露,NVIDIA数据中心业务收入的20%到25%来自中国市场,这一比例已创历史新高。

不仅底层芯片厂商,算力产业链其他环节的提供商也尝到了不少红利。

比如服务器端,《报告》显示,上半年,中国人工智能服务器市场规模达到30亿美元,同比增长55.4%,预计将达到91亿美元全年同比增长82.5%。

同时,由于大型模型对计算能力和数据的高需求,全球运行生成式AI的服务器市场占整体人工智能服务器市场的比例将从2019年的11.9%增至31.7%。

“今年一个特殊的情况是,大家都在激烈抢卡,导致服务器支出增长非常快。

” IDC周震刚向数智前线表示,随着供需关系趋于平衡,这种高增速预计明年将放缓。

但鉴于算力需求持续上升,未来五年中国AI服务器市场规模仍将以21.8%的复合年增长率持续增长。

在机会大幅增加的同时,这个市场也面临着一些新的挑战。

一方面,单片机算力遇到瓶颈,提升空间有限;另一方面,计算能力仍然供不应求。

在这两点上,全球市场无一例外。

当然,中国市场的情况可能更为严峻。

人士资深人士向数智前沿表示,今年国内市场的加速计算能力几乎90%将由NVIDIA提供,只有10%将由国内芯片厂商提供。

计算能力不足仍需解决。

此外,各行业探索和应用大模型的过程中也存在各种意想不到的挑战和问题。

例如,某企业使用AI集群训练大型场景化AI模型时,发现服务器中CPU与GPU之间的通信带宽以及存储与服务器之间的通信带宽无法充分运行同时,导致模型失败。

无法及时从存储读取数据,GPU空闲,训练性能低下。

如何在有限的算力下更高效、低成本、无错误地应用和实现大型模型和生成式人工智能,成为许多企业不得不面对的问题。

在此背景下,报告认为,国内智能算力供应能力的衡量标准正在加速演进——用户在获得算力服务的过程中,将更加面向应用并进行综合考虑,增加诸如可以提供什么服务等要求。

单位时间处理。

关注代币数量、可靠性、延迟、训练时间和资金成本、数据集质量等指标,而不仅仅是考虑硬件性能。

这也需要算力供应商做出相应的改变。

《报告》指出算力供应商要“以应用为导向、以系统为核心”,建设算力基础设施平台,提高算力利用率,提升卡间互联、多节点互联等水平,支持灵活性、稳定性、扩展性和弹性容错能力,积极构建通用人工智能软硬件平台,以先进的系统能力满足市场应用需求。

换句话说,与其过多关注单芯片的性能,不如根据人工智能业务场景的需求,设计更有针对性的计算系统,以实现整体性能*。

转变思维,打破算力困境。

3、行业新的解决方案面对算力市场新的机遇和挑战,众多算力供应商,包括云厂商、服务器厂商等都在快速做出反应。

“基本上,几大云服务商已经意识到,在大模型时代,智能计算的商业模式将较过去传统的云计算模式发生重大变化,因此他们正在重新梳理自己的计算能力。

”周震刚刚告诉数智前线。

例如,百度云、华为云、阿里云均表示将通过从底层算力到AI平台再到模型服务的全栈技术创新来升级云计算系统。

MaaS(模型即服务)已经成为云厂商服务体系的重要一层。

而在下层服务器端,也带来了业务需求的变化,甚至需要厂商翻身。

“我们认为,要从算力体系、人工智能软件基础设施(AI infra)、算法模型、产业生态四个方面综合考虑,加速产业智能化落地。

”浪潮信息高管刘军表示。

据业内观察,服务器企业也在加速AI基础设施的进展,这是一个新趋势。

浪潮信息于今年8月推出了大模型智能计算软件栈OGAI“Open GenAI Infra”。

包括L0基础设施层(智能计算中心OS)、L1系统环境层(PODsys)、L2调度平台层(AIStation)、L3模型工具层(YLink)和L4多模管理层(MModel)。

每层对应不同的应用场景,分层解耦。

用户可以调用自己需要的工具。

这也是算力供应商“以应用为导向、以系统为中心”的典型例子。

类似的还有百度在千帆大模型平台上提供的工具链。

腾讯、阿里巴巴等也有相应的服务。

各大厂商的总体思路是不断更新迭代自家大模型的能力,同时提供涉及训练经验、数据、计算、存储、网络的全套工具链和服务大型模型的训练和推理等方面。

此外,在算力系统层面,打造开放、多元化的AI算力平台,解决当前多元化算力共存的问题,也是未来几年的一大行业趋势。

例如,浪潮信息发布的G7算力平台,采用开放、多元化的架构设计,支持最广泛的通用处理器和加速芯片。

同时,将整个集群的性能加速比提高到90%以上,从而保证更大规模的集群扩展。

表现。

大车型浪潮持续,移动互联网时代向智能时代的大门即将打开。

在这个关键转折点,反应速度往往决定了谁能更快抓住机会。

周震刚建议,用户应该尽快拥抱这一趋势,供应商也应该尽快适应并跟上算力市场的变化。

【本文由投资界合作伙伴微信公众号授权:数智前线。

本平台仅提供信息存储服务。

】如有任何疑问,请联系投资界()。

如何克服算力焦虑?

站长声明

版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。

标签:

相关文章

  • 24小时投资世界-首支功能性护肤品股正式诞生:市值700亿;飞利浦家电在高瓴销售;龙珠资本将完成二期融资近50亿元

    24小时投资世界-首支功能性护肤品股正式诞生:市值700亿;飞利浦家电在高瓴销售;龙珠资本将完成二期融资近50亿元

    红杉执掌,58岁八佰IPO:市值过亿“首款功能性护肤品”正式上市出生。 在贝泰妮身后,创始人-郭振宇的人生经历堪称传奇。 1960年代出生于云南昆明,23岁获得硕士学位,32岁成为博士后,38岁在美国乔治华盛顿大学晋升为终身教授。 他毅然放弃光环,回国创业,加入滇红药业集团

    06-18

  • 解密:用人工智能“抓捕”俄罗斯人气滤镜Prisma

    解密:用人工智能“抓捕”俄罗斯人气滤镜Prisma

    最近有一个笑话:世界上一半人在用Pokemon GO抓精灵,另一半人在用Prisma剪辑图片。 这波节奏你跟上了吗? 6月11日,Prisma在iOS平台上线。 短短四天时间,迅速火遍全球,征服了全球40多个国家的用户,占据多个国家应用榜首的位置,下载量迅速突破1万(尚未发布)目前)Andro

    06-17

  • 浙江夫妇出海,卡罗特要IPO

    浙江夫妇出海,卡罗特要IPO

    海外IPO来了。 投资界-天天IPO获悉,卡罗特有限公司(简称“卡罗特”)向香港联交所主板提交上市申请,法国巴黎银行、招银国际担任联席保荐人。 总部位于浙江,卡罗特的故事始于2000年,十几年的发展,串联了两代人的创业历程。 目前,该公司由章国栋和吕伊俐夫妇经营。 以“

    06-18

  • IDG等了近20年,这个赛道终于火了

    IDG等了近20年,这个赛道终于火了

    在突然冷落的教育赛道上,一股小热潮即将来临。 回顾上半年,沉寂的教育领域有一个亮点——职业教育赛道融资蓬勃发展,累计公开融资金额超过60亿元。 不仅涌现了大大小小的创业公司,还有腾讯、字节跳动、美团。 他们都进去了。 政策东风悄然来临。 今年6月,《职业教育法(修

    06-17

  • 360中标天津市网络安全项目,助力打造安全生态区

    360中标天津市网络安全项目,助力打造安全生态区

    12月25日晚,公司宣布中标天津高新区网络安全协同创新产业基地项目中标金额2.51亿元。 这是继重庆项目之后,Safe Brain构建分布式节点的又一成功实践。 今年以来,安全大脑持续赋能天津网络安全和城市发展。 该项目的中标对于政府和企业业务来说是一个重要的里程碑。 将进一步

    06-18

  • 烟台100亿生物医药母基金出资8家GP

    烟台100亿生物医药母基金出资8家GP

    烟台百亿生物医药母基金投资8家GP子基金申请人为:中金资本、中信医疗基金、华盖资本、高特嘉投资、周济通利资产、朗子韩亚资管、股份投资、时风信汇。 具体来说,我们看一下这8只子基金: 1、中金诺斯科医药创业投资基金主基金(暂名,以工商登记机关核准的最终名称为准)。

    06-18

  • 英飞凌:MEMS传感器在汽车上的应用一定大有可为

    英飞凌:MEMS传感器在汽车上的应用一定大有可为

    18日,(第十三届)国际传感器与MEMS产业化技术研讨会(暨成果展)在厦门海沧正式召开。 英飞凌科技(中国)有限公司大中华区市场经理胡东宁发表主题为“《MEMS传感器在汽车工业中的应用》”的演讲。 胡东宁表示,英飞凌是全球十大半导体公司之一。 其主营业务为汽车半导体芯

    06-08

  • 曲美家居转让10.11%股权,获得上市后融资

    曲美家居转让10.11%股权,获得上市后融资

    据投资界3月5日消息,上市公司曲美家居近日发布股东权益变动提示性公告,获得上市后融资融资。 曲美家居集团有限公司控股股东实际控制人赵瑞海、赵瑞斌拟转让股份共计49份。 曲美家居是一家集产品设计、生产、销售于一体的家具制造商。 其产品涵盖客厅、书房、卧室、餐厅等生

    06-17

  • “君合盟”完成1亿元B1轮融资,通化东宝出手

    “君合盟”完成1亿元B1轮融资,通化东宝出手

    投资界(ID:pedaily)5月8日消息,近日,君合盟生物制药(杭州)有限公司(以下简称:君合盟公司完成1亿元B1轮融资,本轮融资由通化东宝药业股份有限公司(SH:67)投资,凯诚资本继续担任独家投资方。 孔夫子是一家专注于合成生物学领域创新重组蛋白药物及创新产品开发的公

    06-17

  • iPhone 7削减订单,苹果又要完蛋了吗?

    iPhone 7削减订单,苹果又要完蛋了吗?

    据外媒报道,由于全球销量不及预期,苹果将今年第一季度的iPhone 7和iPhone 7 Plus订单减少约10%。 一时间,“苹果要完蛋了,iPhone不能再卖了”的说法像命运一样不断重复。 作为苹果掌门人,库克显然对这些言论感到麻木和无奈。 iPhone 7/7 Plus发布后,苹果宣布取消每年公布

    06-18

  • 鹿晗旗下清瀚基金投资的APP涉嫌“色情社交”

    鹿晗旗下清瀚基金投资的APP涉嫌“色情社交”

    据雷锋网报道,2月6日,清流资本宣布将与明星艺人鹿晗、新希望集团共同设立清瀚基金。 首轮募资已完成 除新希望集团外,投资方还包括清科集团母基金中视影业等。 雷锋网获悉,该基金表示将投资新一代文化消费内容。 不过,很快就有网友注意到,清瀚基金的第一个投资项目——

    06-17

  • 上海黄浦区携手华润资本设立大型消费产业基金

    上海黄浦区携手华润资本设立大型消费产业基金

    投资圈(ID:pedaily)据2月8日消息,今天上午,黄浦区人民政府与华润资本管理有限公司签署战略合作协议。 根据协议,双方将贯彻落实中央决策部署,服务构建新发展格局,合作设立大型消费产业基金,助力上海建设国际消费中心城市。 黄浦区表示,大型消费产业基金的布局和建设

    06-18