首页 > 科技未来 > 内容

如何克服算力焦虑?

发布于:2024-06-17 编辑:匿名 来源:网络

11月底,以“智能算力就是创新”为主题的人工智能计算大会在北京召开,数千名来自各行各业的参会者络绎不绝。

在算力短缺问题尚未解决的当下,大家关心的问题普遍围绕大型模型的最新创新和实现成果,以及它们给算力、AI基础设施带来的创新和变化。

(AI软件基础设施)等方面。

业内人士观察到,今年很可能是从移动互联网时代迈向智能时代的关键一年。

过去,当互联网转向移动互联网时,人们首先在手机上使用网页。

后来,iPhone创造了用于交互的移动APP。

智能时代,未来很可能不再是点击APP,而是直接弹出AI Agents(人工智能代理)来实现沟通和交互。

“我们现在正处于智能时代所谓iPhone时刻的早期阶段,智能iPhone时刻随时可能发生。

” IDC中国的副总裁和周震刚才打了一个比喻。

在此背景下,国际数据公司(IDC)与浪潮信息在会议现场联合发布的《年中国人工智能计算力发展评估报告》(以下简称报告)也受到了广泛关注。

1、大模型的散热面远比想象的丰富。

中国企业对生成式人工智能的接受度可能超乎你的想象。

比如,大模型开始投入到一些难以想象的行业和领域。

近期,手机企业在大机型上动作频频,包括小米、vivo、OPPO、三星等,短短一个月时间,就陆续推出了10余款AI大机型,参数规模从数十亿到数十亿不等。

数十亿。

范围从1亿到1亿不等。

但你可能很难想象,手机背后的芯片公司也在尝试推出大机型。

例如,上海某上市手机芯片公司尝试用大模型来解决传统客服问答系统智能化程度低的问题。

过去,由于芯片品种数千种,涉及大量技术名词和参数信息,技术服务团队除了本职工作外,还得花大量时间帮助确认细节。

现在,他们利用大模型的语义理解和判断推理能力,解放一线技术工程师,实现降本增效。

生物医药领域也是一个探索很多大模型的行业。

数据显示,今年以来,国内已发布近50个大型医疗模型。

医学科学研究、药物研发、智慧诊疗、医院管理等都是正在探索的方向。

但你可能很难想象,国内一些花卉研究所正在基于大型模型构建大型花卉AI育种模型。

汽车行业对于大型车型的探索也很多。

吉利、奇瑞、红旗、知己等多家车企均宣布进军大车型产品。

大家都在争夺谁能第一个实现智能座舱、自动驾驶等场景的大规模模型。

模型落地。

就连摩托车企业也不愿意袖手旁观。

例如,成立于2007年的国内摩托车龙头企业隆鑫通用,正在利用大车型的能力为消费者打造“AI骑行助手”,并尝试探索大车型在生产质量控制和生产中的运用。

摩托车发动机综合管理。

地形车辆智能改造等应用。

IDC和浪潮信息发布的《报告》也从数据层面证实了这一点——67%的中国企业已经开始探索生成式AI在企业中的应用机会或进行相关资本投资。

“中国企业尤其认识到生成式人工智能在加速决策、提高效率、优化用户和员工体验等方面的价值,未来三年将持续加大投入,超过70%的企业将投资增加20% %-40%。

”IDC中国副总裁周震刚介绍。

当然,在这波大规模模型建设热潮中,那些更具有先发优势和投资动力的行业,是在AI方面积累较深、AI渗透率较高的行业。

可以看到,在年度人工智能行业渗透率排名中,排名前5的行业分别是互联网、电信、政府、金融和制造业,交通、服务、教育等行业对人工智能领域的投资力度也较大。

其中,排名第一的互联网行业仍然是最新的生成式AI热潮中大模型和AIGC技术应用和研发的主战场。

将用大模型重做所有产品,而且“不是整合,也不是接入,而是重做和重构”,而渗透排行榜上最“黑马”——电信行业,它超越了政府和金融,跃升至第二位。

最近一两个月,电信行业大机型进度加快,三大运营商也纷纷亮相各自的“最新基础大机型+多个行业大机型”。

而对于财大气粗、一向对技术有较高追求的金融行业来说,自今年年初ChatGPT火爆以来,纷纷投入大模型技术。

这种流行直接带来了智能算力的“激增”。

IDC数据显示,2020年,中国通用算力预计达到59.3EFLOPS,同比增长8.8%;智能算力预计达到.1EFLOPS,同比增长59.3%,是通用算力增速的6.7倍。

2、算力新挑战 大模型时代,“卖铲子”的生意首先开始红火。

典型的例子就是Nvidia,它拥有大量的GPU资源。

如何克服算力焦虑?

今年以来,收获颇丰。

不仅年初在资本市场市值首次突破万亿美元,还收获了雪花般的订单,收获了真金白银。

银。

最新财报显示,8月至10月的单季度,英伟达向全球大量数据中心销售了总计1亿美元的芯片,远高于去年同期的38亿美元,也高于市场预期的1亿美元。

% 同比增长。

国内的“百模大战”也给英伟达带来了大量的业务。

在第二季度财报会议上,NVIDIA高管透露,NVIDIA数据中心业务收入的20%到25%来自中国市场,这一比例已创历史新高。

不仅底层芯片厂商,算力产业链其他环节的提供商也尝到了不少红利。

比如服务器端,《报告》显示,上半年,中国人工智能服务器市场规模达到30亿美元,同比增长55.4%,预计将达到91亿美元全年同比增长82.5%。

同时,由于大型模型对计算能力和数据的高需求,全球运行生成式AI的服务器市场占整体人工智能服务器市场的比例将从2019年的11.9%增至31.7%。

“今年一个特殊的情况是,大家都在激烈抢卡,导致服务器支出增长非常快。

” IDC周震刚向数智前线表示,随着供需关系趋于平衡,这种高增速预计明年将放缓。

但鉴于算力需求持续上升,未来五年中国AI服务器市场规模仍将以21.8%的复合年增长率持续增长。

在机会大幅增加的同时,这个市场也面临着一些新的挑战。

一方面,单片机算力遇到瓶颈,提升空间有限;另一方面,计算能力仍然供不应求。

在这两点上,全球市场无一例外。

当然,中国市场的情况可能更为严峻。

人士资深人士向数智前沿表示,今年国内市场的加速计算能力几乎90%将由NVIDIA提供,只有10%将由国内芯片厂商提供。

计算能力不足仍需解决。

此外,各行业探索和应用大模型的过程中也存在各种意想不到的挑战和问题。

例如,某企业使用AI集群训练大型场景化AI模型时,发现服务器中CPU与GPU之间的通信带宽以及存储与服务器之间的通信带宽无法充分运行同时,导致模型失败。

无法及时从存储读取数据,GPU空闲,训练性能低下。

如何在有限的算力下更高效、低成本、无错误地应用和实现大型模型和生成式人工智能,成为许多企业不得不面对的问题。

在此背景下,报告认为,国内智能算力供应能力的衡量标准正在加速演进——用户在获得算力服务的过程中,将更加面向应用并进行综合考虑,增加诸如可以提供什么服务等要求。

单位时间处理。

关注代币数量、可靠性、延迟、训练时间和资金成本、数据集质量等指标,而不仅仅是考虑硬件性能。

这也需要算力供应商做出相应的改变。

《报告》指出算力供应商要“以应用为导向、以系统为核心”,建设算力基础设施平台,提高算力利用率,提升卡间互联、多节点互联等水平,支持灵活性、稳定性、扩展性和弹性容错能力,积极构建通用人工智能软硬件平台,以先进的系统能力满足市场应用需求。

换句话说,与其过多关注单芯片的性能,不如根据人工智能业务场景的需求,设计更有针对性的计算系统,以实现整体性能*。

转变思维,打破算力困境。

3、行业新的解决方案面对算力市场新的机遇和挑战,众多算力供应商,包括云厂商、服务器厂商等都在快速做出反应。

“基本上,几大云服务商已经意识到,在大模型时代,智能计算的商业模式将较过去传统的云计算模式发生重大变化,因此他们正在重新梳理自己的计算能力。

”周震刚刚告诉数智前线。

例如,百度云、华为云、阿里云均表示将通过从底层算力到AI平台再到模型服务的全栈技术创新来升级云计算系统。

MaaS(模型即服务)已经成为云厂商服务体系的重要一层。

而在下层服务器端,也带来了业务需求的变化,甚至需要厂商翻身。

“我们认为,要从算力体系、人工智能软件基础设施(AI infra)、算法模型、产业生态四个方面综合考虑,加速产业智能化落地。

”浪潮信息高管刘军表示。

据业内观察,服务器企业也在加速AI基础设施的进展,这是一个新趋势。

浪潮信息于今年8月推出了大模型智能计算软件栈OGAI“Open GenAI Infra”。

包括L0基础设施层(智能计算中心OS)、L1系统环境层(PODsys)、L2调度平台层(AIStation)、L3模型工具层(YLink)和L4多模管理层(MModel)。

每层对应不同的应用场景,分层解耦。

用户可以调用自己需要的工具。

这也是算力供应商“以应用为导向、以系统为中心”的典型例子。

类似的还有百度在千帆大模型平台上提供的工具链。

腾讯、阿里巴巴等也有相应的服务。

各大厂商的总体思路是不断更新迭代自家大模型的能力,同时提供涉及训练经验、数据、计算、存储、网络的全套工具链和服务大型模型的训练和推理等方面。

此外,在算力系统层面,打造开放、多元化的AI算力平台,解决当前多元化算力共存的问题,也是未来几年的一大行业趋势。

例如,浪潮信息发布的G7算力平台,采用开放、多元化的架构设计,支持最广泛的通用处理器和加速芯片。

同时,将整个集群的性能加速比提高到90%以上,从而保证更大规模的集群扩展。

表现。

大车型浪潮持续,移动互联网时代向智能时代的大门即将打开。

在这个关键转折点,反应速度往往决定了谁能更快抓住机会。

周震刚建议,用户应该尽快拥抱这一趋势,供应商也应该尽快适应并跟上算力市场的变化。

【本文由投资界合作伙伴微信公众号授权:数智前线。

本平台仅提供信息存储服务。

】如有任何疑问,请联系投资界()。

如何克服算力焦虑?

站长声明

版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。

标签:

相关文章

  • 淘宝饮品直播加“猛将”,拉飞哥首秀实现“一个小目标”

    淘宝饮品直播加“猛将”,拉飞哥首秀实现“一个小目标”

    “大家好,虽然已经播了很多次了,但今天第一次来淘宝,我是拉飞哥。 ” 4月24日当天,“酒哥”拉飞哥首次亮相淘宝直播。 淘宝喝酒直播加了“猛将”。 开播仅2小时55分钟GMV就突破1亿,最终结算为1.17亿。 单场新增粉丝数突破13万,交易笔数突破10万,创下达人首次登陆淘宝的

    06-17

  • 银保监会:2020年四季度保险消费投诉同比增长超20%

    银保监会:2020年四季度保险消费投诉同比增长超20%

    4月1日,银保监会消费者权益保护局发布《关于年第四季度保险消费投诉情况的通报》介绍去年四季度保险消费投诉情况。

    06-18

  • 深圳:加快载人电动垂直起降、飞行汽车等应用产品产业化发展

    深圳:加快载人电动垂直起降、飞行汽车等应用产品产业化发展

    来自投资界的消息(ID:pedaily),12月27日,深圳七部门联合下发《深圳市支持低空经济高质量发展的若干措施》,其中提到加快推广eVTOL等低空飞行器载人产业化。 加快载人电动垂直起降、飞行汽车等应用产品产业化发展。 对在深圳实际从事相关经营活动、研发和销售载人电动垂

    06-18

  • 「法贝兹」获近千万元种子轮融资,投资方为庆钰投资

    「法贝兹」获近千万元种子轮融资,投资方为庆钰投资

    据投资界(ID:pedaily)8月5日消息,据36氪获悉,宠物营养生鲜品牌“法贝兹”已获近千万元种子轮融资,投资方为庆钰投资。 本轮融资将主要用于营销、广告、核心团队建设和新产品研发。 随着新一代宠物主人对宠物的情感需求不断增加,他们希望宠物能陪伴自己更长时间,自然也

    06-17

  • 央行:2月末广义货币(M2)余额223.6万亿元,同比增长10.1%

    央行:2月末广义货币(M2)余额223.6万亿元,同比增长10.1%

    据央行官网显示,2月末,广义货币(M2)余额223.6万亿元,同比增长10.1%。 广义货币(M2)余额0.6万亿元,同比增长10.1%,增速分别比上月末和同期高0.7和1.3个百分点去年;狭义货币(M)余额59.35万亿元,同比增长7.4%,增速比上月末低7.3个百分点,比上年同期高2.6个百分点;流

    06-18

  • 三部委:互联网平台企业限期整改,坚决杜绝“二选一”行为

    三部委:互联网平台企业限期整改,坚决杜绝“二选一”行为

    上头条,4月13日,国家市场监管总局、中央网信办、国家发改委税务总局联合召开互联网平台企业管理指导会。 会议指出,我国平台经济总体形势向好。 但在快速发展中,风险隐患也在逐渐积累。 危害不容忽视,依法治理刻不容缓。 强行实行“二选一”,滥用市场支配地位,实施“夹

    06-17

  • 广州南沙:设立50亿元产业引导基金,最高1000万元奖励高层次人才

    广州南沙:设立50亿元产业引导基金,最高1000万元奖励高层次人才

    投资界消息(ID:pedaily),6月6日,广州市政府新闻办召开《广州南沙新区创新链产业链关于资金链、人才链深度融入政策体系新闻发布会》。 据悉,该体系是国家级新区首个“四链”融合的政策文件。 初步测算,未来5年,广州南沙预计将投入1亿元以上,对企业和人才发展进行多层

    06-17

  • 英诺天使项目“中科原动力”完成过亿元A轮融资,加速农业机器人产品上市|英诺喜讯

    英诺天使项目“中科原动力”完成过亿元A轮融资,加速农业机器人产品上市|英诺喜讯

    英诺天使基金合伙人周全表示:“随着我国城镇化率不断提高,农村地区青壮年劳动力短缺日益严重,传统农业作业严重依赖农业操作人员,无人驾驶农机是解决上述矛盾的关键,与道路上的无人驾驶不同,无人驾驶农机需要与农业结合使用。 英诺天使基金作为中科第一轮天使投资人,非

    06-17

  • 世邦通信正在筹划A股IPO,中信证券担任辅导机构,

    世邦通信正在筹划A股IPO,中信证券担任辅导机构,

    世邦通信正在筹划A股IPO。 公司是一家以音频为中心的智能物联网解决方案提供商,专注于IP公共广播和IP内部对讲。 、IP高清拾音器三大系列产品的研发、设计、设备制造及系统集成。

    06-17

  • 福建省海洋经济产业投资基金注册成功,总规模200亿

    福建省海洋经济产业投资基金注册成功,总规模200亿

    据投资界(ID:pedaily)1月14日消息,福建省海洋经济产业投资基金母基金已注册近日,由宁德市国家投资公司发起设立的——福建省海洋经济产业投资有限公司在中国证券投资基金业协会成功注册。 根据宁德市政府相关批准,福建省海洋经济产业投资基金由宁德市国家投资公司发起设

    06-17

  • 融汇金科完成数百万美元B轮融资,由澳洲电信投资领投

    融汇金科完成数百万美元B轮融资,由澳洲电信投资领投

    投资界6月5日获悉,据36氪报道,融汇金科近期完成数百万美元B轮融资由澳洲电信投资公司领导。 本轮融资将用于系统、服务器、存储等方面的技术投资以及金融科技领域的人才招聘。 此前,融汇金科获得了红杉资本中国基金的A轮融资和华创中国领投的A+轮融资。 据了解,融汇金科是

    06-17

  • 乳品品牌“领养一头牛”完成A轮融资

    乳品品牌“领养一头牛”完成A轮融资

    近日,乳品品牌“领养一头牛”完成A轮融资。 本轮融资由KKR、耀明资本(DCP)联合领投,海邦沣华、广合投资跟投,木棉资本担任独家投资方。 本轮融资将主要用于扩大上游优质奶牛养殖规模,同时加速公司数字化升级和产业链精细化运营,提升用户体验。

    06-18