淘宝饮品直播加“猛将”,拉飞哥首秀实现“一个小目标”
06-17
11月底,以“智能算力就是创新”为主题的人工智能计算大会在北京召开,数千名来自各行各业的参会者络绎不绝。
在算力短缺问题尚未解决的当下,大家关心的问题普遍围绕大型模型的最新创新和实现成果,以及它们给算力、AI基础设施带来的创新和变化。
(AI软件基础设施)等方面。
业内人士观察到,今年很可能是从移动互联网时代迈向智能时代的关键一年。
过去,当互联网转向移动互联网时,人们首先在手机上使用网页。
后来,iPhone创造了用于交互的移动APP。
智能时代,未来很可能不再是点击APP,而是直接弹出AI Agents(人工智能代理)来实现沟通和交互。
“我们现在正处于智能时代所谓iPhone时刻的早期阶段,智能iPhone时刻随时可能发生。
” IDC中国的副总裁和周震刚才打了一个比喻。
在此背景下,国际数据公司(IDC)与浪潮信息在会议现场联合发布的《年中国人工智能计算力发展评估报告》(以下简称报告)也受到了广泛关注。
1、大模型的散热面远比想象的丰富。
中国企业对生成式人工智能的接受度可能超乎你的想象。
比如,大模型开始投入到一些难以想象的行业和领域。
近期,手机企业在大机型上动作频频,包括小米、vivo、OPPO、三星等,短短一个月时间,就陆续推出了10余款AI大机型,参数规模从数十亿到数十亿不等。
数十亿。
范围从1亿到1亿不等。
但你可能很难想象,手机背后的芯片公司也在尝试推出大机型。
例如,上海某上市手机芯片公司尝试用大模型来解决传统客服问答系统智能化程度低的问题。
过去,由于芯片品种数千种,涉及大量技术名词和参数信息,技术服务团队除了本职工作外,还得花大量时间帮助确认细节。
现在,他们利用大模型的语义理解和判断推理能力,解放一线技术工程师,实现降本增效。
生物医药领域也是一个探索很多大模型的行业。
数据显示,今年以来,国内已发布近50个大型医疗模型。
医学科学研究、药物研发、智慧诊疗、医院管理等都是正在探索的方向。
但你可能很难想象,国内一些花卉研究所正在基于大型模型构建大型花卉AI育种模型。
汽车行业对于大型车型的探索也很多。
吉利、奇瑞、红旗、知己等多家车企均宣布进军大车型产品。
大家都在争夺谁能第一个实现智能座舱、自动驾驶等场景的大规模模型。
模型落地。
就连摩托车企业也不愿意袖手旁观。
例如,成立于2007年的国内摩托车龙头企业隆鑫通用,正在利用大车型的能力为消费者打造“AI骑行助手”,并尝试探索大车型在生产质量控制和生产中的运用。
摩托车发动机综合管理。
地形车辆智能改造等应用。
IDC和浪潮信息发布的《报告》也从数据层面证实了这一点——67%的中国企业已经开始探索生成式AI在企业中的应用机会或进行相关资本投资。
“中国企业尤其认识到生成式人工智能在加速决策、提高效率、优化用户和员工体验等方面的价值,未来三年将持续加大投入,超过70%的企业将投资增加20% %-40%。
”IDC中国副总裁周震刚介绍。
当然,在这波大规模模型建设热潮中,那些更具有先发优势和投资动力的行业,是在AI方面积累较深、AI渗透率较高的行业。
可以看到,在年度人工智能行业渗透率排名中,排名前5的行业分别是互联网、电信、政府、金融和制造业,交通、服务、教育等行业对人工智能领域的投资力度也较大。
其中,排名第一的互联网行业仍然是最新的生成式AI热潮中大模型和AIGC技术应用和研发的主战场。
将用大模型重做所有产品,而且“不是整合,也不是接入,而是重做和重构”,而渗透排行榜上最“黑马”——电信行业,它超越了政府和金融,跃升至第二位。
最近一两个月,电信行业大机型进度加快,三大运营商也纷纷亮相各自的“最新基础大机型+多个行业大机型”。
而对于财大气粗、一向对技术有较高追求的金融行业来说,自今年年初ChatGPT火爆以来,纷纷投入大模型技术。
这种流行直接带来了智能算力的“激增”。
IDC数据显示,2020年,中国通用算力预计达到59.3EFLOPS,同比增长8.8%;智能算力预计达到.1EFLOPS,同比增长59.3%,是通用算力增速的6.7倍。
2、算力新挑战 大模型时代,“卖铲子”的生意首先开始红火。
典型的例子就是Nvidia,它拥有大量的GPU资源。

今年以来,收获颇丰。
不仅年初在资本市场市值首次突破万亿美元,还收获了雪花般的订单,收获了真金白银。
银。
最新财报显示,8月至10月的单季度,英伟达向全球大量数据中心销售了总计1亿美元的芯片,远高于去年同期的38亿美元,也高于市场预期的1亿美元。
% 同比增长。
国内的“百模大战”也给英伟达带来了大量的业务。
在第二季度财报会议上,NVIDIA高管透露,NVIDIA数据中心业务收入的20%到25%来自中国市场,这一比例已创历史新高。
不仅底层芯片厂商,算力产业链其他环节的提供商也尝到了不少红利。
比如服务器端,《报告》显示,上半年,中国人工智能服务器市场规模达到30亿美元,同比增长55.4%,预计将达到91亿美元全年同比增长82.5%。
同时,由于大型模型对计算能力和数据的高需求,全球运行生成式AI的服务器市场占整体人工智能服务器市场的比例将从2019年的11.9%增至31.7%。
“今年一个特殊的情况是,大家都在激烈抢卡,导致服务器支出增长非常快。
” IDC周震刚向数智前线表示,随着供需关系趋于平衡,这种高增速预计明年将放缓。
但鉴于算力需求持续上升,未来五年中国AI服务器市场规模仍将以21.8%的复合年增长率持续增长。
在机会大幅增加的同时,这个市场也面临着一些新的挑战。
一方面,单片机算力遇到瓶颈,提升空间有限;另一方面,计算能力仍然供不应求。
在这两点上,全球市场无一例外。
当然,中国市场的情况可能更为严峻。
人士资深人士向数智前沿表示,今年国内市场的加速计算能力几乎90%将由NVIDIA提供,只有10%将由国内芯片厂商提供。
计算能力不足仍需解决。
此外,各行业探索和应用大模型的过程中也存在各种意想不到的挑战和问题。
例如,某企业使用AI集群训练大型场景化AI模型时,发现服务器中CPU与GPU之间的通信带宽以及存储与服务器之间的通信带宽无法充分运行同时,导致模型失败。
无法及时从存储读取数据,GPU空闲,训练性能低下。
如何在有限的算力下更高效、低成本、无错误地应用和实现大型模型和生成式人工智能,成为许多企业不得不面对的问题。
在此背景下,报告认为,国内智能算力供应能力的衡量标准正在加速演进——用户在获得算力服务的过程中,将更加面向应用并进行综合考虑,增加诸如可以提供什么服务等要求。
单位时间处理。
关注代币数量、可靠性、延迟、训练时间和资金成本、数据集质量等指标,而不仅仅是考虑硬件性能。
这也需要算力供应商做出相应的改变。
《报告》指出算力供应商要“以应用为导向、以系统为核心”,建设算力基础设施平台,提高算力利用率,提升卡间互联、多节点互联等水平,支持灵活性、稳定性、扩展性和弹性容错能力,积极构建通用人工智能软硬件平台,以先进的系统能力满足市场应用需求。
换句话说,与其过多关注单芯片的性能,不如根据人工智能业务场景的需求,设计更有针对性的计算系统,以实现整体性能*。
转变思维,打破算力困境。
3、行业新的解决方案面对算力市场新的机遇和挑战,众多算力供应商,包括云厂商、服务器厂商等都在快速做出反应。
“基本上,几大云服务商已经意识到,在大模型时代,智能计算的商业模式将较过去传统的云计算模式发生重大变化,因此他们正在重新梳理自己的计算能力。
”周震刚刚告诉数智前线。
例如,百度云、华为云、阿里云均表示将通过从底层算力到AI平台再到模型服务的全栈技术创新来升级云计算系统。
MaaS(模型即服务)已经成为云厂商服务体系的重要一层。
而在下层服务器端,也带来了业务需求的变化,甚至需要厂商翻身。
“我们认为,要从算力体系、人工智能软件基础设施(AI infra)、算法模型、产业生态四个方面综合考虑,加速产业智能化落地。
”浪潮信息高管刘军表示。
据业内观察,服务器企业也在加速AI基础设施的进展,这是一个新趋势。
浪潮信息于今年8月推出了大模型智能计算软件栈OGAI“Open GenAI Infra”。
包括L0基础设施层(智能计算中心OS)、L1系统环境层(PODsys)、L2调度平台层(AIStation)、L3模型工具层(YLink)和L4多模管理层(MModel)。
每层对应不同的应用场景,分层解耦。
用户可以调用自己需要的工具。
这也是算力供应商“以应用为导向、以系统为中心”的典型例子。
类似的还有百度在千帆大模型平台上提供的工具链。
腾讯、阿里巴巴等也有相应的服务。
各大厂商的总体思路是不断更新迭代自家大模型的能力,同时提供涉及训练经验、数据、计算、存储、网络的全套工具链和服务大型模型的训练和推理等方面。
此外,在算力系统层面,打造开放、多元化的AI算力平台,解决当前多元化算力共存的问题,也是未来几年的一大行业趋势。
例如,浪潮信息发布的G7算力平台,采用开放、多元化的架构设计,支持最广泛的通用处理器和加速芯片。
同时,将整个集群的性能加速比提高到90%以上,从而保证更大规模的集群扩展。
表现。
大车型浪潮持续,移动互联网时代向智能时代的大门即将打开。
在这个关键转折点,反应速度往往决定了谁能更快抓住机会。
周震刚建议,用户应该尽快拥抱这一趋势,供应商也应该尽快适应并跟上算力市场的变化。
【本文由投资界合作伙伴微信公众号授权:数智前线。
本平台仅提供信息存储服务。
】如有任何疑问,请联系投资界()。
版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。
标签:
相关文章
06-17
06-18
最新文章
Android旗舰之王的过去与未来
智能手表不被开发、AR眼镜被推迟,Meta的产品经历了一波三折
为什么Cybertruck是特斯拉史上最难造的车?
更新鸿蒙3后,文杰允许你在车里做PPT了
新起亚K3试驾体验:追求“性价比”,韩系汽车仍不想放弃
阿维塔15登场!汽车配备了增程动力,理想情况下会迎来新的对手吗?
马斯克宣布创建 ChatGPT 竞争对手! OpenAI的CEO给他泼了冷水, GPT-5可能会发生巨大变化
骁龙无处不在,是平台也是生态