首页 > 科技动态 > 内容

杨元庆:大型模型算力需求下沉到边缘侧、端侧

发布于:2024-06-17 编辑:匿名 来源:网络

11月22日,由《财经》杂志、财经网联合主办的“《财经》年会:预测与策略” 、《财经智库》”在北京举行。

董事长与联想集团首席执行官杨元庆在会上发表了精彩演讲。

以下是投资界(ID:pedaily)整理的部分演讲实录: 岁末将至。

如果要给今年科技行业总结一个关键词,我想一定是人工智能。

今年以来,以ChatGPT为代表的生成式大模型热潮,成为人工智能应用普及的加速器,加速各行各业的智能化转型。

我们可以真切地感受到,人工智能比以往任何时候都更加真实,与我们每个人、每个企业越来越相关。

我们也深刻意识到,所有行业、所有场景都可能被人工智能重塑,这让我们对未来有了更多的憧憬和期待。

人工智能已经存在了 70 多年。

现在流行的大型模型只是人工智能技术的一个分支。

大模型技术的创新突破,使得众多大众大模型如雨后春笋般涌现。

无论是平台应用还是嵌入各行业的场景应用,都给我们带来了很多效率和便利,让我们真正感受到了智能化的意义。

这里还有一个实际的问题,就是你想让公模在跟你说话的时候能够提供你想要的正确、合适的内容,你就必须告诉它你的真实想法,提供你最真实的信息、数据。

这样,您的个人数据,甚至隐私和企业商业秘密,就成为公共信息的一部分。

人们希望拥有与大模型交互带来的效率和便利,也希望自己的数据只停留在自己的设备上或者只在自己的企业内部流动。

这样必要且必须的要求是否能够实现呢?我认为这可以通过公共大模型和私有大模型的混合使用来实现,包括个人大模型和企业级大模型。

所谓个人大模型,是指部署在个人智能设备或家庭服务器上,利用本地存储的个人数据进行推理和学习的人工智能技术模型。

杨元庆:大型模型算力需求下沉到边缘侧、端侧

它不仅能像公共大模型一样通过对话提供答案和创造。

内容更符合你的胃口,更准确、更贴切,甚至可以根据你的思维模型预测任务并独立寻求解决方案。

除非得到用户授权,您的个人数据不会被共享或发送至公有云,从而保证个人隐私和数据安全。

企业级大模型是指利用从企业内部智能设备和智能边缘提取的数据,或者存储在私有云中的数据或知识库进行推理、学习和训练优化的人工智能技术模型。

它可以根据企业的业务场景和应用需求,对判断和结论进行总结和整合,从而提出决策建议。

部署在企业内部,保证相关信息的隐私和安全。

我认为未来的人工智能模型将是个人、企业和公共模型共存的混合人工智能。

它与公有云、私有云、混合云的概念是一致的。

我可以给你举一个例子,说明企业大模型和公共大模型如何协同工作。

当台风逼近时,企业可以通过公共大模型获得台风的准确位置和风力等级预测。

但如果涉及到订单交付可能受到影响的特定客户,这时候就需要企业级大模型发挥作用了。

他们可以告诉我们的客户客户A的订单还没有生产出来,可能会受到工厂暂时关闭的影响;客户B的订单尚未发货,可能会受到道路运输中断的影响;客户 C 的订单尚未安排,可能会受到重大延误的影响。

有了这些信息,该模型可以进一步提供优化运输方式和调整订单顺序的建议,以确保根据客户优先级进行交付。

这样的行业智能化解决方案对于企业供应链的高效管理非常有意义。

如何实现混合人工智能?这与我们常说的基于端边云网智能的新IT架构的支撑密不可分。

大型模型的构建需要对海量数据进行训练和推理,计算量呈爆发式增长,对计算能力提出了极高的要求。

高文院士提到,我们正在建设算力网络,这很大程度上都是能够支撑人工智能计算的要求。

同时,随着人工智能应用的深入,训练和推理的计算复合比例也将发生重大变化,这将对计算配置提出新的要求。

目前,大型模型的用户规模还比较小,大多数大型模型都部署在公有云上,借助更强大的计算资源,其计算负载主要用于模型训练。

未来,随着大家都会使用大型模型,用户规模将不断扩大,因此用于推理的计算负载需求将迅速增加,可能很快就会超过训练的计算负载。

届时,在公有云上完成所有训练和推理任务,高效率、低成本的问题将日益凸显。

因此,无论是出于数据安全和隐私保护的考虑,还是为了以更高的效率和更低的成本响应用户需求考虑,大型模型的计算负载将逐渐从云端转移到边缘和终端侧。

越来越多的人工智能推理任务将在边缘和设备侧执行,使得个人大模型和企业大模型的运行变得更加必要和可能。

因此,要构建和优化大型模型,支持更多的生成式人工智能应用,我们不仅需要提高云端的计算能力,还需要边缘和设备侧更强大的计算能力的配合,从而形成端、边、云混合计算架构。

,实现算力更加均衡的分配。

早在六年前,联想就预见到了人工智能将带来的时代机遇,并由此开始推动我们的智能化转型。

我们从智能物联网终端、智能基础设施、行业智能三个维度入手,围绕端边云网智能新IT基础设施加大技术创新投入,加快解决方案化、服务化的业务转型。

致力于成为各行各业智能化变革的引领者和赋能者。

现在联想的智能化转型已经开始进入收获期,我们已经形成了全景人工智能业务生态系统,包括人工智能导向、人工智能优化、人工智能赋能的终端基础设施解决方案和服务。

在智能终端方面,我们拥有个人电脑、手机、平板电脑、AR/VR、工作站等各种智能设备,并且我们正在不断提升其智能计算能力。

10月份,在最近举行的联想创新科技大会上,我们展示了明年发布的AI PC人工智能电脑。

与今天的计算机相比,AI PC可以运行经过压缩和性能优化的个人大型模型。

它将实现以下战斗力的突破性升级,那就是最强大的计算能力,最多可支持40顶,即每秒40万亿次运算,包括CPU、GPU、NPU在内的异构计算。

二是更大的存储,可以容纳更多的个人生命周期数据,形成个人知识库,为个人大模型的学习、训练、推理和优化提供燃料。

第三,为了更流畅的自然语言交互,我们可以使用语音和手势与人工智能计算机进行交互。

四是更可靠的安全和隐私保护。

未来的人工智能计算机不仅可以作为公共大模型的入口,还能够独立运行个性化的私有大模型。

只有它才能最全面地掌握个人数据和信息,才能严格保守您的秘密。

只有您可以唤醒它并使用它。

同时,也只有它最懂你,远比任何大众的大型车型更懂你。

例如,如果您想制定旅行计划,您可以在飞机上与计算机通话,而无需连接到互联网。

你甚至不需要告诉你的需求和喜好,电脑就会向你推荐你最喜欢的。

航班、酒店、航线、餐厅等,所以未来你的电脑、手机或者你的汽车将像你的个人数字分机和数字镜子一样,成为你的个人人工智能双胞胎,从而大大提高你的生活质量和生产力。

在智能基础设施方面,联想目前是全球第三大人工智能基础设施和服务器供应商。

我们也是第三大存储制造商。

在全球最快的高性能计算机中,联想多年来一直保持在1/3左右。

上榜作品总数位居全球第一。

我们的计算基础设施产品包括服务器、存储、网络、软件等,全面覆盖数据中心、私有云、公有云、边缘计算等各种计算场景,并能推理出大型人工训练的需求情报模型。

提供强有力的支持。

此外,联想还构建了混合云平台,可以实现云原生、智能运维、私有云和多云管理的目标。

我们的服务品牌真帅可以为客户提供可订阅的按量付费算力服务。

在行业智能化解决方案方面,联想本身就是智能化转型的先行者。

通过资源技术,建立了覆盖研发、生产、供应、销售、服务全价值链的智能管理体系。

现在我们正在完善自己的转型经验。

形成积木式通用解决方案,包括数字办公空间解决方案、混合云解决方案、面向人工智能的边缘计算平台等,嵌入到智能制造、智慧教育、智慧政务、智慧金融、智慧医疗等。

现已为三一重工、吉利汽车、蔚来汽车、宁德时代等近千家大型企业提供智慧转型解决方案。

我们的混合人工智能解决方案和专业服务还致力于打造企业人工智能孪生体,将为混合基础设施和人工智能在企业的落地和应用提供有力支撑。

技术创新总是令人兴奋的,因为它能够真正提高社会生产效率,让我们的生活和工作更加便捷。

在中国经济转型升级实现高质量发展的过程中,大型生成式人工智能模型在各行各业的落地,人工智能与实体经济场景的融合应用,即数据与现实的融合正在成为经济增长的新动力、新动力。

引擎。

自成立以来,计算一直是联想的DNA和背景。

近年来,我们把人工智能和计算视为联想的两大技术支柱。

我们持续围绕新IT进行技术创新投资,致力于让人工智能变得更加触手可及。

更加包容,让人工智能惠及每一个企业、每一个个人。

当然,人工智能离不开百花齐放的产业生态和应用场景。

我们愿与各界企业携手合作,共同加速千行百业的智能化转型,助力经济实现高质量发展,为智能社会的美好未来贡献力量。

我们的力量,谢谢大家! 【本文经授权发表,不代表投资界立场。

本平台仅提供信息存储服务。

】如有疑问,请联系投资界()。

杨元庆:大型模型算力需求下沉到边缘侧、端侧

站长声明

版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。

标签:

相关文章

  • 武汉东湖设立百亿产业基金布局创新药赛道

    武汉东湖设立百亿产业基金布局创新药赛道

    投资圈(ID:pedaily)据5月11日消息,近日,湖北东湖科学城大健康与生物科技产业基地(光谷创新药物产业基地)在武汉东湖高新区揭牌。 东湖高新区出台一系列政策,对符合条件的国家医药创新平台和创新药投资项目给予最高5亿元的补贴。 还设立总规模1亿元的生命健康产业专项基

    06-18

  • 阿里巴巴这几年的投资从未停止过,但也出现了一些变化

    阿里巴巴这几年的投资从未停止过,但也出现了一些变化

    这几年,在经历了一场大风波之后,阿里巴巴这家巨头公司在中国互联网世界刻意保持低调。 然而,它从未停止过投资。 我们认为,投资是观察阿里巴巴的另一面镜子。 IT橙网数据显示,截至去年底,阿里巴巴集团*共投资了境内外企业,其中境内企业占84%,境外企业占14%。 注:阿里

    06-17

  • 欧盟6月和7月太阳能发电量创历史新高

    欧盟6月和7月太阳能发电量创历史新高

    英国气候与能源智库“Enber”18日表示,欧盟6月和7月太阳能发电量创历史新高,占占同期欧盟总发电量的10%。 %。 Enber在报告中表示,6月和7月欧盟太阳能发电量接近39太瓦时(1太瓦时相当于10亿千瓦时电量),是去年同期的近3.6倍。 在西班牙和德国等八个欧盟成员国,太阳能发

    06-08

  • 三星明年将成为全球首家提供3D SiP的代工厂

    三星明年将成为全球首家提供3D SiP的代工厂

    据雷锋网报道,三星近日在日本举办了三星代工论坛(Samsung Foundry Forum,SFF),并发布了多项重要信息。 除了重申计划在未来几个季度开始使用极紫外光刻 (EUVL) 进行大批量制造 (HVM),同时重申计划使用 3nm 节点的栅极 FET (GAAFET) 之外,三星还添加了全新的 8LPU 工艺

    06-06

  • 当996、复卷成为常态,冥想会成为工人的“精神丸”吗? |明日浪潮

    当996、复卷成为常态,冥想会成为工人的“精神丸”吗? |明日浪潮

    想象你坐在路边。 你的任务是坐在那里看着驶过的汽车。 汽车是你的想法。 听起来很简单,对吧?但我们常常因为交通堵塞而感到不安,所以我们跑出去拦一些车,甚至追一些车,忘记了我们的使命只是坐在那里。 Netflix的《冥想正念指南》用这个比喻告诉我们什么是“冥想”。 这确

    06-21

  • AI招聘平台嗨耀明获超亿元B轮融资

    AI招聘平台嗨耀明获超亿元B轮融资

    投资社区(微信ID:pedaily)据6月8日消息,人工智能招聘平台嗨耀明近日获得超亿元B轮融资。 本轮融资由海松资本领投。 此前,该公司已获得北极光创投的A轮融资。 据了解,本轮融资主要用于招募中国研发团队。 嗨耀明于2008年在硅谷成立,主要产品是基于人才知识图谱的AI招聘

    06-18

  • TikTok在美国积极探索电商业务,与Facebook竞争

    TikTok在美国积极探索电商业务,与Facebook竞争

    近日,《金融时报》报道称,TikTok正在美国积极探索电商业务,将在该领域与Facebook正面竞争。 知情人士人士透露,TikTok最近向美国广告商推出了新功能。 例如,它计划推出一款在线购物工具,帮助视频创作者分享产品链接,并自动从销售中赚取佣金。 一位广告公司高管表示,无

    06-18

  • 京东姚乃胜:四大业务板块寻求并购标的

    京东姚乃胜:四大业务板块寻求并购标的

    据投资界5月28日消息,在今天举行的中国股权投资论坛@深圳会上,京东副总经理姚乃胜表示他的演讲:京东作为零售店,可能会做零售,也可能会做产品。 比如现在的智能设备只要是to C就可以采取股权合作的模式,因此京东会逐渐成为大家推荐的方法和选择。 以下为演讲实录。   

    06-18

  • 智能客服解决方案,提升客户服务体验:探索智能客服机器人的潜力

    智能客服解决方案,提升客户服务体验:探索智能客服机器人的潜力

    .wp-block-column h3{margin-left:0} 文章摘要:智能客服是企业正在使用的智能工具态度培训至关重要。 尽管智能客服行业面临一些挑战,但通过业内人士的不断努力以及对企业客户了解的加强,智能客服有望回归客户服务的本质,提高其美誉度,发挥更大的作用。 作为龙头企业之一

    06-18

  • 短剧真的能赚钱吗?

    短剧真的能赚钱吗?

    ???如果要说今年最流行什么,那一定是短剧了。 比如前段时间,有媒体报道称,咪蒙参与制作发行的一部微短剧上线不久,票房就突破千万元。 类似的情况比比皆是,报道也不少。 也有中国网络公司将微短剧模式直接搬到了海外。 据说,还吸引了不少“老外”为之痴迷,效果惊人。 看

    06-18

  • Rgenta完成2000万美元种子轮融资,投资方包括联想之星、经纬创投等,

    Rgenta完成2000万美元种子轮融资,投资方包括联想之星、经纬创投等,

    投资界消息(微信ID:pedialy),Rgenta Therapeutics(以下简称“Rgenta”)近期完成1万美元种子轮融资。 本轮融资由联想之星、勃林格殷格翰创投基金、经纬创投、凯泰资本共同投资。 Rgenta构建了独特的RNA相关靶点发现和筛选平台,致力于针对疾病相关的不可成药靶点开发RNA

    06-18

  • 新闻 -医疗信息公司“万序健康”完成数千万元A轮融资,乔景资本领投

    新闻 -医疗信息公司“万序健康”完成数千万元A轮融资,乔景资本领投

    投资界8月21日消息,医疗信息公司“万序健康”近期完成数千万元A轮融资元A轮融资,本轮融资由乔景资本领投,奇伦创投参与。 本轮融资将用于医疗信息系统研发、市场推广等,并将重点发展医院SPD业务。   万序健康创立于上海。 是一家总部位于上海的专注于医疗信息化产品及解

    06-18