首页 > 科技动态 > 内容

杨元庆:大型模型算力需求下沉到边缘侧、端侧

发布于:2024-06-17 编辑:匿名 来源:网络

11月22日,由《财经》杂志、财经网联合主办的“《财经》年会:预测与策略” 、《财经智库》”在北京举行。

董事长与联想集团首席执行官杨元庆在会上发表了精彩演讲。

以下是投资界(ID:pedaily)整理的部分演讲实录: 岁末将至。

如果要给今年科技行业总结一个关键词,我想一定是人工智能。

今年以来,以ChatGPT为代表的生成式大模型热潮,成为人工智能应用普及的加速器,加速各行各业的智能化转型。

我们可以真切地感受到,人工智能比以往任何时候都更加真实,与我们每个人、每个企业越来越相关。

我们也深刻意识到,所有行业、所有场景都可能被人工智能重塑,这让我们对未来有了更多的憧憬和期待。

人工智能已经存在了 70 多年。

现在流行的大型模型只是人工智能技术的一个分支。

大模型技术的创新突破,使得众多大众大模型如雨后春笋般涌现。

无论是平台应用还是嵌入各行业的场景应用,都给我们带来了很多效率和便利,让我们真正感受到了智能化的意义。

这里还有一个实际的问题,就是你想让公模在跟你说话的时候能够提供你想要的正确、合适的内容,你就必须告诉它你的真实想法,提供你最真实的信息、数据。

这样,您的个人数据,甚至隐私和企业商业秘密,就成为公共信息的一部分。

人们希望拥有与大模型交互带来的效率和便利,也希望自己的数据只停留在自己的设备上或者只在自己的企业内部流动。

这样必要且必须的要求是否能够实现呢?我认为这可以通过公共大模型和私有大模型的混合使用来实现,包括个人大模型和企业级大模型。

所谓个人大模型,是指部署在个人智能设备或家庭服务器上,利用本地存储的个人数据进行推理和学习的人工智能技术模型。

杨元庆:大型模型算力需求下沉到边缘侧、端侧

它不仅能像公共大模型一样通过对话提供答案和创造。

内容更符合你的胃口,更准确、更贴切,甚至可以根据你的思维模型预测任务并独立寻求解决方案。

除非得到用户授权,您的个人数据不会被共享或发送至公有云,从而保证个人隐私和数据安全。

企业级大模型是指利用从企业内部智能设备和智能边缘提取的数据,或者存储在私有云中的数据或知识库进行推理、学习和训练优化的人工智能技术模型。

它可以根据企业的业务场景和应用需求,对判断和结论进行总结和整合,从而提出决策建议。

部署在企业内部,保证相关信息的隐私和安全。

我认为未来的人工智能模型将是个人、企业和公共模型共存的混合人工智能。

它与公有云、私有云、混合云的概念是一致的。

我可以给你举一个例子,说明企业大模型和公共大模型如何协同工作。

当台风逼近时,企业可以通过公共大模型获得台风的准确位置和风力等级预测。

但如果涉及到订单交付可能受到影响的特定客户,这时候就需要企业级大模型发挥作用了。

他们可以告诉我们的客户客户A的订单还没有生产出来,可能会受到工厂暂时关闭的影响;客户B的订单尚未发货,可能会受到道路运输中断的影响;客户 C 的订单尚未安排,可能会受到重大延误的影响。

有了这些信息,该模型可以进一步提供优化运输方式和调整订单顺序的建议,以确保根据客户优先级进行交付。

这样的行业智能化解决方案对于企业供应链的高效管理非常有意义。

如何实现混合人工智能?这与我们常说的基于端边云网智能的新IT架构的支撑密不可分。

大型模型的构建需要对海量数据进行训练和推理,计算量呈爆发式增长,对计算能力提出了极高的要求。

高文院士提到,我们正在建设算力网络,这很大程度上都是能够支撑人工智能计算的要求。

同时,随着人工智能应用的深入,训练和推理的计算复合比例也将发生重大变化,这将对计算配置提出新的要求。

目前,大型模型的用户规模还比较小,大多数大型模型都部署在公有云上,借助更强大的计算资源,其计算负载主要用于模型训练。

未来,随着大家都会使用大型模型,用户规模将不断扩大,因此用于推理的计算负载需求将迅速增加,可能很快就会超过训练的计算负载。

届时,在公有云上完成所有训练和推理任务,高效率、低成本的问题将日益凸显。

因此,无论是出于数据安全和隐私保护的考虑,还是为了以更高的效率和更低的成本响应用户需求考虑,大型模型的计算负载将逐渐从云端转移到边缘和终端侧。

越来越多的人工智能推理任务将在边缘和设备侧执行,使得个人大模型和企业大模型的运行变得更加必要和可能。

因此,要构建和优化大型模型,支持更多的生成式人工智能应用,我们不仅需要提高云端的计算能力,还需要边缘和设备侧更强大的计算能力的配合,从而形成端、边、云混合计算架构。

,实现算力更加均衡的分配。

早在六年前,联想就预见到了人工智能将带来的时代机遇,并由此开始推动我们的智能化转型。

我们从智能物联网终端、智能基础设施、行业智能三个维度入手,围绕端边云网智能新IT基础设施加大技术创新投入,加快解决方案化、服务化的业务转型。

致力于成为各行各业智能化变革的引领者和赋能者。

现在联想的智能化转型已经开始进入收获期,我们已经形成了全景人工智能业务生态系统,包括人工智能导向、人工智能优化、人工智能赋能的终端基础设施解决方案和服务。

在智能终端方面,我们拥有个人电脑、手机、平板电脑、AR/VR、工作站等各种智能设备,并且我们正在不断提升其智能计算能力。

10月份,在最近举行的联想创新科技大会上,我们展示了明年发布的AI PC人工智能电脑。

与今天的计算机相比,AI PC可以运行经过压缩和性能优化的个人大型模型。

它将实现以下战斗力的突破性升级,那就是最强大的计算能力,最多可支持40顶,即每秒40万亿次运算,包括CPU、GPU、NPU在内的异构计算。

二是更大的存储,可以容纳更多的个人生命周期数据,形成个人知识库,为个人大模型的学习、训练、推理和优化提供燃料。

第三,为了更流畅的自然语言交互,我们可以使用语音和手势与人工智能计算机进行交互。

四是更可靠的安全和隐私保护。

未来的人工智能计算机不仅可以作为公共大模型的入口,还能够独立运行个性化的私有大模型。

只有它才能最全面地掌握个人数据和信息,才能严格保守您的秘密。

只有您可以唤醒它并使用它。

同时,也只有它最懂你,远比任何大众的大型车型更懂你。

例如,如果您想制定旅行计划,您可以在飞机上与计算机通话,而无需连接到互联网。

你甚至不需要告诉你的需求和喜好,电脑就会向你推荐你最喜欢的。

航班、酒店、航线、餐厅等,所以未来你的电脑、手机或者你的汽车将像你的个人数字分机和数字镜子一样,成为你的个人人工智能双胞胎,从而大大提高你的生活质量和生产力。

在智能基础设施方面,联想目前是全球第三大人工智能基础设施和服务器供应商。

我们也是第三大存储制造商。

在全球最快的高性能计算机中,联想多年来一直保持在1/3左右。

上榜作品总数位居全球第一。

我们的计算基础设施产品包括服务器、存储、网络、软件等,全面覆盖数据中心、私有云、公有云、边缘计算等各种计算场景,并能推理出大型人工训练的需求情报模型。

提供强有力的支持。

此外,联想还构建了混合云平台,可以实现云原生、智能运维、私有云和多云管理的目标。

我们的服务品牌真帅可以为客户提供可订阅的按量付费算力服务。

在行业智能化解决方案方面,联想本身就是智能化转型的先行者。

通过资源技术,建立了覆盖研发、生产、供应、销售、服务全价值链的智能管理体系。

现在我们正在完善自己的转型经验。

形成积木式通用解决方案,包括数字办公空间解决方案、混合云解决方案、面向人工智能的边缘计算平台等,嵌入到智能制造、智慧教育、智慧政务、智慧金融、智慧医疗等。

现已为三一重工、吉利汽车、蔚来汽车、宁德时代等近千家大型企业提供智慧转型解决方案。

我们的混合人工智能解决方案和专业服务还致力于打造企业人工智能孪生体,将为混合基础设施和人工智能在企业的落地和应用提供有力支撑。

技术创新总是令人兴奋的,因为它能够真正提高社会生产效率,让我们的生活和工作更加便捷。

在中国经济转型升级实现高质量发展的过程中,大型生成式人工智能模型在各行各业的落地,人工智能与实体经济场景的融合应用,即数据与现实的融合正在成为经济增长的新动力、新动力。

引擎。

自成立以来,计算一直是联想的DNA和背景。

近年来,我们把人工智能和计算视为联想的两大技术支柱。

我们持续围绕新IT进行技术创新投资,致力于让人工智能变得更加触手可及。

更加包容,让人工智能惠及每一个企业、每一个个人。

当然,人工智能离不开百花齐放的产业生态和应用场景。

我们愿与各界企业携手合作,共同加速千行百业的智能化转型,助力经济实现高质量发展,为智能社会的美好未来贡献力量。

我们的力量,谢谢大家! 【本文经授权发表,不代表投资界立场。

本平台仅提供信息存储服务。

】如有疑问,请联系投资界()。

杨元庆:大型模型算力需求下沉到边缘侧、端侧

站长声明

版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。

标签:

相关文章

  • 参观了虚拟世界的个展,发现这件事“不简单”

    参观了虚拟世界的个展,发现这件事“不简单”

    电影《复仇者联盟 4》中,一个关键情节围绕全息投影展开。 由于“大反派”灭霸的一个响指,地球上一半的人口消失了,许多超级英雄也被消灭了。 为了找回过去消失的人们,“蚁人”斯科特朗想出了一个办法,利用时光机回到过去,将无限宝石带入现实世界。 受到蚁人的启发,“钢

    06-18

  • 特斯联完成5亿元A轮融资,IDG资本、光大基金入市

    特斯联完成5亿元A轮融资,IDG资本、光大基金入市

    据投资界7月4日消息,城市级移动互联网平台公司特斯联宣布完成A轮融资截至去年底,A1总额为5亿元人民币。 +A2轮融资,本轮由光大旗下基金、IDG资本、中信产业资本等战略投资者完成。   据悉,这也是国内移动物联网行业最大的融资金额。 本轮融资完成后,特斯联将在产品研发

    06-18

  • PE急寻退路:因IPO暂停而苦苦等不起的“20年”

    PE急寻退路:因IPO暂停而苦苦等不起的“20年”

    4月份排队等待上市的企业变少了——下属企业财务专项核查历时两个多月的IPO审核已被“强制停业”。   这些公司的命运正在影响众多PE基金。 统计显示,被终止审核的公司中至少有47家是PE/VC   对于这些投资者来说,这次挫折造成了惨重的损失,但这些只是PE遭受损失的一小部

    06-18

  • 【清流家族】“发奥一维机器人”获得大中华区首张协作机器人NSF-ANSI 169证书!

    【清流家族】“发奥一维机器人”获得大中华区首张协作机器人NSF-ANSI 169证书!

    【清流家族】“发奥一维机器人”获得大中华区首张协作机器人NSF/ANSI证书! 投资组合新闻 晶流资本 晶流资本 微信IDCrystalstreamCapital关于特色 晶流资本是一家由成功企业家组成的风险投资公司,专注于投资TMT领域的初创企业。 团队成员均来自顶尖互联网公司,拥有丰富的互

    06-17

  • 如何选择适合零售行业的外呼机器人?

    如何选择适合零售行业的外呼机器人?

    .wp-block-column h3{margin-left:0} 在竞争激烈的零售市场中,与客户建立牢固的联系至关重要。 为了实现这一目标,零售商正在寻找创新的方法,其中之一就是通过外拨呼叫机器人。 GaussMind 外呼机器人是一个出色的解决方案。 稳定的外呼线路、业务统计分析以及出色的人机协作

    06-18

  • Vision Pro 不太可能成为苹果的“救命稻草”

    Vision Pro 不太可能成为苹果的“救命稻草”

    2019 年 8 月,苹果创始人、硅谷传奇人物史蒂夫乔布斯宣布辞去 CEO 职务。 两个月后的 iPhone 4S 发布会上,人们看到了一张空椅子。 这是乔布斯“保留”的席位。 他因病没有出席会议。 就在这次发布会的第二天,乔布斯突然去世,接替他的是蒂姆库克。 此后很长一段时间,库克

    06-18

  • 云圣智能完成数亿元C轮融资,即将发布重磅新品 -兰驰家族

    云圣智能完成数亿元C轮融资,即将发布重磅新品 -兰驰家族

    近日,超低空天地综合运营商云圣智能完成数亿元C轮融资。 本轮融资由中关村龙门投资领投,北京股权投资发展管理有限公司参投,老股东方广资本追加投资。 这是云圣智能继去年B+轮超亿元融资后,一年内第二次获得资本青睐。 兰驰创投是云圣智能A轮领投方,并参与了该公司的B轮和

    06-18

  • 100多款宜家上世纪产品在售,可以买当传家宝

    100多款宜家上世纪产品在售,可以买当传家宝

    提到宜家,你首先想到的是什么?巨大的蓝色和黄色宜家广告牌?小方办公桌,租房必备工具,LACK?还是精心构思的样板间陈列室?今天我们要给大家展示的并不是这些。 作为一个有着70多年历史的家具品牌,人们总是戏称家具的终结是“宜家风格”。 那么往年代之后的宜家设计风格会

    06-21

  • VC急招招投招聘总监,月薪7万

    VC急招招投招聘总监,月薪7万

    “今年最火的两个内部职位,法务岗和投招岗位。 ”这堪称一级市场当年最生动的写照:法务岗位对应的是回购、投资招聘岗位,是回报投资。 正如近日圈内流传的招聘消息——某知名双币VC基金正在紧急招聘新职位——工投招聘总监,月薪5万-7万。 在我的印象中,这样的职位在过去是

    06-18

  • 阿里云【AI24小时】2024年4月10日

    阿里云【AI24小时】2024年4月10日

    undefined关键通胀报告被广泛视为判断市场下一步方向的转折点,特别是在第一季度强劲增长以及对未来增长放缓的预期不断增强之后。 在此背景下,随着美国经济继续表现相对强劲,投资者对美联储是否会在今年剩余时间内实现三次预期降息持怀疑态度。 因此,如果3月CPI数据显示通

    06-17

  • 全球最大游轮首航的船票一票难求,这不就是海上迪士尼吗?

    全球最大游轮首航的船票一票难求,这不就是海上迪士尼吗?

    ▲皇家游轮卢西塔尼亚号。 图片来自:维基百科 巨大的烟囱和明媚的阳光,航行的游轮呈现出令人印象深刻的景象。 英国冠达邮轮公司的皇家邮轮卢西塔尼亚号配备了与竞争对手不同的新型发动机,将打破最快跨洋航行的记录,这不是一次,而是两次。 这篇感言是一位记者于 2001 年

    06-21

  • 小鹏汽车与滴滴正式宣布战略合作,新子品牌即将推出,目标15万辆

    小鹏汽车与滴滴正式宣布战略合作,新子品牌即将推出,目标15万辆

    刚刚,小鹏汽车与滴滴出行达成新的战略合作。 ▲截图来自:小鹏汽车公众号据小鹏汽车官方公告,为推动双方建立长期、共赢的战略合作伙伴关系,小鹏汽车将发行A类普通股,占交易完成后占总股本的3.25%,并收购滴滴出行智能电动汽车项目相关资产和研发能力。 滴滴将成为小鹏汽

    06-21