Cadence和Synopsys的5nm全流程设计工具已获得三星认证,可用于5nm生产线
06-06
AI已经流行一年了,但最大的市场机会并不在大模型本身。
2017年,涉足AI的人很多。
在“群模舞”下,玩家大概可以分为几类。
大模型时代的最后一个策略是单独打造模型,旨在利用技术来挤占市场。
片面聚焦模型能力和参数,坚持对标技术前沿,打造最牛的大模型。
这种现象在去年上半年最为盛行,而ChatGPT引发的热潮也让很多人头脑发热。
然而,实际做了之后,我总是发现,如果一定要掌握技术,就无法逃脱大模型的Scaling Law,而且投入是深的。
在底层,技术差距无法立即弥合;产品缺乏新意,难以匹配市场需求,自然难以维持较高的算力和人员支出。
随着资本市场的渐冷,这群人中有不少人去年就倒在了理想主义的门前,被“重复造轮子”造成的生产力浪费击垮了。
而中策则是模型与产品并重,利用大模型能力驱动AI产品的发展,为人工智能找到落地和产生价值的地方。
曾有人说,现在大款的市场思维就是把一块上好的松露装进油纸袋,放在顾客面前——品质再好,如果被吹上天,食客们也不会知道。
怎么吃呢。
我不知道怎么做才好吃;但经验丰富的厨师会在松露中加入牛排、鳕鱼、鹿肉等本来就美味的食材,最大限度地发挥松露的优势,“改造”那些“传统”菜肴。
“再说一遍。
打造AI杀手级应用,同样的道理:让AI发挥优势,用智能重新赋能原有场景。
如果我们能找到这样一个恰到好处的组合,我们就能轻松赢得下一个Byte而拼多多级别的公司,归根结底,以上两点都不是最好的策略,更大的格局是用更大的体系将无数的“杀手级应用”纳入其下游,用技术推动变革。
行业和世界,挖掘时代齿轮的扭矩,几十年难得的机会——人工智能操作系统改变世界的机会1、人机交互的每一次改变,都是万亿美元的机会。
过去的一年里,在与AI行业众多精英交流的过程中,在AI技术评论中总能听到一个声音:人机交互是催生人工智能的“金钥匙”。
超级科技公司。
4月16日,在深圳举行的百度创造人工智能大会上,百度集团执行副总裁、百度智能云事业群总裁沉斗讲述了这样一个故事:从最早的时候,人与计算机的交互就依赖于线路板。
。
工人手动插拔电缆、转动旋钮,人机交互甚至是“体力活”;随着汇编语言、汇编程序、高级编程语言和编译器的出现,人类可以使用“相似”的方式进行通信。
用“语言”与计算机进行交流;时间线再次推进,很快,单台计算机将难以应对快速增长的市场需求。
云计算应运而生,人类不再满足于“同时与一台机器对话”,而是按需与多台机器组成的“集群”进行协作,将人机交互推向新的高度。
而今天,大型AI模型的出现再次给人机交互带来了新的机遇——以编程为例,在AI的帮助下,程序员不再需要学习语言,而是直接使用自然语言。
他们可以实现自己想要的功能;同样,编程也不再是人类与计算机的“斗智斗勇”,而成为了一个人向AI“许愿”。
在人工智能的慷慨帮助下,“人人都是开发者”的愿景并不遥远。
回顾这个过程,就像春天里的耕者翻土一样,涌现出无数的生机。
人机交互的每一次新革命都会给科技行业带来数万亿美元的机遇。
苹果抓住这个机会,制造了第一台个人电脑,后来引领了移动互联网时代的潮流;微软做了第一个可视化操作系统,并用办公软件建立了今天的办公流程;而在其云业务的支撑下,亚马逊的二级市场在过去20年里几乎翻了一番。
它以电商平台起家,如今已成为当今领先的科技公司之一……如果你仔细观察,你会发现:这些万亿市值的科技公司的诞生,离不开他们抓住了技术创新浪潮中的机遇可能会改变人机交互的方式。
正如一开始所提到的,大型模型目前正在蓬勃发展。
如果简单地将人工智能视为一项技术或产品,那么人工智能的真正潜力尚未被充分挖掘;相反,只有人工智能的能力和矩阵才能集成到一项操作中。
该系统管理硬件资源和软件服务的操作池,提供外部服务接口,并以此为人机交互带来新的变化,使利用这个万亿美元的机会成为可能。
而构建这样一个操作系统并赢得人机交互之战又谈何容易呢? 2、构建AI操作系统,高性能异构计算是“硬门槛”。
“大型模型不是免费的午餐。
”沉斗在会上说道。
如果想要一个AI操作系统运行起来,计算能力是一个永远无法克服的话题。
去年年初,不少分析师得出结论,算力并不是关键因素:毕竟算力是一场“金钱游戏”。
只要你有足够的钱,能打掉足够多的牌,这个问题自然就解决了。
然而一年后,越来越多的人发现,随着模型参数越来越大,“金钱游戏”所需的资金数额也超出了大多数企业能够承受的范围。
这样一来,仅仅靠“砸钱”很难对算力问题给出令人信服的答案。
就连大型 AI 模型的“领导者”OpenAI 首席执行官 Sam Altman 也不止一次公开抱怨自己手上计算能力不足。
至少目前来看,算力问题正在严重制约AI的发展速度。
大模型的计算也需要“降本增效”,减少算力浪费是一个重要途径。
如何让万卡集群像一张卡一样“协同工作”,使得性能可以线性扩展,任务之间不中断,对AI操作系统计算集群的设计、调度和容错提出了巨大的挑战。
近期推出的AI操作系统“万源”的百度,在万卡集群上的有效训练时间超过98.8%,线性加速比和带宽效率达到95%,取得了“学霸”的成绩。
行业看到了新的希望。
(百度智能云发布新一代智能计算操作系统——万源)而仅仅解决算力浪费问题似乎并不足以一劳永逸地完成大型模型的“降本增效”——在对中国“禁运”的影响仍在持续。
为了聚集承载大型模型所需的数万计算能力,使用多种不同性能的芯片进行异构计算几乎成为必须。
异构计算是互连不同制造商、不同代次和性能的芯片的一个巨大问题。
过去大家都知道异构计算只能使用不同的芯片来解决不同的任务;将不同类型的芯片放入同一任务中几乎是不可能的——尤其是训练任务。
面对困难,解决异构计算的效率问题,就不得不需要一些“黑科技”。
至于打造AI操作系统,百度在算力层面的信心在于,他们解决了这个“不可能”的问题,屏蔽了不同芯片之间的差异,给予用户选择芯片组合的自由。
在百度异构计算平台“百歌”上,单次训练任务下,多家厂商数万块芯片协同,100大卡性能损失3%,1000大卡损失不超过5 %。
算力协作效率提升。
也正是因为如此,百度解决了芯片的“卡脖子”问题:不仅可以摆脱对单一芯片的依赖,打造更加灵活的供应链,将风险降到最低;它还可以使成本更加可控。
百度的解决方案是将底层通信和上层运维的优化和实现分离,让专业的人做专业的事,并负责底层加速库AIAK的开发,打造异构计算的“大平台”。
“舞台”,让各个品牌的所有芯片都可以跑遍百度的集体通讯库;其次,实现加速库中的并行框架,优化并行策略,自动实现TP(张量模型并行)、MP(模型并行)、PP(管道并行)等不同并行策略的参数设置,快速确定并行度策略并处理训练任务的底层设置。
三是集成卡间通信的网络协议,主要通过GPU层面的NVLink。
当计算能力出机器时,百度主要使用RDMA。
对于一些特殊的芯片,百度也有一些相当具体的实施策略。
既然短期内多种芯片并存已经成为现实,与其指责别人,不如拥抱它。
百度让“数百家公司”竞争,其主要着眼点是积极拥抱多元化的芯片生态,将异构计算做到极致。
没有“云”的硬件,AI操作系统的实施就成了“空中楼阁”——而云与智能融合、软硬件协同优化正逐渐成为众多实力领袖的共识。
而如果要跑一万张卡,如果要让一万张卡跑同一个任务,那还是多个芯片组成的“多国合力”。
对于任何一个企业来说,这都是一个难以逾越的鸿沟。
如今的百度已经走出了一条云多核、单任务多芯片的异构之路; (业界领先的单任务、一云、多核大模型训练解决方案)等玩家想跑通这个。
一套系统,然后基于这套系统构建一个新的AI操作系统,需要在AI和云计算领域多年的积累和实践。
3、工具链,“成本低”但“难度高” 如果说算力被视为AI操作系统的“内核”,那么工具链就是链接开发者与AI的“中间层”。
归根到底,再强大的算力、再大的模型,用户也无法流畅使用,无法将大模型运用到场景中。
如果把AI能力发挥到极致,AI操作系统就只能是一句空话。
到了这个层面,AI操作系统面临的不再只是技术问题。
如何理解广阔的市场和复杂的场景也成为必须回答的问题。
一方面,面对不同预算和需求的用户,AI操作系统必须足够灵活,提供多种能够最高效解决问题的解决方案。
虽然去年以来市场对大模型原生应用的需求不断增加,但使用中的“性能、速度、价格”的“不可能三角”也让很多人望而却步——如果只使用一种模型,如果参数规模小了,问题就解决不了。
如果参数规模较大,将难以分解成本并满足高并发要求。
这也要求AI操作系统的提供商不要拘泥于一贯的思路。
面对不同的场景,他们必须提供不同规格的基础型号选择,避免用户在操作系统上浪费金钱。
以百度为例,在获得大量认可的问信4.0基础上,千帆团队针对不同用户的不同需求,分别训练了三种不同规模的轻量级模型:ERNIE Speed、Lite、Tiny。
大型模型的用户。
需要。
在ModelBuilder提供的模型路由服务下,针对不同难度的任务,AI操作系统万源还可以自主选择最合适的模型来完成调用,实现最优的成本效益。
效果基本相同的情况下,Inference成本下降30%。
除了自有模型外,千帆还支持LLaMA、百川等第三方模型产品,专注于“客户想要的,我们提供”。
一方面,大型模型将人机交互转向自然语言。
它还需要一整套AI能力和工具的支持。
更好的AI操作系统将让用户更轻松地完成应用开发。
他们只需要输入应用程序功能的简短描述,甚至编写一行代码,就可以获得真正解决他们需求的应用程序。
在百度万源体系下,内置的AppBuilder和AgentBuilder两个应用开发平台不仅让上述想象变成了现实,而且两个平台的SDK还支持二次开发,让开发者可以在细节上进行个性化定制。
需求得到满足。
不仅如此,使用百度AppBuilder开发的应用可以一键发布到百度搜索、微信等平台,让应用分发不再困难;它们还可以通过API或SDK集成到您自己的系统中。

另一方面,复杂的场景需要模型的微调和完整的工具组件系统。
在百度万源,支持开发的工具组件数量从上次的11个迅速增加到54个。
有各种类型的大模型组件、AI能力组件、插件工具、数字人组件等。
它还支持对所有访问进行一次性认证,省去了很多繁琐的程序。
就像搭积木一样,用户可以混合搭配不同的组件。
组装完成后,可以成为一个工作流程,完成满足自身需求的大型模型的定制。
如果一个人从事To B业务多年,大多数人都会发现To B的底层逻辑总是“简单朴实”:如何花小钱办大事。
“简单是最终的复杂。
”沉斗在Create AI开发者大会上的演讲就是用这句话开头的,意在减轻开发者的负担,为用户提供极简的开发体验。
目前,百度整个大模型平台服务的客户数量在一个多月的时间里增加了1万家,已经突破8.5万家。
千帆微调的模型数量已增至1.4万个,开发的应用数量现已超过19万个。
廉价易用的工具链让百度AI操作系统拥有了庞大的用户池。
积累了用户之后,如何打造生态,成为了百度万源的“一件事”。
4、打造生态,要“像北辰”。
操作系统的成功绝不仅仅是技术上的成功。
在过去的十几年里,智能手机刚刚问世,Android和IOS并不是唯一的两个主导者。
Symbian、Blackberry、Windows等一大批操作系统百花齐放,竞争激烈。
最终,只有 Android 获胜。
从本质上讲,开发商仍然必须赢得世界。
而拿到开发者之后,如何让开发者留在操作系统呢?开发者如何寻找用户?赚到钱了吗?这也考验了市场领域AI操作系统开发者的能力和资源。
AI时代,从市场角度看“客户”和“合作伙伴”的概念因开发门槛的进一步降低而变得模糊。
对于AI操作系统的开发者生态来说,一是引进,二是留住。
引入依赖于直接激励和加入平台的便利性。
这就要求AI操作系统足够开放,能够投入足够的成本进行激励和开发者竞赛,让更多的人加入AI原生应用开发的行列。
在开发者争夺战中,AI操作系统的先发优势显然更加明显——一方面,它可以先获得更大的开发者群体,让他们更早地在平台上完成产品并获得收益;一方面,可以更早触达AI原生应用的B端和C端用户,开发者可以更早形成粘性,停留在AI操作系统上。
说到先发优势,就不得不提到百度。
无论是在大模型技术、大模型生态,还是AI操作系统方面,百度都是国内追随者中的佼佼者。
千帆应用商店已经有AI原生应用,首批上线应用已经开始分红。
要让人留下来,开发者必须能够在平台上不断获得商业收入和正面反馈,最终实现利用AI操作系统“发财”——这才是AI操作系统能够做到的核心提供给开发商。
价值。
例如千帆平台上最畅销的产品是一款名为ChatPPT的演示文稿文档助手。
凭借实惠的价格和简单易用的功能,售价在百元左右,目前已售出数千单。
一家公司仅用了一个月的时间,就在千帆上上线了20多个应用程序,涵盖背诵古诗、写论文、营销、绘画等。
一个月的净利润就达到了几百万。
如果简单的工作就能带来丰厚的收入,为什么开发者不愿意留在这个平台上呢? 虽然取得了不错的成绩,但要改变用户的使用习惯仍然不容易。
一方面要让开发者看到AI的价值,另一方面要切实给开发者带来生产力的提升和经济效益。
而万源的生态不仅仅如此:一方面,万源通过不断更新的能力和接口,连接开发者,让AI原生应用蓬勃发展;另一方面,万源与芯片厂商对接,扩大芯片适配团队,为开发者提供更易用的异构算力;左边,万源可以连接企业用户,让他们根据万源的个性构建自己的AI操作系统;右边,万源可以链接智能计算中心,整合更高效的计算解决方案,推广给更多用户。
这条路正如《论语》所说,“如北辰居其所,众星共享”。
用更好的生态,围绕AI操作系统包围产业链的每一个环节,进而打造以AI为轴心的更广阔的生态系统。
结论:1>2技术、产品、市场矩阵。
打造AI时代的操作系统,这三者缺一不可。
作为国内第一家提出AI操作系统概念的大公司,百度的万源似乎并不是什么新技术、新产品,而更像是百度智能云技术产品体系的又一次整合。
也许有人会问:这又是一个新概念。
能拼凑出什么样的操作系统呢?说到AI操作系统,集成了New Bing和Copilot的Windows才是真正的AI操作系统。
事实上,万源的提议或许是百度今年最令人兴奋的新动向:在操作系统上融合众多技术产品,很好地向外界展示了百度作为AI大公司的地位。
,在人工智能领域“还有谁给我最好的”的野心。
百度万源之所以选择To B而不是Windows,是因为百度万源瞄准的是微软的Azure,做自己更擅长的事情,找到一个更接近钱的领域。
去年,很多人谈论AGI,梦想着未来人工智能会像科幻小说里写的那样改变世界;但仍然有很多人在“无聊”地打磨技术和产品,深入行业和场景,只是做最实际的事情,他们也想改变世界,他们想一点一点改变世界今天。
操作系统是技术世界在人机交互方面的另一个爆炸性机遇。
要抓住这个机遇,必须用完整的体系打造规模效应,做到1>2。
未来,利用AI操作系统提供全栈To B服务、一站式解决用户问题,必然是优秀AI厂商的大势所趋,也是云厂商转型的必然方向。
其他各大云公司加入这场竞争,不仅需要有足够的优质大模型作为支撑,还需要有足够深厚的云技术和场景积累,能够提供“模型-开发-模型”的全链路支撑。
市场”。
就像一个水桶一样,不能有任何缺点。
将万源AI操作系统视为沃土,在其上生长的应用程序——无论是百度还是其他开发商开发的——都可以以多种形式进入很多B端和C端场景,从而带动公司的营收云场。
从这一点来看,万源堪称百度智能云最坚实的基石。
“我们最终的成功,”百度集团副总裁侯振宇在接受采访时表示,“就是希望我们的ModelBulider能够创建更多的模型,希望我们的AppBulider能够生成更多的应用程序。
这是我们最大的理想。
” (面对这个万亿级的AI机会,《AI技术评论》将持续跟踪观察,欢迎感兴趣的读者添加作者微信:william_dong,讨论认知,分享八卦。
)雷锋网(公众号) :雷锋网)雷锋网雷锋网原创文章,未经授权禁止转载。
详情请参见转载说明。
#阿里云#创新创业#创业支持#创业资讯我们关注国内外最热门的创新创业动态,提供一站式资讯服务,实时传递行业热点新闻、深度评论和前瞻观点帮助企业家掌握新兴技术。
趋势和行业变化,以及对未来技术趋势的洞察。
版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。
标签:
相关文章
06-18
06-18
06-18
06-18
06-18
最新文章
Android旗舰之王的过去与未来
智能手表不被开发、AR眼镜被推迟,Meta的产品经历了一波三折
为什么Cybertruck是特斯拉史上最难造的车?
更新鸿蒙3后,文杰允许你在车里做PPT了
新起亚K3试驾体验:追求“性价比”,韩系汽车仍不想放弃
阿维塔15登场!汽车配备了增程动力,理想情况下会迎来新的对手吗?
马斯克宣布创建 ChatGPT 竞争对手! OpenAI的CEO给他泼了冷水, GPT-5可能会发生巨大变化
骁龙无处不在,是平台也是生态