首页 > 科技未来 > 内容

大机型“小型化”进手机,面墙智能发布高性能小钢炮MiniCPM

发布于:2024-06-21 编辑:匿名 来源:网络

大机型开启新时代,必须AI原生。

面壁智能联合创始人和CEO李大海曾说过上述话。

在他看来,大模型时代呼唤AI原生,运行在客户端的大模型硬件就是原生硬件。

今天下午,面墙智能正式发布2B旗舰端侧大模型面墙MiniCPM,端侧大模型战场将迎来新玩家。

有小有大,2B性能小钢炮“上机”我们此前曾报道过,“欧洲版OpenAI”Mistral AI发布了短小紧凑的Mistral-7B小型模型。

虽然其规模只有7B,但性能和能耗却很大。

各方面的表现都得到了高度评??价。

尺寸仅为2B的MiniCPM在多个主流评测榜单中的中英文平均分均已超越Mistral-7B。

大机型“小型化”进手机,面墙智能发布高性能小钢炮MiniCPM

MiniCPM具有更全面的能力,其分数在CEval、CMMLU、MMLU等基准测试中超越了微软的明星模型Phi-2。

从英文榜单平均得分来看,MiniCPM已经大幅超越同规模甚至更大规模的模型,甚至可以与13B、30B、40B规模的模型相媲美。

在最接近人类评估的评估集MT-Bench中,MiniCPM甚至可以与Claude 2抗衡,成为2B性能大炮。

那么,面墙智能如何实现以小事成就大事的目标呢?算力:高效基础设施全流程推理加速10倍,成本降低90%;算法:面壁模型风洞以小见大,寻找高效的模型训练配置,实现模型能力的快速形成;数据:现代数据工厂的形成,从数据治理到多维度评价的闭环牵引模型版本快速迭代; MiniCPM在大模型生成等基础能力上也有不错的发挥。

墙面智能联合创始人及CEO李大海在发布会上介绍,MiniCPM不仅可以准确知道黄山和泰山的海拔高度、计算差异,甚至可以编写代码进行自我开发和优化。

随着大模型之间的竞争日益激烈,多模态能力的加入正在推动人工智能进入“联觉”时代。

号称同级中最强的多模态能力的MiniCPM也在手机上实现了多模态,可以准确识别野外的毒蘑菇、毒蛇等危险生物。

李大海现场演示了MiniCPM在实际应用中的效果。

当打开飞行模式,被问及误食有毒蘑菇或在野外迷路时的自救措施时,MiniCPM的回答似乎比空洞的“陈词滥调”更实用。

如果您在野外遇到信号状况不佳的情况,MiniCPM离线给出的这些建议可能对您有很大帮助。

在规模飙升的技术竞争中,成本是大机型的隐形竞争力。

除了强大的性能之外,MiniCPM 的推理成本仅为 Mistral-Medium 的 1%。

MiniCPM作为大规模的终端侧模式,已成功贯穿国际主流手机品牌和终端CPU芯片。

即使是旧手机也能正常运行。

但从吞吐量的角度来看,操作仍在运行,实际性能可能需要提高。

基于在大模型领域的面墙智能积累,李大海也在发布会上正式宣布将进一步开源,“让大模型飞进千家万户”。

开源地址(含技术报告)如下:MiniCPM GitHub:GitHub:mniLMM-12B模型的多模态实时交互能力。

与之前谷歌Gemini大模型展示多模态能力的想法类似,他们也要求MiniCPM玩石头剪刀布的“猜谜游戏”。

结果显示,其响应的流畅度、准确性和延迟均在可接受的水平之内。

范围。

逻辑推理能力也是一个重要亮点。

上传一张没有文字描述的图片后,它可以根据服装、墨镜、导杖等小细节准确推断出图片的含义,充分展现了其“看、想”的综合能力。

Agent的互联网“如果Agent的能力用在端侧模型上,可以更好地服务于特定的场景,创造更多的价值。

我认为这两个方向可以互相支持,产生一些奇妙的化学反应。

” 墙网CTO曾国阳面向智能,谈到终端侧大模型与代理的关系,李大海在本次发布会上也重申了大模型+代理的双引擎策略,在他看来,MiniCPM的发布还是服务于双引擎的。

事实上,当大型模型寻求融入落地场景时,AI Agent 就成为了关键手段,甚至是最早提出 Wall-Facing Intelligence 概念的公司之一。

未来的世界将是特工的世界,一切都将是特工,想象一下,当你准备煮粥时,只需要把食材放入电饭锅中,稍等片刻,一锅热气腾腾的粥就来了。

出去。

在此过程中,电饭锅利用内置Agent技术自动调节温度和火力。

,无需人工干预即可完成烹饪。

去年的云栖大会上,李大海表示“大模型+Agent将带来新一轮巨大的技术变革”。

当时他把大型模型比作汽车的发动机,为汽车提供动力。

然而,要建造一辆完整的汽车,还需要转向、底盘和其他一切。

同样,他认为在大模型的引擎基础上,还需要叠加一系列的上层技术,比如记忆能力、使用工具的能力等,才能拓展出更广阔的应用前景和想象空间。

AI Agent就是承载这些技术能力的实体。

Wallface Intelligence自成立以来就开始规划“大模型+代理”的技术路线和实施方向,并先后推出了AI代理“三驾马车”——XAgent、AgentVerse、ChatDev。

这三款产品均由大模型驱动,代表了AI Agent的前沿创新和应用成果。

他们的目标是将大型模型与实际环境相结合。

其中,XAgent是一个大型模型驱动的AI智能体应用框架,AgentVerse是一个智能体通用平台,而ChatDev是一个多智能体协同开发框架。

具体到ToB的实施方向,AI Agent有望在企业内部扮演多重角色,重塑企业的运营流程和组织结构。

这些AI Agent可以像传统企业员工一样执行各种任务,从而降低成本并提高效率。

对于消费级应用(ToC),AI Agent可能会以智能助手的形式出现,为用户提供个性化、便捷的服务。

这些智能助手可以理解和预测用户需求,并实时提供帮助和建议,从而改善用户体验和生活质量。

那么人工智能代理的未来应该是什么样子呢?面墙智能的愿景和理念是“智能体互联”,就是让AI智能体连接世界上的一切,实现从“万物互联”到“万物智能”的转变。

这一概念由清华大学计算机系常务副教授、面墙智能创始人刘志远提出。

他还在公开演讲中自信地表示:未来可以通过大型模型驱动的智能平台,让更多的人融入到AI平台中。

,设备和物体连接起来,推动万物互联向智能万物互联,进入一个被称为“代理互联网”(loA)的人机交互新时代。

我们将迎来人工智能的第二次出现。

在这位在计算机领域工作了数十年的顶级专家的想象中,人工智能的第二次出现是将个体智能体与自身的优势联系起来,形成复杂的群体智能,从而表现出更强大的突现行为。

不久前,在李大海对《失控》作者凯文·凯利的网络采访中,凯文·凯利也表达了类似的观点。

他认为,人工智能之间的协作潜力巨大,未来将形成数百甚至数千个不同人工智能组成的生态系统,释放出惊人的力量。

事实上,群体智能作为自然界和社会中普遍存在的一种现象,是指由许多简单个体组成的群体表现出高水平智能行为的能力。

在自然界中,这种智能行为以多种形式表现出来,例如蚁群、蜂群和鱼群的集体行动。

当蚁群寻找食物来源或返回巢穴时,它们可以通过释放信息素来引导同伴蚂蚁找到最短路径。

洄游时,鱼群通过紧密协调位置和动作,形成保护性游动格局,使整个群体有效躲避捕食者,节省体力。

李大海还借用《三体》的名言立起了新年旗帜——让AGI来得“更快”,呼应了Wallface智能公司“万物智能”的愿景。

生命的美丽在于对某事的痴迷。

人生苦短,不要做无意义的事。

大机型“小型化”进手机,面墙智能发布高性能小钢炮MiniCPM

站长声明

版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。

标签:

相关文章

  • “失物追踪”专家Tile被收购,曾批评苹果不公平竞争

    “失物追踪”专家Tile被收购,曾批评苹果不公平竞争

    近日,与苹果AirTag竞争的蓝牙追踪器品牌Tile被家庭通信服务商Life以2.05亿美元收购。 该交易预计将于今年第一季度完成。 从双方的定位和产品来看,这是一次互补、各取所需的收购。 Life Location是一款综合性家庭安全应用,提供位置共享、碰撞检测等功能。 其估值已超过10亿

    06-21

  • Strategy Analytics:2020年第四季度需求强劲,全球智能音箱销量突破1.5亿台

    Strategy Analytics:2020年第四季度需求强劲,全球智能音箱销量突破1.5亿台

    Strategy Analytics近期发布的研究报告显示,尽管Covid-19疫情给市场带来挑战,但全球智能音箱销量仍处于领先地位。 2020年智能音箱销量达到1.5亿台,达到历史最高水平,突破1.5亿台。 苹果、亚马逊、谷歌、阿里巴巴和百度的新机型正赶上最重要的圣诞销售季,为艰难的一年画上

    06-18

  • 每秒帧MediaTrack获得数百万美元Pre-A轮融资,由纪源资本领投,

    每秒帧MediaTrack获得数百万美元Pre-A轮融资,由纪源资本领投,

    投资社区(ID:pedaily)1月25日消息,据36氪报道,基于云原生的音视频协作工具平台MediaTrack获得数百万美元Pre-A轮融资。 本轮由纪源资本领投,天使投资人GFC跟投,元和资本参投财务顾问。 通过云原生音视频制作协作工具,分钟帧让创作者、制作者和客户通过云端同步,实现跨

    06-17

  • 心脉医疗今年一季度营收1.97亿元,利润1.02亿元

    心脉医疗今年一季度营收1.97亿元,利润1.02亿元

    科创板上市公司心脉医疗(16.SH)今年一季度实现营收1.97亿元一季度同比增长99.07%;上市公司股东净利润1.02亿元,同比增长70.96%。

    06-18

  • 三星5nm工艺又多了一个客户,谷歌Pixel 6系列有望搭载

    三星5nm工艺又多了一个客户,谷歌Pixel 6系列有望搭载

    知名消费电子爆料达人Jon Prosser近日透露了谷歌新手机Pixel 6系列的部分规格。 它将搭载采用三星5nm工艺的谷歌自研芯片,取代此前使用的高通处理器。 该芯片由谷歌和三星半导体部门联合开发,其性能可与高端Passenger S车型相媲美。 长期以来,一直有传言称谷歌将开发自己的

    06-08

  • GPU分布式通信技术简析——PCle、NVLink、NVSwitch

    GPU分布式通信技术简析——PCle、NVLink、NVSwitch

    本指南深入探讨了GPU分布式通信技术的复杂性,特别是在大规模AI模型时代至关重要的PCIe、NVLink和NVSwitch。 它解决了训练超出单个 GPU 内存限制且必须同时使用多个 GPU 的大型模型的挑战。 该内容重点探讨了数据并行性,这是一种跨多个 GPU 分配数据以并行处理和加速训练的

    06-17

  • QQ浏览器奖励正版小说用户500万,网络文学“正版化”加速

    QQ浏览器奖励正版小说用户500万,网络文学“正版化”加速

    当前,正版网络文学产业建设在阅文集团主导的正版联盟全力推动下快速推进,而各大平台正以积极的态度快速跟进并采取措施打击盗版,为网络文学行业健康快速发展提供助力。 继UC、百度等平台相继斩断“盗版”行动后,QQ浏览器近日推出“小说阅读季”正版文学活动,宣布将投入1万

    06-18

  • 东莞天使基金顺利完成注册

    东莞天使基金顺利完成注册

    投资圈(ID:pedaily)4月25日消息:近日,由东莞市科技局与东莞市科创金融集团共同发起设立的东莞天使基金,在中国基金会协会注册成功完成(备案代码:SAHS99),标志着基金正式启动运营。 3月1日,东莞天使母基金在松山湖隆重启动,来自全国及港澳地区的百余家投资机构代表

    06-18

  • 苹果前高管加盟微软,负责混合现实硬件研究

    苹果前高管加盟微软,负责混合现实硬件研究

    雷锋网注:图片来源LinkedIn 据外媒报道,苹果前高管RubnCaballero已加盟微软,负责混合现实硬件和人工智能技术。 HoloLens混合现实耳机等硬件的研究。 LinkedIn界面显示,Rubn和Caballero已于今年3月加入微软。 在加入微软之前,Rubn在苹果公司工作了14年(2019年1月至2019年

    06-18

  • “深圳深研生物科技”完成超3亿元B+轮融资,越秀产业基金领投

    “深圳深研生物科技”完成超3亿元B+轮融资,越秀产业基金领投

    据投资界(ID:pedaily)2月21日消息,近日,深圳市深研生物科技有限公司完成了超3亿元B+轮融资,越秀产业基金领投。 深圳市深研生物科技有限公司(以下简称“深研生物”)宣布完成超3亿元B+轮融资。 本轮融资由越秀产业基金领投,大辰跟投财智、悦客金融、天士力资本、亚商

    06-17

  • 后PC时代的尴尬:神舟电脑谋求上市,PC厂商谋转型

    后PC时代的尴尬:神舟电脑谋求上市,PC厂商谋转型

    神舟电脑绝对是PC行业的传奇:低价策略席卷PC市场;董事长个人持有90%以上股份;以及愈挫愈勇的四份清单。   据悉,神舟电脑将于9月冲击上交所主板。 此前,神舟电脑曾3次在资本市场失败。 3月22日,神舟电脑第三次上市计划落空。 业内人士分析说,董事长和吴海军的统治是一

    06-18

  • 天上的富贵终于轮到尔滨了,

    天上的富贵终于轮到尔滨了,

    天上的财富终于轮到尔滨了。 往年的寒冬,笼罩着被敲诈印象的东北白雪皑皑的乡村,是游客不敢回避的地方,而三亚则是最爱。 今年,游客的交通由北转向南。 东北老牌网红哈尔滨在元旦假期通过旅游赚了59亿元,已经展现了当年顶级城市的地位。 老哈忙着迎宾、招待客人,而老吉、

    06-18