勤思科技获数千万元天使轮融资，进一步拓展海事、航道运营综合智能平台发展
06-17
当我们使用ChatGPT、文心一言、通易千文等大型语言模型支持的AI工具时，有一个必要条件：需要能够上网。
因为AI工具的计算是在云端，而不是在本地计算机上。
但从上游芯片厂商和终端厂商的角度来看，联网环境下的大机型固然强大，但也需要辅以能够在无网络环境下运行的大型端侧机型。
端云与端云的结合是万无一失的策略。
于是在12月15日英特尔第一代酷睿Ultra官方发布会上，我们看到阿里云统一钱文的大模型成功适配了英特尔酷睿Ultra平台，未来可以部署在PC等终端上。
得益于第一代Core Ultra平台（代号Meteor Lake），它拥有Intel 40年来最重大的处理器架构变革，即分离的模块架构和第一个集成的神经网络处理单元（NPU），部署在Intel Core上超平台设备 互联网上的同易钱文大模型可以大大缩短模型推理响应时间，平均加速高达3倍。
此外，Intel此前还测试过来自Meta的LLaMa2-7B大模型在设备端无网络运行时的良好性能。
随着大模型在设备端的逐步落地，AI PC的概念也逐渐清晰。
自去年底ChatGPT发布以来，大语言模型技术支持的AIGC应用取得了长足的发展。
这波AI浪潮的主要阵地是在PC上，因为PC在交互和呈现方面更适合大多数用户。
AIGC应用程序，无论是ChatGPT还是MidJourney，都需要连接到互联网。
一旦没有网络，我们就会与AI断绝关系。
因此，一台PC想要真正进化为AI PC，不仅需要在其上轻松运行AIGC应用，而且其本身还需要具备强大的AI处理能力。
因此，阿里云同易钱文大型号Qwen-7B成功适配Intel Core Ultra平台，未来可以部署在PC等终端的消息有两层含义，还有一个象征意义。
第一层意思是，英特尔喊出AI PC口号是靠什么？今年9月在硅谷举行的技术创新大会上，英特尔CEO帕特·基辛格提出了PC-AI PC这一革命性概念。
如果想要在PC上高效地进行AI计算并运行AI应用，传统的CPU+GPU架构并不是最优的解决方案。
因此，在第一代Core Ultra平台上，Intel创新性地采用了分离式模块架构，这也是Intel历史上最大的处理器结构变革，处理器将由四个独立的模块组成：计算模块、SoC模块、图形模块和IO模块，并将通过Foveros 3D封装技术连接： Compute Tile：采用最新一代能效核心和性能核心微架构并增强功能。
该模组采用新一代Intel 4.0工艺技术，在能耗比方面取得了显着的进步。
SoC模块（SoC Tile）：创新的低功耗岛设计（Low Power Island）集成神经网络处理单元（NPU），为PC带来节能的AI功能性能，并兼容OpenVINO等标准化程序接口。
促进人工智能应用的发展和普及。
全新低功耗能效核心进一步优化节能与性能之间的平衡。
该SoC模块还集成了内存控制器、媒体编解码器处理和显示单元，支持8K HDR和AV1编解码器以及HDMI 2.1和Display Port 2.1标准。
还支持 Wi-Fi 和蓝牙，包括 Wi-Fi 6E。
图形模块（GPU Tile）：该处理器集成了Intel Sharp图形架构，可以在集成显卡中提供独立显卡级别的性能，并支持光线追踪和Intel XeSS。
凭借图形功能的飞跃和能源效率的提高，Meteor Lake 提供了出色的每瓦性能。
IO 模块（IO Tile）：包括与集成 Thunderbolt 4 和 PCIe Gen 5.0 的卓越连接。
以Core Ultra 7 H处理器（TDP 28W）为例，英特尔表示其多线程性能是高通骁龙8cx Gen 3的3倍以上，是直接竞争对手AMD U的1.11倍。
Intel表示，凭借更好的多线程性能，Core Ultra 7 H在各种场景下的能效也优于AMD U。
此外，低功耗岛是一个非常有趣的设计。
有2个LPE-Cores超低功耗核心，可以运行对响应速度要求不高的任务，比如在线播放等，进一步降低功耗。
这个设计的有趣之处在于，这两个超低功耗核心位于 SoC 模块中，而不是计算模块中。
当然，最重要、意义重大的更新自然是新的NPU模块将主要负责AI计算。
由于是人工智能加速的专用计算单元，NPU模型在AI计算方面的优势就是高性能、低功耗。
此外，低延迟高响应的CPU和高性能高吞吐量的GPU也将承担AI算力的需求。
三者的配合形成了终端强大的AI算力。
还在对比隔壁的AMD U处理器，Intel表示Core Ultra 7 H的整体AI算力不仅击败了上一代产品Core i7-P，还碾压AMD U。
举个实际应用的例子，Intel和字节跳动的视频编辑工具剑影联手优化了用户频繁使用的“智能抠像”功能，并将该功能的计算需求切换到第一代Core Ultra产品上。
经过NPU之后，我们发现处理视频素材不仅需要更少的时间，而且还降低了功耗。
此时，空闲的CPU和GPU计算能力可以用于其他编辑需求。
因此，所谓的AI PC不仅可以更好地运行AI功能，还可以提高效率、降低功耗。
第二个意思是，像童艺倩文这样的大模特能做什么？现在我们可以在PC上进行各种AI操作，包括但不限于文声文、文声图、文声音乐，还有AI抠图、手势识别、动作捕捉，更具体地说，还有AI配音和变声、视频会议等。
眼部矫正等。
有些是基于大语言模型的全新体验，有些已经在PC上实现了很长时间。
例如，十代酷睿率先引入了AI性能支持，可以为PC带来自动图像增强和视频分辨率增强。
、智能降噪等AI功能。
大语言模型技术被认为是通用人工智能（AGI，Artificial General Intelligence）之路。
AGI是指具有与人类相似的广泛智能水平和能力的人工智能系统。
相比之下，目前大型语言模型大多数人工智能系统都专注于特定任务或领域。
在此前提下，阿里云刚刚开源的统一千文一参数模型（Qwen-72B）堪称目前最强大的开源大模型。
Qwen-72B在10项权威基准评测中取得了开源模型的最佳性能。
超越开源基准Llama 2-70B和大多数商业闭源模型，已经具备一定的通用能力。
基于阿里云开源的Qwen-72B、Qwen-14B、Qwen-7B、Qwen-1.8B四大语言模型，以及大型视觉理解模型Qwen-VL和大型音频理解模型Qwen-Audio，阿里巴巴云实现了“全尺寸、全模态”开源。
这意味着对于各行各业的开发者来说，这些开源大机型可以有多种套餐可供选择，包括PC、手机，甚至是不熟悉设备的IoT设备。
统一钱文的大模型部署在Intel Core Ultra平台上，是未来部署在PC等终端上的可能性之一。
此外，华东理工大学X-D Lab团队基于同易钱文开源模型Qwen-7B和Qwen-14B开发了多个大型行业模型，包括大型心理健康模型MindChat（讲）、医疗健康大模型孙思邈（孙思邈）、教育模型/考试大模型GradChat（锦鲤）等。
浙江大学和高等教育出版社基于Qwen-7B开发了知海-三乐教育垂直模型。
已在全国12所高校应用，可提供智能问答、试题生成、学习导航、教学评价等能力。
该模型已在阿里巴巴云灵机平台对外提供服务，一行代码即可调用。
脱离比特世界，在现实世界中，浙江优路机器人科技有限公司将Qwen-7B集成到道路清洁机器人中，让机器人用自然语言与用户实时交互，了解用户的需求由用户转发，执行用户高层指示。
分析拆解，进行高层逻辑分析和任务规划，完成清洁任务。
总之，AI的舞台不仅仅是PC，PC也不仅仅是AI应用，但它们之间存在着巨大的交集，创造出将改变我们PC使用习惯的场景。
绘画时，应该使用数字板和压感笔进行创作，还是应该使用文森特绘画？写字时，你是用键盘一一打出字，还是用中文写？这些问题已经显现出来，每一个拥有AI PC的用户都将逐渐面临选择和使用习惯的改变。
版权声明：本文内容由互联网用户自发贡献，本站不拥有所有权，不承担相关法律责任。如果发现本站有涉嫌抄袭的内容，欢迎发送邮件 举报，并提供相关证据，一经查实，本站将立刻删除涉嫌侵权内容。
标签：
相关文章
06-18
06-17
最新文章
Android旗舰之王的过去与未来
智能手表不被开发、AR眼镜被推迟，Meta的产品经历了一波三折
为什么Cybertruck是特斯拉史上最难造的车？
更新鸿蒙3后，文杰允许你在车里做PPT了
新起亚K3试驾体验：追求“性价比”，韩系汽车仍不想放弃
阿维塔15登场！汽车配备了增程动力，理想情况下会迎来新的对手吗？
马斯克宣布创建 ChatGPT 竞争对手！ OpenAI的CEO给他泼了冷水， GPT-5可能会发生巨大变化
骁龙无处不在，是平台也是生态