首页 > 科技推动 > 内容

解决人工智能数据中心的电力挑战

发布于:2024-07-18 编辑:匿名 来源:网络

国际能源署(IEA)的数据显示,数据中心每年的用电量约占全球总用电量的2%,约为太瓦时。

如今,加密货币和人工智能/机器学习 (AI/ML) 等能源密集型应用正在兴起,这些技术通常需要部署大量高性能图形处理单元 (GPU)。

因此,数据中心功耗将持续上升。

  人工智能应用扩展的速度令人震惊。

ChatGPT上线仅5天,用户数就达到1万,2个月内突破1亿。

这一增速远远超过 TikTok 和 Instagram。

GPT-4 训练包含超过 1.7 万亿个参数和 13 万亿个令牌,总共使用 25,000 个 NVIDIA AGPU,每台服务器消耗约 6.5 kW。

据 OpenAI 称,GPT-4 的训练需要数天时间,消耗约 50 GWh 的能源,成本达 1 亿美元。

  在当前环境下很难准确估计未来的功耗,其中部署用于支持人工智能的GPU消耗了大部分功耗。

国际能源署保守预测,到2020年,数据中心能耗将至少达到TWh,甚至可能超过1TWh。

  人工智能数据中心的架构演进  早期的数据中心将电网电压集中转换为12V,然后通过总线将电力传输到服务器,然后通过逻辑电平转换器将电压转换为3.3/5V。

然而,电力需求不断增加,这种供电方式的电力损耗变得不可接受。

因此,母线电压提高到48V,电流降低到原来的1/4,损耗降低到原来的1/16。

  当前的处理器电压已进一步降低,从 3.3V 降至 1V 以下的亚伏水平。

这时就需要使用多个功率相对较大的电压轨。

这又产生了两级电压转换方案。

该解决方案使用DC-DC转换器作为中间母线转换器(IBC),首先将48V电压转换为12V本地母线电压,然后将其转换为所需的低电压。

  图1:典型服务器电源架构——中间总线  人工智能数据中心需要高效节能的电源转换  功耗带来双重挑战,不仅造成能源浪费和运营成本增加,还会产生大量的热量,进而占用更多的空间并消耗更多的成本。

运营超大规模人工智能数据中心时,机架功率要求为千瓦。

将电网电力转换为 GPU 使用的电压的能效约为 88%,这意味着会产生约 15 kW 的废热,需要通过液冷进行高效冷却。

  在服务器电源设计中,能效和功率密度是两个重要的概念,并且它们是相辅相成的。

我们必须尽可能高效地将电网的能量转化为有用的电力并减少损失。

为此,电源拓扑不断发展,业界不断开发同步整流等技术,并在整流器中使用 MOSFET 来取代有损耗的二极管。

  改进拓扑只是成功的一半。

解决人工智能数据中心的电力挑战

为了优化能源效率,还需要使所有组件尽可能高效,尤其是对转换过程至关重要的 MOSFET。

  MOSFET不是无损耗器件,在导通和开关过程中也会产生损耗。

随着服务器电源工作频率不断提高、尺寸不断缩小,开关损耗成为优化的重点。

  高效PowerTrench? MOSFET  ON Semi的中低压T10 PowerTrench? MOSFET采用新型屏蔽栅沟槽技术,降低了开关损耗和传导损耗,从而显着降低了其Qg,RDS(ON)也降至1mOhm以下。

先进的软恢复体二极管可缓解振铃、过冲和噪声问题,同时降低 Qrr 损耗,为快速开关应用找到性能和恢复时间之间的平衡。

  与早期器件相比,这些新型 MOSFET 可将开关损耗降低高达 50%,将传导损耗降低 30% 以上。

  图2:PowerTrench的优势? T10 MOSFET  ON Semiconductor 的新型 40V 和 80V T10 PowerTrench 器件具有出色的 RDS(on) 性能。

NTMFWS1D5N08X(80 V、1.43 mΩ、5 mm x 6 mm SO8-FL 封装)和 NTTFSSCH1D3N04XL(40 V、1.3 mΩ、3.3?? mm x 3.3 mm 源极向下双热封装)具有出色的品质因数 (FOM),并且非常适合人工智能数据中心电源装置 (PSU) 和中间总线转换器应用。

T10 PowerTrenchMOSFET 符合超过 97.5% 的严格 Open Rack V3 能效标准。

解决人工智能数据中心的电力挑战

站长声明

版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。

标签:

相关文章

  • FOF明星PV王出任君联资本新任:“专业LP的需求正在改变”

    FOF明星PV王出任君联资本新任:“专业LP的需求正在改变”

    据投资界消息,5月31日,君联资本宣布正式任命王彪文先生(以下简称王彪文先生)。 为“PV”)。 王先生)担任君联资本首席运营官、首席运营官,负责君联资本中后端业务的运营以及君联资本香港办公室的管理。 王PV是FOF行业的资深人士。 在加入君联资本之前,王PV曾担任诺亚香

    06-18

  • 利马科技获3亿元B轮融资,独秀资本领投

    利马科技获3亿元B轮融资,独秀资本领投

    投资圈(ID:pedaily)4月22日消息,据36氪消息,利马科技(以下简称“利马”)完成3亿元人民币融资在B轮融资中。 本轮融资由独角兽资本领投,现有股东高瓴资本、纪源资本、鑫源资本跟投。 本轮融资后,公司将继续加大研发投入,同时进一步完善运营和营销团队建设,提升客户服

    06-17

  • 新希望:一季度归属于母公司净利润1.37亿元,同比下降91.59%

    新希望:一季度归属于母公司净利润1.37亿元,同比下降91.59%

    新希望近日公布了年报和一季报。 今年一季度,新希望营收3800万元,同比增长42.15%;归属于母公司净利润1.37亿元,同比下降91.59%。 2018年,新希望营收250亿元,同比增长33.85%;归属于母公司净利润49.44亿元,同比下降1.94%。

    06-18

  • 育婴连锁品牌袋鼠妈妈完成数千万元A轮融资,光速中国领投

    育婴连锁品牌袋鼠妈妈完成数千万元A轮融资,光速中国领投

    据投资界6月29日消息,育婴连锁品牌袋鼠妈妈已完成数千万元A轮融资,光速中国领投。 A轮融资。 本次投资由光速中国领投,双湖资本、大众点评网张涛等老股东跟投。 本轮融资将用于店铺开发、课程产品开发、母系统迭代。   此前,公司已获得大众点评创始人张涛1万元天使投资,

    06-18

  • 粤港澳大湾区设立1000亿元科技创新产业投资基金,

    粤港澳大湾区设立1000亿元科技创新产业投资基金,

    据投资界11月2日消息,今日,粤港澳大湾区科技创新产业投资基金正式成立。 中国经济改革研究由国家发展和改革委员会主管。 该基金会由中央企业、科技龙头企业、地方政府共同发起。 初始规模1亿元,总规模1亿元。 将采取“直接投资+母基金”的投资策略,重点投资国内外新一代信

    06-17

  • 第三代半导体器件制备与评价技术取得突破

    第三代半导体器件制备与评价技术取得突破

    科技部以氮化镓(GaN)、碳化硅(SiC)为代表的第三代半导体材料具有高击穿电场、高导热率、具有电子饱和率高、抗辐射能力强等优异性能,更适合制作高温、高频、耐辐射和大功率电子器件,在光电子、微电子领域具有重要的应用价值。 “十二五”期间,计划重点支持“第三代半导

    06-06

  • AT&S半导体封装载板项目落户重庆

    AT&S半导体封装载板项目落户重庆

    美通社:近日,高端印刷电路板制造商AT&S宣布,为应对高性能计算日益增长的市场需求,公司将扩产其战略支柱 类型业务为半导体封装载板。 计划在重庆建设新工厂,并扩大奥地利莱奥本工厂的产能。 为此,该公司计划未来五年投资近10亿欧元,主要用于在重庆建设新工厂。 这项投资

    06-06

  • 康希诺生物声明:尚未终止与加拿大的COVID-19疫苗合作项目

    康希诺生物声明:尚未终止与加拿大的COVID-19疫苗合作项目

    针对近期媒体报道加拿大国家研究委员会(NRC)终止与康希诺生物的疫苗合作生产项目,康希诺生物( .HK(85.SH))于8月27日晚间发布澄清公告,称合作并未终止;近期,公司管理层未接受任何有关Ad5-nCoV在加拿大临床试验的采访;公司目前正在与多个国家合作推进Ad5-nCoV的国际

    06-18

  • II-VI正在加速扩大美国和瑞典6英寸和8英寸SiC衬底产能

    II-VI正在加速扩大美国和瑞典6英寸和8英寸SiC衬底产能

    II-VI正在加速对6英寸和8英寸碳化硅(SiC)衬底和外延的投资美国和瑞典的晶圆制造。 该公司此前曾宣布,将在未来十年内投资10亿美元,在宾夕法尼亚州伊斯顿和瑞典希斯塔进行大规模工厂扩建,以期成为全球最大的供应商之一。 据eeNews报道,贰陆公司将在美国伊斯顿建造一座近3

    06-08

  • 教你如何从零开始制作Apple Watch国际系列表盘(内含34款表盘可供下载)

    教你如何从零开始制作Apple Watch国际系列表盘(内含34款表盘可供下载)

    最近,无论是工作群、社区群、健身群还是送餐群,每个人都有一个共同话题。 有人调侃“死亡之组”无人生还,有人感叹德意志战车惨遭出局,有人惊讶舍甫琴科率领乌克兰晋级8强……每个人的心都被足球感动了。 6月29日晚,苹果在Apple Store上架了全新国际系列表带,共有22个国

    06-21

  • 中信建投2020年净利润同比增长73%,拟派发现金红利29亿元

    中信建投2020年净利润同比增长73%,拟派发现金红利29亿元

    报告期内,集团实现营业总收入5100万元,同比-同比增长70.53%;实现归属于公司股东的净利润95.09亿元,同比增长72.85%。

    06-18

  • 意法半导体携智能工业和智能驾驶半导体解决方案亮相2018德国慕尼黑电子展

    意法半导体携智能工业和智能驾驶半导体解决方案亮相2018德国慕尼黑电子展

    中国,2019年11月12日——意法半导体(STMicroElectronics,简称ST),全球领先的跨多个电子应用的半导体供应商;纽约证券交易所代码:STM)将参加德国慕尼黑电子展(11月13-16日,C3馆展位),主题为“让工业和汽车应用更智能、更高效”,展示世界一流的工业和汽车半导体产品

    06-06