首页 > 科技未来 > 内容

literallydenis (@IntuitMachine)：GPT-4 有一个 1.8T MoE，感谢 Nvidia 的演示，

发布于：2024-06-18 编辑：匿名来源：网络

卡洛斯 E. Kong (@IntuitMachine) 的一条推文分享了有关 GPT-4 的重要更新，GPT-4 是生成式预训练 Transformer AI 模型的最新版本。

它引用了 @literallydenis 的转发，表明 GPT-4 是一个 1.8T 参数 Yao 混合模型 (MoE)，并将此信息归因于 Nvidia 的演示。

这个细节很重要，因为它显示了与前几代相比，该人工智能模型的规模和潜在能力显着增加。

Nvidia 的参与表明先进计算资源的使用可能会增强 GPT-4 的性能。

对于那些对尖端人工智能技术的发展及其对各种应用的影响感兴趣的人来说，这些可能值得进一步探索。

- GPT-4的型号尺寸为1.8T MoE。

- 此信息是在 Nvidia 演示期间共享的。

literallydenis (@IntuitMachine)：GPT-4 有一个 1.8T MoE，感谢 Nvidia 的演示，

站长声明

标签：

上一篇：来花完成1.66亿元B3轮融资

下一篇：左电完成数千万元A轮融资，天图独家投资

成都银行正式递交IPO申请拟发行不超8亿股普通股

成都银行已正式提交IPO申请，拟在上海证券交易所发行不超过8亿股人民币普通股（A股）。），募集资金将用于补充资本金、增强可持续发展能力。　　IPO是成都银行实现建设优秀股份制银行目标的重要战略举措。成都银行上市不仅有利于增强资本实力、提高市场竞争力，也有利于进

06-17
日报优鲜孵化的无人零售“便利购物”获2亿美元融资，腾讯领投A轮，鼎晖领投B轮，

据投资界12月29日消息，生鲜零售平台天天耀明正式宣布，旗下孵化了半年的无人零售项目便利店，近日已分拆为独立运营的子公司并获得2亿美元A+B轮融资。　　其中，腾讯领投A轮投资，总额1万美元，元生资本、时代资本、KTB跟投；鼎晖投资共计1.44亿美元B轮领投，北极光创投、

06-18
工信部：下架艺龙酒店等37款APP

工信部此前已向社会公布了侵犯用户权益的APP企业名单。截至目前，经第三方检测机构核查复检，仍有37款APP未按照我部要求完成整改，包括新版星辰、艺龙酒店、草莓视频、东风出行、相机等APP。工业和信息化部组织下架上述37款App。本通知发布后，相关应用商店应立即组织下架

06-18
货拉拉完成3亿美元D轮融资，2018年业务量增长近200%

据投资界2月21日消息，从相关媒体获悉，同城货运平台货拉拉已完成高瓴资本D1投资。红杉资本中国基金领投D2轮融资。本轮融资总额为3亿美元。钟鼎资本和光伏资本也参与了投资。顺为资本、祥和资本、MindWorks Ventures、零一创投等老牌投资股东也持续跟投，广元资本担任本次

06-17
科技部：重点支持符合国家战略和战略性新兴产业的高新技术企业在创业板上市

科技部、深圳市人民政府关于印发的通知：支持深圳市制定新建研发机构扶持政策的项目申请和分类。推进创业板改革，实行注册制，推进发行、上市、信息披露、交易、退市等基础性制度改革。优化政策环境，重点支持符合国家战略的高新技术产业和战略性新兴产业高新技术企业在创业

06-17
9.1GWh！ Fortescue计划在西澳部署全球最大电池储能项目

据外媒报道，澳大利亚矿商Fortescue金属集团近日表示，已向西澳环保局提交了建设Uaroo可再生能源中心的提案。该项目的公众咨询期将开放一周，直至 2 月 15 日。公众咨询已经开始就一项大型可再生能源项目的计划进行，该项目将包括为 Fortescue 采矿设施提供电力的电网规模电

06-08
element14 社区公布“第六感”设计挑战赛获奖者

社区成员使用意法半导体 SensorTile 和 TE Con??nectivity 组件包设计自动驾驶汽车中国上海，2019 年 4 月 29 日 – 电子元件和开发服务全球分销商 element14 Community，在线社区element14旗下工程师公布了“第六感”设计挑战赛的获奖者。作为element14社区年度五大挑战赛

06-06
君联资本蔡大庆：医疗健康领域投资看重人才，聚焦新模式

近年来，健康医疗成为VC/PE策略师的必争之地。健康医疗行业也因其巨大的市场和不断涌现的创新技术和模式，成为竞争的温床。，及其抗周期性，被誉为“永远的朝阳产业”。君联资本重点关注的TMT、健康医疗、清洁科技、现代服务、先进制造、消费品六大领域中，医疗健康成为其

06-18
阿里云副总裁任庚：打造共生、创造、互惠的创业生态

10月12日上午，阿里巴巴年度创新创业峰会在云栖小镇国际会展中心举行。阿里云副总裁任庚发表主题为《遇见双创预见未来》的主题演讲。任庚认为，大众创业、万众创新不仅是国家竞争力的体现，也是DT时代的历史机遇，更是阿里巴巴经济体的责任和担当。阿里巴巴如何做大众创

06-17
RedBlock获得上市公司The Ninth City战略投资

7月11日消息，近日，区块链金融科技公司RedBlock宣布获得纳斯达克上市公司The Ninth City战略投资。除了获得九城的资金支持外，RedBlock还将依托九城的产业布局，与九城及其关联公司在海外业务和资产数字化方面开展战略合作。 RedBlock源自硅谷，致力于成为资产数字化领域的

06-18
人人网计划今年赴美IPO融资5亿美元

据投资界2月21日消息，据外媒报道，中国社交网站人人网计划今年赴美上市。　　据透露，投行摩根士丹利、德意志银行和瑞士信贷将担任人人网首次公开募股的联席证券承销商。据人士透露，人人网将于今年6月前向美国证监会提交上市申请。　　商业社交网络LinkedIn上个月宣布，

06-18
《广州2000年亿母基金管理办法》正式颁布

日前，广州市政府常务会议审议通过《广州产业投资母基金、广州创新投资母基金管理办法及配套激励约束制度》（以下简称《管理办法》）。 1亿元产业基金中的基金发挥“促投资、促生产”作用，采用“王牌基金+直投”方式开展投资运作；亿元创投基金中的基金发挥“以投促创业”的

06-17