专注供暖系统，君安公司获1000万元A轮融资
06-18
AI能否抓住推理的本质，即实现对分布在多个事实或记忆中的元素之间的长距离关系的认知？为此，Alphabet 子公司 DeepMind 正试图在即将在 Arxiv.org 上发表的一项研究中找到答案，该研究提出了 MEMO，一种能够进行远距离推理的架构。
研究人员表示，MEMO 有两个新组件：第一个组件引入了事实与存储在外部存储器中的记忆之间的差异，第二个组件采用了检索系统，允许在决定答案之前使用可用信息。
可变数量的“内存跳跃”。
这两个部分使其能够解决新型推理任务。
雷锋网注意到，这个架构的灵感来自于海马。
该论文的合著者写道：“海马体支持以新颖的方式灵活地重组个人经历，以推断出未观察到的关系……这称为推理。
”有趣的是，已经有证据表明海马体通过一种称为模式分离的过程相互独立地存储记忆，以尽量减少记忆之间的干扰。
最近的一项研究揭示了这一点：这些独立存储的记忆在检索过程中通过循环机制进行整合，该循环机制允许多个模态分离的代码进行交互，从而支持推理。
从那时起，DeepMind 的工作从这项研究中汲取灵感，研究和增强机器学习模型的推理。
研究人员借鉴神经科学文献，设计了一种过程生成的任务，称为配对联想推理（简称 AI），旨在通过迫使 AI 系统学习抽象知识来解决以前未见过的问题来获得该任务。
推理能力。
随后，研究人员构建了 MEMO，它可以在提供输入查询时输出一系列可能的答案；为了尽量减少必要的计算，答案通常采用表示的形式。
研究人员表示，MEMO 在内存中保留一组事实，并学习一种映射，该映射与一种允许使用内存具有更大灵活性的机制一起工作，并且它与典型的 AI 模型不同，因为它使计算时间适应任务的复杂性。
MEMO 在其工作中从名为 REMERGE 的人类联想记忆模型中获取线索，该模型将从内存中检索到的内容作为新查询进行回收，并使用回收过程中不同时间步骤检索到的内容。
计算模型是否在固定点进行适应之间的差异是，MEMO 然后输出一个动作，指示它是否希望继续计算并查询其内存，或者是否能够响应给定的任务。
在测试中，DeepMind 研究人员将 MEMO 与两个基线模型以及 Facebook Research 的 bAbi 套件（雷锋网出版社：一组评估文本理解和推理的 20 个任务）中当前最先进的模型进行了比较。
结果表明，MEMO 能够在 P AI 任务上实现最高的准确度，并且它是唯一能够成功回答较长序列上最复杂的推理查询的架构。
此外，与性能最佳的基线模型的 10 个步骤相比，MEMO 只需要 3 个“跳跃”即可完成任务。
在另一项要求模型在给定节点图的情况下找到两个节点之间最短路径的任务中，面对更复杂的节点图时，MEMO 的性能比基线模型好 20%。
来自 Venturebeat，雷锋网编译。
版权声明：本文内容由互联网用户自发贡献，本站不拥有所有权，不承担相关法律责任。如果发现本站有涉嫌抄袭的内容，欢迎发送邮件 举报，并提供相关证据，一经查实，本站将立刻删除涉嫌侵权内容。
标签：
相关文章
06-18
06-17
06-18
06-17
06-18
06-17
06-18
06-18
最新文章
Android旗舰之王的过去与未来
智能手表不被开发、AR眼镜被推迟，Meta的产品经历了一波三折
为什么Cybertruck是特斯拉史上最难造的车？
更新鸿蒙3后，文杰允许你在车里做PPT了
新起亚K3试驾体验：追求“性价比”，韩系汽车仍不想放弃
阿维塔15登场！汽车配备了增程动力，理想情况下会迎来新的对手吗？
马斯克宣布创建 ChatGPT 竞争对手！ OpenAI的CEO给他泼了冷水， GPT-5可能会发生巨大变化
骁龙无处不在，是平台也是生态