路透社:美国参议院通过520亿美元芯片法案,在竞争中击败中国等国
06-08
ICML 第一天即将开始。
这一天,来自深度学习各个研究领域的专家将发表他们的论文和研究成果。
ICML入选的论文主要集中于基础理论研究。
例如,深度学习主题的论文大多集中在如何有效地建立学习模型和训练模型,而关于最终应用的论文相对较少。
ICML 论文关注广泛的领域。
我们从周一的深度学习论文中挑选了几篇我们认为可能有价值的文章。
它们来自不同的主题部分,供您参考:One-Shot Generalization in Deep Generative Models )这是来自 Google DeepMind 的一篇论文。
本文主要讨论如何让机器学习系统像人类一样快速地学习新事物,或者至少接近这个目标。
我们都知道,当前的神经网络需要至少数千甚至数万甚至更多的样本进行训练,才能“学习”一个新概念。
人们一直试图弄清楚为什么人脑通常可以在一次训练中学习新概念。

概念。
如果这方面的研究取得突破,可以大大提高机器学习的效率。
选择理由:机器的计算速度是无与伦比的,但学习能力却相当弱。
如果学习能力能够增强,一定会促进机器学习的发展。
学习使用记忆构建网络(Learning to Generation with Memory))这是清华大学三位学者的研究论文。
目前,“记忆”仍然是AI的短板。
记忆单元已被广泛用于增强深度神经网络的长期响应能力和预测指令的能力,但在生成模型的过程中却很少使用(通过研究当前的一些数据生成新的数据)。
本研究提出了DGM的应用,允许算法通过外部存储的信息来提高自身的能力。
入选理由:我们曾经提到过,内存不足可能是当前机器语音助手未能普及的最大因素。
相当于人类水平的记忆力是机器与人类正常对话的最重要前提之一。
End-to-End Speech Recognition in English and Mandarin(英语和普通话的端到端语音识别)这是百度给出的论文,吴恩达也参与了这篇论文。
它展示了一种可用于识别英语和普通话的算法思想。
即使在嘈杂的环境、带有方言口音的语音或不同语言的情况下,该算法也能表现良好。
百度表示,其在这里取得的成就主要与超级计算机的合理应用有关。
选择理由:该算法的优越性主要体现在能够消除方言和噪声环境的干扰。
我希望它的价值确实像它所说的那么大。
为什么算法可以在俄罗斯方块中如此轻松地做出大多数决策?也许所有顺序决策问题都可以? (为什么在俄罗斯方块中大多数决策都很容易,也许在其他顺序决策问题中也是如此)强化学习主要用于控制应用,例如机器人自动控制,但它与深度学习的交叉已经变得越来越普遍。
ICML中强化学习的研究主要集中在训练算法来玩游戏或构建竞争模型来研究规则。
俄罗斯方块的意思是俄罗斯方块。
研究人员发现,只要人们能够轻松地对一件事情做出最优决策,而不知道相应的行为会带来多少奖励,那么这件事情就可以很容易地被计算机操纵。
解决。
他们想了一个办法,将这个特性应用到算法中,让算法的学习更加高效、更快。
入选理由:玩游戏是检验算法效果非常有效的方式。
本文介绍了一种新的算法学习模型,非常具有创新性。
Minecraft 中的记忆、主动感知和动作控制(Control of Memory, Active Perception, and Action in Minecraft) 该团队设计了一个用于玩 Minecraft 的新 RL 任务。
特点还在于算法中加入了“内存数据”。
记忆力的提升应该是未来AI的发展趋势,也是AI提升空间最大的地方。
选择理由:《我的世界》是一款开放式游戏。
让人工智能玩这个游戏有意义比让人工智能玩俄罗斯方块困难得多。
而且,这项研究还涉及AI记忆的建立。
离散深度特征提取:一种理论和新架构卷积神经网络的时间持久特征提取在2000年首次成为数学理论,本文考虑了一种从离散变量中提取特征的方法,并尝试围绕此建立数学理论体系特征。
选择理由:并非所有变量都可以转换为连续函数。
机器学习算法有必要学习一种有效的提取离散特征的方法。
论文《Noisy Activation Function》已由雷锋网全文翻译。
在深度学习过程中,通过给函数添加噪声,梯度饱和的现象得到了极大的缓解。
点击查看入选理由:反直觉、反直觉的想法取得了很好的效果。
Learning Physical Intuition of Block Towers by Example(通过示例学习Block Towers的物理直觉)这是Facebook AI研究院的工作。
该团队使用了一种类似于木制滑轮的模型,这是一种帮助婴儿感受物质世界的玩具。
Facebook AI Research 创建了一个积木的 3D 模型,然后将其倒塌,从而使算法能够预测积木倒塌的轨迹和严重程度,并获得有关其物理特性的一些“直觉”。
就像人类对物体物理属性的感受一样。
入选理由:对于AI来说,对物品拥有“物理直觉”非常重要。
例如:当机器人看到脏地板时,如果它能明白它处于潮湿状态,踩在上面就会下沉,它可以避免很多事情。
麻烦。
目前,深度学习的研究还处于比较基础的阶段。
不难发现,研究人员仍在尝试从各个角度模拟人类的感知和思维,以创造实用的人工智能。
这是一个合理的想法,让我们期待周一美国纽约演讲的正式开始。
版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。
标签:
相关文章
06-17
06-17
06-18
06-18
06-17
06-18
最新文章
Android旗舰之王的过去与未来
智能手表不被开发、AR眼镜被推迟,Meta的产品经历了一波三折
为什么Cybertruck是特斯拉史上最难造的车?
更新鸿蒙3后,文杰允许你在车里做PPT了
新起亚K3试驾体验:追求“性价比”,韩系汽车仍不想放弃
阿维塔15登场!汽车配备了增程动力,理想情况下会迎来新的对手吗?
马斯克宣布创建 ChatGPT 竞争对手! OpenAI的CEO给他泼了冷水, GPT-5可能会发生巨大变化
骁龙无处不在,是平台也是生态