詹阿蒙：创业者应该专注于产品和客户，不要担心估值和IPO
06-18
人工智能领域正在发生一场思维之战，但双方并不势均力敌。
上周一，加州大学伯克利分校教授马毅、同学教授曹颖与粤港澳大湾区数字经济研究院（IDEA）创始主席沈向洋博士联合发表立场文件《关于形成智能的简约和自洽原则》（论智能出现的简约性和自洽性原则）。
作者提出所有智能——无论是人工智能还是自然智能——都应该遵循简单性和自洽性原则，并进一步指出这两个原则的结合形成了一种实用有效的计算框架，称为“压缩闭环转录”（compressive闭环转录），并指出了当前流行的深度神经网络实现思路过于依赖计算能力、过于臃肿、可解释性差的缺点。
当学界/工业界大多数人把堆积参数和计算能力视为实现智能的唯一途径时，马毅尖锐地反驳道：“智能应该是最民主化的技术。
蚂蚁会移动，会搜索。
它能识别物体，不会迷路，是一种具有分工能力的社会性动物，它需要多少资源？”这份立场文件实际上是他对整个学术界“智慧”的希望。
这个命题澄清了事实：地球上有 70 亿人和数千亿其他生物都是有智慧的。
在这种背景下，情报不应该也不可能通过大量资源来实现。
马毅在加州大学伯克利分校办公室 图片来源：杜晨|品万硅星人正在寻找智能的真相。
马毅接受品玩/硅星人采访时表示，由于近十年来深度学习的突然爆发，相当一部分前几年取得成就的人给人们造成了一种错觉，认为自己所做的就是比你的前辈发明的更好。
例如，他在教学时发现，在高维数据优化算法方面，前十年的算法总是比后十年的算法快。
因此，当今深度学习中使用的一些基本算法实际上是在 20 世纪 50 年代和 50 年代开发的。
它是在 20 世纪 60 年代提出的。
“以前我们都是用计算尺来计算，每次迭代都需要人去计算，耗费大量的时间和精力，所以算法必须是最高效的。
过去的计算机也是如此，他们只有这么多电脑没有那么多的计算能力和那么多的内存，你必须用你的大脑，”他说，“现在每个人都在炒作它。
最后，如果你能改进一两点，你就可以发表文章——是因为方法好吗？不，这是因为使用更快的计算机进行计算。
“在深度学习爆炸性发展的过去十年中，人工智能的大部分进步都来自于使用同质且粗糙的工程方法训练的深度神经网络。
问题在于它们过于依赖统计近似方法。
”成为难以用数学解释的巨大黑匣子；训练数据量太大，计算成本太高，训练的模型太大，缺乏适应性，容易受到攻击。
智能应该是这样的，至少我们在自然界看到的生物智能，不是这样的。
马毅认为，智能的核心是学习，学习的核心是观察高维度的外部世界，识别普遍的低维度。
维度世界的结构，以紧凑的方式准确地存储它们，并且在后续的使用中仍然能够忠实地反映外部世界的情况。
这种学习能力不应该有计算资源门槛。
例如，一只蚂蚁最多可能只有几十万只。
然而，在自然界中我们看到蚂蚁可以表现出非常复杂和惊人的智能行为，而这些行为能力并不是它们在巢穴中经过多长时间的训练而获得的，而是它们从出生起就拥有的。
以及在不断独立和社会生活的过程中进一步学习和模仿，如果像蚂蚁这样资源极其有限的生物智能能够存在于自然界中，那么要使用大量的计算资源来构建人工智能就太离谱了。
前几天，马毅在他新开通的推特账号上发表了一个会让很多追随深度学习潮流的人感到不舒服的观点：如果一个学者只阅读过去五六年发表的文章，这种情况下真正产生的可能性你生活中的突破性想法几乎为零。
与其这样做，还不如去赌场玩老虎机，赢钱的机会更大。
加州大学伯克利分校的教授也是这一观点的践行者。
他是诞生于 20 世纪 40 年代和 1950 年代的控制论、信息论和博弈论的忠实信徒。
他也是维纳、香农、冯诺依曼和其他发展这些理论的人的粉丝。
他坚信当今的深度学习。
以人工智能为主要方向的发展，尤其是发展过程中出现的一些问题（如深度网络作为开环系统缺乏鲁棒性、存在“灾难性遗忘”等问题）一直被围绕早在六十、七十年前。
不仅如此，他认为智能系统的必要要素（包括紧凑编码、错误反馈、博弈论、非线性和平移不变性等）已经被维纳在他的书《控制论》中提到过。
这是正确的。
“一个人得有多么狂妄，才会认为自己花了半年时间思考的想法，没有被过去比你更聪明、更善于动脑、拥有更少（计算）资源的人想到过。
” 70年？如今，一群被认为是世界上最聪明的人，实际上变成了最没有常识的人，这是一件非常不幸的事情。
”马毅说。
图片来源：@YiMaTweets 不求成为主流，而是寻求真正专家的共鸣。
尽管是三大顶级计算机和数学学会IEEE、ACM、SIAM的会员，但马毅对学术界和工业界持怀疑态度并疏远。
并不陌生。
他在过去五六年里发表的研究和提出的想法经常使他成为学术挑战的对象。
这次也不例外。
尽管这篇论文发表后引起了不小的影响，也有人回应称这对自己的研究很有启发——这篇文章仍然延续了马毅多年来坚持的思想，并且直言不讳地批评了当前流行的思想。
深度学习。
被一些深度学习研究者和实践者评价为“小题大做”。
当然，学术界没有人能够一下子说服所有人。
马毅对这个研究结果还是很满意的。
特别是考虑到不久前刚刚加入加州大学伯克利分校的美国国家科学院院士、神经生物学专家Doris Tsao不仅认可了他的观点，而且作为第二个作者为该论文提供了巨大的帮助。
作为一个更习惯用数字说话、以结果论英雄的“工程思维”学者，马毅表示，这是他第一次与更“纯粹”的科学家合作写论文，感觉很独特：“我们做数学或者工程。
人们用结果说话。
你看，我的算法比以前的算法好10%，所以它一定有道理，对吧？但是，在曹颖面前，我必须让她相信这个可行的方法。
”这个情报的原理，对吗？更好的选择，但唯一的选择，是必要的。
”首先，马毅和学生在研究情报基本原理时发现的最合理的数据表达方法与曹颖过去的类似。
研究灵长类动物的大脑。
这里看到的一些现象非常相似。
例如，人脑和猴脑也使用子空间来表达他们所学到的东西。
曹颖在论文中从神经科学的角度提供了一些观察和观点。
具体来说，大脑用来构建世界的模型也是高度解剖结构的，根本不使用反向传播，因为它需要太多的神经元对称投影和太复杂的反馈机制——换句话说，现在很多人认为使用深度神经网络网络可以模仿大脑的工作方式，但这可能从根本上是错误的。
“我喜欢‘必备’的思想体系和像这样的重要研究，”曹颖在她的推特账户上写道。
曹颖 图片来源：西蒙斯基金会 论文中，马毅引用了物理学家费曼等人的话。
有趣的是，谈到他的一生成就，费曼曾表示，他因开发重整化方法而获得的声誉应该属于另一位当时默默无闻的同事斯蒂克尔伯格。
马毅的观点在当今的深度学习中并不是主流，他的经历与斯蒂克尔伯格的经历有些相似。
尽管偶尔会在社交网络上发表“粗鲁言论”，但马毅在现实中仍然冷静地看待自己的经历，“我并不一定意味着每个人都必须相信我发表的文章。
科学界会产生怀疑。
这是一个自然现象。
” ，包括我自己，对别人的所作所为也抱有质疑的态度。
”他发表了一篇又一篇关于情报基本原理的论文，并在网络上发表了一些“过激”的言论。
事实上，他希望每个人都能读到它。
我们已经达到了一个糟糕的现状：太多的深度学习学者过于依赖反向传播和梯度下降等常用方法。
他们认为在局部找到最优解就可以解决所有问题，甚至将深度学习作为研究对象（而不是实现研究）。
达到目标的工具），这是一种“盲人摸象”、“一片树叶蒙蔽了双眼”的行为。
“现在大家都在说深度学习可以解决世界上所有的问题，甚至有人说只要关注/奖励就可以了，这是只见树木不见森林的典型表现，我们所做的就是整合所有模块全部集成，让大家看到智能不是单个模块，而是一个整体系统，它包括控制、对策（博弈）、优化、深度网络四者放在一起形成一个闭环系统，并且。
在中国科学家中，包括菲尔兹奖获得者丘成桐、教授在内的一些专家认可或赞赏马毅的观点，并支持并邀请他在国际上进一步开展这一领域的研究。
引起了深度学习创始人Yann LeCun的注意，他的学生和实习生也收到了LeCun小组（NYU/Meta）的邀请“这是一件非常好的事情。
“我们这里有限的资源快用完了，他们有更多的资源，我们的研究可以由他们继续进行和验证。
”马毅说。
关键的基石原理，背后新的研究力量。
另一个在这篇论文中发挥关键作用的人文中的第三位作者“沈香阳”——他正是前微软全球执行副总裁沈向洋·博士。
这并不是沈向洋和马毅第一次在学术问题上有交集。
2016年加入亚洲研究中心（MSRA）进行研究，并于2016年正式加入担任首席研究员和经理。
他在任期间还接手了沈向洋创立的视觉计算小组（VCG），如何恺明等。
后来成为国际知名计算机视觉专家的马毅在MSRA访问期间与他指导的学生合影 图片来源：马毅和马在MSRA不仅仅是师徒上下级关系。
也是研究伙伴。
两人本科时的专业都是控制与自动化，这让他们在研究思路上继承了相似的传统。
MSRA访问期间，马毅提出了从压缩的角度看待高维数据分类和聚类工作的想法，得到了沈向洋的认可，两人还合作开展了相关研究。
“我们发现闭环系统运行得非常好。
当时我们都立即意识到了这件事的（重要性），因为我们都研究了控制，这件事对我们来说很有意义。
”沈向洋是MSRA创始成员之一，在他的领导和影响下，MSRA已成为当代科技公司中成果最好、与母公司产研结合最有机、对社会积极影响最大的学术研究部门和行业。
一个家庭的。
许多科技公司效仿 AT&T 和 Xerox 建立了自己的“贝尔实验室”或“PARC 研究中心”，但没有一家像 Microsoft-MSRA 那样成功。
2016年，沈向洋从微软“退休”，更加专注于科研创新和产学研融合。
2016年11月，沈向洋正式成立粤港澳大湾区数字经济研究院，简称IDEA研究院。
沈向洋在 2018 年 IDEA 会议上。
图片来源：IDEA。
马毅直言，国外大企业的研发机构普遍比较强大，国内企业近年来也纷纷效仿。
但一段时间后，人们发现国内很多企业想要研究部的“光环”，却不愿意付出代价或者没有持久的信心。
“国内有些公司招了一个优秀的研究员，两年后问，发现这个人已经调去开发了，结果他的开发不是最好的，学术知识也不是最先进的。
”整个人都毁了……” “何玉明、孙坚这样的人才，都在我们组培养了十年，为他们挡子弹，让他们专心搞科研。
我们当时就在隔壁。
对于中国企业来说，换工作时工资翻倍，但他们不愿意离开，你可以想象为什么马毅非常欣赏沈向洋发起的IDEA这样的组织，它为聪明而有抱负的人提供了一个平台。
不急于求成的人。
在这样的环境下，我们可以做真正有意义和前瞻性的研究工作，同时仍然保留敏锐的行业敏锐度和组织层面的实施能力。
他以深度学习做蛋白质折叠为例。
这个知识领域对于计算机科学家和工程师来说可能需要几年的时间才能弄清楚，而且即使做了几年也可能没有可发表的结果。
因此，要做类似的前瞻性研究，就必须耐得住孤独，敢于承担风险，“谁能做到这一点？至少我在中国还没有看到。
但哈里（沈向洋）有这方面的经验，他知道正在发生的事情的重要性，知道如果没有人推动，这些事情永远不会发生，”马毅告诉《硅谷之星》，在过去的十年里，深度学习的研究已经变得越来越重要。
太多人忙于创建数据集、提高计算能力、调整参数、发表论文、追求 SOTA（state-of-the-art best results）。
相反，真正关注基石理论研究的人却很少（至少在马毅看来，一些所谓的“基石模型”并不是真正的基石研究，因为深度神经网络应该是实现目标和目标的工具）不应该成为研究的对象。
）面对应用研究的趋势，理论研究者。
注定孤独一人。
在这场探索智能基本原理、挑战深度学习主流的战争中扮演大卫是惊心动魄的，充满感情的，但也非常残酷。
马毅最近表示，虽然他已经完成了加入加州大学伯克利分校后为自己设定的目标，但这五年在精神上也是极其痛苦的。
“也许明年我也想休息一下，仔细想想接下来要做什么。
” *注：封面图片来自品玩/硅星。
未经特别授权，禁止转载。
版权声明：本文内容由互联网用户自发贡献，本站不拥有所有权，不承担相关法律责任。如果发现本站有涉嫌抄袭的内容，欢迎发送邮件 举报，并提供相关证据，一经查实，本站将立刻删除涉嫌侵权内容。
标签：
相关文章
06-08
06-18
06-18
06-18
最新文章
首先告诉我什么是智能汽车！
盲盒明星卡的暴利与泡沫：2元卡卖700万，直播卖卡月入百万
黑色星期五轰轰烈烈地回来了，结果这些中国企业扛起了全场
锂电池隔膜疯狂扩产：兴源材料欲夺回C位？
当我考上缅语专业时：凌晨三点我还在走廊里背单词，毕业后，我不仅仅是一名翻译者
被遗弃，被收获？老年人上网到底有多难？
海外日报 -今年，我国自主研发游戏海外实际销售收入实现两位数增长；三星电子正式成立机器人业务团队36氪海外·15分钟前
腾讯音乐：爱、相信、坚持