成都高新区：以创新为核心，5年投资300亿元，新建50个研发机构
06-17
在美国学术圈，围绕论文发表的各种黑暗事情并不少见。
为了逃离这种学术黑暗和科技公司抛出的高薪橄榄枝，一些人选择加入这个行业，在谷歌这样的大型科技公司跳槽。
然而，令人意想不到的是，连谷歌也叛变了，成为了AI学术界的黑暗角落。
据《纽约时报》独家报道：谷歌今年3月悄悄解雇了一位AI研究员，因为他长期与同事不和，并对公司发表的高调论文提出质疑和批评。
谷歌AI去年6月发表论文《A Graph Placement Methodology for Fast Chip Design》，提出利用EdgeGNN强化学习算法设计某些芯片组件的能力已经超越了人类。
该论文（以下简称“芯片论文”）发表于《自然》，在业界极具影响力。
谷歌人工智能业务首席执行官杰夫·迪恩也是作者之一。
这位研究员萨特拉吉特·查特吉(Satrajit Chatterjee)对芯片纸产生了怀疑，于是他带领团队撰写了一篇论文(简称“反驳论文”)，试图证伪前述论文中的一些重要主张。
然而，据四名匿名谷歌员工透露，在撰写反驳论文时，该公司首先拒绝发表，然后迅速将查特吉从公司解雇。
“我们对反驳论文中的一些主张进行了严格审查，最终确定它不符合我们的出版标准。
”谷歌研究院副总裁 Zoubin Ghahramani 告诉《纽约时报》。
Chatterjee 似乎也辞去了人工智能研究的一线职位，加入了一家风险投资公司（未经我证实）。
罢免作者，威胁保持沉默：谷歌学术有这么黑暗吗？事情的经过大概是这样的：在《自然》发表上述芯片论文之前，谷歌在今年4月份发表了一篇标题基本相同的预印本论文，Chip Placement with Deep Reinforcement Learning。
据《纽约时报》援引多位匿名知情人士的话称，当时的谷歌非常重视AI设计芯片的研究方向，迫切希望尽快将自己开发的技术货币化。
当这篇预印本论文发布时，谷歌联系 Chatterjee 询问是否可以直接出售该技术或将其授权给芯片设计公司。
然而，曾在英特尔工作、在芯片行业拥有丰富经验的研究员，却直接给杰夫·迪恩泼了一盆冷水。
他通过电子邮件告诉同事，他对预印本论文中的一些说法持“保留意见”，并质疑所使用的技术未经严格测试。
查特吉并不是团队中唯一对这项研究表示怀疑的谷歌员工。
在这篇预印本论文中，作者的另外两位合作者——谷歌 AI 内核团队创始人 Anand Babu 和软件工程师 Sungmin Bae——也支持 Chatterjee 的观点。
与此同时，谷歌迫不及待地想从报纸上赚钱。
Satrajit Chatterjee 图片来源：个人网站 Google AI 重新调整了这篇预印本论文，更改了标题，直接提交给学术界最负盛名的《自然》期刊，并成功发表（即前面提到的芯片论文）。
不过，硅星了解到，该论文的重新标题、删除和重新发布在 Google AI 内部引起了相当大的争议。
一些员工觉得事情很奇怪：首先，为什么这篇论文要以不同的标题重新发表？其次，既然要发布新版本，为何没有经过公司内部论文评审委员会重新审核？最后，也是最奇怪的部分：为什么发送给《自然》的这个新版本删除了对这项研究表达不同意见的两位作者的名字？这是不是意味着，他们两个并没有对新版本做出过贡献，所以他们存在的痕迹就被简单的消除了，就好像他们从来没有对这项研究做出过贡献一样？上图：2020年4月论文预印本；下图：2018年6月的《自然》版本（“Chip Paper”），删除了两位王牌的名字。
图片来源：arXiv，Nature 为了平息争议。
之后，Jeff Dean批准了包括Chatterjee、Bae、Babu等在内的员工对芯片论文提出质疑，并承诺他们的后续报告（即反驳论文）将按照公司既定政策走论文出版审批委员会流程。
没过多久，Chatterjee 等人写了一篇反驳论文，题为《Stronger Baselines for Evaluating Deep Reincorcement Learning in Chip Placement》（点击文末“阅读原文”按钮即可查看）。
在反驳论文中，作者夫妇提出了几个新的基线，也称为基线参考算法，这意味着那些效果比这个基线更差的都是不可接受的，没有必要发表论文。
结果，作者提出的方案比谷歌芯片论文中使用的算法的实现效果更好，并且运行时依赖的计算能力要少得多。
消融研究结果指出了芯片论文中算法的弱点。
不仅如此，作者进一步指出，人类芯片设计者的设计能力不能作为强有力的基线，即在芯片论文中将强化学习算法与人类进行比较是非常无能的。
有了这些发现，查特吉和其他人向谷歌的出版审查委员会提交了反驳论文。
等了几个月，终于被拒稿了。
谷歌AI高管回应称，反驳论文不符合发表标准。
作者夫妇甚至联系了首席执行官桑达尔·皮查伊(Sundar Pichai)和Alphabet董事会，指出拒绝发表反驳论文可能违反了该公司的人工智能研究出版物和道德原则。
然而，他们的反抗很快就被镇压了。
不久之后，查特吉收到了他被解雇的通知。
与此同时，芯片纸共同第一作者安娜·戈尔迪却有不同的声音。
她告诉《纽约时报》查特吉三年前试图夺取权力，此后一直是后者“虚假信息”攻击的受害者。
我们不知道表达不同声音的查特吉被公司解雇的直接原因是什么。
但《硅星》从谷歌员工处了解到，部分员工认为查特吉被解雇的真正原因是他违背了公司的利益以及谷歌人工智能部分核心高管推动的项目。
在一些人看来，即使是谷歌这样结构扁平化、制度公平的大公司，也难免会暂时改变自己的规则，踢掉反对者，以保护公司的利益和高管的面子。
因利益冲突被解雇，员工“改名”抗议。
这确实不是Google AI内部第一次因学术观点不同和办公室政治而被捕。
在业界很有影响力的斯坦福人工智能实验室成员、前谷歌研究员人蒂姆尼特·格布鲁(Timnit Gebru)两年前突然被谷歌解雇。
那时候，他已经给很多同事留下了非常不好的印象。
而巧合的是，格布鲁当时被谷歌解雇的原因与查特吉如出一辙：他违背了公司的利益，被公司拒绝发表论文。
（初步声明：Timnit Gebru 是业界人工智能偏见方面的专家，但她有些争议。
很多人认为她的“社会正义斗士”性格强于她作为学者的公正性，她受到了一些同事的质疑.）Timnit Gebru 图片来源：Wikipedia Commons Creative Commons License 今年，Gebru 在网上与图灵奖获得者、AI“三教父”之一的 Yann LeCun 展开了对抗。
当时有人用低分辨率人脸修复模型PULSE来修复奥巴马的照片，结果是白色的。
LeCun对此表达了自己的看法，认为是数据集固有的偏差导致了AI结果的偏差。
该声明遭到了包括格布鲁在内的许多人的批评。
Gebru 表示，他对 LeCun 的声明感到失望，因为人工智能算法的偏见不仅仅来自数据。
她本人在这方面做了大量的研究并发表了一些论文。
她的观点一直是，AI偏差不仅仅来自数据集，仅解决数据集并不能完全解决AI偏差问题。
LeCun 进一步发了十几条推文进一步阐述自己的观点，却被 Gebru 及其支持者视为“山寨者”——虽然 LeCun 是“AI 教父”，但 Gebru 本人才是 AI 偏见问题的权威。
专家。
LeCun与包括格布鲁在内的批评者之间的口水战持续了半个月，最终以前者“退却”而告终。
格布鲁在社交网络上直言不讳地批评机器学习领域的资深专家LeCun，但被谷歌内部一些高层认为破坏了公司与学术界/工业界的友好关系。
虽然格布鲁取得了阶段性的“胜利”，但她当时并没有充分认识到事情的严重性，乌云已经笼罩在她的头顶。
大家应该知道，近年来，大型模型（以参数量极大的语言模型为代表）在人工智能研究领域有多流行。
包括Google、OpenAI、微软、亚马逊、BAAI等机构在该领域投入巨资，催生了BERT、T5、GPT、Switch等一系列超大规模面向语言的神经网络模型及相关技术-C、GShard等。
同样是在2018年，Gebru的团队写了一篇论文《On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?》，希望能够揭露超大规模语言模型在实际使用中的危险，并批评其可能存在的问题。
对人工智能偏见的影响。
。
这个方向的研究并不利基。
毕竟，之前的研究发现，像GPT-2/3这样非常大的语言模型在实际场景中使用时会强化现有的社会偏见和歧视（包括性别和种族）。
，对实际用户造成伤害。
Gebru团队这篇文章所表达的主要观点确实没有任何问题。
然而，在杰夫·迪恩看来，这篇文章很短，叙述和引述多于基于实验的结果，缺乏科学证据的要素。
它不构成谷歌以公开名义发表该论文的条件，因此被拒绝并没有发表。
可能更接近本质的原因是，这篇论文如果发表，就相当于唱反调谷歌近年来在大语言模型方面的努力，这将极大影响谷歌AI管理层眼中的士气。
格布鲁坚持说，即使公司不批准，他也会想办法把论文发出去。
谷歌要求她从论文中删除作者与谷歌的关系，这意味着这篇文章是几位作者私下撰写的，该公司并不承认。
这一要求也遭到了格布鲁的严词拒绝。
对于格布鲁的离职，谷歌表示是她自行辞职（内部员工透露格布鲁当时确实威胁要辞职）。
但格布鲁向公众透露的是，他被公司解雇了。
格布鲁在谷歌的下属萨米·本吉奥当时表示，他感到震惊。
本吉奥被授予谷歌杰出科学家荣誉。
他是该公司14年的老员工。
他是最初的 Google Brain 团队的创始成员之一（也是人工智能三大教父之一 Yoshua Bengio 的兄弟）。
后来他因不满格布鲁被解雇而于2016年直接离职。
谷歌。
随后，Gebru团队的论文于当年3月在ACM旗下跨学科会议FAccT（Fairness, Accountability, and Transparency Conference）上发表。
然而，四名作者家族中有两人未能以谷歌员工的身份出现。
在作者的名单上。
值得一提的是，尽管格布鲁在论文发表前就已与谷歌分手，但文章发表时另一位作者玛格丽特·米切尔仍在谷歌工作（后来被解雇）。
在论文发表的版本中，她“改名”，在名字前加上“Sh”，讽刺公司对她的沉默：图片来源：Wikipedia Commons Creative Commons License 但还有更离谱的事情。
之后。
就在上个月初，Google AI 又发表了一篇论文，介绍了团队开发的一种新的具有 1 亿密集激活参数的超大规模语言模型 PaLM。
在模型架构和道德考虑部分，PaLM 论文至少两次引用了 Gebru 团队前一年被 Google 拒绝的论文。
在伦理思考部分，论文写道，由于从训练数据和模型中完全消除社会偏差是不可行的，因此分析模型中可能出现的相关偏差和风险至关重要，也被引用和引用引用 Gebru 等人在被拒绝的论文中使用的分析方法。
更不用说Jeff Dean还是PaLM论文的作者。
这实在是太尴尬了。
上图：具有讽刺意味的是，引用列表还包括前员工米切尔暗指该公司的记录。
格布鲁说，“这些（谷歌的）人工智能老板可以为所欲为。
他们不必考虑我被公司解雇了，或者我的论文被公司失败了。
他们不必考虑后果他们根本不用考虑后果。
”最后，很多人可能想知道：谷歌AI研究部门为何近年来闹出这么多大事，难道都与员工研究方向与公司的利益冲突有关？针对谷歌AI的情况，硅星人做出了如下评价：“虽然我们需要依靠发射卫星来吸引更多HR和PR的关注，但我们需要尽快将AI研究成果投入生产，并在同时，由于某些有争议的项目需要提高社会责任感。
你不能鱼与熊掌兼得。
” （注：关于“卫星发布”部分，这位前员工指的是Google的一些非常大的模型研究在发布时并没有达到国家级的of-the-Art。
例如Google的1.6万亿参数 Switch Transformers 模型的表现并不比有效参数较少的同类模型好，而且 API 的易用性也很差，因此无法与 GPT-3 做出非常令人印象深刻的演示相比。
）毫无疑问谷歌AI已成为业界科技公司人工智能基础和应用科学研究的标杆机构。
考虑到Google AI的很多研究成果可以更快地投入到各种Google核心产品中，并且这些产品的用户数量达到数亿甚至数十亿，可以说Google AI的研究对于世界来说也是非常重要的。
意义。
同时不可否认的是，Google/Alphabet仍然是一家营利性上市公司，需要对股东负责，需要稳定持续增长。
如今，人工智能并不是一项商业化程度和可行性非常高的新技术。
谷歌内部对于AI产学研融合的期待肯定是越来越高。
考虑到上述背景，就不难理解为什么杰夫·迪恩和其他研究部门的老板们拼命保护公司在人工智能研究上的投资和声誉。
必须承认，这些大佬原本都是AI学术界的先驱者。
说他们不承认学术道德也是一种侮辱。
但遗憾的是，面对当今的企业利益，我们只能在自己的立场上奉行自己的政策。
当灾难袭来时，学术诚信可能不得不暂时搁置。
Jeff Dean 在 Google 开发者大会上发表演讲。
版权声明：本文内容由互联网用户自发贡献，本站不拥有所有权，不承担相关法律责任。如果发现本站有涉嫌抄袭的内容，欢迎发送邮件 举报，并提供相关证据，一经查实，本站将立刻删除涉嫌侵权内容。
标签：
相关文章
06-18
06-06
06-18
06-17
06-17
06-17
06-18
06-18
最新文章
首先告诉我什么是智能汽车！
盲盒明星卡的暴利与泡沫：2元卡卖700万，直播卖卡月入百万
黑色星期五轰轰烈烈地回来了，结果这些中国企业扛起了全场
锂电池隔膜疯狂扩产：兴源材料欲夺回C位？
当我考上缅语专业时：凌晨三点我还在走廊里背单词，毕业后，我不仅仅是一名翻译者
被遗弃，被收获？老年人上网到底有多难？
海外日报 -今年，我国自主研发游戏海外实际销售收入实现两位数增长；三星电子正式成立机器人业务团队36氪海外·15分钟前
腾讯音乐：爱、相信、坚持