Grasshopper Energy与Sturdza家族投资罗马尼亚太阳能
06-08
这段涉及百度的人工智能秘史表明,人工智能注定是中美之间的一场“新军备竞赛”。
2019年3月,谷歌斥资1万美元收购多伦多大学初创公司DNN Research。

该公司当时不仅没有任何产品,而且也没有生产计划。
它只有三名员工:当时六十多岁的多伦多大学计算机科学教授杰弗里·Hinton(Geoffrey Hinton)和他的两名学生亚历克斯·克里热夫斯基(Alex Krizhevsky)和IIya Sutskever。
有人开玩笑说,谷歌花了几千万美元,却只买了几篇论文。
但科技行业随后的发展证明了谷歌的愿景。
深度学习已经从一个边缘学科跃升为一个突出学科,而这个学派的开山祖师就是杰弗里·Hinton。
由于对深度学习的杰出贡献,他于2016年获得图灵奖。
Hinton成为AI领域的重要人物,人物,中国互联网也习惯“封圣”他,称他为“AI教父” 、“深度学习之父”等。
而因为Hinton,谷歌成为了AI技术最优秀的公司之一。
但此次收购的具体细节外界却鲜为人知。
事实上,谷歌并不是第一个“发现”Hinton的公司。
实际上,最先认识到Hinton及其深度学习研究价值的中国公司是百度。
在 3 月 16 日发布的新书《Genius Makers: The Mavericks Who Brought AI to Google, Facebook, and the World》(天才创客:那些将 AI 带到 Google、Facebook 和世界的小牛,以下简称《天才制造者》)中,《连线》 杂志资深作家 Cade Metz 透露了这一点——被称为“秘史”。
本书记录了谷歌、Facebook、百度等公司在人工智能方面的竞争,并试图解释为什么人工智能注定会成为中美之间新的军备竞赛。
本书从这次拍卖开始,被形容为“当今AI领域所有故事的开始”。
百度和Hinton即将达成协议。
凯德·梅茨利用大量采访,还原了2008年Hinton主导的一场拍卖会。
当年12月,一年一度的NIPS在美国内华达州边境的太浩湖畔举行。
NIPS代表神经信息处理系统,是人工智能领域的顶级会议。
那一年的 NIPS 对于教授·Hinton和他在多伦多大学的两个学生来说有着特别不同的意义。
他们在酒店会议室举行了在线拍卖。
美国科技巨头谷歌和微软、中国科技巨头百度、英国AI初创公司DeepMind采用竞价方式争夺DNNResearch这家刚刚在Hinton成立、还没有产品的小公司。
(Geoffrey Hinton 和他的学生 Alex Krizhevsky 和 ??IIya Sutskever)在这些公司中,百度实际上是第一家接触Hinton的公司。
那年秋天,Hinton和他的学生发表了一篇九页的论文《ImageNet Classification with Deep Convolutional Neural Networks》。
文中提到的Alexnet引入了一种新的深层结构和dropout方法。
在ImageNet图像识别竞赛中,它的错误率从25%以上提高到15%,获得第一名。
当年的ImageNet比赛中,谷歌也对数据集进行了内部测试,并使用了深度学习方法,但识别精度比Hinton团队差很多。
谷歌拥有大多数团队无法企及的硬件和数据资源,但却输给了学术团队。
这令业界感到惊讶,也极大地促进了深度学习的传播。
今天来看这件事,也是AI技术发展的一个历史性转折点。
但当时只有少数人认识到它的意义。
论文发表几天后,Hinton收到了一封来自中国人工智能研究人员的电子邮件。
此电子邮件由余凯签署。
余凯年离开百度,创立了AI芯片公司地平线,现任地平线CEO。
余凯比Hinton小30岁。
两人第一次见面是在加拿大的一次学术研讨会上。
今年4月,余凯离开美国NEC研究院,回国加入百度,领导新成立的百度多媒体部。
今年,百度开始大规模采购和建设GPU计算集群,并开发了全球第一个支持GPU CPU的并行深度学习平台。
同年9月,百度时任首席科学家张威廉辞职,这家搜索巨头开始寻找一位能够更加面向未来研究的首席科学家。
10月,于凯向李彦宏介绍了深度学习的进展,并推荐了Hinton。
(余凯)当时,Hinton的知名度远不如今天,但百度很快就做出了决定。
李彦宏安排当时负责百度战略投资的副总裁唐和松与Hinton取得联系,直接发出邀请。
百度提出的计划是支付1万美元聘请Hinton和他的学生,签订为期三年的合同。
双方进展迅速。
但在达成协议之前,Hinton的两个学生“阻止”了Hinton。
在他们的建议下,Hinton意识到百度和其他公司更有可能为收购做准备,而不是招募“三名新员工”。
公司支付更多的钱。
Hinton询问百度是否可以评估其他报价。
已经接近达成交易的百度同意了。
“当百度同意后,Hinton就扭转了局面。
” 《天才制造者》在书中写道。
Hinton立即与两个学生创建了一家名为 DNNresearch 的初创公司。
根据《天才制造者》的记录,Hinton当时专门询问了一位多伦多律师,如何在一家只有三名员工、没有产品、几乎没有历史的初创公司中实现价值最大化。
律师给了他两个选择:聘请专业谈判代表,但要冒激怒买家的风险。
或者,举行拍卖会。
Hinton选择了后者,于是一共有四家公司加入了竞标:最先找到Hinton、已经接近中标的百度、继百度之后也开始频繁给Hinton家人打电话的谷歌和微软、以及一家已经找到Hinton的公司。
DeepMind 是一家成立两年的伦敦初创公司。
这家公司后来被谷歌收购,并开发出了著名的AlphaGo。
作为最早接触Hinton的人,也是此次竞购中百度的代表,余凯在看到此事演变成百度与多家美国公司的竞争后,对最终结果有了预感。
出价最高者百度没有赢得拍卖 Hinton在酒店房间里与学生一起“主持”了这次拍卖——拍卖是通过 Gmail 进行的,来自加利福尼亚、伦敦和北京的四家公司的高管进行远程竞标。
Hinton隐瞒了每个竞标者的身份,因此他们不知道对方是谁。
微软首先对这种招标方式提出了质疑。
他们不喜欢使用 Gmail 进行竞价,认为 Google 可能会偷偷阅读电子邮件。
Hinton在与学生们协商后继续采用这种方法,他们“非常有信心 Google 不会读取 Gmail”。
Hinton对谷歌的喜爱已经显而易见。
谷歌对深度学习的兴趣很大程度上也受到了Hinton的影响。
Hinton发表了论文《A fast learning algorithm for deep belief nets》(深度信念网络的快速学习算法)。
在这篇论文发表之前,没有人知道如何训练深度神经网络,因此人们对这一领域兴趣不大。
本文提出了一种训练深度网络的方法。
网络的每一层首先经过预训练,然后进行微调。
网络的学习速度大大提高。
这篇论文成为掀起深度学习热潮的一个因素,谷歌等公司开始关注深度学习。
另一个重要因素是计算能力。
2000年,计算机计算能力发展到足以挖掘庞大的数据库,神经网络在语言和图像识别方面开始超越传统的基于逻辑的计算机。
谷歌也在那时开始投资人工智能。
2016年,当时还是斯坦福大学教授的吴恩达和谷歌著名高级研究员杰夫·迪恩建立了一个名为Project Marvin(以著名人工智能先驱马文·明斯基的名字命名)的项目来研究神经网络。
。
后来,一些谷歌工程师开始以 Google Brain 的名字命名 Project Marvin。
该项目的成果之一是DistBelief,一个大型深度学习软件平台。
包括 Google 搜索、Google 地图和 YouTube 在内的 50 多个团队使用 DistBelief 来改进他们的产品。
2016年,Google X宣布创建一个包含0个计算机处理器的神经网络,并将其部署在YouTube上。
神经网络通过学习大量未标记的包含猫的 YouTube 视频来识别该生物。
这在当时是一个重要的突破。
“我们在训练中从未告诉神经网络,这是一只猫。
”杰夫·迪恩说:“它基本上发明了猫的概念。
”谷歌也必将在这次拍卖中获胜。
Hinton制定的拍卖规则很简单。
每次出价后,四家公司有一个小时的时间将购买价格提高至少 10,000 美元。
该小时从最新出价电子邮件上的时间戳开始。
一小时结束时,如果没有人提出新的出价,则拍卖结??束。
Hinton每天都会为下一轮竞标设定一个时间,当时间到来时,他和他的学生会聚集在他的房间里,观看竞标出现在他们的笔记本电脑上。
数字开始迅速攀升。
DeepMind 以公司股票而非现金出价,但很快就退出了。
这似乎也预示着其后续被谷歌收购的结果。
当价格飙升至1万美元时,微软也退出了。
但随后它又回来了,然后又退出了。
事实上,微软此前曾邀请Hinton担任顾问。
微软对深度学习的研究依赖于雷德蒙德研究所。
2016年11月至2016年12月,当时在研究所关注深度学习的中国科学家邓力邀请Hinton向雷德蒙德研究所咨询,研究如何将深度学习方法应用于语音特征编码和语音识别问题。
(邓力) 以往的语音识别模型一直处于令人沮丧的“局部最优”状态,很难大幅提升准确率。
邓力在阅读了Hinton发表的两篇开创性论文后,萌生了将深度学习引入语音识别的想法。
Hinton在为微软提供咨询期间,与邓力共同开发了深度信念网络方法“菜谱”及其在语音特征提取中的应用。
该方法大大降低了大规模语音识别系统的错误率。
当微软在2016年公布这一结果时,业界感到惊讶。
邓力是那次拍卖中代表微软竞拍的人。
也就是说,在这个决定AI领域很多事情未来走向的历史时刻,三个主要的直接竞价运营商中有两个是中国人。
随着资金的飙升,Hinton和他的学生们开始争论他们更愿意加入哪家公司。
《天才制造者》中甚至还记录了一段“迷信”的对话。
一天下午,他们向窗外望去,两架飞机从相反的方向飞过,在天空中留下一道巨大的X形烟雾,就在一组山峰的上方。
他们思考这可能意味着什么,然后想起谷歌的总部位于一个叫山景城的地方。
“这是否意味着我们应该加入谷歌?”Hinton问道:“或者我们不应该这样做吗?”价格约为 10,000 美元时,Hinton暂时暂停了拍卖,与其中一位竞标者进行讨论。
半小时后,微软退出。
最后就剩下百度和谷歌了。
随着时间的推移,两家公司不断提高价格。
于凯负责百度最初的竞价,但当价格达到1万美元时,百度高管从北京接任,愿意给出更高的价格:1万美元、1万美元、1万美元。
Hinton将竞标窗口从一小时缩短至30分钟。
出价迅速攀升至10,000美元、10,000美元、10,000美元、10,000美元。
“感觉就像我们在拍电影,”他说。
一天晚上,接近午夜,当价格达到 10,000 美元时,他暂停了竞标。
这在《天才制造者》中有说明。
第二天,在重新开始竞标前大约30分钟,Hinton发了一封电子邮件称开始时间将被推迟。
大约一个小时后,他又发来一条:拍卖结束。
事实上,在前一天晚上的某个时候,Hinton就决定将他的公司出售给谷歌。
他给百度的电子邮件称,该公司的任何其他信息都将转发给他的新雇主,但他没有透露是谁。
正如《天才制造者》中所写,Hinton后来承认,这就是他一直想要的。
因为对他来说,为他的研究找到一个合适的家比获得最高的出价更重要。
《天才制造者》还写道,余凯猜测Hinton最终会在谷歌工作,或者至少是另一家美国公司。
毕竟他的背部不好,无法前往中国。
他在十几岁的时候背部受伤,到了五十多岁,他再也不能坐下来,否则就会面临椎间盘突出的风险。
他工作时必须一直站着,旅行时也不坐飞机,因为飞机起飞和降落时不允许站着。
尽管如此,于凯还是对百度在竞购者中占据一席之地感到满意。
书中写道,他相信这段经历帮助他的上级以他的方式看待世界。
通过将美国竞争对手推向极限,百度高管已经意识到未来几年深度学习的重要性。
Hinton拍卖会和NIPS会议结束后,于凯登上了飞往北京的飞机。
在那里,他结识了邓力。
他们在飞机上选了相邻的座位。
两人都不确定谁参与了拍卖,因为竞标者一直保持匿名。
由于受到雇主的限制,他们无法透露自己参与拍卖的情况。
他们试图在不泄露自己秘密的情况下了解对方所知道的事情。
“拍卖就像发令枪。
” 《天才制造者》在书中写道,它将拍卖定义为“新的全球军备竞赛的开始”。
拍卖结束后的回程航班上,于凯和邓力都知道新的竞争已经开始,他们的公司必须对谷歌的大动作做出回应。
《天才制造者》的书中还记录了很多Google、Facebook和百度在AI技术研发方面的竞争。
本书的电子版目前可以在亚马逊kindle和苹果书店购买。
版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。
标签:
相关文章
06-17
06-17
06-18
06-18
06-17
06-18
最新文章
首先告诉我什么是智能汽车!
盲盒明星卡的暴利与泡沫:2元卡卖700万,直播卖卡月入百万
黑色星期五轰轰烈烈地回来了,结果这些中国企业扛起了全场
锂电池隔膜疯狂扩产:兴源材料欲夺回C位?
当我考上缅语专业时:凌晨三点我还在走廊里背单词,毕业后,我不仅仅是一名翻译者
被遗弃,被收获?老年人上网到底有多难?
海外日报 -今年,我国自主研发游戏海外实际销售收入实现两位数增长;三星电子正式成立机器人业务团队36氪海外·15分钟前
腾讯音乐:爱、相信、坚持