2012年12月,当杰夫•欣顿(Geoff Hinton)在多伦多市中心登上前往太浩湖(Lake Tahoe)的第一站巴士时,他已经有七年没有坐过车了。“我上次坐下来是在2005年,”他经常说,“那是个错误。”
十几岁的时候,他在给母亲举暖气时,第一次弄伤了背部。在他快50岁的时候,他一坐下来就有椎间盘突出的风险,如果椎间盘突出,疼痛会让他卧床数周。所以他不再坐下。他在多伦多大学(University of Toronto)的办公室里使用了一张站立式办公桌。吃饭的时候,他把一块小泡沫垫放在地板上,然后跪在桌子前,摆出一副和尚站在祭坛前的架势。
坐车时,他会躺在车的后座上。当长途旅行时,他坐火车或坐船。他不能飞,至少不能在商业航空公司飞行,因为他们让他在起飞和降落时坐着。他说:“当时我觉得自己可能残废了,一天都活不下去了,所以我就认真对待了。”“如果你让它完全控制你的生活,”他干巴巴地补充道,“它不会给你带来任何问题。”
,再跌躺在公共汽车从多伦多到纽约,坐火车到特拉基2700英里,加利福尼亚,内华达山脉的峰值,然后伸展在出租车的后座一小时开车去南湖Tahoe-Hinton创建了一家新公司。实验中只包括了另外两个人,都是他大学实验室里的年轻研究生。它没有生产任何产品。它没有生产产品的计划。它的网站上除了一个名字“DNN-research”什么都没有,这个名字甚至比这个稀疏的页面更不吸引人。现年64岁的辛顿在学术界显得很自在,头发蓬乱,穿着羊毛衫,有一种超前两步的幽默感。在两个学生说服他之前,他甚至不确定自己是否想创办一家公司。但当他抵达南太浩湖时,世界上一些最大的科技公司正在为一场收购他新成立的初创公司的竞赛做准备。
他要去的是哈拉斯和哈维,那是山脚下靠近湖岸的两个大赌场。从内华达的松树上拔地而起,这些由玻璃、钢铁和石头组成的两块石板也被用作会议中心,提供了数百个酒店房间、数十个会议空间和各种各样的(二流)餐厅。那年12月,他们举办了一场计算机科学家的年度聚会,当时被称为NIPS。nips是神经信息处理系统(Neural Information Processing systems)的简称,这个名字可以让人深入地了解计算的未来,它是一个专门讨论人工智能的会议。欣顿出生于伦敦,自上世纪70年代初以来一直在英国、美国和加拿大的大学探索人工智能的前沿,几乎每年都去NIPS。但这一次不同。在他看来,今年的会议似乎是进行高风险拍卖的理想场所。
两个月前,欣顿和他的学生改变了机器看世界的方式。他们建立了所谓的神经网络,这是一个以大脑神经元网络为模型的数学系统,它可以识别常见的物体——比如花、狗和汽车——其精确度在以前看来是不可能的。正如欣顿和他的学生所展示的,神经网络可以通过分析大量数据来学习这种非常人类的技能。他称之为“深度学习”,其潜力是巨大的。它不仅有望改变计算机视觉,还将改变一切,从会说话的数字助理到无人驾驶汽车,再到药物发现。
神经网络的想法可以追溯到20世纪50年代,但早期的先驱们从来没有让它像他们希望的那样工作。到了新千年,大多数研究人员已经放弃了这个想法,他们认为这是一个技术上的死胡同,并对这些数学系统在某种程度上模仿人类大脑的想法感到困惑。这种想法已有50年历史。在向学术期刊提交研究论文时,那些仍在探索这项技术的人往往会把它伪装成其他东西,用不太可能冒犯他们的科学家同行的语言替换“神经网络”一词。
欣顿仍然是少数几个相信有一天它会实现自己的承诺的人之一,它能让机器不仅能识别物体,还能识别口语,理解自然语言,进行对话,甚至可能解决人类自己无法解决的问题,为探索生物学、医学、地质学和其他科学的奥秘提供了新的、更深刻的方法。即使在他自己的大学里,这也是一种古怪的立场。多年来,学校一直拒绝他聘请另一名教授的请求,后者可以与他一道,在这场漫长而曲折的斗争中,建造自主学习的机器。“一个疯子就够了,”他想象着他们的想法。但是,欣顿和他的学生在2012年秋天公布了一篇九页的论文,详细介绍了他们的突破,他们向世界宣布,神经网络确实像欣顿长期以来宣称的那样强大。
这篇论文发表几天后,欣顿收到了一位名为余凯(Kai Yu)的人工智能研究员的电子邮件,他在中国科技巨头百度工作。从表面上看,欣顿和余先生没有什么共同之处。辛顿出生于战后的英国一个上流社会的科学家家庭,他们的影响力只有怪癖才能与之匹敌。他曾就读于剑桥大学,在爱丁堡大学(University of Edinburgh)获得人工智能博士学位,在接下来的40年里,他大部分时间都在做计算机科学教授。于比辛顿年轻30岁,在中国长大,一个汽车工程师的儿子,在南京学习然后慕尼黑之前搬到硅谷公司研究实验室工作。这两个人被阶级、年龄、文化、语言和地理位置分开,但他们对神经网络有着共同的信念。他们最初是在加拿大的一个学术研讨会上见面的,该研讨会是一项草根努力的一部分,目的是在科学界重振这一几乎处于休眠状态的研究领域,并将其重新命名为“深度学习”。身材矮小,戴着眼镜,圆脸的于先生是帮助传播福音的人之一。当多伦多大学发表那篇长达9页的论文时,于告诉百度的智囊团,他们应该尽快招募欣顿。余华通过电子邮件将辛顿介绍给百度的一位副总裁,后者立即出价1200万美元聘请辛顿和他的学生,只让他们工作几年。
一时间,欣顿和他在北京的追求者似乎即将达成协议。但辛顿停了下来。最近几个月,他在其他几家大大小小的公司内建立了关系,其中包括百度在美国的两家主要竞争对手。这些公司也打电话给他在多伦多的办公室,询问如何才能聘用他和他的学生。
他看到了一个更广阔的机会,就问百度是否可以在接受1200万美元之前征求其他公司的报价,当百度同意后,他把情况颠倒过来了。在学生们的激励下,他意识到百度及其竞争对手更有可能花巨资收购一家公司,而不是花同样多的钱从学术界招聘几个新员工,于是他创建了自己的小型初创公司。他称其为DNNresearch,以向他们专门从事的“深度神经网络”表示敬意。他还问了一位多伦多的律师,如何才能最大限度地提高一家只有三名员工、没有产品、几乎没有历史的初创公司的价格。
在这位律师看来,他有两个选择:他可以聘请一位专业的谈判者,冒着激怒那些他希望收购他的小公司的风险;或者他可以安排一次拍卖。辛顿选择了拍卖。最终,有四家公司加入了竞标:百度、谷歌、微软(Microsoft),以及一家成立两年的伦敦初创公司DeepMind,该公司由年轻的神经学家杰米斯·哈萨比斯(Demis Hassabis)联合创立,世界上大多数人都没听说过这家公司。
拍卖的那一周,谷歌的工程主管艾伦•尤斯塔斯驾驶他自己的双引擎飞机降落在太浩湖南岸附近的机场。他和谷歌最受尊敬的工程师杰夫·迪恩(Jeff Dean),与欣顿和他的学生们在Harrah 's餐厅的顶层共进晚餐。Harrah 's是一家装饰着1000瓶葡萄酒的牛排餐厅。那天是欣顿65岁生日。他站在吧台旁,其他人坐在高凳上,他们讨论谷歌的雄心、拍卖和他在多伦多的实验室正在进行的最新研究。对于谷歌人来说,晚宴主要是对欣顿的两个学生进行管理的一种方式,他们从未谋面。百度、微软和DeepMind也派代表前往太浩湖参加会议。在竞标开始之前,百度的研究人员余凯(Kai Yu,音)与多伦多的研究人员举行了自己的会议。但没有一个竞标者在同一时间聚集在同一地点。拍卖本身是通过电子邮件进行的,大多数出价来自世界各地的企业高管,从加州到伦敦,再到北京。辛顿对其他人隐瞒了每个竞标者的身份。
他在哈勒斯塔731号酒店房间举办了这次拍卖,从这里可以俯瞰内华达的松树和雪山的山峰。每天,他都会设定下一轮竞标的时间,在指定的时间,他和他的两个学生会聚集在他的房间里,看着出价通过他的笔记本电脑到达。这台笔记本电脑放在房间两张大床尽头的桌子上一个翻过来的垃圾桶上,这样欣顿就可以站着打字了。
投标是通过Gmail来的,因为他在Gmail有一个电子邮件账户。但据欣顿说,微软不喜欢这种安排。在拍卖前几天,该公司抱怨称,其最大的竞争对手、也是此次拍卖中最有可能的竞争对手谷歌可能窃听私人信息,并以某种方式操纵出价。辛顿也向他的学生提出了同样的可能性,尽管他并没有表达严重的担忧,而是对谷歌庞大且不断增长的影响力发表了尖刻的评论。最后,Hinton和微软都把他们的担忧放在一边——“我们相当确信谷歌不会读我们的Gmail,”他说。
拍卖规则很简单:在每次竞价之后,这四家公司有一个小时的时间将买价提高至少100万美元。这个长达一小时的倒计时从最新竞价邮件上的时间开始,在一小时结束时,如果没有人提出新的竞价,拍卖就结束了。DeepMind是用公司股票而不是现金出价的,但它无法与这些巨头竞争,很快就退出了。剩下百度,谷歌和微软。随着出价持续攀升,先是1500万美元,然后是2000万美元,微软也退出了,但后来又回来了。当欣顿和他的学生们讨论他们更愿意加入哪家公司时,每一次增加都让他们感到意义重大。一天下午晚些时候,当他们向窗外看去时,两架飞机从相反的方向飞过,留下的尾迹在天空中交叉,就像一个巨大的X,就在一组山峰的正上方。他们兴奋不已,思索着这可能意味着什么,然后才想起谷歌的总部设在一个叫山景城的地方。“这是不是意味着我们应该加入谷歌?”辛顿问。“还是说我们不应该这么做?”
欣顿以大约2200万美元的价格暂停了拍卖,并与一位竞标者进行了讨论,半小时后,微软再次退出。剩下百度和谷歌,随着时间的推移,这两家公司把价格抬得更高。余凯负责百度最初的投标,但当价格达到2400万美元时,一名百度高管从北京接替了他。
余永定会时不时地过来看看,希望至少能稍微了解一下拍卖的走向。余不知道的是,这些访问在731房间里引发了一场闹剧。当欣顿去太浩湖这样的地方旅行时,他经常生病,那里的空气寒冷、稀薄和干燥。他担心自己可能会再次生病,他不希望任何科技行业的人这样看他。“我不想让他们认为我又老又老朽,”他说。远离疾病,他把床垫从撤军沙发靠着墙,把它放在两张床之间的地板上,拉伸一个烫衣板和其他一些长,结实的对象在床之间的鸿沟,那么湿一些毛巾用水和覆盖其整个缺口。他每晚都睡在这个临时搭建的顶棚下,在潮湿的空气中。但辛顿不想让玉看到他个人的加湿器,所以每次Yu在聊天,辛顿变成了他的两个学生,只有别人在他的三人公司,要求他们拆卸和隐藏床垫和烫衣板和湿毛巾。“副总统就是这么做的,”他告诉他们。
有一次参观后,于先生没带背包就离开了房间。当欣顿和他的学生注意到背包放在椅子上时,他们想知道是否应该打开它,看看里面有没有什么东西能告诉他们百度的出价有多高。但他们知道这样做是不对的,所以没有这么做。不管怎样,他们很快发现百度愿意出更高的价格:2500万美元、3000万美元、3500万美元。不可避免的是,下一个竞价要到开标前一两分钟才会到来,这使得即将结束的拍卖活动延长了时间。由于价格攀升如此之高,欣顿将竞价窗口从1小时缩短至30分钟。出价迅速攀升至4000万美元、4100万美元、4200万美元、4300万美元。“感觉就像在电影里一样,”他说。一天接近午夜的晚上,当价格达到4400万美元时,他再次暂停了竞价。他需要睡眠。
第二天,大约在竞标开始前30分钟,辛顿发了一封电子邮件,说竞标将推迟开始。大约一个小时后,他又发了一封。拍卖结束了。在当晚的某个时刻,辛顿决定将公司卖给谷歌,但没有抬高价格。他在发给百度的电子邮件中说,公司发送的任何其他信息都将转发给他的新雇主,但他没有透露这是谁。
一场新的竞争开始了——而拍卖就像一场发令枪。
他后来承认,这正是他一直想要的。就连余凯(Kai Yu)也曾猜测,欣顿最终会去谷歌,或者至少是另一家美国公司。毕竟,他的背不好使他无法去中国旅行。事实上,Yu对百度在竞标者中占据一席之地感到满意。他相信,这段经历帮助他的上司以他的视角看待这个世界。通过将百度的美国竞争对手推向极限,该公司的智囊团已经意识到深度学习在未来几年的重要性。
辛顿停止了拍卖,因为最终对他来说,为他的研究找到合适的归宿比卖出最高价更重要。当他告诉谷歌的竞拍者他将以4400万美元停止拍卖时,他们以为他是在开玩笑——他不可能放弃还会来的美元。他不是在开玩笑,他的学生也和他一样看到了这种情况。他们是学者,而不是企业家,对自己的想法比对其他任何事情都忠诚。
辛顿并没有意识到他们的想法会被证明是多么有价值。没有人做。深度学习的兴起标志着数字技术构建方式的根本性转变。而不是仔细定义机器应该是如何表现的,一次一个规则,一次一行代码,工程师们开始制造出机器,而这些机器可以学习和应用教训如此大量的数据,没有人类能充实自己的大脑。其结果是产生了一种新型的计算技术,它不仅比以前的任何技术都更加强大,而且更加神秘和不可预测。事实证明,它的超人类能力也充满了人类的弱点。当谷歌和其他科技巨头采用这项技术时,没有人意识到它是在学习建造它的研究人员的偏见。
欣顿的拍卖在太浩湖结束,NIPS大会结束后,余凯登上了飞往北京的飞机。在那里,他遇到了另一位出生在中国的研究员李登(音)。李登曾是微软的一名员工,在拍卖中扮演了自己的角色。在参加了多年的人工智能会议和研讨会后,于敏和邓文迪相识了。在飞往亚洲的长途航班上,他们两人安排了相邻的座位。由于竞标者的姓名未被公布,双方都不太确定哪些公司参与了拍卖。他们花了几个小时站在船舱后面,讨论着深度学习的兴起。但他们也觉得雇主有义务不透露自己参与了拍卖。所以他们回避这个问题,试图在不泄露自己秘密的情况下了解对方知道什么。虽然他们没有说出来,但他们都知道新的竞争即将开始——拍卖就像发令枪。他们的公司将不得不回应谷歌的重大举措。这是一场全球军备竞赛的开始,而这场竞赛将迅速升级,其方式在几年前似乎是荒谬的。
起初,竞赛只会吸引一小群科学家——主要分布在参与欣顿拍卖的四家公司——并将他们的工作推向科技行业的中心焦点。在联合创始人杰米斯•哈萨比斯(Demis Hassabis)无限雄心的推动下,伦敦一家默默无闻的初创公司DeepMind将成长为这十年来最著名、最具影响力的人工智能实验室。哈萨比斯希望制造出能够实现所谓的人工一般智能(artificial general intelligence)的机器:即具有杂食性、适应性强、类似人类的思维。欣顿和哈萨比斯后来对这个目标的有效性产生了分歧,但从2014年开始,他们在同一家母公司的保护伞下进行了讨论——同年1月,谷歌收购了DeepMind。
最终,Facebook和一家名为OpenAI的初创公司也加入了竞争,后者通过重大投资与微软建立了联系。所有这些参与者之间的竞争将极大地加速人工智能的发展,在会说话的数字助手、无人驾驶汽车、智能机器人、自动化医疗保健等领域引发巨大的进步,并远远超出欣顿和他的学生们的意图——自动化战争和监视。
在他离开731房间后,欣顿登上了一列火车,踏上了回多伦多的漫长旅程——到现在他还没有坐下来。几年后,在2017年,当他被要求透露竞购他的初创公司的公司时,他以自己的方式回答了这个问题。“我签了合同,说我永远不会透露我们和谁谈过。我分别与微软、百度和谷歌签订了协议。”他拒绝提及DeepMind,这意味着一些参与竞拍的人直到现在还不清楚他们竞拍的是未来计算领域的谁。