我看见的世界(56)_李飞飞

五六

　　“比如物体识别，真实世界中的物体识别。”无论吉滕德拉对ImageNet有什么看法，他的确相信视觉分类的力量，这一点我在加州理工学院时就了解到了，“你参加过PASCAL VOC吗？”

　　“参加了啊。但没什么用，他们的数据集太小了，例子不够，所以我们给神经网络展示新图片的时候，泛化效果并不好。”

　　“那你就需要更大的数据集。你关注过飞飞的实验室吗？等你准备好迎接真正挑战的时候，可以看看她组织的比赛。”

　　不管吉滕德拉是真的对我的项目改变了看法，还是只是想打老朋友的脸（这两种情况似乎都有可能），辛顿都认真地听取了建议。

　　每一个翻腾的思绪似乎瞬间汇聚，让我从迷迷糊糊的旅行中清醒过来，我突然想到了一件事：神经网络与ImageNet对世界的呈现是天然的契合。回顾过去，杨立昆的网络与笔迹识别相得益彰。他的网络对笔迹进行分析，从最小的像素簇到笔触的纹理，再到完整的数字，在每个分析尺度上都发现了有意义的模式。这是从数据中自发产生的感知流畅性，自然而然地形成了意识的层次。休伯尔和威塞尔在猫的视觉皮质中看到了同样的现象。而在加州大学伯克利分校的实验室里，我们看到了更深层次的理念。神经网络一直都能进行物体识别，但直到现在，它们才具备了实现目标所需的计算能力。

　　ImageNet的数据广泛而全面，覆盖了世界上绝大多数物体。现在看来，AlexNet和ImageNet也属于相互成就。简而言之，这就是最大的不同——现在算法可以探索的数据范围大大增加了。一想到训练完成后AlexNet的层级中包含的内容，我就惊叹不已：形状、边缘、图案、纹理，涵盖我们多年来从互联网上捕捉到的所有人物、动物和物体。现实世界中幽灵般的碎片，以恰到好处的方式组织起来，供算法来查看。

　　＊

　　飞机抵达佛罗伦萨，机轮触地，飞机轻轻地颠簸着。我仍然难以相信AlexNet就是我们梦寐以求的进步。这个飞跃似乎太大了。但我越想越觉得它具备每一个伟大突破的特征：疯狂的外表包裹着一个有意义的想法。

　　※

　　第二天一早，消息就传开了。据传，会上将宣布一个具有历史意义的事件。这些含糊不清的传言激起了与会者的好奇心。当我到达时，研讨会现场已经人满为患，杨立昆本人不得不靠后墙站着，因为他稍微晚了几分钟，没能找到座位。

　　从研讨会开始的那一刻起，现场的气氛就异常紧张，人群分成了三派。第一派是ImageNet的少数支持者，包括我、亚历克斯·伯格和辛顿实验室的成员。第二派占绝大多数，由中立但感兴趣的观察者组成。第三派虽然人数不多，但态度强硬，也最直言不讳。他们是那些从早期就反对ImageNet理念的批评者，虽然我通常不理会他们的态度，但在会议现场很难忽视他们的存在。

　　更糟糕的是，我们并没有形成统一战线。辛顿无法亲自参会，因为他长期患有背部疾病，几乎不可能进行国际旅行，所以他派了亚历克斯·克里热夫斯基代他出席。亚历克斯非常有才华，也是算法的主要作者，所以可以代替辛顿。但就像许多杰出的人一样，他的个人表现与他工作成果的高度并不相符——我不确定他是否完全理解这一点。他的表现笨拙而轻率（这在学术界并不罕见）。一个典型的例子是，我在研讨会开始前多次给他发短信确认会面时间，但他完全没有回应（但幸好，他按时到了现场）。由于听众的怀疑态度空前高涨，他只摆事实、不带情感的演讲更难赢得他们的认同。

　　提问环节一开始，现场的紧张气氛就越来越浓。我们听到了所有常见的抱怨：ImageNet太大了，不实用；没有必要包含这么多类别；物体识别模型还太原始，不需要如此庞大的数据集；等等。事实上，AlexNet几乎是逐点证明了相反的观点，但奇怪的是，观众却不信服。同时，也出现了一些新的批评声音，有些甚至非常离谱。一位与会者（来自顶尖大学的后起之秀）煞有介事地提出，描绘T恤的图片类别多样性不够，因而无法可靠地训练模型。对此我更多的是感到好笑。是认真的吗？T恤图片是致命弱点？会议现场的其他人也都一头雾水。

　　但那些认真倾听的人得到了回报。在27张幻灯片中，大多数只有黑白文字和图表，却以我们从未见过的清晰方式展示了神经网络的本质，极具启示性。继罗森布拉特的感知机、福岛的新认知机和杨立昆的LeNet之后，AlexNet实现了计算机视觉领域的新跨越。这一步早就应该迈出，却历经了数十年的酝酿，现在终于横空出世，利用大型数据集充分彰显了潜力。

　　尤其值得注意的是AlexNet的学习过程。

　　与所有神经网络一样，AlexNet的初始状态是无形的、惰性的，就像虚空中的一块挂毯。然后，学习过程就开始了：面对从ImageNet库中随机选择的图片，神经网络的任务是从上千个标签中选择一个正确的标签，对图片进行标注。这个过程周而复始，不断重复。一开始，标注几乎是不可能完成的任务；AlexNet的数千万个神经元是随机配置的，对世界甚至连一点儿模糊的理解都没有，只会产生错误的结果。把一张蘑菇图片标注为“瓶盖”。错误。把一张拖车图片标注为“电吉他”。错误。把一张棱皮龟图片标注为“浴巾”。错误。

　　但失败并非无用功。错误会触发纠正信号，在网络的数千万个组成部分中蔓延开来，同时对每个部分对于结果的贡献进行评估，并按比例推动它们下次采取不同的行动。这是最简单的学习方式：减少失败的行为，增加成功的行为。但学习的规模极大，算法会仔细审查每个错误的每个细节：每一片光影、每一个图案和纹理、每一个柔和的渐变和坚硬的边缘。

　　在早期阶段，效果并不明显，当AlexNet再次看到类似它之前错误分类的图片时，很可能会再次出错。不过，错误会更小一些。如此循环往复，直到正确为止，哪怕只是靠运气。这一次，信号的目的是强化，而不是削弱：强化任何看似指向正确方向的东西。训练继续进行。错误。错误。错误。正确。错误。错误。正确。正确。错误。

虚阁网(Xuges.com)