我看见的世界(54)_李飞飞

五四

　　2012年8月，让我夜不能寐的事情终于不再是ImageNet了——我们的孩子出生了，我的生活主题变成了哺乳、换尿布和永远不够的断断续续的睡眠。

　　这一年，ImageNet挑战赛的结果将在意大利佛罗伦萨宣布，因为孩子的原因，我本不打算亲自去参加，但有一天，邓嘉深夜打来电话。这个时间点很不寻常，我的第一反应是出了什么事。

　　“喂？”

　　听得出他很激动，但感觉不像是痛苦，而更像是兴奋，准确地说，是迷茫而兴奋。因为邓嘉一向淡定，所以他的语气让我格外留意。

　　“是这样的……我们一直在评估今年的参赛作品，其中的一个算法是……我的意思是……”

　　他迟疑了一下。

　　“怎么了？是什么？”我问道。

　　“好吧。获胜的团队使用了非正统的算法，是一种神经网络算法，你敢相信吗？”

　　我的耳朵竖得更直了。如果说刚才我的注意力还没有完全集中在他的身上，那么现在我肯定百分之百地在听他说话了。

　　“感觉像是……老古董。”

　　我不由得笑了起来。一个21世纪的学生用“老古董”这个词来形容几十年前的工作，足以证明我们的领域是多么年轻（可能也证明我正在变老——我选择无视这种可能性）。但他说得没错。神经网络是由生物学启发、层次分明的相互连接的决策单元阵列。由于计算机视觉领域的迅速发展，到了21世纪初，我们中的大多数人已经把神经网络看成是尘封已久的艺术品，包裹在玻璃罩中，四周用天鹅绒绳索保护，闲人勿近。

　　“真的吗？是神经网络算法？”

　　“是的，但还不止这些。飞飞，你不会相信算法的表现有多好。”

　　※

　　飞机窗外一片漆黑。虽然飞机还在跑道上，但还是什么都看不见。坐在中间座位的我，能看到的只有前排的座椅。我告诉自己：“一会儿就能到佛罗伦萨了。”但我心里清楚，这只是个幻想。因为临时决定参加欧洲计算机视觉大会，我不得不放下一切，家庭生活陷入了混乱，但邓嘉的消息让我别无选择。不得不承认，当婴儿急需照顾时，和父母同住还真是益处多多。

　　订票的时候，我回想起我和西尔维奥度蜜月时，从旧金山国际机场到佛罗伦萨机场并没有直飞航班，于是我费了一些功夫找到了能让我最快时间回家、回到孩子身边的航线。虽然很不情愿，但我最后还是选择了一趟20小时的航班，飞机空间狭小，肯定也睡不好，唯一的中途停留休息就是转机，可能在巴黎、苏黎世或其他一些我在迷迷糊糊状态下无法辨认的标志性城市。但现在已经无法回头了。飞机开始在跑道上缓缓滑行，引擎开始轰鸣。扩音系统里传出广播：抬起小桌板，系好安全带。我想睡一会儿，但思绪却翻滚个不停。

　　我一直在思考这次的获胜算法。它的识别准确率高达85%，比上一年的冠军高出10个百分点，创造了计算机视觉领域的世界纪录。可以用一个数据来说明这个准确率的意义：我所看到的研究表明，人类的平均识别准确率约为97%，而这还是对简单得多的二元选择而言（比如判断一张照片上是否有动物）。相比之下，算法需要筛选上千个选项才能找到正确答案。因此，虽然这个算法还没有达到人类的水平，但已经比其他任何算法都更加接近，而且差距已经小到惊人。

　　飞机广播“嘟”了一声，然后传来机长的声音：我们已进入巡航高度。

　　这个参赛算法最令人惊讶的地方，也许在于它提高准确率的具体方法。尽管发展了数十年的支持向量机等现代算法已经引起广泛兴趣，并曾在前两年的比赛中获胜，但这次获胜算法的研发团队却选择了让神经网络重出江湖，并在比赛中大显身手，把第二名远远甩在身后。冠军算法名为AlexNet，是向这项技术和项目的主要作者、多伦多大学研究员亚历克斯·克里热夫斯基（Alex Krizhevsky）致敬。

　　飞机遇到气流，颠簸了一下。

　　准确率竟然在短短一年内大幅提高了10个百分点？而且是通过神经网络实现的？飞机从一个时区穿越到另一个时区，我的大脑运转不停。这就像是听说一辆本田思域以每小时160千米的速度差打破了陆地速度的纪录。根本不可思议。进步不应该是这样的。

　　还是说，进步就是这样的？我想到了邓嘉在论文中阐述的内容，包括在使用ImageNet进行算法训练时的一些发现。在小型数据集上运行良好的技术，在大型数据集上训练时却突然表现不佳，反之亦然。有没有可能，神经网络一直以来都更适合理解ImageNet这种更大、更密集的可能性空间？有没有可能，神经网络一直都能同时应对类别总数的大幅增加和类别间差异的急剧缩小，而它最先进的竞争对手却做不到？我急切地想找到更多线索，于是打开笔记本电脑，调出了AlexNet团队在参赛算法中附带的幻灯片，仔细研究他们所做的设计选择。

　　AlexNet是卷积神经网络（Convolutional Neural Network，CNN）的一个实例。卷积神经网络的叫法源于图形卷积过程。在这个过程中，一系列滤波器在图像上扫过，寻找与网络所识别事物相对应的特征。这是一种独特的有机设计，灵感来自休伯尔和威塞尔对哺乳动物视觉系统的观察，即视觉处理在多个层次上进行。就像在自然界中一样，卷积神经网络的每一层都会逐渐整合更多的细节信息，从而形成越来越高层次的感知，最终将真实世界的物体完整地呈现在我们的视野中。

　　这样就形成了一种类似视网膜的算法，凝视着周围的环境。就像真正的眼睛一样，算法的最外层把成千上万个感受野应用于图片的像素，每个感受野都经过特定调整，能够识别出独特的微小图案，并在遇到这种图案时被激活，比如以一定角度倾斜的对角线边缘、两种色调之间的模糊混合、条纹图案或明暗交替等等。在这种感知水平上，滤波器可以对任何事物做出反应，比如小狗皮毛的图案、厨房柜台的边缘，或者阳光下玫瑰花瓣轮廓上的闪光。事实上，AlexNet能够捕捉到所有这些特征，甚至更多，这不仅是因为它接受了ImageNet的训练，更重要的是，这种算法忠实于生物视觉的进化本质。研究团队没有预先决定网络应该寻找哪些特征，而是让数十万个神经元在没有人工干预的情况下，完全依靠训练数据逐渐学习到自己的敏感度。AlexNet就像生物智能一样，也是自身所处环境的自然产物。

虚阁网(Xuges.com)