我看见的世界(76)_李飞飞

七六

　　“你真的要拒绝他们吗？安德烈，那可是全球最顶尖的学府之一啊！”

　　“我知道。但是我不能错过这个机会。真的很特别。”

　　安德烈已经完成了博士学业，即将进入人工智能史上最有前景的就业市场，即使对一个有志成为教授的人来说也是如此。普林斯顿大学给他提供了教职机会，这是我们任何一个同龄人都梦寐以求的职业快车道。然而，他却决定彻底离开学术界，加入一个没人听说过的私人研究实验室。

　　安德烈即将加入OpenAI的核心工程师团队。OpenAI由硅谷巨头萨姆·奥特曼（Sam Altman）、埃隆·马斯克和领英首席执行官里德·霍夫曼（Reid Hoffman）共同创立，初始投资高达10亿美元，这充分证明硅谷对人工智能的突然崛起是多么重视，硅谷的杰出人物多么渴望在人工智能领域站稳脚跟。

　　OpenAI推出后不久，我在当地的聚会上遇到了几位创始成员，其中一位举杯祝酒，但他的欢迎词颇有几分告诫的意味：“每个从事人工智能研究的人，都应该认真思考自己今后在学术界的角色。”他说这番话时没有一丝笑意，言辞中透露出明确而冷酷的信息：人工智能的未来将由那些拥有企业资源的人书写。在学术界受训多年的我想习惯性地反唇相讥，但我没有。老实说，我甚至都不确定自己是否反对他的观点。

　　谁也无法预测一切会走向何方。与大多数领域相比，我们的领域经历了太多起起伏伏，虽看似前程远大，但数度出师不利，“人工智能寒冬”一词就反映了其多舛的命运。但这次感觉不一样了。随着越来越多学者的深入分析，科技界、金融界和其他领域逐渐认可了一个术语：“第四次工业革命”。虽然流行语背后通常存在着夸张成分，但这个词的确名副其实，足以让决策者们铭记于心。无论是源于内心真正的热情，还是来自外部的压力，抑或是两者兼有，硅谷的高管层都在采取比以往更迅速、更大胆甚至更冒险的举动。我们即将见证这种企业理念将会带来何种结果。

　　＊

　　“猿。”我的天哪。

　　这是雅虎图片托管服务Flickr在2015年5月自动生成的一个标签，用来描述56岁黑人男子威廉的单色肖像。雅虎的新技术立刻引发了各方强烈愤慨，可谓自取其祸。此后，这项技术接二连三出现失误：将达豪集中营大门的照片标记为攀爬架，把一位脸上涂有彩色粉末的白人妇女贴上了“猿”的标签。雅虎Flickr一经推出，即麻烦缠身。不仅是雅虎，到了6月，谷歌也陷入了类似的争议，因为谷歌照片服务将两个黑人青少年错误地标记为“大猩猩”。图像分类本已是老生常谈的成功技术，却在短短几周内变得非常复杂。

　　即使不是这些公司的员工，我们也很难不感到一丝罪恶感。虽然事故并非恶意，但这并不能让人感到宽慰。相反，无心之失所揭示的问题才更加令人不安：包括ImageNet在内的数据集由于缺乏多样性，导致了一系列意料之外的结果；未经充分测试的算法和存疑的决策又进一步加剧了负面影响。当互联网呈现的是以白人、西方人和男性为主的日常生活画面时，我们的技术就很难理解其他人群了。

　　有果必有因，正如记者兼评论员杰克·克拉克（Jack Clark）所言，问题的根源在于人工智能“男性之海”问题：科技行业的代表性不足，导致算法无意中带有偏见，在非白人、非男性用户身上表现不佳。这篇文章于2016年发表在彭博社网站上，是对人工智能伦理问题的最早一批讨论之一。此后，相关对话日益激烈。人们担心人工智能在做好事的同时（如支持残障人士、追踪森林砍伐、以各种新方式保护人类生命等），也有可能产生危害。

　　我想到了为打造ImageNet而挣扎奋斗的那些年——即使在我们最具创造力和即兴能力的时候，也没有考虑到伦理问题。十年前，由谷歌和维基百科等组织的内容呈爆炸式增长，似乎极大地拓宽了电视和报纸等传统媒体提供的狭隘视角，为我们提供了一扇了解人类生活真实面貌的窗口。从某种程度上来说，它们确实做到了。然而，虽然一切看起来很生动，虽然我们的期望是如此热切，但所形成的图景还远远不够完整。

　　这个问题早就应该面对，但对话并不足以安慰我内心深处的工程师。显然，数据集不平衡是造成问题的重要原因，但还有无数其他因素值得我们考虑。模型本身是否存在问题？在依赖所有数据的算法架构中，是否隐藏着未被发现的弱点？可以促进训练过程的学习技术有问题吗？问题的数量超过了答案，而且这个差距越来越大。

　　这些问题也压在奥尔佳的心头。人工智能是以男性为主导的领域，作为少数女性，我们两个人多年来一直惺惺相惜，彼此分享着身为女性在人工智能领域的经历，也沮丧地发现，我们的经历非常相似。到了2010年代中期，奥尔佳忍无可忍，她下定决心，要么采取行动改变现状，要么离开学术界。她选择了前者，我们决定一起努力。

　　我们认为，从代表性问题的出现，到问题被大众真切地感受到，中间往往需要几年的时间。因此，我们向九年级和十年级的女生开放了斯坦福大学人工智能实验室课程。所有参与的学生都是经过精挑细选的，为期两周的人工智能速成课程虽然紧张，但实践证明，只需要一点点努力，就可以让每个一直被历史排除在外的参与者相信，她们同样属于这个时代、这个领域。邀请少数人群参加人工智能课程的想法非常受欢迎，我们的项目很快就像滚雪球一样发展成为全国性的非营利组织，遍布北美各地校园，使命范围也不断扩大。很快，我们也开始向有色人种学生和经济困难学生等边缘群体提供类似项目。

　　在短短几年后，我们的项目就正式命名为AI4ALL，甚至吸引了一些资金，梅琳达·弗伦奇·盖茨（Melinda French Gates）的Pivotal Ventures创投公司和英伟达创始人黄仁勋提供了一轮融资，让项目改头换面。这个旅程可能需要几代人才能完成，现在只是迈出了一小步，但我们实现了从无到有的跨越。此外，项目还能带来一丝安慰——在业界追逐人工智能未来时，往往肆意而为，缺乏自省，而我们的努力能够保证，至少有一小部分人在逆向而行。

　　雅虎和谷歌等公司在全球的注视和评判下得到了惨痛的教训。亲眼看到这些事件提醒我们，仅仅对下一代技术进行投资，然后期望一切顺利是不够的。普林斯顿大学向奥尔佳提供了教授职位，她接受之后，开始着手扩展自己新实验室的研究议程，不仅包括机器感知的机械原理，还涵盖更广泛的计算公平性问题，尤其强调要“去偏见”。“去偏见”是遵循严格数学要求的正式操作，旨在对潜伏在数据中的偏差进行量化和中和。这种理念体现了对社会福祉议题的深切关注，有奥尔佳这样的人据此展开研究，我对未来的希望又开始增加了。

　　＊

虚阁网(Xuges.com)