曾把LeCun 逼到退圈的AI伦理科学家，被Jeff Dean开除了？

作者|Summer  来源|图灵TOPIA（ID：turingtopia）

谷歌AI掌门人Jeff Dean开除Timnit Gebru一事，近几日闹的沸沸扬扬。

Jeff Dean相信大家都比较熟悉了，Timnit Gebru是谁？

她有四个代表标签，分别为：谷歌AI伦理科学家、李飞飞学生、非裔天才、曾把 Yann LeCun 逼到「永久退出社交网络」。

那么，这次开除事件的起因是什么？

当地时间12月3日，Gebru在推特上声称，她仅仅因一篇未发表的文章而被谷歌解雇，她还发了一封邮件批评该公司的做法。

Gebru被开除的导火索论文名为《On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?》，这篇论文质疑语言模型是否会太大，谁会从中受益，以及它们是否会增加偏见和不平等。比如。Google现在使用的大语言模型技术BERT及类似的东西，存在很大的论理风险，及偏见。

最近的一些案例大体上证实了她关于大型模型和数据集的说法。例如，麻省理工学院今年早些时候被迫删除了一个名为8000万小图像的大型数据集。该数据集在训练AI方面很流行，但被发现包含带有种族主义、厌恶女性和其他不可接受的标签的图像。

麻省理工学院网站上的一份声明称，他们并不知道这些冒犯性的标签，它们是“使用来自WordNet的名词进行自动数据收集的结果”。该声明还解释了数据集中包含的8000万张图片——大小只有32×32像素——意味着手工检查几乎是不可能的，也不能保证所有冒犯性的图片都会被删除。

据报道，Gebru给谷歌大脑女性和盟友的成员发送了一封“与谷歌经理的期望不符”的邮件。

在电子邮件中，Gebru对谷歌在招聘女性员工方面明显缺乏进展表示失望。Gebru称，她还被告知不要发表一份研究报告，并建议员工停止填写多元化文件，因为这无关紧要。

Gebru 表示，这封邮件发出之后不久，她就遭到了谷歌的解雇。因此她认为，是自己对谷歌的批评导致了此次的「开除」事件。

Jeff Dean回应，网友并不买账

Jeff Dean在信件中回应：

「Timnit与四位Google同事以及一些外部合作者共同撰写了一篇论文，这篇论文需要通过我们的审核程序（所有外部提交的论文都要通过审核）。我们已经批准了几十篇Timmit和/或其他Google同事撰写的论文，但你也知道，论文经常需要在内部审查过程中进行修改（甚至被认定不适合提交）。不幸的是，这篇论文是在截止日期前一天提交的——而我们的审核机制要最少两周才能完成——而后（Timnit）没有等审稿人的反馈，就擅自提交了（论文）」

可以从这封回信中看出，Timnit提到的那篇致使她「被辞退」的论文，是卡着截止日期前一天提交的，完全没有考虑审核人员需要最少两周的时间对论文进行审核。

而后Timnit又犯了一个「原则性错误」，跳过审核机制直接发表论文。

「Timnit回复了一封电子邮件，要求满足一系列条件才能让她继续在谷歌工作，包括透露我和Megan在论文评审过程中与之交谈和咨询过的每一个人的身份以及反馈。Timnit写道，如果我们不满足这些要求，她就离开谷歌。而我们尊重并接受了她从谷歌辞职的决定。」

不过，对于以上回应，网友并不买账，在谷歌辞掉Timnit仅一天后，「谷歌真正变革（Google Walkout for Real Change」组织发表了一份声明，声明中谴责了谷歌「史无前例的研究审查制度」，并要求谷歌在完全公开的情况下进行论文审查。

到目前为止，这份声明已有1600多名谷歌员工和2600多名学术界、民间社会和工业界的支持者签名。

而后，有学者在Twitter上表示，若谷歌不作出改变，他将不再免费帮谷歌审核论文。

关注AI伦理，迫在眉睫

随着AI技术的发展，对「AI伦理」问题的关注持续升温，「亚马逊语音助手劝主人自杀」、「LeCun被逼退出社交媒体」等都涉及到了AI伦理问题。

针对此次事件，知乎用户哈西拉马就此事表示作为任何一种影响大众的技术，讨论其伦理问题都是必要的。

举几个例子：1.在不区分代词性别的语言中，比如印地语，将“它是医生”翻译成英文，Google翻译会更有可能将其翻译为“He is a doctor.”，这算不算歧视女性？这也是一个伦理问题；NLP领域这样的例子还有很多；2. 人脸识别模型可能对深色皮肤的人识别准确率更低，为什么一个人会因为自己的人种而享受更差的服务？这算不算种族歧视？3.信用评估系统对某个地区的人会有更低的评级，对低学历的人倾向于更低的评级，这算不算地域歧视和学历歧视？

这样的例子数不胜数。这样的歧视有些影响比较轻微，比如翻译歧视；也有可能一般，比如享受了相对更差的服务；但也有可能很关机，尤其是涉及竞争性资源的分配时，比如用算法来招聘员工，或者决定是否应该录取某个学生。

而AI伦理的研究范畴远不止于此。而AI的研究者在做技术的时候通常会忽略这一点。

本次事件孰是孰非或许尚不能定论，但对于AI伦理问题的重视确实已迫在眉睫。

编者按：本文转载自微信公众号：图灵TOPIA（ID：turingtopia）