智东西(公众号:zhidxcom)
作者 | 林卓玮
编辑 | Panken
智东西12月13日消息,深陷“解雇门”的谷歌CEO皮查伊(Sundar Pichai)于本周三正式发文道歉,表示在谷歌AI伦理团队负责人Timnit Gebru一事上的处理方式“在公司内部播下了质疑的种子,引起了部分员工对公司信念的动摇”,并承诺将立马就Timnit Gebru被解雇一事发起调查。
此前,Timnit Gebru团队所著的一篇AI伦理相关的论文在审稿过程中遭谷歌撤稿,Gebru要求谷歌高层出面解释无果后,发送多封内部邮件,文字直指公司内部存在性别、族裔多样性问题。谷歌获悉后,以“Gebru行为不符合高管标准”为由辞退了她。
就在皮查伊发文道歉的前一天,在谷歌面向深肤色员工召开的会议上,事件相关方AI负责人Jeff Dean和副总裁Megan Kacholia还进行了简短发言,期间不断合理化谷歌的解雇决定,且不接受员工直接提问。知情人士透露,一些人表示想要辞职。
针对皮查伊的道歉,被解雇员工Gebru表示不会接受,并在推特上写道:“他口中的「在公司内部播下了质疑的种子,导致部分员工开始质疑自己在公司的地位」意思无异于「很抱歉事情变成这样,但我们并不为发生在Gebru身上的事感到抱歉」。”
Timnit Gebru在推特拒绝谷歌CEO Sundar Pichai的道歉
一、Timnit Gebru是谁?一位高学历的平权活跃分子此次事件的主人公Timnit Gebru是一名著名的AI伦理研究员,博士毕业于斯坦福大学,师从人工智能领域知名学者李飞飞。
去年,Gebru加入谷歌,担任AI伦理团队联合负责人一职,在职期间,Gebru一直对谷歌存在的种族、性别多样性问题直言不讳。
Gebru常年活跃于科技领域的黑人和女性平权运动,是黑人平权倡议团体Black in AI的创始人之一。
2018年,Gebru曾发表了一项影响深远的研究成果,该研究显示IBM和微软的面部识别软件在识别黑人女性时误差率高达35%,而识别白人男性时误差率几乎为零。
而这次解雇风波的“元凶”竟然也是一篇论文。
二、都是论文惹的祸美国时间12月2日,Gebru在推特发文称,在向谷歌内部团体Brain Women and Allies发送一封邮件之后,尚在休假的她遭到了谷歌的不正当解雇,企业账户也被禁用。
Timnit Gebru称遭谷歌解雇时正在休假
谷歌员工抗议团体Google Walkout For Real Change质疑该决定的合理性并发起请愿,超两千名谷歌员工、三千名业内专家签署请愿书。
这场纷争最先开始于一篇名为《随机鹦鹉之险:语言模型会太大吗?(On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?)》的论文,这篇论文从环保和成本角度、种族和性别方面探讨了大型语言模型带来的一些风险。作者指出,现有数据仅能代表有能力上网的社会优势群体,如不加区分地使用这些数据训练人工智能,会进一步加剧偏见以及少数群体的边缘化程度。
而大型语言模型正是谷歌众多关键技术的基础。2018年,谷歌推出的BERT语言模型在人工智能领域引起轰动,这项技术目前已广泛运用到谷歌搜索引擎的训练上。
这篇论文由时任谷歌AI伦理研究员的Timnit Gebru、华盛顿大学计算语言学终身教授Emily M. Bender等七人一同完成,除Gebru外,有四名作者均为谷歌员工。
按照计划,这篇文章将投递至明年举行的FAT学会上(ACM Conference on Fairness, Accountability, and Transparency)。然而,谷歌高层以递交不符合审稿规范、文章存在缺陷为理由,要求作者团队撤回论文,或者至少隐去作者的谷歌员工身份。
这一要求遭到了Gebru团队的严词拒绝。
在一封公开邮件中,谷歌AI负责人Jeff Dean解释道:“谷歌研究员在投递文章前,无一例外地需要先通过谷歌内部审核流程,而这个审稿时间通常为两周,但Gebru在截稿前一天才把文章交上来。”
同时,Jeff还指出了文章本身的缺陷:“该文忽略了太多相关研究,比如,在探讨大型模型对环境的影响时,没有把提升大型模型效率的最新研究囊括进来。”
然而,据The Verge爆料,谷歌的一项内部调研显示,谷歌大部分出版物都是在截稿日期前获批,甚至有41%的文章在截稿日期后才通过审核。
美媒《麻省理工科技评论》的消息也指出,这篇论文的参考文献长达128条,这种工作量一般团队压根达不到,所以也根本不存在Jeff所说的“忽略相关研究”的情况。
谷歌前AI伦理团队联合负责人、著名AI研究员Timnit Gebru
三、疑云重重:被解雇 OR 主动辞职?据彭博社透露,收到谷歌的撤稿要求后,认为自己遭受不公的Gebru向同样专注于谷歌内部平权问题的Brain Women and Allies发送了一封邮件,分享了自己的经历,称:“你们不用再忙着写文件了,写再多的文件、进行再多的对话也无济于事。”
Gebru发表推文称,给Brain Women and Allies团体发送邮件的第二天,她便收到了来自谷歌副总裁Megan Kacholia的解雇邮件,文中写道:“你昨晚发送邮件的行为并不符合谷歌对于管理层人员的期待。”
然而,谷歌方面却一直强调Gebru是自己辞职。
根据谷歌AI负责人Jeff公开的邮件内容,Gebru收到撤稿请求后,曾要求谷歌给出合理解释,并索取过完整的审稿人员名单和每个人具体的审稿建议,并称:“如果谷歌无法满足如上请求,将择日离职。”
不过,还不等Gebru度假归来,谷歌便向她发送了最后通牒,表明:“无法满足请求,同意离职。”Gebru的企业账户也随即被停用。
Timnit Gebru发推文称遭谷歌解雇
这已经不是谷歌第一次深陷解雇风波。
就在一年前,四名谷歌前员工因涉嫌违反数据安全政策遭开除。这四名员工因不满谷歌向媒体透露员工信息,曾在公司内部发起抗议活动。
2017年,谷歌前工程师James Damore在内部备忘录上发表性别多样性相关内容后遭开除。
就在Gebru事件发酵前,谷歌还因涉嫌“非法监控、讯问、停职员工”,遭到美国劳资关系委员会的投诉。
结语:摘掉标签,唯才是举性别多样性、种群多样性似乎成为了美国科技公司争相追逐的政治正确。谷歌,作为自由、多元文化的捍卫者,一度是高素质科技人才向往的圣地。
然而,近年来,谷歌频频爆出裁员丑闻,其作为自由文化领军人的地位也因此遭到动摇。谷歌鼓吹多元文化、扩招少群族裔同时,可能却并未为这些员工提供平等的机会。
科技企业在推行多元政策时,如若为了达到多样性指标而刻意降低用人标准,其实才是对少数群体最大的侮辱和模式。
尽管性别、种群从来不该是企业用人的标准,但也不应成为人才就业的限制。
像Gebru这样备受认可的行业领袖,其个人价值早已超越“性别”、“种族”这样的单一标签。对于这样的人才,以谷歌为代表的科技企业应该拿出刘备三顾茅庐的态度,撇开所谓标签,给予足够尊重,听取有益建议,这样才能迎来更长远的发展。
谷歌AI负责人Jeff Dean公开的内部邮件原文链接: https://docs.google.com/document/d/1f2kYWDXwhzYnq8ebVtuk9CqQqz7ScqxhSIxeYGrWjK0/preview?pru=AAABdlOOKBs*gTzLnuI53B2IS2BISVcgAQ#
谷歌CEO皮查伊的公开道歉全文链接: https://www.axios.com/sundar-pichai-memo-timnit-gebru-exit-18b0efb0-5bc3-41e6-ac28-2956732ed78b.html