谷歌道歉!徹查AI倫理專家被解僱一事

谷歌道歉!徹查AI倫理專家被解僱一事

智東西(公眾號:zhidxcom

作者 | 林卓瑋

編輯 | Panken

智東西12月13日訊息,深陷“解僱門”的谷歌CEO皮查伊(Sundar Pichai)於本週三正式發文道歉,表示在谷歌AI倫理團隊負責人Timnit Gebru一事上的處理方式“在公司內部播下了質疑的種子,引起了部分員工對公司信念的動搖”,並承諾將立馬就Timnit Gebru被解僱一事發起調查。

此前,Timnit Gebru團隊所著的一篇AI倫理相關的論文在審稿過程中遭谷歌撤稿,Gebru要求谷歌高層出面解釋無果後,傳送多封內部郵件,文字直指公司內部存在性別、族裔多樣性問題。谷歌獲悉後,以“Gebru行為不符合高管標準”為由辭退了她。

就在皮查伊發文道歉的前一天,在谷歌面向深膚色員工召開的會議上,事件相關方AI負責人Jeff Dean和副總裁Megan Kacholia還進行了簡短髮言,期間不斷合理化谷歌的解僱決定,且不接受員工直接提問。知情人士透露,一些人表示想要辭職。

針對皮查伊的道歉,被解僱員工Gebru表示不會接受,並在推特上寫道:“他口中的「在公司內部播下了質疑的種子,導致部分員工開始質疑自己在公司的地位」意思無異於「很抱歉事情變成這樣,但我們並不為發生在Gebru身上的事感到抱歉」。”

谷歌道歉!徹查AI倫理專家被解僱一事

Timnit Gebru在推特拒絕谷歌CEO Sundar Pichai的道歉

一、Timnit Gebru是誰?一位高學歷的平權活躍分子

此次事件的主人公Timnit Gebru是一名著名的AI倫理研究員,博士畢業於斯坦福大學,師從人工智慧領域知名學者李飛飛。

去年,Gebru加入谷歌,擔任AI倫理團隊聯合負責人一職,在職期間,Gebru一直對谷歌存在的種族、性別多樣性問題直言不諱。

Gebru常年活躍於科技領域的黑人和女性平權運動,是黑人平權倡議團體Black in AI的創始人之一。

2018年,Gebru曾發表了一項影響深遠的研究成果,該研究顯示IBM和微軟的面部識別軟體在識別黑人女性時誤差率高達35%,而識別白人男性時誤差率幾乎為零。

而這次解僱風波的“元兇”竟然也是一篇論文。

二、都是論文惹的禍

美國時間12月2日,Gebru在推特發文稱,在向谷歌內部團體Brain Women and Allies傳送一封郵件之後,尚在休假的她遭到了谷歌的不正當解僱,企業賬戶也被禁用。

谷歌道歉!徹查AI倫理專家被解僱一事

Timnit Gebru稱遭谷歌解僱時正在休假

谷歌員工抗議團體Google Walkout For Real Change質疑該決定的合理性併發起請願,超兩千名谷歌員工、三千名業內專家簽署請願書。

這場紛爭最先開始於一篇名為《隨機鸚鵡之險:語言模型會太大嗎?(On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?)》的論文,這篇論文從環保和成本角度、種族和性別方面探討了大型語言模型帶來的一些風險。作者指出,現有資料僅能代表有能力上網的社會優勢群體,如不加區分地使用這些資料訓練人工智慧,會進一步加劇偏見以及少數群體的邊緣化程度。

而大型語言模型正是谷歌眾多關鍵技術的基礎。2018年,谷歌推出的BERT語言模型在人工智慧領域引起轟動,這項技術目前已廣泛運用到谷歌搜尋引擎的訓練上。

這篇論文由時任谷歌AI倫理研究員的Timnit Gebru、華盛頓大學計算語言學終身教授Emily M. Bender等七人一同完成,除Gebru外,有四名作者均為谷歌員工。

按照計劃,這篇文章將投遞至明年舉行的FAT學會上(ACM Conference on Fairness, Accountability, and Transparency)。然而,谷歌高層以遞交不符合審稿規範、文章存在缺陷為理由,要求作者團隊撤回論文,或者至少隱去作者的谷歌員工身份。

這一要求遭到了Gebru團隊的嚴詞拒絕。

在一封公開郵件中,谷歌AI負責人Jeff Dean解釋道:“谷歌研究員在投遞文章前,無一例外地需要先透過谷歌內部稽核流程,而這個審稿時間通常為兩週,但Gebru在截稿前一天才把文章交上來。”

同時,Jeff還指出了文章本身的缺陷:“該文忽略了太多相關研究,比如,在探討大型模型對環境的影響時,沒有把提升大型模型效率的最新研究囊括進來。”

然而,據The Verge爆料,谷歌的一項內部調研顯示,谷歌大部分出版物都是在截稿日期前獲批,甚至有41%的文章在截稿日期後才透過稽核。

美媒《麻省理工科技評論》的訊息也指出,這篇論文的參考文獻長達128條,這種工作量一般團隊壓根達不到,所以也根本不存在Jeff所說的“忽略相關研究”的情況。

谷歌道歉!徹查AI倫理專家被解僱一事

谷歌前AI倫理團隊聯合負責人、著名AI研究員Timnit Gebru

三、疑雲重重:被解僱 OR 主動辭職?

據彭博社透露,收到谷歌的撤稿要求後,認為自己遭受不公的Gebru向同樣專注於谷歌內部平權問題的Brain Women and Allies傳送了一封郵件,分享了自己的經歷,稱:“你們不用再忙著寫檔案了,寫再多的檔案、進行再多的對話也無濟於事。”

Gebru發表推文稱,給Brain Women and Allies團體傳送郵件的第二天,她便收到了來自谷歌副總裁Megan Kacholia的解僱郵件,文中寫道:“你昨晚傳送郵件的行為並不符合谷歌對於管理層人員的期待。”

然而,谷歌方面卻一直強調Gebru是自己辭職。

根據谷歌AI負責人Jeff公開的郵件內容,Gebru收到撤稿請求後,曾要求谷歌給出合理解釋,並索取過完整的審稿人員名單和每個人具體的審稿建議,並稱:“如果谷歌無法滿足如上請求,將擇日離職。”

不過,還不等Gebru度假歸來,谷歌便向她傳送了最後通牒,表明:“無法滿足請求,同意離職。”Gebru的企業賬戶也隨即被停用。

谷歌道歉!徹查AI倫理專家被解僱一事

Timnit Gebru發推文稱遭谷歌解僱

這已經不是谷歌第一次深陷解僱風波。

就在一年前,四名谷歌前員工因涉嫌違反資料安全政策遭開除。這四名員工因不滿谷歌向媒體透露員工資訊,曾在公司內部發起抗議活動。

2017年,谷歌前工程師James Damore在內部備忘錄上發表性別多樣性相關內容後遭開除。

就在Gebru事件發酵前,谷歌還因涉嫌“非法監控、訊問、停職員工”,遭到美國勞資關係委員會的投訴。

結語:摘掉標籤,唯才是舉

性別多樣性、種群多樣性似乎成為了美國科技公司爭相追逐的政治正確。谷歌,作為自由、多元文化的捍衛者,一度是高素質科技人才嚮往的聖地。

然而,近年來,谷歌頻頻爆出裁員醜聞,其作為自由文化領軍人的地位也因此遭到動搖。谷歌鼓吹多元文化、擴招少群族裔同時,可能卻並未為這些員工提供平等的機會。

科技企業在推行多元政策時,如若為了達到多樣性指標而刻意降低用人標準,其實才是對少數群體最大的侮辱和模式。

儘管性別、種群從來不該是企業用人的標準,但也不應成為人才就業的限制。

像Gebru這樣備受認可的行業領袖,其個人價值早已超越“性別”、“種族”這樣的單一標籤。對於這樣的人才,以谷歌為代表的科技企業應該拿出劉備三顧茅廬的態度,撇開所謂標籤,給予足夠尊重,聽取有益建議,這樣才能迎來更長遠的發展。

谷歌AI負責人Jeff Dean公開的內部郵件原文連結: https://docs.google.com/document/d/1f2kYWDXwhzYnq8ebVtuk9CqQqz7ScqxhSIxeYGrWjK0/preview?pru=AAABdlOOKBs*gTzLnuI53B2IS2BISVcgAQ#

谷歌CEO皮查伊的公開道歉全文連結: https://www.axios.com/sundar-pichai-memo-timnit-gebru-exit-18b0efb0-5bc3-41e6-ac28-2956732ed78b.html

版權宣告:本文源自 網路, 於,由 楠木軒 整理釋出,共 3209 字。

轉載請註明: 谷歌道歉!徹查AI倫理專家被解僱一事 - 楠木軒