國外 AI 圈鬧翻天了!谷歌黑人女性 AI 倫理研究員“被離職”引發軒然大波

谷歌攤上事了。

昨天,谷歌“倫理人工智能團隊”(Ethical AI Team)的技術聯合負責人 Timnit Gebru 在個人推特上發佈消息稱:

國外 AI 圈鬧翻天了!谷歌黑人女性 AI 倫理研究員“被離職”引發軒然大波

自己突然被谷歌人工智能負責人 Jeff Dean 開除,個人公司賬户也已經被公司切斷。

同時,她表示,解僱原因是她給谷歌大腦(Google Brain)同事發了一封郵件,郵件內容涉及 AI 倫理,批評了谷歌不負責任的多樣性、公平性和包容性 AI 運作。而她的領導 Jeff Dean 則對這一結果作了火速處理,只用一封郵件就解僱了她。

此事一出,立刻引起網友熱議,眾多谷歌員工和學術界科學家都為其站台。

其中包括一個由谷歌現任及前員工聯合創立的“Google Walkout For Real Change”組織,他們已經在博客上發起了簽名運動,以示對 Timnit Gebru 的支持:

國外 AI 圈鬧翻天了!谷歌黑人女性 AI 倫理研究員“被離職”引發軒然大波

截止到今天,已經有1200 多名谷歌員工和 1500 多名學術界簽署了一份請願書,要求給 Gebru 復職。

歧視女性人權?Jeff Dean 表示不背鍋

首先來認識一下事件主人公。

Timnit Gebru 是谷歌頂尖的人工智能研究人員,致力於解決人工智能算法目前存在的偏見等問題,同時還從事數據挖掘領域的工作。

國外 AI 圈鬧翻天了!谷歌黑人女性 AI 倫理研究員“被離職”引發軒然大波

同時也是著名的技術多樣性倡導者,並聯合創立了一個名為“Black in AI”的黑人研究人員社區。一直以來,她都在直言不諱地對科技公司對待黑人員工的方式提出批評。

需要注意的是,她曾與 LeCun 發生過爭執,在 AI 圈內小有名氣。

當地時間 12 月 3 日晚,谷歌 Ethical AI 團隊聯合負責人Timnit Gebru發推表示她被谷歌 AI 負責人Jeff Dean 火速解僱。

具體因為什麼呢?

根據 Reddit 上曝出的 Gebru 與 Dean的郵件詳情,事件的起因是 Gebru 想要發表論文,但被谷歌內部否決、要求撤稿,Gebru 嘗試溝通無果,控訴谷歌不尊重邊緣羣體的人權。

國外 AI 圈鬧翻天了!谷歌黑人女性 AI 倫理研究員“被離職”引發軒然大波

郵件中談到,Gebru 近日在寫一份此前由 Katherine 和 Daphne 撰寫的論文。

她們在寫論文時,發現一個令人失望的現象:谷歌在過去的一年內解僱了大約 14% 的女性員工。Gebru又進一步瞭解到,在解僱 14% 的女性的同時,Samy又增聘了39% 能力並不夠出色的員工。

基於這個數據的懸殊,Gebru 建議谷歌女性:停止手上的工作,因為她們的工作並不為人重視。

同時,在近期的一次關於黑人的調查中,Gebru 也發現了該羣體之間瀰漫的憤怒情緒,但他們只能如往常般保持沉默。

所以在 Gebru 看來,她的論文被否定也有其中一部分的原因。

郵件末尾,Gebru 呼籲谷歌內部的女性羣體向領導層問責,並思考如何向他們施加外部壓力,比如寫信給Congressional Black Caucus 等組織。

國外 AI 圈鬧翻天了!谷歌黑人女性 AI 倫理研究員“被離職”引發軒然大波

很快,Jeff Dean 也就此回應稱:這其中並沒有女性歧視的原因。

國外 AI 圈鬧翻天了!谷歌黑人女性 AI 倫理研究員“被離職”引發軒然大波

不合格的原因是這篇論文忽略了太多相關研究,比如該論文討論大模型對環境的影響,卻忽略了其他研究顯示的大模型的更優秀的性能。論文挑起對語言模型偏見性的憂慮,卻沒有考慮近期減輕環境負擔的研究。

國外 AI 圈鬧翻天了!谷歌黑人女性 AI 倫理研究員“被離職”引發軒然大波

在郵件中,Jeff Dean 也表示,他們並沒有要執意開除 Gebru,只是尊重她本人的決定。

Jeff Dean 提到,在對 Gebru 的論文提出意見後, Gebru 也回覆了一封郵件,郵件內容是讓我提交一些信息,包括論文評審內容、每一個人的身份以及其他確切的反饋。

 Gebru 説,如果我不滿足她的要求,她就會離開谷歌,並停止相關工作。我們接受並尊重她的決定。

儘管如此,網友們對此回應似乎依舊不能信服。

一個很重要的原因是 Gebru 女性黑人的特殊身份。

2016 年 AI Now Institute 的一份報告發現,谷歌 AI 研究人員中有 10%是女性。谷歌的 2020 年多元化報告顯示,約有三分之一的谷歌員工為女性,而 3.7%為非裔美國人,5.9%為拉丁裔,0.8%為美洲印第安人。

谷歌員工和科學家發起聲援 Gebru 活動

在以上眾多因素的影響下,吃瓜羣眾們似乎已經不在乎在此事中孰對孰錯的問題,他們轉而去關注更多人權以及種族主義的更為嚴重的問題。

因此,昨天事件持續發酵後,引起了谷歌員工和科學家的高度重視。

為此,不少科學家紛紛轉發相關新聞並表態支持她。

其中包括一個由谷歌現任及前員工聯合創立的“Google Walkout For Real Change”組織,他們已經在博客上發起了簽名運動,以示對 Timnit Gebru 的支持。

國外 AI 圈鬧翻天了!谷歌黑人女性 AI 倫理研究員“被離職”引發軒然大波

不僅如此,該組織還向谷歌高層提出了以下要求:

要求Jeff Dean和 Megan Kacholia以及其他參與審閲論文的人員解釋拒絕發表的原因;


要求更多的公眾參與,需要社會問責,確保能夠未來谷歌的研究還值得信任;


要求谷歌對誠信研究和學術自由做出承諾,支持能夠促進實施谷歌人工智能原則的研究。

截止到今天,已經有 1200 多名谷歌員工和 1500 多名學術界人士向谷歌發起了挑戰。

值得一提的是,從 2018 年至今,這個組織已經在谷歌內部進行過多次大規模的抗議活動,並取得過很多場勝利,包括迫使谷歌放棄中國特供版搜索引擎,即“Dragonfly 計劃”;對 安卓之父性騷擾事件 處理結果不滿,而舉行的大罷工等等。

另外,就在本週三,美國國家勞資關係委員會(National Labor Relations Board)對谷歌提出指控稱,稱谷歌對其員工進行監視,阻止員工分享工作上的不滿,並對其進行報復。此事也同樣引起了該組織的關注。

那麼,問題來了,谷歌會就此妥協嗎?

雷鋒網雷鋒網雷鋒網

參考來源:

【1】https://www.vice.com/en/article/m7a7bq/ai-ethicists-are-outraged-after-google-fired-a-respected-black-researcher

【2】https://fortune.com/2020/12/04/google-timnit-gebru-backlash-firing/

【3】https://www.toutiao.com/a6902283786457711117/

【4】https://www.cnet.com/news/google-ai-ethicist-says-she-was-fired-over-email

【5】https://www.platformer.news/p/the-withering-email-that-got-an-ethical

版權聲明:本文源自 網絡, 於,由 楠木軒 整理發佈,共 2701 字。

轉載請註明: 國外 AI 圈鬧翻天了!谷歌黑人女性 AI 倫理研究員“被離職”引發軒然大波 - 楠木軒