六個月前，Google的人工智能倫理明星研究員蒂姆尼特·格佈魯（Timnit Gebru）遭到解雇，原因是她在一篇學術論文中對Google的一項人工智能技術提出瞭倫理質疑。今年五月份，Google人工智能負責人傑夫·迪安（Jeff Dean）表示，盡管格佈魯離職事件影響到瞭Google的聲譽，但人們需要向前看。
然而，對Google人工智能倫理團隊的部分成員來說，現實與Google高管的公開宣示卻有所不同。該團隊是Google新成立的一個人工智能分支研究機構，共有成員十人，主要任務是研究人工智能如何影響社會。根據成員的反映，該團隊幾個月來一直處於一種前途未卜的狀態。團隊成員懷疑，公司是否能在學術界重建信譽，以及公司領導是否會聽取團隊的建議。目前，兩位團隊領導已經離職，而Google尚未聘請到合適的繼任者。許多成員感到職業前景不穩定，一些人開始考慮離開Google，準備去其他科技公司工作或者重返學術界。
Google人工智能部門的發言人已拒絕就人工智能倫理團隊的事情發表評論。
Google的研究機構擁有數千研究人員，但專門研究人工智能倫理的僅有十人。人工智能倫理團隊以發表瞭有關人工智能訓練數據集的算法公平性的開創性論文而聞名於世。該團隊為Google在學術界建立起瞭學術聲譽，證明Google有能力進行前沿、有時甚至是批判性的研究——這對Google來說非常重要。畢竟，每天都有幾十億人依賴Google的產品來遨遊互聯網，而該公司的核心產品，比如搜索引擎，正越來越依賴人工智能。
雖然人工智能在癌癥診斷、地震探測和與人類交互方面具有改變世界的潛力，但這一正處飛速發展階段的技術也會有可能擴大對女性和少數族裔的偏見，對個人隱私構成威脅，以及導致碳排放的增加。Google為此建立瞭一個審查程序，用以確定新的人工智能技術是否符合其在2018年提出的人工智能倫理原則。在這一背景下，人工智能倫理團隊的職責是幫助Google尋找公司在人工智能領域的盲點，確保公司負責任地開發和應用人工智能技術。然而，人工智能倫理專傢格佈魯的離職引發瞭巨大的爭議，並導致瞭人工智能倫理團隊的人事動蕩。一些學者開始擔心，Google在開發有可能改變世界的人工智能新技術時，可能無法充分處理公司內部的倫理反饋意見。
例如，今年5月，Google發佈瞭一款新的皮膚病人工智能檢測應用程序，但這款應用程序引發瞭批評，因為它有一個明顯的缺點：它在測試數據中大大低估瞭較淺膚色與較深膚色的對比。如果在發佈前能事先咨詢一下人工智能倫理團隊，這一問題原本有可能加以避免。
在過去的幾個月裡，Google倫理研究團隊的領導層一直處於持續動蕩的狀態。在短短幾個月的時間裡，該團隊繼格佈魯研究員離職後，又先後失去瞭兩位領導人。今年2月，Google解雇瞭梅格·米切爾（Meg Mitchell），正是她負責創建瞭Google人工智能倫理團隊，並與格佈魯共同領導該團隊。到瞭4月份，米切爾和格佈魯的直接領導、頂尖人工智能科學傢薩米·本吉奧（Samy Bengio）也宣佈辭職。本吉奧曾向外界表示，他對格佈魯的解職感到“震驚”。本吉奧是Google大腦研究部門的負責人，Google人工智能倫理團隊正是在其領導下開展工作。從Google離職後，他將領導蘋果公司一個新建立的人工智能研究團隊。
2月中旬，Google任命前工程副總裁瑪麗安·克勞克（Marian Croak）為新成立的人工智能責任部門（Responsible AI Department）的負責人，人工智能倫理團隊也劃歸該部門管理。然而，克勞克的行政級別太高，因此並不直接參與該團隊的日常運作。
這樣一來，人工智能倫理團隊的運作就變得比較尷尬。他們不得不向上述已經離職的領導人尋求非正式的工作指導和研究建議。團隊成員搭建瞭臨時的組織架構，讓每位成員輪流負責每周的部門會議。他們還自行指定瞭兩名研究人員，定期與Google其他團隊溝通，以讓他們瞭解團隊的最新成果。由於Google在全球雇用瞭超過13萬名員工，對像人工智能倫理團隊這樣的小團體來講，一般很難知道他們的工作成果是否真正應用到瞭公司的產品中。
過去的半年對該團隊的新成員來說顯得尤其困難，他們有時甚至不知道該如何領取自己的薪水，以及如何才能訪問Google的內部研究工具。一些團隊成員在看到格佈魯和米切爾的遭遇後，開始覺得他們正在從事的工作有風險，擔心如果以後他們的工作成果也引發瞭爭議，那麼他們也可能會被解雇。
克勞克是一位有成就的工程研究領導人，但在人工智能倫理領域經驗不足。在與人工智能倫理團隊的會面中，她試圖向員工保證，她是團隊的盟友。克勞克是Google級別最高的黑人高管之一。在Google，黑人女性隻占員工總數的1.2%。她承認，Google在改善員工種族和性別多樣性方面缺乏進展。據幾位研究人員稱，克勞克在與人工智能倫理團隊的會面中，也向團隊成員表達瞭歉意，對團隊目前的困境表示感同身受。
然而，又有消息稱，這位高管與人工智能倫理團隊的關系還是出現瞭問題，因為他們覺得她隻是做出瞭一些空洞的承諾。在克勞克被正式任命為人工智能責任部門負責人之前幾周，她就已經與人工智能倫理團隊的成員進行瞭非正式的交流，討論如何修復對團隊造成的損害。然後，人工智能倫理團隊的成員共同起草瞭一封信，提出瞭包括對團隊進行“結構改革”在內的一些建議。Google後來確實對團隊進行瞭重組，並將團隊劃歸新組建的人工智能責任部門管理。然而，團隊成員是公司內部最後得知此事的人。因此，當團隊成員得到消息時，他們是一臉的懵逼。團隊成員對此感到很不滿，認為重組過程與他們缺乏溝通，不尊重他們。
一些團隊成員對自己在Google的未來感到悲觀，並開始懷疑是否真正擁有展開研究所必需的自由環境。他們要求Google公開承諾學術自由，並澄清其學術研究審查程序。截至目前，Google尚未對這些要求有所回應。此外，團隊成員還希望Google向已經離職的格佈魯和米切爾道歉，並向她們再次提供工作機會——但目前看來，這些要求極不可能實現。而且，格佈魯也已經表示，即使Google再次向她提供工作機會，她也不會回來。
一些團隊成員表示，他們正在考慮離開公司。在競爭激烈的人工智能領域，頂尖研究人員可以拿到七位數的薪水，如果這些人員離職，那將是Google的一個巨大損失。
現在，Google在學術研究領域的地位正變得岌岌可危。到目前為止，Google是科技行業最大的研究資助者之一——它去年在研發領域投入瞭270多億美元，這甚至超過瞭美國宇航局（NASA）的年度預算。但Google人工智能倫理團隊近期出現的這些爭議性事件，讓一些學者質疑，Google的讓研究人員自由開展研究的承諾，是否已被公司的商業利益所束縛。
數千名計算機科學教授和研究人員曾簽署瞭一份請願書，批評Google解雇格佈魯的舉動，稱之為“前所未有的學術研究審查” 。Google的人工智能高管心裡很清楚，Google已經失去瞭學術界的信任。迪恩在今年2月的一次員工研究會議上發表評論稱，重建信任的策略是“繼續發表‘非常有趣’的前瞻性工作”。他說，“重新獲得人們的信任需要一點時間。”
然而，重建信任所需的時間恐怕不止“一點”。加拿大安大略西部大學（Western University）的研究人員盧克·斯塔克（Luke Stark）評論說：“我認為，目前Google基本上是無法挽回其在學術界的聲譽的，至少中期來看是如此。”斯塔克最近還拒絕瞭Google的六萬美元的不受限制資助，以抗議格佈魯的被迫離職。據報道，他是有史以來第一個拒絕Google研究資助的學者。此外，還有另外兩個人工智能研究團體也已經表示將拒絕Google的任何資助。
目前，至少有四名Google員工，包括一名工程總監和一名人工智能研究人員，已經離開公司，並且是以格佈魯被解雇作為辭職理由。當然，這些離職僅代表瞭一個大群體中的少數人。其他人選擇留下是因為他們仍然相信事情會有轉機。一位不屬於人工智能倫理團隊的員工表示，他和同事們強烈反對Google解雇格佈魯的決定，但他們也覺得，留下來繼續做有意義的工作是他們的責任。
對Google如何處理人工智能的倫理問題表示擔憂的遠不止學術界，監管機構也開始關註此事。去年12月，9名國會議員致函Google，要求Google就格佈魯被解雇一事作出解釋。頗具影響力的族裔正義組織“Color of Change”也呼籲，對Google解雇格佈魯一事所可能存在的種族歧視展開外部調查。
這些外部團體正密切關註Google人工智能部門內部發生的事情。他們意識到人工智能將在人類生活中發揮越來越大的影響。幾乎所有主要的科技公司，包括Google在內，都將人工智能視為現代世界的一項關鍵性技術。基於反壟斷的考慮，Google已經成為瞭政治上的熱門話題，Google人工智能部門正面臨著很高的政治風險。
留言列表
