據(jù)報道，谷歌近日向外界表示，它仍堅定致力于以合乎道德規(guī)范的方式進行人工智能研究。該公司還做出承諾，將把人工智能研究人員數(shù)量增加一倍，達到200人。谷歌首席執(zhí)行官皮查伊也表示，將為更多符合倫理規(guī)范的人工智能項目提供資金支持。

　　六個月前，谷歌的人工智能倫理明星研究員蒂姆尼特·格布魯(Timnit Gebru)遭到解雇，原因是她在一篇學術(shù)論文中對谷歌的一項人工智能技術(shù)提出了倫理質(zhì)疑。今年五月份，谷歌人工智能負責人杰夫·迪安(Jeff Dean)表示，盡管格布魯離職事件影響到了谷歌的聲譽，但人們需要向前看。

　　然而，對谷歌人工智能倫理團隊的部分成員來說，現(xiàn)實與谷歌高管的公開宣示卻有所不同。該團隊是谷歌新成立的一個人工智能分支研究機構(gòu)，共有成員十人，主要任務(wù)是研究人工智能如何影響社會。根據(jù)成員的反映，該團隊幾個月來一直處于一種前途未卜的狀態(tài)。團隊成員懷疑，公司是否能在學術(shù)界重建信譽，以及公司領(lǐng)導是否會聽取團隊的建議。目前，兩位團隊領(lǐng)導已經(jīng)離職，而谷歌尚未聘請到合適的繼任者。許多成員感到職業(yè)前景不穩(wěn)定，一些人開始考慮離開谷歌，準備去其他科技公司工作或者重返學術(shù)界。

　　谷歌人工智能部門的發(fā)言人已拒絕就人工智能倫理團隊的事情發(fā)表評論。

　　谷歌的研究機構(gòu)擁有數(shù)千研究人員，但專門研究人工智能倫理的僅有十人。人工智能倫理團隊以發(fā)表了有關(guān)人工智能訓練數(shù)據(jù)集的算法公平性的開創(chuàng)性論文而聞名于世。該團隊為谷歌在學術(shù)界建立起了學術(shù)聲譽，證明谷歌有能力進行前沿、有時甚至是批判性的研究——這對谷歌來說非常重要。畢竟，每天都有幾十億人依賴谷歌的產(chǎn)品來遨游互聯(lián)網(wǎng)，而該公司的核心產(chǎn)品，比如搜索引擎，正越來越依賴人工智能。

　　雖然人工智能在癌癥診斷、地震探測和與人類交互方面具有改變世界的潛力，但這一正處飛速發(fā)展階段的技術(shù)也會有可能擴大對女性和少數(shù)族裔的偏見，對個人隱私構(gòu)成威脅，以及導致碳排放的增加。谷歌為此建立了一個審查程序，用以確定新的人工智能技術(shù)是否符合其在2018年提出的人工智能倫理原則。在這一背景下，人工智能倫理團隊的職責是幫助谷歌尋找公司在人工智能領(lǐng)域的盲點，確保公司負責任地開發(fā)和應用人工智能技術(shù)。然而，人工智能倫理專家格布魯?shù)碾x職引發(fā)了巨大的爭議，并導致了人工智能倫理團隊的人事動蕩。一些學者開始擔心，谷歌在開發(fā)有可能改變世界的人工智能新技術(shù)時，可能無法充分處理公司內(nèi)部的倫理反饋意見。

　　例如，今年5月，谷歌發(fā)布了一款新的皮膚病人工智能檢測應用程序，但這款應用程序引發(fā)了批評，因為它有一個明顯的缺點：它在測試數(shù)據(jù)中大大低估了較淺膚色與較深膚色的對比。如果在發(fā)布前能事先咨詢一下人工智能倫理團隊，這一問題原本有可能加以避免。

　　在過去的幾個月里，谷歌倫理研究團隊的領(lǐng)導層一直處于持續(xù)動蕩的狀態(tài)。在短短幾個月的時間里，該團隊繼格布魯研究員離職后，又先后失去了兩位領(lǐng)導人。今年2月，谷歌解雇了梅格·米切爾(Meg Mitchell)，正是她負責創(chuàng)建了谷歌人工智能倫理團隊，并與格布魯共同領(lǐng)導該團隊。到了4月份，米切爾和格布魯?shù)闹苯宇I(lǐng)導、頂尖人工智能科學家薩米·本吉奧(Samy Bengio)也宣布辭職。本吉奧曾向外界表示，他對格布魯?shù)慕饴毟械?ldquo;震驚”。本吉奧是谷歌大腦研究部門的負責人，谷歌人工智能倫理團隊正是在其領(lǐng)導下開展工作。從谷歌離職后，他將領(lǐng)導蘋果公司一個新建立的人工智能研究團隊。

　　2月中旬，谷歌任命前工程副總裁瑪麗安·克勞克(Marian Croak)為新成立的人工智能責任部門(Responsible AI Department)的負責人，人工智能倫理團隊也劃歸該部門管理。然而，克勞克的行政級別太高，因此并不直接參與該團隊的日常運作。

　　這樣一來，人工智能倫理團隊的運作就變得比較尷尬。他們不得不向上述已經(jīng)離職的領(lǐng)導人尋求非正式的工作指導和研究建議。團隊成員搭建了臨時的組織架構(gòu)，讓每位成員輪流負責每周的部門會議。他們還自行指定了兩名研究人員，定期與谷歌其他團隊溝通，以讓他們了解團隊的最新成果。由于谷歌在全球雇用了超過13萬名員工，對像人工智能倫理團隊這樣的小團體來講，一般很難知道他們的工作成果是否真正應用到了公司的產(chǎn)品中。

　　過去的半年對該團隊的新成員來說顯得尤其困難，他們有時甚至不知道該如何領(lǐng)取自己的薪水，以及如何才能訪問谷歌的內(nèi)部研究工具。一些團隊成員在看到格布魯和米切爾的遭遇后，開始覺得他們正在從事的工作有風險，擔心如果以后他們的工作成果也引發(fā)了爭議，那么他們也可能會被解雇。

　　克勞克是一位有成就的工程研究領(lǐng)導人，但在人工智能倫理領(lǐng)域經(jīng)驗不足。在與人工智能倫理團隊的會面中，她試圖向員工保證，她是團隊的盟友。克勞克是谷歌級別最高的黑人高管之一。在谷歌，黑人女性只占員工總數(shù)的1.2%。她承認，谷歌在改善員工種族和性別多樣性方面缺乏進展。據(jù)幾位研究人員稱，克勞克在與人工智能倫理團隊的會面中，也向團隊成員表達了歉意，對團隊目前的困境表示感同身受。

　　然而，又有消息稱，這位高管與人工智能倫理團隊的關(guān)系還是出現(xiàn)了問題，因為他們覺得她只是做出了一些空洞的承諾。在克勞克被正式任命為人工智能責任部門負責人之前幾周，她就已經(jīng)與人工智能倫理團隊的成員進行了非正式的交流，討論如何修復對團隊造成的損害。然后，人工智能倫理團隊的成員共同起草了一封信，提出了包括對團隊進行“結(jié)構(gòu)改革”在內(nèi)的一些建議。谷歌后來確實對團隊進行了重組，并將團隊劃歸新組建的人工智能責任部門管理。然而，團隊成員是公司內(nèi)部最后得知此事的人。因此，當團隊成員得到消息時，他們是一臉的懵逼。團隊成員對此感到很不滿，認為重組過程與他們?nèi)狈贤ǎ蛔鹬厮麄儭?/p>

　　一些團隊成員對自己在谷歌的未來感到悲觀，并開始懷疑是否真正擁有展開研究所必需的自由環(huán)境。他們要求谷歌公開承諾學術(shù)自由，并澄清其學術(shù)研究審查程序。截至目前，谷歌尚未對這些要求有所回應。此外，團隊成員還希望谷歌向已經(jīng)離職的格布魯和米切爾道歉，并向她們再次提供工作機會——但目前看來，這些要求極不可能實現(xiàn)。而且，格布魯也已經(jīng)表示，即使谷歌再次向她提供工作機會，她也不會回來。

　　一些團隊成員表示，他們正在考慮離開公司。在競爭激烈的人工智能領(lǐng)域，頂尖研究人員可以拿到七位數(shù)的薪水，如果這些人員離職，那將是谷歌的一個巨大損失。

　　現(xiàn)在，谷歌在學術(shù)研究領(lǐng)域的地位正變得岌岌可危。到目前為止，谷歌是科技行業(yè)最大的研究資助者之一——它去年在研發(fā)領(lǐng)域投入了270多億美元，這甚至超過了美國宇航局(NASA)的年度預算。但谷歌人工智能倫理團隊近期出現(xiàn)的這些爭議性事件，讓一些學者質(zhì)疑，谷歌的讓研究人員自由開展研究的承諾，是否已被公司的商業(yè)利益所束縛。

　　數(shù)千名計算機科學教授和研究人員曾簽署了一份請愿書，批評谷歌解雇格布魯?shù)呐e動，稱之為“前所未有的學術(shù)研究審查” 。谷歌的人工智能高管心里很清楚，谷歌已經(jīng)失去了學術(shù)界的信任。迪恩在今年2月的一次員工研究會議上發(fā)表評論稱，重建信任的策略是“繼續(xù)發(fā)表‘非常有趣’的前瞻性工作”。他說，“重新獲得人們的信任需要一點時間。”

　　然而，重建信任所需的時間恐怕不止“一點”。加拿大安大略西部大學(Western University)的研究人員盧克·斯塔克(Luke Stark)評論說：“我認為，目前谷歌基本上是無法挽回其在學術(shù)界的聲譽的，至少中期來看是如此。”斯塔克最近還拒絕了谷歌的六萬美元的不受限制資助，以抗議格布魯?shù)谋黄入x職。據(jù)報道，他是有史以來第一個拒絕谷歌研究資助的學者。此外，還有另外兩個人工智能研究團體也已經(jīng)表示將拒絕谷歌的任何資助。

　　目前，至少有四名谷歌員工，包括一名工程總監(jiān)和一名人工智能研究人員，已經(jīng)離開公司a，并且是以格布魯被解雇作為辭職理由。當然，這些離職僅代表了一個大群體中的少數(shù)人。其他人選擇留下是因為他們?nèi)匀幌嘈攀虑闀修D(zhuǎn)機。一位不屬于人工智能倫理團隊的員工表示，他和同事們強烈反對谷歌解雇格布魯?shù)臎Q定，但他們也覺得，留下來繼續(xù)做有意義的工作是他們的責任。

　　對谷歌如何處理人工智能的倫理問題表示擔憂的遠不止學術(shù)界，監(jiān)管機構(gòu)也開始關(guān)注此事。去年12月，9名國會議員致函谷歌，要求谷歌就格布魯被解雇一事作出解釋。頗具影響力的族裔正義組織“Color of Change”也呼吁，對谷歌解雇格布魯一事所可能存在的種族歧視展開外部調(diào)查。

　　這些外部團體正密切關(guān)注谷歌人工智能部門內(nèi)部發(fā)生的事情。他們意識到人工智能將在人類生活中發(fā)揮越來越大的影響。幾乎所有主要的科技公司，包括谷歌在內(nèi)，都將人工智能視為現(xiàn)代世界的一項關(guān)鍵性技術(shù)。基于反壟斷的考慮，谷歌已經(jīng)成為了政治上的熱門話題，谷歌人工智能部門正面臨著很高的政治風險。

免責聲明： 家電資訊網(wǎng)站對《谷歌AI倫理部門動蕩不安 引監(jiān)管機構(gòu)關(guān)注》一文中所陳述、觀點判斷保持中立，不對所包含內(nèi)容的準確性、可靠性或完整性提供任何明示或暗示的保證。請讀者僅作參考，并請自行承擔全部責任。

本網(wǎng)站有部分內(nèi)容均轉(zhuǎn)載自其它媒體，轉(zhuǎn)載目的在于傳遞更多信息，并不代表本網(wǎng)贊同其觀點和對其真實性負責，本網(wǎng)站無法鑒別所上傳圖片或文字的知識版權(quán)，本站所轉(zhuǎn)載圖片、文字不涉及任何商業(yè)性質(zhì)，如果侵犯，請及時通知我們，本網(wǎng)站將在第一時間及時刪除，不承擔任何侵權(quán)責任。聯(lián)系QQ：411954607

本網(wǎng)認為，一切網(wǎng)民在進入家電資訊網(wǎng)站主頁及各層頁面時已經(jīng)仔細看過本條款并完全同意。敬請諒解。