91精品国产手机在线-白筒袜嫩萝双腿之间乳白液体-青青操手机在线视频观看-日本中文字幕人妻日韩-日韩精品在线观看视频网站-天堂资源中文最新版在线一区-欧美专区一区二区三区-国产综合亚洲欧美在线-国产精品久久久久久福利69堂

  1. 首頁 > 生活百科 >

Google Google人工智能倫理部門動蕩不安 已引起外部監(jiān)管機(jī)構(gòu)關(guān)注

谷歌 Google

北京時(shí)間6月2日下午消息，據(jù)報(bào)道，Google近日向外界表示，它仍堅(jiān)定致力于以合乎道德規(guī)范的方式進(jìn)行人工智能研究 。該公司還做出承諾，將把人工智能研究人員數(shù)量增加一倍，達(dá)到200人 。Google首席執(zhí)行官皮查伊也表示，將為更多符合倫理規(guī)范的人工智能項(xiàng)目提供資金支持 。
Google Google人工智能倫理部門動蕩不安 已引起外部監(jiān)管機(jī)構(gòu)關(guān)注
文章圖片

六個(gè)月前，Google的人工智能倫理明星研究員蒂姆尼特·格布魯（Timnit Gebru）遭到解雇，原因是她在一篇學(xué)術(shù)論文中對Google的一項(xiàng)人工智能技術(shù)提出了倫理質(zhì)疑 。今年五月份，Google人工智能負(fù)責(zé)人杰夫·迪安（Jeff Dean）表示，盡管格布魯離職事件影響到了Google的聲譽(yù)，但人們需要向前看 。
然而，對Google人工智能倫理團(tuán)隊(duì)的部分成員來說，現(xiàn)實(shí)與Google高管的公開宣示卻有所不同 。該團(tuán)隊(duì)是Google新成立的一個(gè)人工智能分支研究機(jī)構(gòu)，共有成員十人，主要任務(wù)是研究人工智能如何影響社會 。根據(jù)成員的反映，該團(tuán)隊(duì)幾個(gè)月來一直處于一種前途未卜的狀態(tài) 。團(tuán)隊(duì)成員懷疑，公司是否能在學(xué)術(shù)界重建信譽(yù)，以及公司領(lǐng)導(dǎo)是否會聽取團(tuán)隊(duì)的建議 。目前，兩位團(tuán)隊(duì)領(lǐng)導(dǎo)已經(jīng)離職，而Google尚未聘請到合適的繼任者 。許多成員感到職業(yè)前景不穩(wěn)定，一些人開始考慮離開Google，準(zhǔn)備去其他科技公司工作或者重返學(xué)術(shù)界 。
Google人工智能部門的發(fā)言人已拒絕就人工智能倫理團(tuán)隊(duì)的事情發(fā)表評論 。
Google的研究機(jī)構(gòu)擁有數(shù)千研究人員，但專門研究人工智能倫理的僅有十人 。人工智能倫理團(tuán)隊(duì)以發(fā)表了有關(guān)人工智能訓(xùn)練數(shù)據(jù)集的算法公平性的開創(chuàng)性論文而聞名于世 。該團(tuán)隊(duì)為Google在學(xué)術(shù)界建立起了學(xué)術(shù)聲譽(yù)，證明Google有能力進(jìn)行前沿、有時(shí)甚至是批判性的研究——這對Google來說非常重要 。畢竟，每天都有幾十億人依賴Google的產(chǎn)品來遨游互聯(lián)網(wǎng)，而該公司的核心產(chǎn)品，比如搜索引擎，正越來越依賴人工智能 。
雖然人工智能在癌癥診斷、地震探測和與人類交互方面具有改變世界的潛力，但這一正處飛速發(fā)展階段的技術(shù)也會有可能擴(kuò)大對女性和少數(shù)族裔的偏見，對個(gè)人隱私構(gòu)成威脅，以及導(dǎo)致碳排放的增加 。Google為此建立了一個(gè)審查程序，用以確定新的人工智能技術(shù)是否符合其在2018年提出的人工智能倫理原則 。在這一背景下，人工智能倫理團(tuán)隊(duì)的職責(zé)是幫助Google尋找公司在人工智能領(lǐng)域的盲點(diǎn)，確保公司負(fù)責(zé)任地開發(fā)和應(yīng)用人工智能技術(shù) 。然而，人工智能倫理專家格布魯?shù)碾x職引發(fā)了巨大的爭議，并導(dǎo)致了人工智能倫理團(tuán)隊(duì)的人事動蕩 。一些學(xué)者開始擔(dān)心，Google在開發(fā)有可能改變世界的人工智能新技術(shù)時(shí)，可能無法充分處理公司內(nèi)部的倫理反饋意見 。
例如，今年5月，Google發(fā)布了一款新的皮膚病人工智能檢測應(yīng)用程序，但這款應(yīng)用程序引發(fā)了批評，因?yàn)樗幸粋€(gè)明顯的缺點(diǎn)：它在測試數(shù)據(jù)中大大低估了較淺膚色與較深膚色的對比 。如果在發(fā)布前能事先咨詢一下人工智能倫理團(tuán)隊(duì)，這一問題原本有可能加以避免 。
在過去的幾個(gè)月里，Google倫理研究團(tuán)隊(duì)的領(lǐng)導(dǎo)層一直處于持續(xù)動蕩的狀態(tài) 。在短短幾個(gè)月的時(shí)間里，該團(tuán)隊(duì)繼格布魯研究員離職后，又先后失去了兩位領(lǐng)導(dǎo)人 。今年2月，Google解雇了梅格·米切爾（Meg Mitchell），正是她負(fù)責(zé)創(chuàng)建了Google人工智能倫理團(tuán)隊(duì)，并與格布魯共同領(lǐng)導(dǎo)該團(tuán)隊(duì) 。到了4月份，米切爾和格布魯?shù)闹苯宇I(lǐng)導(dǎo)、頂尖人工智能科學(xué)家薩米·本吉奧（Samy Bengio）也宣布辭職 。本吉奧曾向外界表示，他對格布魯?shù)慕饴毟械健罢痼@” 。本吉奧是Google大腦研究部門的負(fù)責(zé)人，Google人工智能倫理團(tuán)隊(duì)正是在其領(lǐng)導(dǎo)下開展工作 。從Google離職后，他將領(lǐng)導(dǎo)蘋果公司一個(gè)新建立的人工智能研究團(tuán)隊(duì) 。
2月中旬，Google任命前工程副總裁瑪麗安·克勞克（Marian Croak）為新成立的人工智能責(zé)任部門（Responsible AI Department）的負(fù)責(zé)人，人工智能倫理團(tuán)隊(duì)也劃歸該部門管理 。然而，克勞克的行政級別太高，因此并不直接參與該團(tuán)隊(duì)的日常運(yùn)作 。
這樣一來，人工智能倫理團(tuán)隊(duì)的運(yùn)作就變得比較尷尬 。他們不得不向上述已經(jīng)離職的領(lǐng)導(dǎo)人尋求非正式的工作指導(dǎo)和研究建議 。團(tuán)隊(duì)成員搭建了臨時(shí)的組織架構(gòu)，讓每位成員輪流負(fù)責(zé)每周的部門會議 。他們還自行指定了兩名研究人員，定期與Google其他團(tuán)隊(duì)溝通，以讓他們了解團(tuán)隊(duì)的最新成果 。由于Google在全球雇用了超過13萬名員工，對像人工智能倫理團(tuán)隊(duì)這樣的小團(tuán)體來講，一般很難知道他們的工作成果是否真正應(yīng)用到了公司的產(chǎn)品中 。

推薦閱讀