1. 首頁 > 生活百科 >

梵蒂岡發布自己的人工智能道德手冊

【梵蒂岡發布自己的人工智能道德手冊】
生活網6月29日 消息:梵蒂岡也加入了人工智能的熱潮 。羅馬教廷發布了一本教皇定義的人工智能倫理為基礎的手冊 。
該指南是弗朗西斯和圣克拉拉大學馬庫拉應用倫理中心合作的結果 。他們共同建立了一個名為“技術、倫理與文化研究所”（ITEC）的新組織 。ITEC的第一個項目是一本名為《顛覆性技術時代的倫理》的手冊 ， 旨在指導科技行業應對人工智能、機器學習、加密、追蹤等領域的倫理問題 。
根據圣塞門堂區主任、洛斯阿爾托斯的圣西門教堂神父兼ITEC顧問布倫丹·麥奎爾的說法 ， 本次倡議是教會長期興趣的集大成之作 。他認為教廷具有一個獨特的能力，可以吸引各個關鍵角色參與其中 。
布倫丹神父表示:“教皇一直對世界和人類有著廣大的視野，并且他認為科技是一件好事 。但隨著我們發展，也到了問出更深層次的問題的時候 。”他說:“硅谷的科技高管多年來一直找我尋求幫助，他們表示，‘你需要幫助我們，未來有很多問題我們還沒有準備好 。’這個想法是利用教廷的召集能力將全球的高管聚集在一起 。”
許多倡導者、學者和觀察家將精力集中在向監管機構提出訴求上，ITEC手冊采取了不同的方法 。ITEC希望為科技公司內部已經在思考人工智能最困難問題的人們提供指導 ， 而不僅僅是等待政府為行業制定規則 。
“在一些方面，已經形成了與公司相一致的原則，如問責制和透明度，”馬克拉中心的高級領導倫理總監安·斯基特說道:“這很好，但關于如何真正去做和如何將這些標準應用到技術的設計和應用中，人們對此并沒有太多共識 。”
總體而言，該手冊主張從一開始就在技術和開發技術的公司中建立圍繞一系列原則的價值觀，而不是事后如何解決問題 。手冊中為公司制定了一個基本原則:“確保我們的行動符合人類和環境的共同利益 。”這個原則非常廣義和模糊，但ITEC手冊的組織結構將廣泛共識的大概念分解為一系列具體的建議和可行的步驟 。
這個大的基本原則分為七個指導方針，例如“尊重人的尊嚴和權利”，“促進透明度和可解釋性” 。這七個指導方針又分解為46個具體的可操作步驟，包括定義、示例和可操作的步驟 。
例如，“尊重人的尊嚴和權利”這個原則包括關注“隱私和保密” 。為了將這個想法付諸實踐 ， 手冊呼吁承諾“不收集非必要數據的數據”，并表示“收集的數據應以最大程度保護隱私和保密的方式存儲” 。它還強調了公司應該考慮對醫療和金融數據進行特定的保護，并關注對用戶負責，而不僅僅是法律要求 。
梵蒂岡并不是唯一一個對人工智能和技術未來提出重大問題的組織 。就在 OpenAI 向全球發布 ChatGPT 幾個月后，該公司首席執行官 Sam Altman 就已經與拜登總統會面，并就如何監管人工智能向國會作證 。
對科技行業來說，幸運的是，梵蒂岡在回答有關我們如何考慮世界末日的問題上經驗豐富 。布倫丹神父表示，人工智能可能帶來的潛在威脅是嚴重的，但近期的人工智能問題同樣值得關注 。不過，他并不清楚教皇是否使用過 ChatGPT 。
布倫丹神父表示:“我們絕對需要重要的約束措施，各國和政府將會逐步實施它們 。”他說:“但是這本書在設計和消費者應用方面起到重要的推動作用 。這就是我們試圖讓公司提前滿足我們需要的標準的地方 。”

    推薦閱讀