91精品国产手机在线-白筒袜嫩萝双腿之间乳白液体-青青操手机在线视频观看-日本中文字幕人妻日韩-日韩精品在线观看视频网站-天堂资源中文最新版在线一区-欧美专区一区二区三区-国产综合亚洲欧美在线-国产精品久久久久久福利69堂

  1. 首頁(yè) > 生活百科 >

首部生成式AI管理辦法要來(lái)了！我們劃了9個(gè)重點(diǎn)

“颶風(fēng)”AIGC行業(yè)剛剛迎來(lái)了國(guó)家層面的規(guī)范政策 。
4月11日 ， 國(guó)家網(wǎng)信辦就《生成式人工智能服務(wù)管理辦法(征求意見稿)》(以下簡(jiǎn)稱征求意見稿)公開征求意見 。
監(jiān)管一啟動(dòng)，ChatGPT相關(guān)概念股11日下午大幅回調(diào) ， 但熱度不減 。有些徘徊在灰色地帶的人很恐慌，而有些AI創(chuàng)業(yè)者則比較樂觀 。
無(wú)界AI商業(yè)與營(yíng)銷總監(jiān)李本正認(rèn)為，很多企業(yè)開始將生成式AI融入到自己的商業(yè)生態(tài)中 。如果有明確的標(biāo)準(zhǔn)和具體的規(guī)則可以遵循，那么大家在使用AI產(chǎn)品的時(shí)候會(huì)更放心 。而且他希望在監(jiān)管下，創(chuàng)業(yè)者有更多的機(jī)會(huì)去創(chuàng)新 ， 與互聯(lián)網(wǎng)巨頭公平競(jìng)爭(zhēng) 。
從百度的文心字到阿里的依桐千問，國(guó)內(nèi)各大廠商相繼發(fā)布了生成式AI產(chǎn)品 。雖然國(guó)內(nèi)大規(guī)模模型研究和商業(yè)應(yīng)用還處于發(fā)展初期，但監(jiān)管政策“來(lái)得很快” 。本次意見稿對(duì)生成性AI技術(shù)、生成內(nèi)容、主體責(zé)任、數(shù)據(jù)來(lái)源、數(shù)據(jù)處理等方面做了規(guī)定 。
有網(wǎng)友擔(dān)心現(xiàn)在開始監(jiān)管為時(shí)過(guò)早 。追趕海外同行會(huì)造成障礙嗎？
事實(shí)上，數(shù)據(jù)安全作為AI發(fā)展的前提 ， 最近已經(jīng)被很多國(guó)家提上了監(jiān)管議程 。
周二，美國(guó)政府也開始研究是否有必要對(duì)ChatGPT進(jìn)行監(jiān)管 。根據(jù)華爾街日?qǐng)?bào)的說(shuō)法，美國(guó)商務(wù)部正式就相關(guān)問責(zé)措施征求意見，包括具有潛在風(fēng)險(xiǎn)的新人工智能模型是否應(yīng)在發(fā)布前獲得批準(zhǔn)和認(rèn)證 。
“人工智能會(huì)讓我們的生活變得更好還是會(huì)帶來(lái)災(zāi)難性的后果？”隨著新技術(shù)的快速發(fā)展，人們?cè)絹?lái)越關(guān)注生成性AI本身的安全風(fēng)險(xiǎn)以及由此帶來(lái)的負(fù)面影響 。
圍繞這份意見稿 ， 這位“頂級(jí)人工智能玩家”與人工智能從業(yè)者和相關(guān)專家聊起了新法規(guī)釋放的信號(hào)以及它們將對(duì)AIGC行業(yè)產(chǎn)生的影響 。
以下是我們得出的要點(diǎn):
意見稿是《互聯(lián)網(wǎng)信息服務(wù)深度融合管理規(guī)定》的升級(jí)版
中國(guó)是最早對(duì)人工智能進(jìn)行監(jiān)督管理的國(guó)家之一 。
比如AI寫作領(lǐng)域就有一個(gè)典型案例 。2018年，騰訊開發(fā)的AI智能寫作助手Dreamwriter生成財(cái)經(jīng)文章，未經(jīng)授權(quán)被其他網(wǎng)站復(fù)制傳播 。對(duì)此，騰訊提起維權(quán)訴訟，認(rèn)為其侵犯了騰訊和Dreamwriter的著作權(quán) 。
2020年初，法院判決AI生成的作品受著作權(quán)法保護(hù) ， 騰訊勝訴 。這是國(guó)內(nèi)首例人工智能合成作品維權(quán)案 。
2022年，我國(guó)首部法規(guī)互聯(lián)網(wǎng)信息服務(wù)深度融合管理?xiàng)l例正式發(fā)布，并于今年1月10日實(shí)施 。此前，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》、《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》、《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等法律法規(guī)中也涉及了AIGC、深度合成等內(nèi)容 。
最近出現(xiàn)了很多有爭(zhēng)議的AI變臉或者AI換裝事件 。
基于此 ， 律師事務(wù)所合伙人馬認(rèn)為，征求意見稿的發(fā)布并非“突發(fā)”事件，而這份意見稿可以視為《互聯(lián)網(wǎng)信息服務(wù)深度融合管理規(guī)定》的升級(jí)版 。有些內(nèi)容是對(duì)深度合成規(guī)定的延續(xù)和細(xì)化，有些則是首次提出，如第4、7、17條 。
AIGC產(chǎn)業(yè)將從野蠻生長(zhǎng)走向合規(guī)發(fā)展
首先，從總體基調(diào)來(lái)看 ， 此次新規(guī)是為了促進(jìn)生成式人工智能的健康發(fā)展和規(guī)范應(yīng)用，發(fā)出支持行業(yè)合規(guī)發(fā)展的積極信號(hào) 。
很多從業(yè)者表示，這意味著“野蠻生長(zhǎng)的時(shí)代即將結(jié)束” 。
李本正告訴我們，他很高興看到國(guó)家推動(dòng)AI產(chǎn)業(yè)朝著合規(guī)有序的方向發(fā)展 。一方面說(shuō)明一些行業(yè)亂象會(huì)得到治理，整個(gè)行業(yè)會(huì)得到更多的認(rèn)可和資源投入 。另一方面，也將讓無(wú)界AI在未來(lái)的產(chǎn)品規(guī)劃和業(yè)務(wù)發(fā)展思路上有更多的參考，從“走得更快”到“走得更快更穩(wěn)” 。
防止人工智能產(chǎn)生歧視性和虛假信息
從內(nèi)容上看，AI生成的內(nèi)容與互聯(lián)網(wǎng)上的其他內(nèi)容一樣 ， 應(yīng)當(dāng)符合法律法規(guī)的要求 ， 尊重社會(huì)公德、公序良俗 。
第四條提到的政治、色情、暴力等敏感內(nèi)容一直是互聯(lián)網(wǎng)內(nèi)容風(fēng)控審查的重點(diǎn) 。特別強(qiáng)調(diào)AI生成的內(nèi)容也要真實(shí)準(zhǔn)確，防止虛假信息和歧視性內(nèi)容的產(chǎn)生 。
在AI繪畫中，如果用戶輸入特定的關(guān)鍵詞，就有可能生成現(xiàn)實(shí)中不存在的圖片，比如前陣子在海外流傳的AI生成的“特朗普被捕”照片 。
ChatGPT還會(huì)產(chǎn)生符合邏輯但與事實(shí)不符的虛假“幻覺”，這是AI大模型的“通病” 。
為此，我們需要讓AI更好地理解人類的價(jià)值觀和道德觀念 。除了持續(xù)改進(jìn)和迭代模型 ， AI產(chǎn)品提供商還會(huì)采取內(nèi)容過(guò)濾、人工審核等風(fēng)險(xiǎn)控制措施 。
李本正表示，無(wú)界AI在訓(xùn)練模型和生成圖片時(shí)會(huì)盡量還原真實(shí)效果，避免一些涉嫌歧視的“刻板印象” 。如果遇到類似的輸出，它會(huì)迅速調(diào)整與模型相關(guān)的訓(xùn)練內(nèi)容 。同時(shí) ， 產(chǎn)品設(shè)置了關(guān)鍵詞約束規(guī)則，可以避免非法內(nèi)容的產(chǎn)生 。發(fā)布后圖片會(huì)經(jīng)過(guò)算法和人力審核，還設(shè)置了用戶舉報(bào)機(jī)制 。
輸入“密室殺人現(xiàn)場(chǎng)”，只生成房間 。
個(gè)人信息保護(hù)是一道重要的防線
近日，在ChatGPT的部分用戶消息和支付信息被泄露后，意大利數(shù)據(jù)保護(hù)機(jī)構(gòu)Garante宣布禁止ChatGPT，并責(zé)令旗下公司OpenAI暫停處理意大利用戶信息并展開調(diào)查 。
這是世界上第一次政府禁止ChatGPT 。此后，德國(guó)、加拿大、法國(guó)等國(guó)也開始考慮效仿意大利，加強(qiáng)對(duì)Al數(shù)據(jù)安全的監(jiān)管 。
可見，保護(hù)個(gè)人信息和商業(yè)秘密的內(nèi)容是AI生成內(nèi)容的重要防線 。
意見稿發(fā)布前夕，中國(guó)支付清算協(xié)會(huì)網(wǎng)站發(fā)布了《關(guān)于支付行業(yè)從業(yè)人員謹(jǐn)慎使用ChatGPT等工具的倡議》 。比如金融支付是一個(gè)數(shù)據(jù)密集型行業(yè)，對(duì)信息安全保護(hù)要求很高 。海外員工將工作數(shù)據(jù)輸入ChatGPT，涉嫌違規(guī) 。
模型訓(xùn)練數(shù)據(jù)來(lái)源應(yīng)合法且不侵權(quán)
意見稿對(duì)AI模型的數(shù)據(jù)來(lái)源合法性提出了新的要求，其中一條要求“沒有侵犯知識(shí)產(chǎn)權(quán)的內(nèi)容” 。
此前，AI繪畫的反對(duì)者聲稱，AI使用有版權(quán)的作品作為訓(xùn)練材料 ， 這侵犯了創(chuàng)作者的權(quán)利 。今年3月，聚集了大量作家畫家的興趣平臺(tái)lofter因部分創(chuàng)作者反對(duì)而下線 。
部分lofter用戶停止更換，換成抵制AI的頭像 。
馬認(rèn)為，保護(hù)數(shù)據(jù)來(lái)源的知識(shí)產(chǎn)權(quán)會(huì)很難，但必須具體分析 。
比如對(duì)于原創(chuàng)度相對(duì)較低的作品，增加了純巧合產(chǎn)生類似作品的概率，會(huì)給一方權(quán)利人的維權(quán)帶來(lái)困難 。培訓(xùn)中使用第三方作品是否構(gòu)成合理使用也存在爭(zhēng)議 。但有些場(chǎng)景更容易維權(quán)，比如未經(jīng)許可導(dǎo)入他人注冊(cè)商標(biāo)進(jìn)行訓(xùn)練，導(dǎo)致輸出類似結(jié)果 。
防止用戶沉迷于人工智能生成的內(nèi)容
目前，許多學(xué)生群體正在使用AI來(lái)幫助他們寫作業(yè)和論文 。據(jù)媒體報(bào)道 ， 一名海外大學(xué)生用ChatGPT寫了一篇關(guān)于世界宗教的“完美論文”，結(jié)果因?yàn)樘昝辣唤淌诎l(fā)現(xiàn) 。
為了防止學(xué)生作弊，美國(guó)、日本、法國(guó)等地區(qū)的一些大學(xué)已經(jīng)宣布禁止AI工具 。比如，港大內(nèi)部信中提到，學(xué)生要使用相關(guān)應(yīng)用，必須獲得課程導(dǎo)師的書面同意 ， 如果違反規(guī)定，將被視為潛在抄襲 。
由此可見，意見稿要求用戶應(yīng)當(dāng)實(shí)名登錄，提供商也應(yīng)當(dāng)采取防沉迷措施 。
調(diào)用API的提供者也要承擔(dān)相應(yīng)的責(zé)任和義務(wù)
ChatGPT爆炸后，國(guó)內(nèi)出現(xiàn)了很多調(diào)用其接口提供服務(wù)的AI小程序、app或社區(qū)，但其中一部分因?yàn)檫`規(guī)被平臺(tái)封禁 。
《意見稿》對(duì)調(diào)用接口進(jìn)行二次開發(fā)的AI模型提供者和服務(wù)提供者提出了一系列要求 。比如第六條要求，提供服務(wù)前應(yīng)當(dāng)向國(guó)家網(wǎng)信部門申報(bào)安全評(píng)估，并做好記錄；第十四條要求提供安全穩(wěn)定的服務(wù)；第17條要求披露必要的信息 ， 如車型說(shuō)明等 。
國(guó)內(nèi)提供商在過(guò)去可能很容易忽略這些規(guī)定和限制 ， 但在新規(guī)定實(shí)施后，他們必須承擔(dān)相應(yīng)的責(zé)任和義務(wù) 。
AI產(chǎn)生的內(nèi)容要識(shí)別
根據(jù)《互聯(lián)網(wǎng)信息服務(wù)深度融合管理規(guī)定》，提供者還應(yīng)當(dāng)對(duì)生成的圖片、視頻等內(nèi)容進(jìn)行標(biāo)識(shí) 。
對(duì)于具體的鑒定方式，目前還沒有明確的解釋 。但加標(biāo)識(shí)有利于整頓行業(yè)亂象 。比如上面提到的變臉謠言事件，AI服務(wù)商可以根據(jù)logo快速辟謠辟謠 。
提供商應(yīng)接受用戶投訴并及時(shí)處理非法內(nèi)容
今年1月，畫廊經(jīng)銷商Getty Images起訴Stability AI(穩(wěn)定擴(kuò)散公司)侵犯版權(quán) 。后者回應(yīng)說(shuō)，新版本將添加一個(gè)退出選項(xiàng)，用戶可以讓人工智能模型停止收集其作品作為訓(xùn)練數(shù)據(jù) 。
他們還與HaveIBeenTrained網(wǎng)站合作，允許藝術(shù)家在穩(wěn)定擴(kuò)散的訓(xùn)練數(shù)據(jù)集中搜索自己的作品 ， 并選擇刪除 。
同樣，《意見稿》顯示，國(guó)內(nèi)AI提供者也應(yīng)建立用戶投訴渠道，及時(shí)處理侵權(quán)作品等違法違規(guī)內(nèi)容，避免二次生成 。
此外，對(duì)于炒作營(yíng)銷等違法內(nèi)容，AI提供者應(yīng)暫停或終止用戶服務(wù) 。
迪亞馬特的關(guān)鍵詞是禁止的 。
新興技術(shù)的發(fā)展和法規(guī)遵從性實(shí)際上是相輔相成的 。人工智能技術(shù)的發(fā)展趨勢(shì)一定是跨區(qū)域、跨國(guó)界的 。未來(lái)，數(shù)據(jù)的跨境傳輸、存儲(chǔ)和使用將成為數(shù)據(jù)安全保護(hù)的一大挑戰(zhàn) 。
馬認(rèn)為，我們國(guó)家已經(jīng)有了網(wǎng)絡(luò)安全法和配套立法 。這些立法內(nèi)容能否與時(shí)俱進(jìn)，監(jiān)管能否到位，執(zhí)法能否落實(shí)成為關(guān)鍵 。
《意見稿》只是第一步 ， 有些規(guī)定還比較籠統(tǒng) 。但在國(guó)內(nèi)AIGC發(fā)展初期，會(huì)跟進(jìn)創(chuàng)新，長(zhǎng)期來(lái)看，可以為整個(gè)行業(yè)的穩(wěn)健發(fā)展保駕護(hù)航 。
【首部生成式AI管理辦法要來(lái)了！我們劃了9個(gè)重點(diǎn)】如果對(duì)這個(gè)意見稿有不同的建議和想法，可以通過(guò)網(wǎng)站、郵件等方式反饋給網(wǎng)信辦 。也歡迎大家在評(píng)論區(qū)與我們討論交流 。

    推薦閱讀