21世紀經(jīng)濟報道記者 蔡姝越 郭美婷 實習(xí)生 譚硯文 麥子浩 上海、廣州報道 

編者按：

(資料圖片僅供參考)

在2023年過去的幾個月里，各大公司搶灘大模型、GPT商用化探索、算力基礎(chǔ)設(shè)施看漲……如同15世紀開啟的大航海時代，人類交往、貿(mào)易、財富有了爆炸性增長，空間革命席卷全球。變革同時，也帶來了秩序的挑戰(zhàn)，數(shù)據(jù)泄露、個人隱私風(fēng)險、著作權(quán)侵權(quán)、虛假信息......此外，AI帶來的后人類主義危機已然擺在桌面，人們該以何種姿態(tài)迎接人機混雜帶來的迷思？

此刻，尋求AI治理的共識、重塑新秩序成了各國共同面對的課題。南財合規(guī)科技研究院將推出AI契約論系列報道，從中外監(jiān)管模式、主體責(zé)任分配、語料庫數(shù)據(jù)合規(guī)、AI倫理、產(chǎn)業(yè)發(fā)展等維度，進行剖析，以期為AI治理方案提供一些思路，保障負責(zé)任的創(chuàng)新。

自生成式AI技術(shù)興起，到如今“百模大戰(zhàn)”的局面，該技術(shù)的產(chǎn)業(yè)鏈圖譜也已初步成型。

（AIGC產(chǎn)業(yè)鏈圖譜。制圖/南財合規(guī)科技研究院、21世紀經(jīng)濟報道記者）

不過，在生成式AI成為一項通用技術(shù)前，各鏈條生產(chǎn)者都需要思考怎樣可以將其轉(zhuǎn)變?yōu)橐粋€“可控”的工具。 

今年3月下旬，一封由特斯拉首席執(zhí)行官埃隆·馬斯克、 蘋果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克等千余名企業(yè)家、學(xué)者簽署的《暫停大型人工智能實驗》公開信發(fā)布。

信中提到，盡管近幾個月世界各地的人工智能實驗室陷入了一場失控的競賽，以開發(fā)和部署更強大的數(shù)字思維，但包括技術(shù)的研發(fā)者在內(nèi)，“沒有任何人能真正理解、預(yù)測或完全控制這項技術(shù)。”

清華大學(xué)新聞與傳播學(xué)院元宇宙文化實驗室也在《AIGC發(fā)展研究》報告中指出，AIGC強勢介入全球產(chǎn)業(yè)鏈，將全面替代程序員、平面設(shè)計、客服等工作，為人工成本劃定上限，第三世界產(chǎn)業(yè)鏈將因此遭受巨大沖擊。 

這意味著，大算力支持下的AIGC可能成為割裂跨國公司全球產(chǎn)業(yè)鏈的利刃，也可能成為劃破“地球村”幻象的匕首。

因此，在AIGC快速發(fā)展的當(dāng)下，如將其背后的生成式AI技術(shù)關(guān)進監(jiān)管的籠子里，厘清產(chǎn)業(yè)鏈各方的責(zé)任，已成為世界各國亟需處理的命題。

監(jiān)管政策梳理：劃清產(chǎn)業(yè)研發(fā)底線

目前，我國已走在了生成式AI技術(shù)規(guī)制的道路上。今年4月，國家網(wǎng)信辦發(fā)布的《生成式人工智能服務(wù)管理辦法（征求意見稿）》（以下簡稱“《辦法》”），是我國第一部針對生成式AI技術(shù)的監(jiān)管文件。

總體而言，《辦法》是在現(xiàn)有的深度合成監(jiān)管框架之下，對《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《網(wǎng)絡(luò)音視頻服務(wù)管理規(guī)定》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》的細化，除了個人信息保護的一般性義務(wù)，還要求人工智能服務(wù)提供者進一步履行安全評估、算法備案、內(nèi)容標(biāo)識等義務(wù)。

對于以上相關(guān)政策文件的頒布，北京大成律師事務(wù)所高級合伙人肖颯在接受21世紀經(jīng)濟報道記者采訪時指出，相關(guān)企業(yè)應(yīng)當(dāng)重視銜接現(xiàn)有算法推薦服務(wù)、深度合成服務(wù)等其他人工智能監(jiān)管法規(guī)的要求，盡力做到內(nèi)部合規(guī)，結(jié)合技術(shù)與法律力量提出創(chuàng)造性的合規(guī)解決方案，為產(chǎn)業(yè)發(fā)展贏得更多的制度空間。

對于《辦法》等規(guī)范人工智能技術(shù)發(fā)展法案的陸續(xù)出臺，行業(yè)內(nèi)也大多報以支持的觀點。如亮風(fēng)臺高級產(chǎn)品總監(jiān)魏超群在接受21記者采訪時便分享了他的看法。他認為，在生成式AI技術(shù)剛起步的時候，配套管理辦法的出臺對整個產(chǎn)業(yè)的健康發(fā)展而言，有顯著的促進作用。

“一方面，《辦法》的出臺意味著整個產(chǎn)業(yè)有了明確的操作規(guī)范，可以指導(dǎo)企業(yè)的一整套研發(fā)流程。另一方面，也為整個行業(yè)設(shè)定了研發(fā)底線，列舉了哪些事情能做，哪些事情不能做?！?/strong>魏超群指出。

如《辦法》第十七條中便要求人工智能服務(wù)提供者“提供可以影響用戶信任、選擇的必要信息，包括預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)的來源、規(guī)模、類型、質(zhì)量等描述，人工標(biāo)注規(guī)則，人工標(biāo)注數(shù)據(jù)的規(guī)模和類型，基礎(chǔ)算法和技術(shù)體系等”，實現(xiàn)對數(shù)據(jù)量龐大、規(guī)則易變的人工智能技術(shù)的治理。

不過，也有觀點認為，目前國內(nèi)的人工智能相關(guān)法律法規(guī)政策文件仍需要進一步完善。

肖颯便在采訪中提到，《辦法》雖然對于生成式人工智能帶來的風(fēng)險與沖擊作出了回應(yīng)，但梳理其內(nèi)容會發(fā)現(xiàn)，其在責(zé)任主體、適用范圍、合規(guī)義務(wù)等方面的規(guī)定都較為寬泛。

如《辦法》第五條中，明確了利用生成式人工智能產(chǎn)品的服務(wù)提供者（即主體），應(yīng)當(dāng)承擔(dān)內(nèi)容生產(chǎn)者的責(zé)任。

原文提到，利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務(wù)的組織和個人，包括通過提供可編程接口等方式支持他人自行生成文本、圖像、聲音等，承擔(dān)該產(chǎn)品生成內(nèi)容生產(chǎn)者的責(zé)任。但對于服務(wù)提供者具體應(yīng)該承擔(dān)何種法律責(zé)任，《辦法》中尚未展開。

發(fā)展難題：如何平衡監(jiān)管與技術(shù)

如何在技術(shù)創(chuàng)新發(fā)展的前提下完善人工智能監(jiān)管體系，加強其與數(shù)據(jù)合規(guī)、算法治理的銜接與協(xié)調(diào)，是目前亟待解決的問題。 

其中，明確AIGC各產(chǎn)業(yè)鏈環(huán)節(jié)的責(zé)任主體，打造“負責(zé)任”的AI技術(shù)，便是監(jiān)管需要密切關(guān)注的要點之一。

除了《辦法》第五條中提到的主體責(zé)任分配問題，近日，歐盟也在修改后的《人工智能法案》中提到，在人工智能價值鏈責(zé)任分配上，任何分發(fā)者、進口者、部署者或其他第三方，均應(yīng)被視為高風(fēng)險人工智能系統(tǒng)的提供者，需要履行相應(yīng)的義務(wù)。如在高風(fēng)險人工智能系統(tǒng)上標(biāo)明名稱、聯(lián)系方式，提供數(shù)據(jù)規(guī)格或數(shù)據(jù)集相關(guān)信息，保存日志等。

北京理工大學(xué)法學(xué)院助理教授裴軼也向21記者指出，企業(yè)作為提供AI服務(wù)的關(guān)鍵主體，一方面需要保證透明的數(shù)據(jù)收集和處理——明確告知數(shù)據(jù)主體數(shù)據(jù)收集和處理的目的，并獲取必要的同意或授權(quán)。實施適當(dāng)?shù)臄?shù)據(jù)安全和隱私保護措施，確保數(shù)據(jù)的機密性和完整性。另一方面，也需要進行合規(guī)的數(shù)據(jù)共享。在進行多方數(shù)據(jù)共享或數(shù)據(jù)交易時，確保合規(guī)的數(shù)據(jù)使用權(quán)益和授權(quán)機制，遵守適用的數(shù)據(jù)保護法律和規(guī)定。

21記者觀察發(fā)現(xiàn)，目前已有人工智能公司正在明確自己作為責(zé)任主體的義務(wù)。

如OpenAI便為用戶專門開設(shè)了“安全門戶”（Security Portal），在此頁面中，用戶可以瀏覽公司的合規(guī)性文檔，包括“數(shù)據(jù)安全”中的備份、刪除、靜態(tài)加密信息以及“應(yīng)用安全”中的代碼分析、憑證管理等等。

（OpenAI的“安全門戶”頁面。來源/OpenAI官方網(wǎng)站）

AI繪畫工具Midjourney官網(wǎng)發(fā)布的隱私政策中，也對用戶數(shù)據(jù)的共享、保留、傳輸場景和用途做了具體說明，同時，也詳細列舉了應(yīng)用在為用戶提供服務(wù)的過程中，需要搜集身份標(biāo)識、商業(yè)信息、生物識別信息等11種個人信息。

值得一提的是，上海某新興科技公司法務(wù)負責(zé)人在和21記者的交談中表示，目前公司內(nèi)部人工智能相關(guān)業(yè)務(wù)的服務(wù)條款正在制定中，在責(zé)任分配的規(guī)則上部分參考了OpenAI的做法。

另一方面，作為生成式AI服務(wù)的提供者，各企業(yè)也需要提起對內(nèi)部合規(guī)的重視。肖颯指出，AIGC相關(guān)企業(yè)的業(yè)務(wù)需要依托于海量的數(shù)據(jù)及復(fù)雜的算法，應(yīng)用場景復(fù)雜多樣化，企業(yè)容易陷入各種風(fēng)險之中，并且完全依靠外部監(jiān)管難度非常大，因此相關(guān)企業(yè)務(wù)必加強AIGC內(nèi)部合規(guī)管理。 

一方面，監(jiān)管機構(gòu)要以全面推行企業(yè)合規(guī)改革為契機，積極探索在網(wǎng)絡(luò)數(shù)字領(lǐng)域推進涉案企業(yè)合規(guī)改革和落實第三方監(jiān)督評估機制，建立健全合規(guī)管理的制度機制，有效預(yù)防網(wǎng)絡(luò)違法犯罪。另一方面，也要積極探索以事后合規(guī)整改促進事前合規(guī)建設(shè)的監(jiān)管路徑，推動網(wǎng)絡(luò)監(jiān)管部門、互聯(lián)網(wǎng)企業(yè)共同研究制定數(shù)據(jù)合規(guī)規(guī)范指引，保障數(shù)字經(jīng)濟健康發(fā)展。

“監(jiān)管層最重要的任務(wù)在于劃定底線，其中‘科技倫理’以及‘國家安全’就是兩個不容讓渡的底線，在底線范圍內(nèi)，可以盡量給予產(chǎn)業(yè)寬容的發(fā)展空間，這樣避免技術(shù)為了合規(guī)畏首畏尾、被限制發(fā)展?！迸彷W向21記者表示。

統(tǒng)籌：王俊

記者：郭美婷 蔡姝越 譚硯文 麥子浩

制圖：蔡姝越