專家認(rèn)為，意大利對ChatGPT的禁用，可能會在世界范圍內(nèi)引起連鎖效應(yīng)，其他國家可能跟進(jìn)。目前，加拿大已宣布就數(shù)據(jù)安全問題調(diào)查OpenAI。
編者按：本文來自微信公眾號財(cái)經(jīng)E法（ID：ichuangyebang），作者：姚佳瑩 ，編輯：郭麗琴，創(chuàng)業(yè)邦經(jīng)授權(quán)發(fā)布。
當(dāng)?shù)貢r(shí)間4月4日，據(jù)加拿大隱私專員辦公室（Office of the Privacy Commissioner，OPC）官網(wǎng)信息，OPC宣布開始調(diào)查OpenAI，涉及“OpenAI未經(jīng)同意收集、使用和披露個(gè)人信息”的指控。隱私專員Philippe Dufresne表示，對于隱私的關(guān)注需要跟上、甚至領(lǐng)先于快速發(fā)展的技術(shù)。
(資料圖片)
歐盟國家已有動向。當(dāng)?shù)貢r(shí)間4月3日，德國聯(lián)邦數(shù)據(jù)保護(hù)專員Ulrich Kelber在德國《商報(bào)》中表示，出于對數(shù)據(jù)安全問題的考量，德國存在暫時(shí)禁止使用ChatGPT的可能性。
當(dāng)?shù)貢r(shí)間3月31日，意大利個(gè)人數(shù)據(jù)保護(hù)局（Garante per la protezione dei dati personali，GPDP）宣布，即日起暫時(shí)禁止ChatGPT的使用，同時(shí)，對ChatGPT背后的OpenAI公司展開調(diào)查，限制其處理意大利的用戶信息。同一時(shí)間，作為回應(yīng)，OpenAI已在意大利下線了ChatGPT的相關(guān)服務(wù)。
GPDP認(rèn)為，3月20日，ChatGPT出現(xiàn)用戶對話數(shù)據(jù)和付款服務(wù)支付信息丟失的情況，平臺沒有就處理用戶信息情況進(jìn)行告知，缺乏大量收集和存儲個(gè)人信息的法律依據(jù)。
據(jù)Kelber介紹，德國聯(lián)邦數(shù)據(jù)保護(hù)機(jī)構(gòu)已要求意大利監(jiān)管機(jī)構(gòu)提供其禁止ChatGPT的進(jìn)一步信息。
盡管暫無其他國家宣布關(guān)于ChatGPT的限制性措施，但意大利對ChatGPT的禁用顯然已在世界范圍內(nèi)引起關(guān)注。北京師范大學(xué)法學(xué)院博士生導(dǎo)師、中國互聯(lián)網(wǎng)協(xié)會研究中心副主任吳沈括向財(cái)經(jīng)E法表示，意大利封禁ChatGPT所主張的對于個(gè)人信息安全的考量，對歐洲其他國家甚至世界范圍內(nèi)進(jìn)一步推動對ChatGPT的監(jiān)管將產(chǎn)生很大影響，可能會引起連鎖效應(yīng)，“其他國家很可能跟進(jìn)”。
01更多歐洲國家禁用ChatGPT？
除了個(gè)人信息安全的考量，GPDP還對OpenAI忽略用戶年齡審查表達(dá)了擔(dān)憂。
OpenAI于2023年3月14日更新用戶使用條款，規(guī)定用戶必須年滿13歲才能使用OpenAI及附屬公司的服務(wù)，如果未滿 18 歲，必須獲得父母或法定監(jiān)護(hù)人的許可才能使用服務(wù)。
GPDP指出，盡管OpenAI發(fā)布了年齡限制的規(guī)定，但并未對用戶做年齡驗(yàn)證，考慮到ChatGPT的發(fā)展程度和自我意識，未成年人在使用時(shí)可能接觸到不合適其瀏覽的回復(fù)內(nèi)容。
GPDP 要求OpenAI在 20 天內(nèi)，通過其在歐洲的代表對GPDP的相應(yīng)指控做出回應(yīng)，否則將被處以2000 萬歐元或全球年?duì)I業(yè)額4%的罰款。同時(shí)，GPDP 稱，OpenAI 需證明已解決GPDP發(fā)現(xiàn)的問題，封禁方會解除。
在意大利宣布關(guān)于ChatGPT的“禁令”后，除了德國外，法國和愛爾蘭亦表現(xiàn)出對該事件走向的關(guān)注。公開消息顯示，兩個(gè)國家的隱私監(jiān)管機(jī)構(gòu)表示，已與意大利數(shù)據(jù)監(jiān)管機(jī)構(gòu)聯(lián)系，討論其調(diào)查結(jié)果。瑞典監(jiān)管機(jī)構(gòu)則稱，暫無禁止ChatGPT的計(jì)劃。
為何是意大利率先對ChatGPT說“不”？
吳沈括指出，意大利的個(gè)人信息保護(hù)主要依據(jù)本國的《個(gè)人數(shù)據(jù)保護(hù)法》，同時(shí)也遵循歐盟的統(tǒng)一立法，特別是通用數(shù)據(jù)保護(hù)條例（GDPR）?？傮w的個(gè)人信息保護(hù)特點(diǎn)是位階高、效力高、處罰水平高，同時(shí)保持與歐盟統(tǒng)一立法的高度一致。
吳沈括進(jìn)一步表明，在歐盟的個(gè)人數(shù)據(jù)保護(hù)生態(tài)中，意大利具有舉足輕重的地位。首先，意大利在歐洲個(gè)人數(shù)據(jù)保護(hù)機(jī)制的設(shè)計(jì)和落地中，貢獻(xiàn)了很多具有意大利特色的方案，例如關(guān)于科研數(shù)據(jù)處理的一般許可機(jī)制，便屬于比較突出的意大利特色機(jī)制設(shè)計(jì)；其次，歐盟個(gè)人數(shù)據(jù)保護(hù)領(lǐng)域的權(quán)威學(xué)者、監(jiān)管機(jī)構(gòu)中的高級別人士中，意大利籍占據(jù)的比例較高，如GDPR國際談判首席代表是意大利人；此外，意大利在個(gè)人數(shù)據(jù)監(jiān)管執(zhí)法的案例典型，數(shù)量多，處罰力度高?！氨热缫獯罄瞧駷橹故澜缟衔ㄒ粍佑眯淌绿幜P谷歌高管的國家”。吳沈括表示。
2006年，一名唐氏綜合癥少年被4名青年毆打的視頻在谷歌上傳播，盡管谷歌在收到意大利政府刪除視頻的通知后，已配合刪除視頻，但2008年7月，意大利有關(guān)部門仍對谷歌4名高管提起刑事訴訟。2010年，意大利法院裁決，谷歌放任該視頻傳播，觸犯了意大利關(guān)于個(gè)人隱私的法律規(guī)定，由此判處谷歌4位高管半年監(jiān)禁，緩期執(zhí)行，其中便包括谷歌負(fù)責(zé)全球范圍個(gè)人隱私事務(wù)的法律顧問。
吳沈括表示，此次意大利封禁ChatGPT所主張的對于個(gè)人信息安全的考量，對整個(gè)歐洲下一步監(jiān)管將產(chǎn)生很大影響。他認(rèn)為，由于意大利所提出的OpenAI在個(gè)人數(shù)據(jù)處理當(dāng)中的違法事由，在歐盟法的一般框架下是成立的，所以“其他國家很可能會跟進(jìn)，甚至引起歐盟層面的高度關(guān)注，運(yùn)用一站式解決機(jī)制統(tǒng)一對GPT應(yīng)用場景做出規(guī)定或者樹立執(zhí)法案例?！眳巧蚶ū硎?。
02緣起數(shù)據(jù)丟失事件
意大利開出“禁令”的導(dǎo)火索是今年3月，ChatGPT的一次用戶對話數(shù)據(jù)丟失事件。
當(dāng)?shù)貢r(shí)間3月20日，多名ChatGPT用戶在Reddit等互聯(lián)網(wǎng)平臺上發(fā)帖稱，其賬號下的聊天歷史欄出現(xiàn)了他人的聊天記錄。3月21日，OpenAI回應(yīng)表示，已暫時(shí)下線聊天歷史功能，并強(qiáng)調(diào)發(fā)生泄漏的只涉及聊天歷史的標(biāo)題，用戶無法看到他人的詳細(xì)聊天內(nèi)容。
3月23日，OpenAI首席執(zhí)行官Sam Altman在社交媒體表示，此次嚴(yán)重問題是由開源代碼庫的一個(gè)程序錯(cuò)誤導(dǎo)致，會有小部分用戶可以看到其他用戶的聊天記錄標(biāo)題。目前開發(fā)團(tuán)隊(duì)已發(fā)布修復(fù)程序，并完成驗(yàn)證。
該事件引發(fā)了對ChatGPT數(shù)據(jù)處理的普遍憂慮。
根據(jù)OpenAI的隱私政策，ChatGPT收集的數(shù)據(jù)包括用戶賬戶信息、輸入或上傳的內(nèi)容、通信信息、日志數(shù)據(jù)、使用數(shù)據(jù)、設(shè)備信息等，如果社交媒體上搭載了ChatGPT功能，還會收集社交媒體信息。
關(guān)于如何使用個(gè)人信息，隱私政策包括：提供、管理、維護(hù)、改進(jìn)和分析服務(wù)；進(jìn)行研究；開發(fā)新的項(xiàng)目和服務(wù)等，但OpenAI亦強(qiáng)調(diào)，將以匿名或去識別化的形式維護(hù)和使用去識別化信息，不會嘗試重新識別信息。
浙江大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院教授、中國人工智能學(xué)會智能創(chuàng)意與數(shù)字藝術(shù)專業(yè)委員會委員湯斯亮向財(cái)經(jīng)E法表示，ChatGPT確實(shí)在收集個(gè)人數(shù)據(jù)時(shí)，存在數(shù)據(jù)泄露的可能性。目前ChatGPT的數(shù)據(jù)存儲周期并不明晰，存在黑客侵入造成的數(shù)據(jù)泄露風(fēng)險(xiǎn)；另外，若OpenAI不當(dāng)使用存儲信息，也可能造成數(shù)據(jù)泄露。
“如果在訓(xùn)練時(shí)加入了個(gè)人隱私數(shù)據(jù)，而后續(xù)的安全機(jī)制又未能過濾這部分?jǐn)?shù)據(jù)，那么通過提問和引導(dǎo)，ChatGPT便可能輸出涉及這部分?jǐn)?shù)據(jù)的回答?！睖沽琳f。
但湯斯亮同時(shí)表示，雖然ChatGPT收集了個(gè)人數(shù)據(jù)，但大部分?jǐn)?shù)據(jù)未必可以用來訓(xùn)練ChatGPT。用于ChatGPT訓(xùn)練的高質(zhì)量語料強(qiáng)調(diào)邏輯性，如代碼和學(xué)術(shù)文獻(xiàn)，而其他大部分對話語料在訓(xùn)練時(shí)會被篩除，“如果你把身份證號碼告訴它，它可能只是存儲，即使真的記住了身份證號碼，這段信息在ChatGPT龐大如45TB的語料中，日后被用以生成回答的概率也是極小的。”湯斯亮說。
ChatGPT的橫空出世，也打亂了歐盟對《人工智能法案》的推進(jìn)節(jié)奏。
歐盟委員會（European Commission）、歐洲議會（European Parliament）和歐盟理事會（European Council）在2021年就提出了《人工智能法》（Artificial Intelligence Act）的草案，該草案系統(tǒng)闡述了人工智能的定義、禁止應(yīng)用人工智能的領(lǐng)域、支持創(chuàng)新的舉措等，旨在推動人工智能創(chuàng)新和發(fā)展的同時(shí)，保障公民的基本權(quán)利免受侵害。該草案還計(jì)劃把人工智能的一些具體用途指定為“高風(fēng)險(xiǎn)”，將開發(fā)人員綁定到更嚴(yán)格的透明度、安全和人力監(jiān)督要求上。按照流程，歐盟理事會于2022年12月批準(zhǔn)了新版本的《人工智能法》草案，該法案將委托委員會為通用人工智能制定網(wǎng)絡(luò)安全、透明度和風(fēng)險(xiǎn)管理要求。
此前，外界曾預(yù)計(jì)，該法案將于3月底在歐洲議會進(jìn)行投票，屆時(shí)各成員國將就法案的最終條款進(jìn)行談判。但分析人士認(rèn)為，ChatGPT等生成式人工智能的話題在2月份的迅速崛起，在一定程度上擾亂了法案出臺的節(jié)奏。
吳沈括表示，ChatGPT帶來的立法挑戰(zhàn)至少包括三個(gè)方面：第一，ChatGPT豐富多樣的應(yīng)用場景所反映的風(fēng)險(xiǎn)類型，風(fēng)險(xiǎn)等級存在不確定性，需要更多的時(shí)間觀察其風(fēng)險(xiǎn)趨勢；第二，ChatGPT所凸顯的數(shù)據(jù)治理和人工智能治理之間的交叉融合，給原有的監(jiān)管思路產(chǎn)生了極大沖擊，其反映的數(shù)字生態(tài)更復(fù)雜，相關(guān)主體及業(yè)務(wù)鏈更多樣，這意味著各方的權(quán)利義務(wù)和責(zé)任配置也需要更廣泛的研判。
“今天的人工智能立法形勢與歐盟當(dāng)時(shí)草案形成的時(shí)期相較，已發(fā)生了很大變化”。
本文（含圖片）為合作媒體授權(quán)創(chuàng)業(yè)邦轉(zhuǎn)載，不代表創(chuàng)業(yè)邦立場，轉(zhuǎn)載請聯(lián)系原作者。如有任何疑問，請聯(lián)系editor@cyzone.cn。