專家認為，意大利對ChatGPT的禁用，可能會在世界范圍內引起連鎖效應，其他國家可能跟進。目前，加拿大已宣布就數據安全問題調查OpenAI。
編者按：本文來自微信公眾號財經E法（ID：ichuangyebang），作者：姚佳瑩 ，編輯：郭麗琴，創業邦經授權發布。
當地時間4月4日，據加拿大隱私專員辦公室（Office of the Privacy Commissioner，OPC）官網信息，OPC宣布開始調查OpenAI，涉及“OpenAI未經同意收集、使用和披露個人信息”的指控。隱私專員Philippe Dufresne表示，對于隱私的關注需要跟上、甚至領先于快速發展的技術。
(資料圖片)
歐盟國家已有動向。當地時間4月3日，德國聯邦數據保護專員Ulrich Kelber在德國《商報》中表示，出于對數據安全問題的考量，德國存在暫時禁止使用ChatGPT的可能性。
當地時間3月31日，意大利個人數據保護局（Garante per la protezione dei dati personali，GPDP）宣布，即日起暫時禁止ChatGPT的使用，同時，對ChatGPT背后的OpenAI公司展開調查，限制其處理意大利的用戶信息。同一時間，作為回應，OpenAI已在意大利下線了ChatGPT的相關服務。
GPDP認為，3月20日，ChatGPT出現用戶對話數據和付款服務支付信息丟失的情況，平臺沒有就處理用戶信息情況進行告知，缺乏大量收集和存儲個人信息的法律依據。
據Kelber介紹，德國聯邦數據保護機構已要求意大利監管機構提供其禁止ChatGPT的進一步信息。
盡管暫無其他國家宣布關于ChatGPT的限制性措施，但意大利對ChatGPT的禁用顯然已在世界范圍內引起關注。北京師范大學法學院博士生導師、中國互聯網協會研究中心副主任吳沈括向財經E法表示，意大利封禁ChatGPT所主張的對于個人信息安全的考量，對歐洲其他國家甚至世界范圍內進一步推動對ChatGPT的監管將產生很大影響，可能會引起連鎖效應，“其他國家很可能跟進”。
01更多歐洲國家禁用ChatGPT？
除了個人信息安全的考量，GPDP還對OpenAI忽略用戶年齡審查表達了擔憂。
OpenAI于2023年3月14日更新用戶使用條款，規定用戶必須年滿13歲才能使用OpenAI及附屬公司的服務，如果未滿 18 歲，必須獲得父母或法定監護人的許可才能使用服務。
GPDP指出，盡管OpenAI發布了年齡限制的規定，但并未對用戶做年齡驗證，考慮到ChatGPT的發展程度和自我意識，未成年人在使用時可能接觸到不合適其瀏覽的回復內容。
GPDP 要求OpenAI在 20 天內，通過其在歐洲的代表對GPDP的相應指控做出回應，否則將被處以2000 萬歐元或全球年營業額4%的罰款。同時，GPDP 稱，OpenAI 需證明已解決GPDP發現的問題，封禁方會解除。
在意大利宣布關于ChatGPT的“禁令”后，除了德國外，法國和愛爾蘭亦表現出對該事件走向的關注。公開消息顯示，兩個國家的隱私監管機構表示，已與意大利數據監管機構聯系，討論其調查結果。瑞典監管機構則稱，暫無禁止ChatGPT的計劃。
為何是意大利率先對ChatGPT說“不”？
吳沈括指出，意大利的個人信息保護主要依據本國的《個人數據保護法》，同時也遵循歐盟的統一立法，特別是通用數據保護條例（GDPR）。總體的個人信息保護特點是位階高、效力高、處罰水平高，同時保持與歐盟統一立法的高度一致。
吳沈括進一步表明，在歐盟的個人數據保護生態中，意大利具有舉足輕重的地位。首先，意大利在歐洲個人數據保護機制的設計和落地中，貢獻了很多具有意大利特色的方案，例如關于科研數據處理的一般許可機制，便屬于比較突出的意大利特色機制設計；其次，歐盟個人數據保護領域的權威學者、監管機構中的高級別人士中，意大利籍占據的比例較高，如GDPR國際談判首席代表是意大利人；此外，意大利在個人數據監管執法的案例典型，數量多，處罰力度高。“比如意大利是迄今為止世界上唯一動用刑事處罰谷歌高管的國家”。吳沈括表示。
2006年，一名唐氏綜合癥少年被4名青年毆打的視頻在谷歌上傳播，盡管谷歌在收到意大利政府刪除視頻的通知后，已配合刪除視頻，但2008年7月，意大利有關部門仍對谷歌4名高管提起刑事訴訟。2010年，意大利法院裁決，谷歌放任該視頻傳播，觸犯了意大利關于個人隱私的法律規定，由此判處谷歌4位高管半年監禁，緩期執行，其中便包括谷歌負責全球范圍個人隱私事務的法律顧問。
吳沈括表示，此次意大利封禁ChatGPT所主張的對于個人信息安全的考量，對整個歐洲下一步監管將產生很大影響。他認為，由于意大利所提出的OpenAI在個人數據處理當中的違法事由，在歐盟法的一般框架下是成立的，所以“其他國家很可能會跟進，甚至引起歐盟層面的高度關注，運用一站式解決機制統一對GPT應用場景做出規定或者樹立執法案例。”吳沈括表示。
02緣起數據丟失事件
意大利開出“禁令”的導火索是今年3月，ChatGPT的一次用戶對話數據丟失事件。
當地時間3月20日，多名ChatGPT用戶在Reddit等互聯網平臺上發帖稱，其賬號下的聊天歷史欄出現了他人的聊天記錄。3月21日，OpenAI回應表示，已暫時下線聊天歷史功能，并強調發生泄漏的只涉及聊天歷史的標題，用戶無法看到他人的詳細聊天內容。
3月23日，OpenAI首席執行官Sam Altman在社交媒體表示，此次嚴重問題是由開源代碼庫的一個程序錯誤導致，會有小部分用戶可以看到其他用戶的聊天記錄標題。目前開發團隊已發布修復程序，并完成驗證。
該事件引發了對ChatGPT數據處理的普遍憂慮。
根據OpenAI的隱私政策，ChatGPT收集的數據包括用戶賬戶信息、輸入或上傳的內容、通信信息、日志數據、使用數據、設備信息等，如果社交媒體上搭載了ChatGPT功能，還會收集社交媒體信息。
關于如何使用個人信息，隱私政策包括：提供、管理、維護、改進和分析服務；進行研究；開發新的項目和服務等，但OpenAI亦強調，將以匿名或去識別化的形式維護和使用去識別化信息，不會嘗試重新識別信息。
浙江大學計算機科學與技術學院教授、中國人工智能學會智能創意與數字藝術專業委員會委員湯斯亮向財經E法表示，ChatGPT確實在收集個人數據時，存在數據泄露的可能性。目前ChatGPT的數據存儲周期并不明晰，存在黑客侵入造成的數據泄露風險；另外，若OpenAI不當使用存儲信息，也可能造成數據泄露。
“如果在訓練時加入了個人隱私數據，而后續的安全機制又未能過濾這部分數據，那么通過提問和引導，ChatGPT便可能輸出涉及這部分數據的回答。”湯斯亮說。
但湯斯亮同時表示，雖然ChatGPT收集了個人數據，但大部分數據未必可以用來訓練ChatGPT。用于ChatGPT訓練的高質量語料強調邏輯性，如代碼和學術文獻，而其他大部分對話語料在訓練時會被篩除，“如果你把身份證號碼告訴它，它可能只是存儲，即使真的記住了身份證號碼，這段信息在ChatGPT龐大如45TB的語料中，日后被用以生成回答的概率也是極小的。”湯斯亮說。
ChatGPT的橫空出世，也打亂了歐盟對《人工智能法案》的推進節奏。
歐盟委員會（European Commission）、歐洲議會（European Parliament）和歐盟理事會（European Council）在2021年就提出了《人工智能法》（Artificial Intelligence Act）的草案，該草案系統闡述了人工智能的定義、禁止應用人工智能的領域、支持創新的舉措等，旨在推動人工智能創新和發展的同時，保障公民的基本權利免受侵害。該草案還計劃把人工智能的一些具體用途指定為“高風險”，將開發人員綁定到更嚴格的透明度、安全和人力監督要求上。按照流程，歐盟理事會于2022年12月批準了新版本的《人工智能法》草案，該法案將委托委員會為通用人工智能制定網絡安全、透明度和風險管理要求。
此前，外界曾預計，該法案將于3月底在歐洲議會進行投票，屆時各成員國將就法案的最終條款進行談判。但分析人士認為，ChatGPT等生成式人工智能的話題在2月份的迅速崛起，在一定程度上擾亂了法案出臺的節奏。
吳沈括表示，ChatGPT帶來的立法挑戰至少包括三個方面：第一，ChatGPT豐富多樣的應用場景所反映的風險類型，風險等級存在不確定性，需要更多的時間觀察其風險趨勢；第二，ChatGPT所凸顯的數據治理和人工智能治理之間的交叉融合，給原有的監管思路產生了極大沖擊，其反映的數字生態更復雜，相關主體及業務鏈更多樣，這意味著各方的權利義務和責任配置也需要更廣泛的研判。
“今天的人工智能立法形勢與歐盟當時草案形成的時期相較，已發生了很大變化”。
本文（含圖片）為合作媒體授權創業邦轉載，不代表創業邦立場，轉載請聯系原作者。如有任何疑問，請聯系editor@cyzone.cn。