ChatGPT陷入安全危機(jī)，入安成也數(shù)據(jù)傷也數(shù)據(jù)。全危ChatGPT正在卷入一又一個(gè)爭(zhēng)論中。入安西安外圍工作室（微信189-4469-7302）西安外圍工作室莞式外圍上門外圍女桑拿全套按摩對(duì)于數(shù)據(jù)安全性問(wèn)題，全危主要有三個(gè)方面：一是入安數(shù)據(jù)合法性問(wèn)題，二是全危數(shù)據(jù)使用問(wèn)題，三是入安個(gè)人信息保護(hù)問(wèn)題。為保障數(shù)據(jù)安全性，全危開(kāi)發(fā)人員必須采取措施，入安以保證訓(xùn)練數(shù)據(jù)的全危隱私性。

新聞詳情

這兩天，入安本來(lái)一路高歌猛進(jìn)的全危 ChatGPT突然跌入了輿論風(fēng)口浪尖。

上個(gè)周末，入安意大利先是全危對(duì) ChatGPT進(jìn)行了臨時(shí)禁令，禁止其對(duì)國(guó)內(nèi)用戶的入安信息進(jìn)行處理。隨后，韓國(guó)媒體報(bào)導(dǎo)，在三星引入芯片ChatGPT不足20天后，機(jī)密數(shù)據(jù)被泄露。之后，又傳出了 ChatGPT目前已停止注冊(cè)的消息，并開(kāi)始大范圍的封號(hào)，四月二日在亞洲全面封號(hào)。

圍繞著 ChatGPT的爭(zhēng)論仍在持續(xù)著，而這一波接一波的事件中，無(wú)論是封殺，還是泄密，又或者封號(hào)，都有一個(gè)共同點(diǎn)，那就是數(shù)據(jù)安全。事實(shí)上，西安外圍工作室（微信189-4469-7302）西安外圍工作室莞式外圍上門外圍女桑拿全套按摩自 ChatGPT開(kāi)始流行至今，其數(shù)據(jù)安全性始終是人們關(guān)注的焦點(diǎn)，而此時(shí)，其數(shù)據(jù)安全性已經(jīng)不可避免地成為了現(xiàn)實(shí)問(wèn)題。

封殺、泄密、封號(hào)

意大利對(duì)中國(guó)煙草公司的禁令來(lái)得太突然了。

三月三十一日，意大利個(gè)人資料保護(hù)局宣布，從今天開(kāi)始，將禁止名為 ChatGPT的聊天機(jī)器人的使用，并對(duì) OpenAl對(duì)意大利用戶的資料進(jìn)行處理也將受到限制。這也是世界上首個(gè)明確規(guī)定對(duì)其進(jìn)行“封殺”的西方國(guó)家。

之所以頒布這項(xiàng)禁令，是因?yàn)橐獯罄賳T認(rèn)為， OpenAI并未對(duì)至少應(yīng)為13歲的 ChatGPT用戶的年齡進(jìn)行審查，而且也未對(duì)用戶信息的收集與處理作出任何通知，因此在大規(guī)模收集與儲(chǔ)存?zhèn)€人信息方面缺乏法律依據(jù)。

這是真的， ChatGPT沒(méi)有被冤枉。ChatGPT在最近發(fā)生了“用戶對(duì)話數(shù)據(jù)和支付服務(wù)的支付信息丟失”的事件。而這條消息，也得到了 OpenAI的官方證實(shí)。

不僅如此，最近，國(guó)際巨頭三星公司的 ChatGPT也出了問(wèn)題，三星公司引入 ChatGPT不到二十天，便爆出三條關(guān)于半導(dǎo)體設(shè)備測(cè)量數(shù)據(jù)、產(chǎn)品良率等機(jī)密數(shù)據(jù)泄露，網(wǎng)上有傳言稱這三條數(shù)據(jù)已經(jīng)被存儲(chǔ)在了 ChatGPT公司的數(shù)據(jù)庫(kù)里。

這條消息一出，立刻在網(wǎng)絡(luò)上引起了軒然大波，韓媒體更是指出，由于三星公司的員工向 ChatGPT中輸入了公司的機(jī)密信息，導(dǎo)致相關(guān)內(nèi)容被存儲(chǔ)在了學(xué)習(xí)數(shù)據(jù)庫(kù)中。三星稱，為防止類似事件重演，已告誡其員工謹(jǐn)慎使用ChatGPT。如果此后仍有類似的事件發(fā)生，公司內(nèi)部網(wǎng)絡(luò)將會(huì)被禁止使用ChatGPT。

事實(shí)上，從開(kāi)發(fā)之初，關(guān)于 ChatGPT可能會(huì)泄露公司數(shù)據(jù)的擔(dān)心就從未停止過(guò)。據(jù) Cyberhaven統(tǒng)計(jì)，在160萬(wàn)打工者中，有8.2%曾經(jīng)在工作場(chǎng)合使用過(guò)它，很多人說(shuō)，由于使用了它，他們的生產(chǎn)力“提高了10倍”。與此同時(shí)，6.5%的雇員說(shuō)他們會(huì)把企業(yè)數(shù)據(jù)拷貝到ChatGPT中，3.1%的雇員說(shuō)他們?cè)?jīng)把企業(yè)機(jī)密數(shù)據(jù)存入ChatGPT。

相應(yīng)地，越來(lái)越多的公司由于擔(dān)心機(jī)密數(shù)據(jù)泄露而禁止其員工使用 ChatGPT，如摩根大通，美國(guó)銀行，花旗，高盛，德意志銀行等等。軟銀最近還通知了所有員工，關(guān)于禁止向 ChatGPT輸入機(jī)密信息的警告。看起來(lái)， ChatGPT確實(shí)可以提高生產(chǎn)力，但是它也確實(shí)可以將對(duì)話內(nèi)容用作訓(xùn)練數(shù)據(jù)。

就在 ChatGPT被封殺，機(jī)密被泄露的時(shí)候，又有大量的賬號(hào)被封。4月2號(hào)，各大社交平臺(tái)上都出現(xiàn)了關(guān)于 ChatGPT官方大范圍封號(hào)的消息，特別是針對(duì)亞洲的用戶。根據(jù)他收集到的信息，并不是所有的賬號(hào)都被影響了，有的能成功登陸，有的只能登陸手機(jī)，有的則無(wú)法登陸。但是，對(duì) ChatGPT來(lái)說(shuō)，一場(chǎng)大規(guī)模的封殺行動(dòng)似乎正在展開(kāi)。市場(chǎng)調(diào)查顯示，數(shù)以百萬(wàn)計(jì)的用戶帳號(hào)受此影響。關(guān)于新用戶的注冊(cè)，目前已經(jīng)無(wú)法進(jìn)入注冊(cè)頁(yè)面，更重要的是，許多收取代碼的平臺(tái)已經(jīng)在近期關(guān)閉。

除了 ChatGPT之外，3月30日，據(jù)國(guó)外媒體報(bào)道，目前最流行的 AI繪畫(huà)工具—— Midjourney，已經(jīng)停止了免費(fèi)使用。它的創(chuàng)立者和首席執(zhí)行官大衛(wèi)·霍爾茲在接受采訪時(shí)說(shuō)，這一舉措主要是由于大量的新用戶涌入。David Holz在一篇名為“Discord”的社交軟件中提到了“怪異需求和試用濫用”。

從封殺到泄密再到封號(hào)， ChatGPT正被卷入一個(gè)又一個(gè)爭(zhēng)論中。

成于數(shù)據(jù)，傷于數(shù)據(jù)

其成功的關(guān)鍵在于大數(shù)據(jù)的輔助。ChatGPT模型是基于大量的會(huì)話數(shù)據(jù)來(lái)訓(xùn)練的，這些數(shù)據(jù)來(lái)自于社會(huì)媒體，公眾論壇和其他一些未知的渠道。通過(guò)大量數(shù)據(jù)的訓(xùn)練， ChatGPT才能取得如此優(yōu)異的性能。

但是，它還意味著，這個(gè)模型一直處于各種可能含有相關(guān)敏感信息的對(duì)話之中。每一次升級(jí)都會(huì)帶來(lái)新的談話內(nèi)容，以及隱私泄漏的新風(fēng)險(xiǎn)。為保障數(shù)據(jù)安全性，開(kāi)發(fā)人員必須采取措施，以保證訓(xùn)練數(shù)據(jù)的隱私性。然而，事實(shí)卻并不是這樣。

由 ChatGPT引發(fā)的數(shù)據(jù)安全性問(wèn)題主要有三個(gè)方面。首先，他要解決的就是這些數(shù)據(jù)的合法性問(wèn)題。如 ChatGPT等大規(guī)模語(yǔ)言模型的訓(xùn)練需要海量的自然語(yǔ)言數(shù)據(jù)，訓(xùn)練數(shù)據(jù)主要來(lái)源于互聯(lián)網(wǎng)，而開(kāi)發(fā)者 OpenAI對(duì)數(shù)據(jù)來(lái)源未作明確說(shuō)明，使得訓(xùn)練數(shù)據(jù)的合法性受到質(zhì)疑。

歐洲數(shù)據(jù)保護(hù)委員會(huì)(European Data Commission Council)委員亞歷山大·漢夫(Alexander Hanff)認(rèn)為，“數(shù)據(jù)包”是一項(xiàng)商業(yè)性產(chǎn)品，盡管因特網(wǎng)上有很多可供查閱的信息，但是，在含有“禁止第三方數(shù)據(jù)爬取”條款的網(wǎng)站上收集大量數(shù)據(jù)，卻違反了相關(guān)規(guī)定，不構(gòu)成合理使用。國(guó)際機(jī)器學(xué)習(xí)會(huì)議 ICML說(shuō)，盡管 ChatGPT接受了公開(kāi)數(shù)據(jù)的培訓(xùn)，但是他們經(jīng)常未經(jīng)同意就收集了這些數(shù)據(jù)。此外，還有一些個(gè)人信息受到了 GDPR等的保護(hù)，因此，爬取這些信息是違法的。

其次，就是使用該酶的過(guò)程中產(chǎn)生的數(shù)據(jù)泄露問(wèn)題。目前， ChatGPT并沒(méi)有對(duì)用戶群體進(jìn)行太多的篩選，只要滿足了基本條件，就可以注冊(cè)成為用戶。此外，用戶在使用 ChatGPT之前，也不需要經(jīng)過(guò)專門的培訓(xùn)，因此，它對(duì)用戶的使用沒(méi)有任何限制。這就是說(shuō)，用戶可以很隨意、很開(kāi)放的使用 ChatGPT。

因此，當(dāng)用戶為完成某種任務(wù)或?qū)崿F(xiàn)某種目標(biāo)時(shí)，可能會(huì)輸入一些敏感數(shù)據(jù)、商業(yè)秘密甚至機(jī)密信息，一個(gè)不注意就可能導(dǎo)致數(shù)據(jù)泄露。就像三星最近擔(dān)心的那樣，數(shù)據(jù)一旦輸入，將會(huì)被收集并使用，并且無(wú)法刪除或更改。

三月底， ChatGPT被曝出存在漏洞，會(huì)造成用戶聊天記錄、付款信息的丟失。這種情況曾一度造成 ChatGPT的暫時(shí)停業(yè)。在回應(yīng)中， OpenAI稱，該漏洞可能會(huì)使1.2%的 ChatGPT+用戶在9小時(shí)內(nèi)的付款信息泄露。而且，這個(gè)漏洞還會(huì)讓其他人看到用戶的聊天內(nèi)容和聊天記錄，如果里面有隱私信息，就有被泄露的危險(xiǎn)。

最后，還有可能被惡意利用的 ChatGPT數(shù)據(jù)。OpenAI首席技術(shù)官米拉·穆拉蒂表示，有人可能利用 ChatGPT的自然語(yǔ)言編寫功能，編寫出一套可以規(guī)避反病毒軟件偵測(cè)的惡意程序;使用 ChatGPT的編寫功能，可以生成釣魚(yú)郵件;利用 ChatGPT的對(duì)話功能，冒充真實(shí)的個(gè)人或組織騙取他人信息等。

數(shù)據(jù)安全風(fēng)險(xiǎn)的防范

為了保證數(shù)據(jù)的安全，最好的辦法就是將數(shù)據(jù)從物理上隔離開(kāi)來(lái)，讓數(shù)據(jù)成為“死”的，這才是最“安全”的。但這會(huì)讓數(shù)據(jù)失去價(jià)值，因?yàn)閿?shù)據(jù)的流動(dòng)、共享和處理，都是有價(jià)值的。

數(shù)據(jù)安全治理的核心是保證數(shù)據(jù)的安全、可控制性和使用性，使其發(fā)揮價(jià)值。換言之，數(shù)據(jù)本身是無(wú)罪的，它不能得到安全的保護(hù)和使用。換言之，要實(shí)現(xiàn)數(shù)據(jù)安全性，關(guān)鍵在于具體的實(shí)現(xiàn)方式與管理手段。

因此，如何保證數(shù)據(jù)授權(quán)，明確數(shù)據(jù)安全責(zé)任和科技公司義務(wù)，以及如何避免隱私泄露和知識(shí)產(chǎn)權(quán)等風(fēng)險(xiǎn)，是人工智能大規(guī)模進(jìn)入公共領(lǐng)域后必須要解決的首要問(wèn)題。

可見(jiàn)，“數(shù)據(jù)本位”是數(shù)據(jù)安全工作的核心技術(shù)理念。這意味著，以數(shù)據(jù)的防竊取、防濫用、防誤用為主線，以數(shù)據(jù)生命周期內(nèi)各不同環(huán)節(jié)所涉及的信息系統(tǒng)、運(yùn)行環(huán)境、業(yè)務(wù)場(chǎng)景和操作人員等為圍繞數(shù)據(jù)安全保護(hù)的支撐。此外，數(shù)據(jù)要素的所有權(quán)，使用，監(jiān)管，信息保護(hù)，數(shù)據(jù)安全，都需要新的治理制度。這就要求“劃清紅線”，以規(guī)范體系為基礎(chǔ)。例如，明確開(kāi)發(fā)人員、使用人員等主體的責(zé)任劃分與承擔(dān)方式;落實(shí)數(shù)據(jù)分類分級(jí)制度，明確數(shù)據(jù)獲取方式與方法的法律法規(guī)。

其次，數(shù)據(jù)安全的實(shí)現(xiàn)有賴于“用數(shù)字化治理”，即用數(shù)字化和智能化技術(shù)來(lái)優(yōu)化數(shù)據(jù)安全的技術(shù)系統(tǒng)，從而提高數(shù)據(jù)安全的治理能力。例如，在數(shù)據(jù)安全遵從體系中引入 ChatGPT語(yǔ)言訓(xùn)練方法和算法遵從，加強(qiáng)技術(shù)監(jiān)管，并定期開(kāi)展安全審計(jì)。

實(shí)際上，在數(shù)據(jù)生命周期的各個(gè)階段，數(shù)據(jù)所面臨的安全威脅以及所能采取的安全措施都是不同的。在數(shù)據(jù)收集階段，可能會(huì)出現(xiàn)收集到的數(shù)據(jù)直接被攻擊者竊取，或個(gè)人生物特征數(shù)據(jù)被非法儲(chǔ)存并面臨泄露的風(fēng)險(xiǎn);在數(shù)據(jù)存儲(chǔ)階段，可能會(huì)出現(xiàn)存儲(chǔ)系統(tǒng)受到入侵，進(jìn)而導(dǎo)致數(shù)據(jù)被盜，或存儲(chǔ)設(shè)備丟失導(dǎo)致數(shù)據(jù)泄露等情況;在數(shù)據(jù)處理過(guò)程中，由于算法的不當(dāng)，可能會(huì)導(dǎo)致用戶個(gè)人信息的泄露等問(wèn)題。

針對(duì)不同階段、不同視角的風(fēng)險(xiǎn)，對(duì)其進(jìn)行“對(duì)癥下藥”，完善“治理技術(shù)”、“治理手段”和“治理模式”，可有效實(shí)現(xiàn)“超大尺度協(xié)同”、“精準(zhǔn)滴灌”、“雙向觸達(dá)”和“超時(shí)空預(yù)判”。

實(shí)現(xiàn)數(shù)據(jù)安全性不僅需要從上而下，而且需要從下而上。數(shù)據(jù)安全治理的核心目標(biāo)是在安全和發(fā)展之間找到一個(gè)平衡點(diǎn)。在這方面，需要讓企業(yè)有動(dòng)力去提升和證明自身數(shù)據(jù)安全能力成熟度水平，讓數(shù)據(jù)安全能力成熟度高的企業(yè)擁有更大的發(fā)展空間和競(jìng)爭(zhēng)優(yōu)勢(shì)。另一方面，應(yīng)加強(qiáng)對(duì)用戶數(shù)據(jù)安全風(fēng)險(xiǎn)的認(rèn)識(shí)，并制定相應(yīng)的安全規(guī)范。

隨著人工智能技術(shù)的飛速發(fā)展，數(shù)據(jù)作為戰(zhàn)略資源的基本屬性越來(lái)越突出。在數(shù)據(jù)安全管理方面， ChatGPT只是第一步，而且是不可避免的重要步驟。