當(dāng)前，AI大模型賦能千行百業(yè)，這位能干又貼心的“數(shù)字伙伴”正加速融入我們的日常生活。當(dāng)AI的觸角延伸越廣、嵌入越深，一些風(fēng)險(xiǎn)也隨之而來(lái)。來(lái)看國(guó)家安全部近日披露的案例。
國(guó)家安全部近日披露案例，個(gè)別單位因直接使用開(kāi)源框架建立聯(lián)網(wǎng)大模型，導(dǎo)致攻擊者未經(jīng)授權(quán)即可自由訪問(wèn)內(nèi)部網(wǎng)絡(luò)，從而引發(fā)數(shù)據(jù)泄露和安全風(fēng)險(xiǎn)。
案例顯示，某單位工作人員在處理內(nèi)部文件時(shí)，違規(guī)使用開(kāi)源AI工具，由于電腦系統(tǒng)默認(rèn)開(kāi)啟公網(wǎng)訪問(wèn)且未設(shè)密碼，導(dǎo)致敏感資料被境外IP非法訪問(wèn)和下載。
何為“開(kāi)源大模型”？有哪些安全隱患？
剛才提到的開(kāi)源框架大模型指的是什么？存在哪些安全隱患？我們來(lái)聽(tīng)專(zhuān)家的解讀。
中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)人工智能安全治理專(zhuān)業(yè)委員會(huì)委員 王媛媛：開(kāi)源大模型是指將模型的架構(gòu)、參數(shù)、訓(xùn)練數(shù)據(jù)公開(kāi)給客戶免費(fèi)使用的人工智能模型，目前互聯(lián)網(wǎng)上開(kāi)放的開(kāi)源大模型是非常多的，有的擅長(zhǎng)推理，有的擅長(zhǎng)編寫(xiě)代碼，有的擅長(zhǎng)處理文本，還有的擅長(zhǎng)處理影像等等。比如說(shuō)給它一個(gè)體檢報(bào)告，可以幫助我分析我的身體有什么樣的異常，應(yīng)該如何進(jìn)行調(diào)整，會(huì)給我一些非常專(zhuān)業(yè)的建議。
專(zhuān)家表示，網(wǎng)民在使用AI工具時(shí)，往往忽略了一個(gè)問(wèn)題，就是AI工具有儲(chǔ)存數(shù)據(jù)的功能。網(wǎng)民投喂給AI的任何文件、圖片等數(shù)據(jù)，AI都會(huì)進(jìn)行存儲(chǔ)。
中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)人工智能安全治理專(zhuān)業(yè)委員會(huì)委員 王媛媛：數(shù)據(jù)安全其實(shí)是開(kāi)源大模型最大的隱患，這很可能會(huì)被大家忽略。那么上傳到開(kāi)源大模型的任何數(shù)據(jù)，大模型自身都會(huì)進(jìn)行存儲(chǔ)，這是它的工作原理，因?yàn)橹挥羞@樣才能對(duì)數(shù)據(jù)做分析。如果把公司內(nèi)部比較機(jī)密的一些數(shù)據(jù)上傳到開(kāi)源大模型，實(shí)際上這些數(shù)據(jù)已經(jīng)面臨了泄露的風(fēng)險(xiǎn)。
網(wǎng)民將敏感數(shù)據(jù)投喂給AI工具后，這些被AI存儲(chǔ)的數(shù)據(jù)是如何泄露的呢？
首先這些數(shù)據(jù)對(duì)AI工具的開(kāi)發(fā)者是完全開(kāi)放的，開(kāi)發(fā)者可以利用權(quán)限看到這些數(shù)據(jù)。另外，目前AI工具很多都是開(kāi)源的，黑客也會(huì)利用大模型本身漏洞攻擊入侵大模型后臺(tái)，獲得數(shù)據(jù)。
保護(hù)數(shù)據(jù)安全 切勿給AI工具投喂敏感數(shù)據(jù)
AI工具具有數(shù)據(jù)存儲(chǔ)功能，因此專(zhuān)家提醒，在日常使用中，切勿給AI工具投喂敏感數(shù)據(jù)。
中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)人工智能安全治理專(zhuān)業(yè)委員會(huì)委員 王媛媛：一方面在日常作為普通的網(wǎng)民，在正常使用互聯(lián)網(wǎng)開(kāi)源大模型的時(shí)候，要注意不要將個(gè)人的敏感信息、隱私信息上傳到開(kāi)源大模型中。
另外企業(yè)在使用開(kāi)源大模型的時(shí)候，在訓(xùn)練自己的數(shù)據(jù)的時(shí)候，要注意一定要做到私有化部署的方式，也就是將所有的數(shù)據(jù)都保存在本地，這樣就不會(huì)把一些內(nèi)部的數(shù)據(jù)上傳到互聯(lián)網(wǎng)上了。但是這樣的私有化部署的方式，相應(yīng)地也要投入一些基礎(chǔ)設(shè)施和專(zhuān)業(yè)的團(tuán)隊(duì)來(lái)進(jìn)行維護(hù)。
