最近，一款叫“龍蝦”的智能體引發(fā)很多人的安裝熱潮。由于它的圖標(biāo)是一只紅色龍蝦而得此名。大家還把訓(xùn)練、使用這款智能體的過(guò)程形象地叫作“養(yǎng)龍蝦”。“龍蝦熱”的同時(shí)，也暴露出了一些風(fēng)險(xiǎn)，包括工信部在內(nèi)的一些主管部門連發(fā)風(fēng)險(xiǎn)預(yù)警。那么，這只“龍蝦”能幫我們干什么？又藏著什么風(fēng)險(xiǎn)？
一場(chǎng)“龍蝦”應(yīng)用交流活動(dòng)正在舉行。這個(gè)“龍蝦”，不是我們吃的美食，而是一種名叫OpenClaw的人工智能體。這場(chǎng)活動(dòng)，就是要看看誰(shuí)能讓“龍蝦”發(fā)揮出更大的作用。
“龍蝦”本名OpenClaw。它并非某個(gè)公司的商業(yè)產(chǎn)品，而是一個(gè)由全球開(kāi)發(fā)者共同參與的開(kāi)源人工智能體項(xiàng)目，因?yàn)槠浼t色的龍蝦圖標(biāo)，被戲稱為“龍蝦”。它與過(guò)去只能聊天的人工智能大模型不同，除了擁有聰明的“大腦”能思考，還多出了“手腳”，能夠直接操作電腦。
它到底長(zhǎng)什么樣？究竟如何干活兒？帶著好奇，記者決定找技術(shù)工程師親身體驗(yàn)一次。而工程師的第一個(gè)建議，就有些不尋常：要帶一個(gè)格式化的幾乎全新的電腦過(guò)來(lái)安裝。
北京中關(guān)村學(xué)院工程師 吳衍標(biāo)：安裝了“龍蝦”之后，它可以查看到電腦里面的所有文件，一旦有不法分子想利用這些漏洞，文件、機(jī)密都可能外傳。
為什么“龍蝦”可以查看電腦所有的文件？在安裝的時(shí)候我們有沒(méi)有可能手動(dòng)限制它的權(quán)限呢？記者發(fā)現(xiàn)，開(kāi)源的原始版“龍蝦”并非能夠一鍵安裝完成，而是需要通過(guò)命令行輸入代碼，技術(shù)門檻不低。
“小龍蝦”在電腦上自主運(yùn)行，默認(rèn)的權(quán)限級(jí)別很高，這意味著運(yùn)行它有一定的風(fēng)險(xiǎn)。工程師告訴記者，只有有了這個(gè)權(quán)限，這個(gè)“龍蝦”才具備了干活的基礎(chǔ)。此外，它還需要有兩部分核心組件：
一是需要人工智能大模型，這就像給它安了個(gè)“大腦”，能讓它理解復(fù)雜的指令，這在安裝時(shí)就會(huì)讓用戶進(jìn)行選擇；
二是需要各種各樣的“技能”，賦予它操作具體軟件的能力，也就相當(dāng)于給它裝上了“手腳”，比如在告訴了它相關(guān)賬戶密碼的情況下，它能自主完成制定旅行計(jì)劃并預(yù)訂機(jī)票、回復(fù)郵件等復(fù)雜任務(wù)。
一只剛出生的“小龍蝦”，自帶一些基本技能，它能做些什么呢？記者決定對(duì)它進(jìn)行三項(xiàng)測(cè)試。
測(cè)試一：分類整理電腦桌面文件
記者通過(guò)即時(shí)通信軟件向“龍蝦”發(fā)出整理電腦桌面的指令。等了幾分鐘后，它告訴記者，已經(jīng)將電腦桌面文件分類整理成功。
測(cè)試二：遠(yuǎn)程傳輸文件并指定路徑儲(chǔ)存
記者在手機(jī)上傳了一張圖，要求“龍蝦”將圖保存在電腦桌面的媒體圖片文件夾中。幾分鐘后，文件夾中真的出現(xiàn)了圖片。
測(cè)試三：修改圖片大小并存儲(chǔ)
記者要求“龍蝦”將電腦桌面文件夾中的一張圖片縮小并放入該文件夾，原圖片不動(dòng)。幾分鐘后，“龍蝦”說(shuō)新圖片已經(jīng)存入了文件夾中。任務(wù)看似完成了，但“龍蝦”聲稱保留的原圖卻不翼而飛。
如此看來(lái)，“龍蝦”就像一個(gè)還不是特別靠譜的助手，它基于人工智能大模型，也有和大模型一樣的幻覺(jué)犯錯(cuò)的可能。工程師告訴記者，要想讓“龍蝦”越來(lái)越強(qiáng)大，就需要“養(yǎng)蝦”。
吳衍標(biāo)：第一個(gè)方法就是給它越來(lái)越多的技能、越來(lái)越多的記憶，讓它更懂你、掌握更多你的技能，這樣的話它就能夠做你的事情；二來(lái)隨著大模型的發(fā)展，它的腦子也會(huì)變得越來(lái)越聰明。
盡管“龍蝦”還不太靠譜，但也獲得了不少擁躉。在讀博士的呂丁陽(yáng)就花了一個(gè)多星期時(shí)間養(yǎng)了一只“科研龍蝦”，賦予了它很多科研技能，專門做材料領(lǐng)域的計(jì)算。
而從事人工智能領(lǐng)域研究的何紀(jì)言，則花了半個(gè)多月時(shí)間養(yǎng)了好幾只非常了解自己的“龍蝦”助手，有的做科研，有的幫助管理日常信息，有的負(fù)責(zé)整理材料、制作文件等等。
何紀(jì)言讓“龍蝦”根據(jù)應(yīng)聘中央廣播電視總臺(tái)員工的特點(diǎn)做一份簡(jiǎn)歷。幾分鐘后，這只龍蝦就完成了一份制作排版精良的簡(jiǎn)歷，還突出了個(gè)人的應(yīng)聘優(yōu)勢(shì)。
何紀(jì)言坦言，要讓“龍蝦”越來(lái)越智能，也需要花錢購(gòu)買大模型的使用量，也就是所謂的Token，對(duì)于頻繁或復(fù)雜的任務(wù)，這筆消耗確實(shí)不小。但這種效率的提升，也讓“龍蝦”迅速出圈。不少地方，出現(xiàn)了免費(fèi)安裝“龍蝦”的熱潮。
廣東深圳、安徽合肥、江蘇無(wú)錫、常熟等地相繼發(fā)布政策，支持“龍蝦”智能體和一人公司的發(fā)展，一些政府也部署應(yīng)用上了“政務(wù)龍蝦”，用于公文寫作、民生問(wèn)答等場(chǎng)景，希望能把基層干部從煩瑣的事務(wù)中解放出來(lái)。
不過(guò)，就在這股熱潮涌向各行各業(yè)時(shí)，也暴露出了風(fēng)險(xiǎn)，一些高校對(duì)“龍蝦”拉響了警報(bào)，下了“封殺令”。工業(yè)和信息化部等多個(gè)主管部門接連發(fā)布預(yù)警，直指OpenClaw存在高危安全風(fēng)險(xiǎn)，明確防范要求與用戶使用提醒，為AI智能體使用劃出安全紅線。
一面是熱火朝天的應(yīng)用，一面又是接連預(yù)警，這小小的“龍蝦”里，到底藏著什么玄機(jī)？
中國(guó)信息通信研究院安全研究所副所長(zhǎng) 孟楠：“龍蝦”智能體的優(yōu)勢(shì)在于高權(quán)限的自主執(zhí)行能力，它讓人工智能從“能說(shuō)”進(jìn)化到“會(huì)做”，同時(shí)也帶來(lái)了一些新的安全風(fēng)險(xiǎn)。
風(fēng)險(xiǎn)一：
權(quán)限失控帶來(lái)的系統(tǒng)被接管的風(fēng)險(xiǎn)
專家告訴記者，一旦被黑客利用或者用戶指令不當(dāng)，“龍蝦”就有可能不加辨別地執(zhí)行破壞性操作。比如刪除我們的核心文件，把敏感的數(shù)據(jù)發(fā)到網(wǎng)絡(luò)上，或者在用戶不知情的情況下悄悄安裝惡意的軟件。
風(fēng)險(xiǎn)二：
網(wǎng)絡(luò)暴露帶來(lái)的攻擊入口風(fēng)險(xiǎn)
為了方便，很多用戶會(huì)將“龍蝦”智能體管理端口暴露在互聯(lián)網(wǎng)上，這無(wú)異于給黑客開(kāi)了后門。
孟楠：更危險(xiǎn)的是，如果這個(gè)智能體還連接到單位內(nèi)部的網(wǎng)絡(luò)，就可能成為黑客進(jìn)行攻擊的跳板，一旦被攻陷，整個(gè)企業(yè)內(nèi)網(wǎng)都將面臨威脅。
風(fēng)險(xiǎn)三：
產(chǎn)品漏洞帶來(lái)的可能被利用的風(fēng)險(xiǎn)
任何軟件都有漏洞，但在“龍蝦”的高權(quán)限加持下，漏洞的危害被進(jìn)一步放大。而為了讓“龍蝦”具有更多技能，用戶往往會(huì)安裝第三方插件，還會(huì)帶來(lái)了供應(yīng)鏈風(fēng)險(xiǎn)。
孟楠：我們發(fā)現(xiàn)了不少技能插件被植入了惡意代碼，用戶在使用這些有毒的技能插件時(shí)，就等于把惡意程序請(qǐng)進(jìn)了家門，輕則造成數(shù)據(jù)泄露，重則整個(gè)系統(tǒng)被黑客控制。
對(duì)于這些隱患，深度養(yǎng)蝦人及科技行業(yè)人士也坦言，盡管AI智能體是發(fā)展趨勢(shì)，但普通用戶絕對(duì)不能掉以輕心。
普通用戶使用“龍蝦”如何保障安全呢？專家認(rèn)為，普通用戶屬于安全風(fēng)險(xiǎn)的高發(fā)群體，應(yīng)該審慎安裝“龍蝦”。
工信部日前發(fā)布了關(guān)于“龍蝦”的“六要六不要”安全指引，涵蓋了權(quán)限控制、網(wǎng)絡(luò)隔離、技能插件使用等關(guān)鍵環(huán)節(jié)。
3月22日，國(guó)家互聯(lián)網(wǎng)應(yīng)急中心、中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)聯(lián)合發(fā)布了“龍蝦”O(jiān)penClaw的安全使用指南，面向普通用戶、企業(yè)用戶、云服務(wù)商以及技術(shù)開(kāi)發(fā)者等，提出安全防護(hù)建議。其中，對(duì)于普通用戶的建議包括：
使用專用設(shè)備、虛擬機(jī)或容器安裝OpenClaw，并做好環(huán)境隔離，不宜在日常辦公電腦上安裝。
不將OpenClaw默認(rèn)端口（18789\19890）暴露到公網(wǎng)。
不使用管理員或超級(jí)用戶權(quán)限運(yùn)行OpenClaw。
安裝可信技能插件。
不在OpenClaw環(huán)境中存儲(chǔ)、處理隱私數(shù)據(jù)。
及時(shí)更新OpenClaw最新版本。
……
盡管現(xiàn)在各主管部門不斷在提示“龍蝦”安全風(fēng)險(xiǎn)問(wèn)題，但從長(zhǎng)遠(yuǎn)來(lái)看，專家認(rèn)為，要解決“龍蝦”的安全問(wèn)題，更需要從標(biāo)準(zhǔn)、技術(shù)、生態(tài)多方面著手。
孟楠：建議始終堅(jiān)持統(tǒng)籌發(fā)展和安全，在鼓勵(lì)和促進(jìn)創(chuàng)新的同時(shí)，針對(duì)不同場(chǎng)景做精準(zhǔn)分類施策，確保安全可控。需要盡快制定相關(guān)標(biāo)準(zhǔn)規(guī)范來(lái)引導(dǎo)各類主體規(guī)范應(yīng)用新技術(shù)，引導(dǎo)鼓勵(lì)網(wǎng)絡(luò)安全企業(yè)研制相關(guān)的環(huán)境隔離、智能攔截、行為審計(jì)等安全產(chǎn)品和服務(wù)。建立包括智能體提供者、安全企業(yè)等主體在內(nèi)的相關(guān)主體來(lái)協(xié)同治理生態(tài)。
我們看到，有不少人都希望盡快掌握和利用智能體提升效率、滿足需求；一些企業(yè)也開(kāi)始嘗試使用。對(duì)于像“龍蝦”這樣的新事物，我們需要鼓勵(lì)，需要為技術(shù)創(chuàng)新留足試錯(cuò)的空間，避免束縛產(chǎn)業(yè)發(fā)展的活力；但同時(shí)，面對(duì)爆火的“龍蝦”，我們也需要有一些冷思考，守住安全底線，防范風(fēng)險(xiǎn)擴(kuò)散失控。也就是說(shuō)，技術(shù)創(chuàng)新和安全監(jiān)管協(xié)同推進(jìn)、良性互動(dòng)，我們才能更好和AI共舞，推動(dòng)人工智能高質(zhì)量發(fā)展。
