新聞分析｜AI智能體“龍蝦”為何引發(fā)廣泛警惕

　　新華社北京4月1日電　新聞分析｜AI智能體“龍蝦”為何引發(fā)廣泛警惕

　　新華社記者馮玉婧

　　今年年初以來，一款俗稱“龍蝦”的人工智能（AI）智能體工具“開放之爪”（OpenClaw）憑借其自主執(zhí)行復(fù)雜任務(wù)、可擴展技能包等強大能力，在開源社區(qū)迅速崛起。但爆火之后，“開放之爪”接連被曝出存在多重安全隱患。

　　目前，多國監(jiān)管機構(gòu)和科技企業(yè)已陸續(xù)發(fā)布針對“開放之爪”的使用指南和規(guī)范。4月1日，中國國家知識產(chǎn)權(quán)局發(fā)布風(fēng)險提示說，“開放之爪”等智能體工具被曝光默認安全配置脆弱，易引發(fā)嚴(yán)重安全風(fēng)險。與此同時，使用此類智能體撰寫專利申請文件，也可能誘發(fā)多重風(fēng)險。

　　安全漏洞頻發(fā)

　　“開放之爪”由奧地利軟件工程師彼得·施泰因貝格爾開發(fā)，是一款開源AI智能體軟件。該智能體采用層級化架構(gòu)，將社交即時通訊軟件與自動化智能體深度耦合，同時借助插件系統(tǒng)擴展各種工具能力。這種分層架構(gòu)雖賦予了“開放之爪”靈活性與可擴展性，但也帶來了多維度的安全風(fēng)險。

　　1月下旬，開源平臺GitHub上發(fā)布的一項安全審計報告顯示，“開放之爪”存在512項安全漏洞，其中有8項被歸類為“嚴(yán)重”，涵蓋了身份驗證、機密管理等領(lǐng)域。

　　2月下旬，國際網(wǎng)絡(luò)安全機構(gòu)“綠洲安全”研究人員發(fā)布報告說，“開放之爪”核心系統(tǒng)中存在一個名為“ClawJacked”的重大安全漏洞，攻擊者可能通過惡意網(wǎng)頁接管該智能體，從而獲取設(shè)備權(quán)限和訪問系統(tǒng)數(shù)據(jù)。“開放之爪”團隊將漏洞定級為“高度危險”，并在24小時內(nèi)發(fā)布了修復(fù)版本。

　　3月30日，中國360數(shù)字安全集團在官方微信公眾號上發(fā)文說，在“開放之爪”平臺中發(fā)現(xiàn)一處高危漏洞，影響范圍覆蓋全球50多個國家和地區(qū)。

　　廣泛的攻擊風(fēng)險

　　美國微軟公司安全團隊發(fā)布的風(fēng)險報告顯示，使用“開放之爪”可能面臨兩類攻擊風(fēng)險：惡意技能插件和間接提示詞注入。

　　“開放之爪”的執(zhí)行能力依賴于社區(qū)平臺提供的技能插件。綠盟科技公司近期發(fā)布的安全報告指出，如果缺乏嚴(yán)格的代碼審計和簽名校驗，攻擊者可通過發(fā)布包含惡意提示詞和代碼的惡意技能插件實現(xiàn)“代碼投毒”。用戶可能只因一次點擊就加載了此類插件，攻擊者可在受害者系統(tǒng)中獲得持久駐留能力。而攻擊者上傳自定義技能插件的門檻非常低，只需要注冊一個非實名的GitHub賬號即可。

　　據(jù)美國派拓網(wǎng)絡(luò)公司2月發(fā)布的數(shù)據(jù)，研究人員已在相關(guān)平臺上發(fā)現(xiàn)超過800個針對“開放之爪”的惡意技能插件。

　　提示詞注入是一種針對大語言模型的攻擊技術(shù)，分為直接注入（攻擊者直接輸入惡意指令）和間接注入（通過網(wǎng)頁、文檔等外部數(shù)據(jù)源實現(xiàn)攻擊）兩種方式。

　　美國“眾擊”網(wǎng)絡(luò)安全服務(wù)公司近期在官網(wǎng)發(fā)文說，提示詞注入的首要威脅是敏感數(shù)據(jù)泄露，考慮到“開放之爪”對敏感文件與系統(tǒng)的高訪問權(quán)限，這一風(fēng)險尤為嚴(yán)重。間接注入則會進一步放大風(fēng)險，因為攻擊者無需直接與“開放之爪”交互，只需污染其讀取的數(shù)據(jù)，惡意指令即可悄悄進入軟件決策流程。

　　多國機構(gòu)及企業(yè)發(fā)布使用規(guī)范

　　對于“開放之爪”是否適合在企業(yè)中部署應(yīng)用，“眾擊”公司的文章指出，若員工在企業(yè)設(shè)備上部署“開放之爪”或?qū)⑵浣尤肫髽I(yè)系統(tǒng)，且配置不當(dāng)、缺乏安全保護，它就可能成為系統(tǒng)“后門”，執(zhí)行攻擊者的指令。

　　業(yè)內(nèi)人士建議，個人或企業(yè)用戶不要在常規(guī)辦公與涉密設(shè)備上運行“開放之爪”，如需部署須采取權(quán)限治理、沙箱機制、持續(xù)監(jiān)控與全周期安全防護等嚴(yán)格管控措施。

　　據(jù)媒體報道，出于風(fēng)險管控的考慮，美國元宇宙平臺公司、韓國多音通訊公司等多國科技企業(yè)已禁止員工在辦公設(shè)備上使用“開放之爪”。與此同時，多國監(jiān)管機構(gòu)也發(fā)布了關(guān)于使用“開放之爪”的安全指南。

　　荷蘭數(shù)據(jù)保護局2月發(fā)布公報，建議用戶和組織不要在存有敏感或機密數(shù)據(jù)（如訪問碼、財務(wù)行政資料、員工數(shù)據(jù)、私人文檔或身份證明文件）的系統(tǒng)上使用“開放之爪”及類似AI智能體；建議謹(jǐn)慎對待外部插件，實施嚴(yán)格的訪問控制，在存在泄露風(fēng)險時及時更新登錄信息。該監(jiān)管機構(gòu)還呼吁將“開放之爪”等AI智能體納入歐盟《人工智能法》的管轄范圍。

　　3月22日，中國國家互聯(lián)網(wǎng)應(yīng)急中心等發(fā)布了“開放之爪”安全使用實踐指南。此前，工業(yè)和信息化部網(wǎng)絡(luò)安全威脅和漏洞信息共享平臺組織相關(guān)機構(gòu)研提了“六要六不要”建議，以防范“開放之爪”開源智能體安全風(fēng)險。

【責(zé)任編輯:陳聽雨】