新聞分析｜AI智能體“龍蝦”為何引發廣泛警惕

　　新華社北京4月1日電　新聞分析｜AI智能體“龍蝦”為何引發廣泛警惕

　　新華社記者馮玉婧

　　今年年初以來，一款俗稱“龍蝦”的人工智能（AI）智能體工具“開放之爪”（OpenClaw）憑借其自主執行復雜任務、可擴展技能包等強大能力，在開源社區迅速崛起。但爆火之后，“開放之爪”接連被曝出存在多重安全隱患。

　　目前，多國監管機構和科技企業已陸續發布針對“開放之爪”的使用指南和規范。4月1日，中國國家知識產權局發布風險提示說，“開放之爪”等智能體工具被曝光默認安全配置脆弱，易引發嚴重安全風險。與此同時，使用此類智能體撰寫專利申請文件，也可能誘發多重風險。

　　安全漏洞頻發

　　“開放之爪”由奧地利軟件工程師彼得·施泰因貝格爾開發，是一款開源AI智能體軟件。該智能體采用層級化架構，將社交即時通訊軟件與自動化智能體深度耦合，同時借助插件系統擴展各種工具能力。這種分層架構雖賦予了“開放之爪”靈活性與可擴展性，但也帶來了多維度的安全風險。

　　1月下旬，開源平臺GitHub上發布的一項安全審計報告顯示，“開放之爪”存在512項安全漏洞，其中有8項被歸類為“嚴重”，涵蓋了身份驗證、機密管理等領域。

　　2月下旬，國際網絡安全機構“綠洲安全”研究人員發布報告說，“開放之爪”核心系統中存在一個名為“ClawJacked”的重大安全漏洞，攻擊者可能通過惡意網頁接管該智能體，從而獲取設備權限和訪問系統數據。“開放之爪”團隊將漏洞定級為“高度危險”，并在24小時內發布了修復版本。

　　3月30日，中國360數字安全集團在官方微信公眾號上發文說，在“開放之爪”平臺中發現一處高危漏洞，影響范圍覆蓋全球50多個國家和地區。

　　廣泛的攻擊風險

　　美國微軟公司安全團隊發布的風險報告顯示，使用“開放之爪”可能面臨兩類攻擊風險：惡意技能插件和間接提示詞注入。

　　“開放之爪”的執行能力依賴于社區平臺提供的技能插件。綠盟科技公司近期發布的安全報告指出，如果缺乏嚴格的代碼審計和簽名校驗，攻擊者可通過發布包含惡意提示詞和代碼的惡意技能插件實現“代碼投毒”。用戶可能只因一次點擊就加載了此類插件，攻擊者可在受害者系統中獲得持久駐留能力。而攻擊者上傳自定義技能插件的門檻非常低，只需要注冊一個非實名的GitHub賬號即可。

　　據美國派拓網絡公司2月發布的數據，研究人員已在相關平臺上發現超過800個針對“開放之爪”的惡意技能插件。

　　提示詞注入是一種針對大語言模型的攻擊技術，分為直接注入（攻擊者直接輸入惡意指令）和間接注入（通過網頁、文檔等外部數據源實現攻擊）兩種方式。

　　美國“眾擊”網絡安全服務公司近期在官網發文說，提示詞注入的首要威脅是敏感數據泄露，考慮到“開放之爪”對敏感文件與系統的高訪問權限，這一風險尤為嚴重。間接注入則會進一步放大風險，因為攻擊者無需直接與“開放之爪”交互，只需污染其讀取的數據，惡意指令即可悄悄進入軟件決策流程。

　　多國機構及企業發布使用規范

　　對于“開放之爪”是否適合在企業中部署應用，“眾擊”公司的文章指出，若員工在企業設備上部署“開放之爪”或將其接入企業系統，且配置不當、缺乏安全保護，它就可能成為系統“后門”，執行攻擊者的指令。

　　業內人士建議，個人或企業用戶不要在常規辦公與涉密設備上運行“開放之爪”，如需部署須采取權限治理、沙箱機制、持續監控與全周期安全防護等嚴格管控措施。

　　據媒體報道，出于風險管控的考慮，美國元宇宙平臺公司、韓國多音通訊公司等多國科技企業已禁止員工在辦公設備上使用“開放之爪”。與此同時，多國監管機構也發布了關于使用“開放之爪”的安全指南。

　　荷蘭數據保護局2月發布公報，建議用戶和組織不要在存有敏感或機密數據（如訪問碼、財務行政資料、員工數據、私人文檔或身份證明文件）的系統上使用“開放之爪”及類似AI智能體；建議謹慎對待外部插件，實施嚴格的訪問控制，在存在泄露風險時及時更新登錄信息。該監管機構還呼吁將“開放之爪”等AI智能體納入歐盟《人工智能法》的管轄范圍。

　　3月22日，中國國家互聯網應急中心等發布了“開放之爪”安全使用實踐指南。此前，工業和信息化部網絡安全威脅和漏洞信息共享平臺組織相關機構研提了“六要六不要”建議，以防范“開放之爪”開源智能體安全風險。

【責任編輯:陳聽雨】