“最近辦公室里,一半人在聊‘養龍蝦’,一半人在學怎么‘養龍蝦’。”3月13日,北京某互聯網公司產品經理李垚告訴記者,同事們熱議的“養龍蝦”,并非現實生活中的水產養殖,而是對近期發布的開源AI智能體框架OpenClaw的個性化訓練與部署。
因為圖標是一只紅色龍蝦,OpenClaw被大家稱為“龍蝦”。與普通AI不同,它能夠通過整合調用通信軟件和大語言模型,在用戶電腦上自主執行文件管理、郵件收發、數據處理等復雜任務。
這只“龍蝦”為何能掀起全民熱潮?“養龍蝦”又有哪些安全風險?《工人日報》記者對此展開了調查采訪。
多地出臺“龍蝦”的相關支持政策
作為今年開年第一個引起全民關注的AI智能體,“龍蝦”究竟有何特殊之處?
“普通AI的核心模式是對話式,用戶提問后僅能得到答案或操作步驟,而‘龍蝦’是典型的‘行動派’。用戶只需提出任務目標,它便能直接操作各類工具完成整個流程。”曾就職于一線互聯網大廠的科技博主“跟著阿亮學AI”向記者舉例說,如果讓其整理重要郵件,它會自動打開郵箱、篩選內容并撰寫回復草稿,“全程無需用戶動手”。
北京大學AIIT數字創意實驗室AI工程師于靜雯表示:“與ChatGPT等大語言模型不同,OpenClaw并非簡單的聊天機器人,而是一個能夠獲得本地操作系統權限、調用各種工具、并按照自然語言指令規劃步驟、自動執行復雜任務的‘數字員工’?!?/p>
“以往的AI大模型即便技術再成熟,也始終局限于各自的領域,無法實現跨領域的協同運作,而‘龍蝦’的核心優勢在于其打通了不同領域的大模型壁壘,真正調動起所有大模型的功能與價值?!庇陟o雯解釋道,“因此,可以說OpenClaw對于AI行業來說,是具有橋梁性、紐帶性的顛覆性創新?!?/p>
熱潮之下,不少地方積極響應。據不完全統計,截至3月12日,深圳龍崗區、無錫高新區、合肥高新區、蘇州常熟市、南京棲霞高新區、杭州蕭山區等多地出臺“龍蝦”的相關支持政策,還有一些地方政府推出面向公眾的“小龍蝦”免費部署服務。
“龍蝦”暗藏多重安全隱患
全民“養蝦”的熱情之下,第一批嘗試者的體驗卻并非都是好評。
“整體來說感覺不如網上宣傳得那么神奇。”李垚坦言,用好“龍蝦”需要開放電腦上各類應用的控制權限,出于謹慎,他沒有打開過多權限,因此覺得“效果有限”。
于靜雯分析,OpenClaw的核心能力在于對各類應用、工具的操作與控制。而想要實現這一功能,使用者必須向其開放大量的應用授權,包括郵箱、辦公軟件、各類平臺后臺等。“這就好比你想請人把家打掃干凈,就得把家里所有房間的鑰匙交給對方?!彼扔鞯?,相應地,全量的應用授權可能會給部署“龍蝦”的個人和企業帶來數據泄漏風險。
3月10日,國家互聯網應急中心發布的《關于OpenClaw安全應用的風險提示》(以下簡稱《提示》)中明確指出,為實現“自主執行任務”的能力,該應用被授予了較高的系統權限。然而,由于其默認的安全配置極為脆弱,攻擊者一旦發現突破口,便能輕易獲取系統的完全控制權。
《提示》顯示,截至目前,OpenClaw已公開曝出多個高中危漏洞,一旦這些漏洞被網絡攻擊者惡意利用,則可能導致系統被控、隱私信息和敏感數據泄露的嚴重后果?!皩τ趥€人用戶,可導致隱私數據(如照片、文檔、聊天記錄)、支付賬戶等敏感信息泄露;對于企業,可導致核心業務數據、商業機密泄露,造成難以估量的損失?!庇陟o雯分析說。
北京市漢鼎聯合律師事務所執業律師周子川表示,為完成用戶指令,“龍蝦”在沒有控制權限的情況下,可能在全網直接或間接收集大量各類數據,其獲取數量、訪問權限、數據敏感程度等,往往超出用戶控制范圍,嚴重的可能構成非法獲取計算機信息系統數據罪、侵犯公民個人信息罪。
“此外,目前很多用戶為了圖便利,找第三方花錢部署‘龍蝦’,但這些第三方未必具備安全防護條件,極易導致設備數據暴露,攻擊者可通過惡意代碼執行等方式遠程控制設備,竊取敏感信息?!敝茏哟ㄑa充道。
熱潮之中,更需守好安全底線
今年的政府工作報告提出,深化拓展“人工智能+”,促進新一代智能終端和智能體加快推廣,推動重點行業領域人工智能商業化規模化應用,培育智能原生新業態新模式。
“‘龍蝦’的出現,為AI智能體的落地應用提供了新路徑。若能規范使用,就能很好發揮現有AI智能體的作用,大幅提升個人和企業的工作效率。”于靜雯表示,推動“龍蝦”良性發展,關鍵在于平衡便利與安全。
“‘龍蝦’等AI智能體呈現出的新技術特征,使現有的關于AI的法律問題更加復雜。”周子川舉例說,如最重要的“權責歸屬模糊”問題,當“龍蝦”等AI智能體基于用戶指令執行操作并造成侵權或其他違法違規行為時,開發者、部署者、使用者之間如何歸責、確定責任的大小,需要法律進一步明確。
對于AI產品的開發者和服務提供者,周子川建議,一方面,應積極履行個人信息保護法等規定的合規義務,如數據處理日志滿足日志留存和可追溯的要求。另一方面,在具體操作中也應增強法律合規意識,如加強AI權限管理、加強提示詞審核等,降低安全風險。
國家互聯網應急中心發布的《提示》也給出具體建議:相關單位和個人用戶在部署和應用OpenClaw時,應對運行環境進行嚴格隔離,使用容器等技術限制OpenClaw權限過高問題,同時嚴格管理插件來源,持續關注補丁和安全中心。
“用戶在‘養龍蝦’前,首先要全面評估其價值與風險,判斷自己是否真的需要它解決問題,再決定是否部署?!庇陟o雯提醒,使用過程中,也務必做好數據分區和隱私保護,“不盲目跟風,將自己的隱私和數據安全暴露于風險之中”。