|
隨著AI技術快速發展,具備自主執行能力的AI代理(AI Agent)正成為企業與個人提升效率的重要工具。其中,開源專案OpenClaw(俗稱「龍蝦」)更掀起一波應用熱潮。然而,數位發展部資安署提醒,這類高權限、長時間運作的工具,在帶來便利的同時,也可能成為新的資安破口。
AI代理的風險並非單一漏洞,而是來自整體架構與使用情境。近期揭露的ClawJacked漏洞(CVE-2026-25253)顯示,駭客甚至可透過誘導使用者瀏覽惡意網站,在無警示情況下入侵系統。儘管該漏洞已修補,但也凸顯AI代理在實務應用中的潛在威脅。
資安署歸納三大常見風險。
首先是惡意指令隱藏於網頁內容,當AI代理瀏覽外部網站或社群資訊時,可能誤判並執行不當操作,導致刪除資料或更改系統設定。
其次是第三方Skill套件的安全疑慮,部分擴充功能可能暗藏後門,一旦安裝即可能造成資料外洩或系統被控制。
最後則是長時間運作帶來的記憶壓縮問題,AI可能逐漸「遺忘」原先設定的安全規則,進而提高失控風險。
面對這些挑戰,數發部提出五項自保原則。
第一,落實環境隔離,避免在存放敏感資料的設備上直接運行AI代理,建議使用獨立設備或虛擬機。
第二,採取最小權限控管,避免直接提供個人帳密,改以專用帳號與短期授權機制降低風險。
第三,導入人工審核機制,對於高風險操作如發信或存取憑證,應保留人工確認。
第四,審慎檢查Skill來源,避免下載來路不明的套件或連結可疑網站。
第五,將安全規則寫入核心記憶,確保關鍵設定不會因系統運行而被忽略。
"整體而言,AI代理確實具備顛覆工作模式的潛力,但其高權限與自動化特性,也意味著一旦失控,影響將遠超傳統軟體。未來企業在導入AI工具時,應同步建立資安治理思維,結合技術防護與制度控管,才能在提升效率的同時,守住資料與營運安全的底線。"
資料來源:ETtoday新聞雲
|