|
臺灣有北捷AI客服可代寫程式碼,國外有三星員工將內部資料上傳至公用服務,以及美國律師誤用AI虛構判例打官司,均具體呈現LLM在不同層面的潛在風險
當生成式AI技術快速進入企業應用的同時,資安風險也伴隨而來,在知名OWASP Top 10風險排名報告中,已列出並持續更新大型語言模型(LLM)應用的十大安全風險,不僅揭露應用的潛在威脅,也提醒生成式AI服務供應商,以及應用這些技術的企業與個人,應注意這方面的安全問題。
由於稽核報告常包含機敏資料,並不適合在雲端LLM環境中處理,原因如下:
1. 資料外洩風險高
雲端LLM的運作通常涉及:
使用者將輸入內容傳送至雲端伺服器>模型在雲端進行推論與生成>回傳結果
若輸入內容中含有機敏資訊(如個資、財報、商業機密、內部合約、醫療記錄等),就會有被儲存、分析或誤用的潛在風險。尤其在以下情況風險更高:
(1)服務條款不明確是否蒐集輸入資料作為模型訓練用途
(2)模型供應商位於其他法域,造成監管困難
(3)無法確認資料傳輸過程是否加密、是否可控
2. 難以控制的提示注入與回應內容
即使是企業內部人員使用雲端LLM,也可能受到「提示注入攻擊(Prompt Injection)」,讓模型回應超出預期或包含敏感內容。
此外,用戶無法完全掌控模型的行為,LLM可能:
(1)生成與機敏資料有關的內容
(2)誤將內部知識應用於其他提示中
(3)在多用戶共享的雲端模型中導致「資訊洩漏交叉污染」
3. 合規性與法規問題
依據《個人資料保護法》、《GDPR》、《HIPAA》等法規,處理機敏資料需:
(1)明確資料保留範圍
(2)控制資料進出境
(3)提供刪除與稽核機制
許多雲端LLM服務無法提供上述控管功能,導致企業使用時違反法規風險高。
4. 缺乏客製化與可追溯性
雲端LLM通常為泛用模型,無法:
(1)保證處理邏輯符合公司治理規範
(2)提供處理紀錄供稽核追溯
(3)根據產業需求進行客製化模型安全強化
這對於金融、醫療、政府等對風控與合規要求高的組織而言,將是一大障礙。
組織應建立地端LLM的優勢如下:
1. 資料掌控與隱私
地端部署LLM可確保所有資料處理在內部進行,避免資料外洩風險。
2. 符合法規與合規要求
地端LLM有助於企業遵守資料保護法規,如GDPR或台灣的個資法,確保資料處理符合相關規範。
3. 客製化與效能優化
地端部署允許企業根據自身需求進行模型微調,提升模型在特定領域的表現。
資料來源:ithome
|