首頁 | 關於知識網 | 會員規範 | 知識地圖| 本站連結 | JACKSOFT | 加入會員 |
1.

2.

3.

4.

5.

6.

1.

2.

3.

4.

5.

6.

 

Dr. Hart Will

加拿大維多利亞大學 Professor Emeritus

看更多Dr. Hart Will文章

黃秀鳳 總經理

傑克商業自動化股份有限公司總經理、台灣研發管理經理人協會理事、 ICAEA國際電腦稽核教育協會台灣分會會長、各大學電腦審計、金融審計或AI稽核兼任講師

看更多黃秀鳳 總經理文章

弓塲啟司 ICAEA國際電腦稽核 教育協會日本分會長

社長, 三恵ビジネスコンサルティング株式会社、日本會計師、國際電腦稽核軟體應用師、日本會計師公會,電腦稽核專業委員會委員

看更多弓塲啟司 ICAEA國際電腦稽核 教育協會日本分會長文章

蘇永盛 副教授

國立高雄第一科技大學會計資訊系副教授兼系主任

看更多蘇永盛 副教授文章

李淑瑾 經理

傑克商業自動化(股)公司 技術研發部 經理

看更多李淑瑾 經理文章

吳善全 助理教授

慈濟技術學院會計資訊系助理教授

看更多吳善全 助理教授文章

孫嘉明 博士

國立雲林科技大學副教授兼管理學院副院長、產業經營專業博士學位學程主任

看更多孫嘉明 博士文章

彭柏霖 副理

傑克商業自動化(股)公司 技術研發部 副理

看更多彭柏霖 副理文章

黃士銘 教授

國立中正大學會計與資訊科技學系教授及製商整合研究中心主任

看更多黃士銘 教授文章

李佳蓉 工程師

傑克商業自動化(股)公司 技術研發部 工程師

看更多李佳蓉 工程師文章

蕭幸金 教授

國立臺北商業大學會計資訊系教授暨財經學院院長

看更多蕭幸金 教授文章

黃素慧 博士

朝陽科技大學會計系教授

看更多黃素慧 博士文章

黃劭彥 教授

國立中正大學會計與資訊科技學系教授

看更多黃劭彥 教授文章

 

所有最新文章
Dr. Hart Will最新文章
弓塲啟司 ICAEA國際電腦稽核 教育協會日本分會長最新文章
蘇永盛 副教授最新文章
李淑瑾 經理最新文章
吳善全 助理教授最新文章
孫嘉明 博士最新文章
彭柏霖 副理最新文章
黃士銘 教授最新文章
李佳蓉 工程師最新文章
蕭幸金 教授最新文章
黃素慧 博士最新文章
黃劭彥 教授最新文章

 

全部知識 成功案例 名人開講 線上課程 資訊專欄 稽核論壇


資安專家-生成式AI不當使用出現實際案例!

(2025-04-24 09:20:37 彭柏霖 副理)

網友推薦:2人推薦(有2人投票)

觀看次數:1178

臺灣有北捷AI客服可代寫程式碼,國外有三星員工將內部資料上傳至公用服務,以及美國律師誤用AI虛構判例打官司,均具體呈現LLM在不同層面的潛在風險

當生成式AI技術快速進入企業應用的同時,資安風險也伴隨而來,在知名OWASP Top 10風險排名報告中,已列出並持續更新大型語言模型(LLM)應用的十大安全風險,不僅揭露應用的潛在威脅,也提醒生成式AI服務供應商,以及應用這些技術的企業與個人,應注意這方面的安全問題。

由於稽核報告常包含機敏資料,並不適合在雲端LLM環境中處理,原因如下:

1. 資料外洩風險高

雲端LLM的運作通常涉及:

使用者將輸入內容傳送至雲端伺服器>模型在雲端進行推論與生成>回傳結果

若輸入內容中含有機敏資訊(如個資、財報、商業機密、內部合約、醫療記錄等),就會有被儲存、分析或誤用的潛在風險。尤其在以下情況風險更高:

(1)服務條款不明確是否蒐集輸入資料作為模型訓練用途

(2)模型供應商位於其他法域,造成監管困難

(3)無法確認資料傳輸過程是否加密、是否可控

2. 難以控制的提示注入與回應內容
即使是企業內部人員使用雲端LLM,也可能受到「提示注入攻擊(Prompt Injection)」,讓模型回應超出預期或包含敏感內容。

此外,用戶無法完全掌控模型的行為,LLM可能:

(1)生成與機敏資料有關的內容

(2)誤將內部知識應用於其他提示中

(3)在多用戶共享的雲端模型中導致「資訊洩漏交叉污染」

3. 合規性與法規問題
依據《個人資料保護法》、《GDPR》、《HIPAA》等法規,處理機敏資料需:

(1)明確資料保留範圍

(2)控制資料進出境

(3)提供刪除與稽核機制

許多雲端LLM服務無法提供上述控管功能,導致企業使用時違反法規風險高。

4. 缺乏客製化與可追溯性

雲端LLM通常為泛用模型,無法:

(1)保證處理邏輯符合公司治理規範

(2)提供處理紀錄供稽核追溯

(3)根據產業需求進行客製化模型安全強化

這對於金融、醫療、政府等對風控與合規要求高的組織而言,將是一大障礙。

組織應建立地端LLM的優勢如下:

1. 資料掌控與隱私
地端部署LLM可確保所有資料處理在內部進行,避免資料外洩風險。

2. 符合法規與合規要求
地端LLM有助於企業遵守資料保護法規,如GDPR或台灣的個資法,確保資料處理符合相關規範。

3. 客製化與效能優化
地端部署允許企業根據自身需求進行模型微調,提升模型在特定領域的表現。

資料來源:ithome

「 本文章之圖文版權為彭柏霖 副理本人所有,非經同意不得轉載。」

分享至 分享至X(Twitter) 分享至LinkedIn 分享至Facebook 分享至LINE

網友評價:2人推薦0人不推(共有2人投票)

你對這一則文章的評價:

回應數:0
共 0 筆資料. / . 第 頁/共 頁

 
彭柏霖 副理其他最新文章
共 7 筆資料. / . 第 1 頁/共 1 頁

 

 

網站建議與問題回報 | 隱私權政策 | 網站管理規範 | 條款與政策