|
近年來人工智慧技術快速發展,企業對 AI 的討論已逐漸從生成式 AI(如 ChatGPT)延伸到更進階的 AI Agent(AI 代理人)。與傳統 AI 工具不同,AI Agent 不僅能回答問題,更具備自主執行任務、跨系統整合與持續監控的能力。透過設定目標與流程,AI Agent 可以自動蒐集資料、分析交易並執行相關作業,甚至提出決策建議。隨著企業逐步將 AI Agent 應用於營運流程與管理決策,其影響已不再只是科技工具層面,而是逐漸進入企業治理與風險管理的核心領域。
在這樣的發展趨勢下,AI Agent 不僅是企業提升效率的工具,也逐漸成為企業治理需要關注的新對象。對內部稽核而言,AI Agent 的出現意味著稽核工作的範圍將從傳統的交易查核與流程檢視,擴展到 AI治理與風險監督的領域。
首先,AI Agent 可能帶來新的 決策風險。當企業將部分決策或流程交由 AI 自動執行時,AI 模型的判斷邏輯與資料來源將直接影響企業決策品質。若模型設計不當、訓練資料存在偏誤或資料品質不佳,可能導致錯誤判斷甚至影響企業營運。因此稽核人員需要關注 AI 決策流程是否具備適當的審核與監督機制。
其次,AI Agent 也可能帶來 透明度與可解釋性問題。許多 AI 模型屬於「黑箱模型」,其判斷過程難以清楚解釋。若企業過度依賴 AI 分析結果,而缺乏適當的監督與驗證機制,將可能影響企業決策的可追溯性與治理透明度。從稽核角度來看,企業應建立 AI 模型管理與驗證機制,以確保 AI 的運作符合企業政策與法規要求。
此外,AI 技術本身也可能被舞弊者利用。隨著 AI 技術的普及,未來可能出現利用 AI 生成偽造文件、建立假交易或規避內部控制的情況,使舞弊手法更加隱蔽與複雜。這種現象常被稱為 AI-enabled Fraud。因此未來稽核工作除了利用 AI 技術進行資料分析,也需要防範 AI 所帶來的新型舞弊風險。
在此情境下,企業需要建立 AI治理(AI Governance)機制。AI治理的核心在於確保企業在導入 AI 技術時,能夠兼顧效率與風險控管,包括 AI 模型管理、資料治理、風險評估與監督機制等。對內部稽核而言,未來的角色將不僅是查核企業交易與流程,也需要監督 AI 的運作與決策是否符合企業治理要求。
從實務角度來看,企業既有的 持續性稽核監控平台(Continuous Auditing Platform),其實可以成為 AI治理的重要工具。此類平台通常能定期排程執行查核程序、分析交易資料並產出異常清單,協助企業持續監控營運風險。若再結合 AI 技術,例如異常模式分析或關聯交易辨識,便可建立更即時且智慧化的風險監控機制。
整體而言,AI Agent 的出現將改變企業營運模式,也將重新定義內部稽核的角色。未來稽核不僅需要查核交易與流程,更需要關注 AI 的運作與治理機制。AI 不再只是協助稽核的工具,也逐漸成為企業治理的重要監督對象。內部稽核人員若能結合資料分析能力與 AI治理思維,將能在 AI時代持續發揮企業風險監督與治理的重要價值。
|