|
隨著人工智慧技術快速發展,企業面臨的風險已不再侷限於傳統的資訊安全或舞弊行為,而是進入一個更具迷惑性與破壞力的時代。近期國際間頻繁出現「Deepfake CEO 詐騙」案例,攻擊者透過AI語音合成與影像生成技術,不僅能模擬高階主管的聲音,甚至可在視訊會議中「即時生成」主管影像,進行對話與指示,成功騙取信任並完成匯款或敏感操作。這類事件不僅造成重大財務損失,更直接動搖企業既有的內控制度基礎。
相較於早期僅透過電子郵件或電話進行詐騙,Deepfake技術的進化使攻擊手法更具真實性與說服力。近期已有案例顯示,財務人員參與一場看似正常的視訊會議,會中「多位主管」同時出現並指示進行緊急付款,然而會後才發現,整場會議中的影像與聲音皆為AI生成。這類「深偽影片詐騙」已突破人類直覺辨識的能力,使傳統依賴視覺與聽覺的判斷機制完全失效。
然而,技術上我們必須清楚一件事:在AI時代,我們確實已無法再完全相信眼睛所看到的「畫面」與耳朵所聽到的「聲音」,但這並不代表企業的「授權流程」本身失效。真正需要調整的,是「授權的驗證媒介」。
過去企業多依賴生物特徵進行信任判斷,例如臉部、聲音或行為習慣,但這些特徵在Deepfake技術下皆可被複製與偽造。因此,授權驗證的基礎,必須從「可被模仿的生物特徵」,轉向「不可偽造的數位憑證」,例如基於密碼學的身份驗證機制、數位簽章、多因子驗證(MFA)與裝置信任機制。
換言之,未來企業內控的核心,不再是「確認這個人是不是主管」,而是「確認這個指令是否來自可信的系統與憑證」。這是一個從「人為信任」轉向「機制信任」的根本轉變。
在此背景下,「零信任架構(Zero Trust)」逐漸成為企業防範Deepfake風險的關鍵思維。零信任並非單一技術,而是一種設計原則,其核心精神在於:永不預設信任,所有存取與指令皆需持續驗證。即使是來自高階主管的指令,也必須經過系統化驗證,而非僅憑聲音或影像判斷。
實務上,零信任架構可落實於多個層面,例如:
*所有高風險交易需透過系統簽核與多重驗證完成
*關鍵操作需綁定特定裝置與身份憑證
*指令需具備可追溯的數位簽章與操作紀錄(audit trail)
*存取權限依情境動態調整,而非一次授權永久有效
透過這樣的機制,即使攻擊者能成功模擬主管的聲音與影像,仍無法繞過系統層級的驗證防線。
另一方面,許多企業也開始關注「是否可透過AI偵測Deepfake」,作為防禦手段。然而,從資安實務角度來看,這類技術目前仍處於高度的「軍備競賽」狀態。攻擊方持續提升生成品質,而防守方則不斷改進偵測模型,但兩者之間並不存在長期穩定的優勢。
更關鍵的是,偵測技術本質上屬於「事後判斷」,且容易受到誤判(false positive / false negative)的影響。在高風險決策情境中,企業若過度依賴「影像或聲音是否為AI生成」作為判斷依據,反而可能產生新的風險。因此,Deepfake偵測技術可作為輔助工具,但不應成為核心控制機制。
從治理角度來看,企業更應關注的是「即使影像與聲音完全真實,也無法單獨完成關鍵授權」的制度設計。換言之,防禦Deepfake的關鍵,不在於辨識真假,而在於建立「真假皆無法繞過的控制機制」。
回到企業治理層面,Deepfake詐騙所帶來的影響已超越單一事件,而是對整體內控與風險管理提出根本挑戰。企業需重新檢視高風險交易流程、授權機制與內部溝通方式,並將AI風險納入正式治理架構。
從稽核角度來看,未來的重點亦需隨之調整。稽核人員不僅需確認控制是否存在,更需評估其在AI環境下的有效性,包括驗證機制是否仍依賴可被仿冒的資訊來源,以及企業是否已建立以數位憑證為基礎的信任架構。
總體而言,Deepfake CEO 詐騙與深偽影片技術所揭示的,不僅是一種新型詐騙手法,更是一場企業內控思維的重大轉變。當「眼見為憑」與「耳聽為實」皆不再可靠,企業真正需要重建的,不是判斷真假的能力,而是建立一套不依賴感官判斷的信任機制。
在AI快速演進的時代,風險的本質已從單一事件轉為信任基礎的動搖。企業若能及早從「辨識」轉向「驗證」,從「信任人」轉向「信任機制」,將不僅能有效因應Deepfake威脅,更能在新一代數位治理架構中,建立長期且穩固的競爭優勢。
參考文章:https://blog.trendmicro.com.tw/?p=90497
|