曾幾何時，“深度偽造”技術(shù)還只是公眾眼中的新奇數(shù)字“玩具”，靠其夸張的“漏洞“在短視頻平臺娛樂大眾。然而到了 2025 年，它已經(jīng)完成從“數(shù)字玩具”到“網(wǎng)絡(luò)武器”的轉(zhuǎn)變，成為全球網(wǎng)絡(luò)犯罪分子的高效作案工具。《Check Point AI 安全報告 2025》指出，深度偽造技術(shù)如今已經(jīng)進(jìn)入高度成熟階段，從離線生成的合成視頻，到可實時互動的全自動擬人化系統(tǒng)，已具備在多平臺同步發(fā)起精準(zhǔn)詐騙的能力。
技術(shù)演進(jìn)帶來新型威脅
報告顯示，全球范圍內(nèi)深度偽造已不再局限于提前渲染的視頻或音頻，而是發(fā)展出能夠?qū)崟r換臉、實時語音克隆，甚至全自動與目標(biāo)進(jìn)行多輪對話的 AI 代理系統(tǒng)。這些技術(shù)曾經(jīng)需要頂尖黑客組織才能掌握，如今卻通過暗網(wǎng)論壇和 Telegram 渠道以低廉價格出售。
自 2024 年以來，一些案例已經(jīng)為全球用戶敲響警鐘：英國與加拿大在兩起深度偽造視頻詐騙案中累計損失超 3500 萬美元；意大利犯罪分子利用實時語音克隆冒充國防部長實施勒索；更有售價約 2 萬美元的 AI 電話系統(tǒng)，可在多通道、跨語言的通話中同時模仿任意聲音，且無需人工干預(yù)。
監(jiān)管部門及時干預(yù)
深度偽造的風(fēng)險并非僅在海外肆虐。2025 年初，媒體報道香港一家公司遭遇深度偽造詐騙：犯罪分子通過 AI 技術(shù)生成公司高管的逼真視頻，在一次遠(yuǎn)程會議中成功騙取財務(wù)人員信任，最終導(dǎo)致上千萬港元的資金損失。此案中，視頻不僅高度還原了高管的外貌與語音，還模擬了會議中的互動細(xì)節(jié)，讓受害者在群體壓力和情境真實性的雙重影響下放松警惕。
事實上，我國監(jiān)管部門早已注意到這一風(fēng)險。2022 年 12 月，《深度合成服務(wù)管理規(guī)定》正式施行，明確要求深度合成服務(wù)提供者采取顯著標(biāo)識等措施，防止技術(shù)被用于制作、發(fā)布違法信息。這不僅體現(xiàn)了國家對深度偽造的監(jiān)管決心，也為企業(yè)在技術(shù)應(yīng)用中合規(guī)防護(hù)提供了制度保障。
從品牌信任到經(jīng)濟(jì)安全的全面沖擊
深度偽造的危害遠(yuǎn)不止于單一詐騙事件。Check Point 報告指出，結(jié)合生成式 AI 的深度偽造正推動釣魚攻擊、商業(yè)郵件詐騙（BEC）和高管冒充進(jìn)入成熟落地階段。AI 生成的郵件在語法、格式、措辭上與真實企業(yè)通信幾乎無異，且可以根據(jù)受害者背景實現(xiàn)高度個性化。在 2024 年，全球 67.4% 的釣魚事件已涉及 AI 技術(shù)，金融行業(yè)是受攻擊最頻繁的領(lǐng)域之一。
更令人擔(dān)憂的是，深度偽造與大規(guī)模數(shù)據(jù)分析的結(jié)合，讓網(wǎng)絡(luò)犯罪分子能夠快速收集、解析社交媒體、公共記錄以及泄露數(shù)據(jù)庫中的信息，進(jìn)而預(yù)測受害者行為、優(yōu)化攻擊時機(jī)。例如，攻擊者可以分析某公司 CEO 的發(fā)言習(xí)慣，在最可能取得信任的時間點發(fā)送帶有其“語氣”的郵件，大幅提升欺騙成功率。
AI 對抗 AI 勢在必行
Check Point 在報告中揭示：依賴直覺或肉眼甄別真?zhèn)蔚臅r代已經(jīng)過去。在實時換臉、語音克隆和視頻合成技術(shù)的加持下，真假邊界正在快速消失。無論是求職面試騙局、假冒高管的遠(yuǎn)程會議，還是多語言、多平臺同步的實時詐騙，都是現(xiàn)實中正在發(fā)生的威脅。
針對這一趨勢，Check Point 公司中國區(qū)技術(shù)總監(jiān)王躍霖指出：“AI 已逐漸發(fā)展為一種成熟的生產(chǎn)工具，既可被攻擊者利用，也可被防御者應(yīng)用。隨著攻擊與防御的速度和規(guī)模迅速提升，僅靠傳統(tǒng)依賴人力的防御策略已難以為繼，必須以‘AI 對抗 AI’的理念構(gòu)建更智能、更主動的防御體系，方可應(yīng)對當(dāng)下新興威脅帶來的挑戰(zhàn)。對于深度偽造對企業(yè)用戶帶來的威脅，防御重點必須放在員工身上，最核心的要素是‘流程管理’與‘安全培訓(xùn)’。內(nèi)部溝通流程必須具備足夠的韌性，確保員工在處理敏感業(yè)務(wù)時始終遵循正確規(guī)范。同時應(yīng)對員工加強(qiáng)安全意識培訓(xùn)，凡是涉及財務(wù)交易或業(yè)務(wù)指令的溝通，都必須進(jìn)行驗證，甚至多步驟認(rèn)證”。
《Check Point AI 安全報告 2025》顯示，隨著技術(shù)的快速進(jìn)化，深度偽造的欺騙能力、規(guī)模化能力和實時適應(yīng)能力正推動網(wǎng)絡(luò)威脅格局發(fā)生根本性變化。唯有將監(jiān)管要求、企業(yè)防護(hù)實踐與全球領(lǐng)先的技術(shù)方案相結(jié)合，才能在這場新興的 AI 安全博弈中掌握主動權(quán)。
