技術(shù)演進(jìn)帶來(lái)新型威脅

報(bào)告顯示，全球范圍內(nèi)深度偽造已不再局限于提前渲染的視頻或音頻，而是發(fā)展出能夠?qū)崟r(shí)換臉、實(shí)時(shí)語(yǔ)音克隆，甚至全自動(dòng)與目標(biāo)進(jìn)行多輪對(duì)話的 AI 代理系統(tǒng)。這些技術(shù)曾經(jīng)需要頂尖黑客組織才能掌握，如今卻通過(guò)暗網(wǎng)論壇和 Telegram 渠道以低廉價(jià)格出售。

自 2024 年以來(lái)，一些案例已經(jīng)為全球用戶敲響警鐘：英國(guó)與加拿大在兩起深度偽造視頻詐騙案中累計(jì)損失超 3500 萬(wàn)美元；意大利犯罪分子利用實(shí)時(shí)語(yǔ)音克隆冒充國(guó)防部長(zhǎng)實(shí)施勒索；更有售價(jià)約 2 萬(wàn)美元的 AI 電話系統(tǒng)，可在多通道、跨語(yǔ)言的通話中同時(shí)模仿任意聲音，且無(wú)需人工干預(yù)。

監(jiān)管部門及時(shí)干預(yù)

深度偽造的風(fēng)險(xiǎn)并非僅在海外肆虐。2025 年初，媒體報(bào)道香港一家公司遭遇深度偽造詐騙：犯罪分子通過(guò) AI 技術(shù)生成公司高管的逼真視頻，在一次遠(yuǎn)程會(huì)議中成功騙取財(cái)務(wù)人員信任，最終導(dǎo)致上千萬(wàn)港元的資金損失。此案中，視頻不僅高度還原了高管的外貌與語(yǔ)音，還模擬了會(huì)議中的互動(dòng)細(xì)節(jié)，讓受害者在群體壓力和情境真實(shí)性的雙重影響下放松警惕。

事實(shí)上，我國(guó)監(jiān)管部門早已注意到這一風(fēng)險(xiǎn)。2022 年 12 月，《深度合成服務(wù)管理規(guī)定》正式施行，明確要求深度合成服務(wù)提供者采取顯著標(biāo)識(shí)等措施，防止技術(shù)被用于制作、發(fā)布違法信息。這不僅體現(xiàn)了國(guó)家對(duì)深度偽造的監(jiān)管決心，也為企業(yè)在技術(shù)應(yīng)用中合規(guī)防護(hù)提供了制度保障。

從品牌信任到經(jīng)濟(jì)安全的全面沖擊

深度偽造的危害遠(yuǎn)不止于單一詐騙事件。Check Point 報(bào)告指出，結(jié)合生成式 AI 的深度偽造正推動(dòng)釣魚攻擊、商業(yè)郵件詐騙（BEC）和高管冒充進(jìn)入成熟落地階段。AI 生成的郵件在語(yǔ)法、格式、措辭上與真實(shí)企業(yè)通信幾乎無(wú)異，且可以根據(jù)受害者背景實(shí)現(xiàn)高度個(gè)性化。在 2024 年，全球 67.4% 的釣魚事件已涉及 AI 技術(shù)，金融行業(yè)是受攻擊最頻繁的領(lǐng)域之一。

更令人擔(dān)憂的是，深度偽造與大規(guī)模數(shù)據(jù)分析的結(jié)合，讓網(wǎng)絡(luò)犯罪分子能夠快速收集、解析社交媒體、公共記錄以及泄露數(shù)據(jù)庫(kù)中的信息，進(jìn)而預(yù)測(cè)受害者行為、優(yōu)化攻擊時(shí)機(jī)。例如，攻擊者可以分析某公司 CEO 的發(fā)言習(xí)慣，在最可能取得信任的時(shí)間點(diǎn)發(fā)送帶有其“語(yǔ)氣”的郵件，大幅提升欺騙成功率。

AI 對(duì)抗 AI 勢(shì)在必行

Check Point 在報(bào)告中揭示：依賴直覺(jué)或肉眼甄別真?zhèn)蔚臅r(shí)代已經(jīng)過(guò)去。在實(shí)時(shí)換臉、語(yǔ)音克隆和視頻合成技術(shù)的加持下，真假邊界正在快速消失。無(wú)論是求職面試騙局、假冒高管的遠(yuǎn)程會(huì)議，還是多語(yǔ)言、多平臺(tái)同步的實(shí)時(shí)詐騙，都是現(xiàn)實(shí)中正在發(fā)生的威脅。

針對(duì)這一趨勢(shì)，Check Point 公司中國(guó)區(qū)技術(shù)總監(jiān)王躍霖指出：“AI 已逐漸發(fā)展為一種成熟的生產(chǎn)工具，既可被攻擊者利用，也可被防御者應(yīng)用。隨著攻擊與防御的速度和規(guī)模迅速提升，僅靠傳統(tǒng)依賴人力的防御策略已難以為繼，必須以‘AI 對(duì)抗 AI’的理念構(gòu)建更智能、更主動(dòng)的防御體系，方可應(yīng)對(duì)當(dāng)下新興威脅帶來(lái)的挑戰(zhàn)。對(duì)于深度偽造對(duì)企業(yè)用戶帶來(lái)的威脅，防御重點(diǎn)必須放在員工身上，最核心的要素是‘流程管理’與‘安全培訓(xùn)’。內(nèi)部溝通流程必須具備足夠的韌性，確保員工在處理敏感業(yè)務(wù)時(shí)始終遵循正確規(guī)范。同時(shí)應(yīng)對(duì)員工加強(qiáng)安全意識(shí)培訓(xùn)，凡是涉及財(cái)務(wù)交易或業(yè)務(wù)指令的溝通，都必須進(jìn)行驗(yàn)證，甚至多步驟認(rèn)證”。

《Check Point AI 安全報(bào)告 2025》顯示，隨著技術(shù)的快速進(jìn)化，深度偽造的欺騙能力、規(guī)模化能力和實(shí)時(shí)適應(yīng)能力正推動(dòng)網(wǎng)絡(luò)威脅格局發(fā)生根本性變化。唯有將監(jiān)管要求、企業(yè)防護(hù)實(shí)踐與全球領(lǐng)先的技術(shù)方案相結(jié)合，才能在這場(chǎng)新興的 AI 安全博弈中掌握主動(dòng)權(quán)。