你可能已經(jīng)聽說過利用AI技術(shù)克隆熟人語音的詐騙電話。通常，這些攻擊會偽造聽起來像是你認(rèn)識多年的孫輩、CEO或同事的聲音，聲稱遇到緊急情況需要立即行動，要求匯款、透露登錄憑據(jù)或訪問惡意網(wǎng)站。

研究人員和政府官員多年來一直在警告這種威脅。網(wǎng)絡(luò)安全和基礎(chǔ)設(shè)施安全局在2023年表示，來自深度偽造和其他合成媒體形式的威脅已經(jīng)"呈指數(shù)級增長"。去年，谷歌Mandiant安全部門報告稱，此類攻擊正在以"不可思議的精確度"執(zhí)行，創(chuàng)造出更加逼真的釣魚計劃。

深度偽造詐騙電話的基本步驟包括：

首先，收集將被模仿者的語音樣本。短至3秒的樣本有時就足夠了，這些樣本可以來自視頻、在線會議或之前的語音通話。

然后將樣本輸入基于AI的語音合成引擎，如谷歌的Tacotron 2、微軟的Vall-E，或來自ElevenLabs和Resemble AI的服務(wù)。這些引擎允許攻擊者使用文字轉(zhuǎn)語音界面，用被模仿者的語調(diào)和對話習(xí)慣產(chǎn)生用戶選擇的詞語。

可選步驟是偽造被模仿的個人或組織的電話號碼，這種技術(shù)已經(jīng)使用了幾十年。

接下來，攻擊者發(fā)起詐騙電話。在某些情況下，克隆的語音會遵循腳本。在其他更復(fù)雜的攻擊中，虛假語音是實(shí)時生成的，使用語音掩蔽或轉(zhuǎn)換軟件。實(shí)時攻擊可能更具說服力，因?yàn)樗鼈冊试S攻擊者回應(yīng)懷疑接收者可能提出的問題。

Group-IB表示："盡管開源項目和商業(yè)API已經(jīng)展示了實(shí)時模仿技術(shù)，但實(shí)時深度偽造語音詐騙在現(xiàn)實(shí)中仍然有限。然而，考慮到處理速度和模型效率的持續(xù)進(jìn)步，預(yù)計實(shí)時使用在不久的將來會變得更加常見。"

無論哪種情況，攻擊者都會使用虛假語音為需要接收者立即采取行動制造借口。敘述可能模擬孫女入獄急需保釋金、CEO指示應(yīng)付賬款部門某人匯款支付逾期費(fèi)用，或IT人員指示員工在所謂的數(shù)據(jù)泄露后重置密碼。

最后收集現(xiàn)金、被盜憑據(jù)或其他資產(chǎn)。通常，一旦采取行動，就無法逆轉(zhuǎn)。

Mandiant的案例顯示，其安全團(tuán)隊成員在模擬紅隊演習(xí)中執(zhí)行此類詐騙的相對容易程度。紅隊成員收集了目標(biāo)組織內(nèi)某位管理者的公開語音樣本，然后使用公開信息識別最可能在該被偽造者手下工作的員工并致電他們。為了讓通話更有說服力，他們利用VPN服務(wù)的真實(shí)故障作為員工立即采取行動的借口。

"由于對電話中語音的信任，受害者繞過了Microsoft Edge和Windows Defender SmartScreen的安全提示，在不知情的情況下將預(yù)先準(zhǔn)備的惡意載荷下載并執(zhí)行到他們的工作站上，"Mandiant說。"載荷的成功引爆標(biāo)志著演習(xí)的完成，展示了AI語音欺騙促進(jìn)組織入侵的驚人容易程度。"

防止此類詐騙成功的預(yù)防措施可以很簡單，比如雙方約定一個隨機(jī)選擇的詞語或短語，呼叫者必須在接收者遵從請求之前提供。接收者也可以結(jié)束通話，用已知屬于呼叫者的號碼回?fù)?。但最好是遵循這兩個步驟。

這兩種預(yù)防措施都要求接收者保持冷靜和警覺，盡管如果偽造的場景是真實(shí)的，會產(chǎn)生合理的緊迫感。當(dāng)接收者疲勞、過度勞累或其他狀態(tài)不佳時，這可能更加困難。因此，無論是否啟用AI技術(shù)，所謂的語音釣魚攻擊在短期內(nèi)都不太可能消失。

Q&A

Q1：AI語音深度偽造詐騙需要多長的語音樣本?

A：根據(jù)安全公司Group-IB的研究，進(jìn)行AI語音深度偽造詐騙時，短至3秒的語音樣本有時就足夠了。這些樣本可以來自視頻、在線會議或之前的語音通話，然后被輸入到AI語音合成引擎中進(jìn)行克隆。

Q2：如何防范AI語音深度偽造詐騙電話?

A：防范措施包括：雙方事先約定隨機(jī)選擇的詞語或短語，呼叫者必須提供這個暗號;接收者可以結(jié)束通話后用已知的真實(shí)號碼回?fù)艽_認(rèn);最好同時采用這兩種方法。關(guān)鍵是要保持冷靜警覺，不被緊急情況的假象迷惑。

Q3：實(shí)時AI語音偽造技術(shù)目前普及程度如何?

A：根據(jù)Group-IB的報告，盡管開源項目和商業(yè)API已經(jīng)展示了實(shí)時語音模仿技術(shù)，但實(shí)時深度偽造語音詐騙在現(xiàn)實(shí)中仍然有限。不過，隨著處理速度和模型效率的持續(xù)進(jìn)步，預(yù)計實(shí)時使用在不久的將來會變得更加常見。