首頁 >國內(nèi) >

AI換臉冒充好友詐騙430萬,聽聽網(wǎng)絡(luò)安全專家們怎么說? 世界速讀

5月20日,“平安包頭”發(fā)布微信公眾號文章,稱5月8日,包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局發(fā)布一起使用智能AI技術(shù)進行電信詐騙的案件,警銀聯(lián)動成功緊急止付涉嫌電信詐騙資金330多萬元。

事情起始于4月20日11時40分左右,福州市某科技公司法人代表郭先生的好友突然通過微信視頻聯(lián)系到他,兩人經(jīng)過短暫聊天后,好友告訴郭先生,自己的朋友在外地投標(biāo),需要430萬元保證金,且需要公對公賬戶過賬,所以想要借用郭先生公司的賬戶走一下賬。


(資料圖)

好友向郭先生要了銀行卡號,聲稱已經(jīng)把錢打到郭先生的賬戶上,還將銀行轉(zhuǎn)賬底單的截圖通過微信發(fā)給了郭先生?;谝曨l聊天信任的前提下,郭先生沒有核實錢是否到賬,于11時49分先后分兩筆把430萬元給對方打了過去。錢款轉(zhuǎn)賬后,郭先生給好友微信發(fā)了一條消息,稱事情已經(jīng)辦妥。但讓他沒想到的是,好友回過來的消息竟然是一個問號。

郭先生撥打好友電話,對方說沒有這回事,他這才意識到竟然遇上了“高端”騙局,對方通過智能AI換臉技術(shù),佯裝成好友對他實施了詐騙。

如果是微信好友賬號直接進行AI換臉換聲音,的確容易讓人提前產(chǎn)生“好友信任度”。

第一財經(jīng)記者據(jù)此聯(lián)系微信方面與包頭市公安局,截至發(fā)稿,微信方面暫未提供技術(shù)方面的具體回應(yīng),包頭市公安局宣傳科方面表示會與辦案民警進行信息再確認,截至發(fā)稿,暫未進行信息更新。不過據(jù)第一財經(jīng)記者多方了解,此次聯(lián)系郭先生、發(fā)起視頻聊天的微信號碼,系郭先生此次新添加好友的微信賬號。

那么,微信視頻通話能夠輕易被“換臉”嗎?

多位網(wǎng)絡(luò)安全專家對微信視頻中實時換臉換聲的可行性展開了專業(yè)探討。一位網(wǎng)絡(luò)安全方面人士對記者表示,如果要進行不易被識別的、專業(yè)級別的AI換臉換聲,需要在實驗室環(huán)境條件進行,后者為其提供較強的計算機性能支撐,如果單憑手機性能,僅能提供P圖級別的換臉,極易被識別。

對于該事件,奇安信安全專家裴智勇對第一財經(jīng)記者表示,首先,所謂微信賬號“新號”“舊號”本身更多是一種主觀感覺,騙子冒充朋友小號,聊上個把月再實施詐騙,受害者也會主觀上認為這是一個老號。其次,該詐騙案仍有許多細節(jié)尚未披露,僅僅通過一次短暫而逼真的AI視頻聊天,就能騙走幾百萬,不太現(xiàn)實,中間一定還有很多復(fù)雜的過程。不應(yīng)將原本復(fù)雜的詐騙過程簡單化、標(biāo)簽化。

另外,裴智勇還對記者表示,以現(xiàn)有的技術(shù)發(fā)展來看,雖然完成相關(guān)詐騙過程不是完全沒有可能,但成本太高,所以在現(xiàn)實中被使用的概率也很低。

具體實施技術(shù)難度方面,裴智勇舉例稱,如在視頻聊天過程中,要讓受害者看到AI合成的視頻而不是攝像頭直接捕獲的視頻,就必須利用安全漏洞劫持攝像頭傳輸假視頻,技術(shù)難度極高。若真是這么高級的漏洞,一般不會被用在普通人身上,因為一旦詐騙失敗,漏洞暴露,漏洞也就作廢了。騙子一般不會冒這個險。

再比如,盡管在視頻中進行人臉替換,已經(jīng)是非常成熟的技術(shù)。但想要在實時對話交流過程中,進行實時的人臉替換、表情捕捉、語音變聲,還能以假亂真,這個技術(shù)水平已經(jīng)超過絕大多數(shù)的高科技公司了?,F(xiàn)實情況更有可能是騙子首先利用花言巧語騙受害者忽略細節(jié),之后再發(fā)送合成視頻實施詐騙。

綜合來說,裴智勇認為,攻擊者要同時具備盜取好友的微信賬號、利用漏洞劫持攝像頭篡改視頻數(shù)據(jù)、實時變臉與實時變聲且天衣服縫的技術(shù)能力,至少是難度極大、成本極高。很多高科技公司在實驗室里也未必能完美完成這些挑戰(zhàn)。所以,相關(guān)事件的文字描述,在細節(jié)上很可能和真實情況有一定的差異。

此外,裴智勇認為對于騙子來說,還有一項巨大的挑戰(zhàn),就是騙子必須對受害者和其朋友的外貌、聲音、行為習(xí)慣,思維方式,相互關(guān)系、業(yè)務(wù)往來等都做到非常熟悉,否則就極易穿幫。所以,騙子一定是經(jīng)過了長期的潛伏和精心的策劃,也不能排除熟人作案的可能。

有關(guān)真相還需警方的進一步披露,但該事件仍為民眾敲響警鐘。奇安信安全專家田平對第一財經(jīng)記者表示,AI詐騙是傳統(tǒng)的詐騙手法利用了新技術(shù)的一種混合詐騙方式,從詐騙劇本來說還是傳統(tǒng)的冒充熟人、冒充領(lǐng)導(dǎo)等手段,但是其中的面部仿真、聲紋仿真使得被害人放松警惕,更容易被騙。

從預(yù)防角度來說,田平提醒民眾需要確保如下三點:第一,不要點擊任何不熟悉人員發(fā)來的任何未知網(wǎng)址,下載不明來路的APP,規(guī)避掉中木馬的風(fēng)險來保證個人信息機密以及手機等設(shè)備的安全受控;第二,個人信息會通過多重渠道造成泄露,所以在涉及資金轉(zhuǎn)賬等高風(fēng)險行為時,需要主動多方式去確認對方身份,例如通過電話回撥,溝通中詢問近期見面時間地點等內(nèi)容;第三,社會各界也應(yīng)當(dāng)積極遵從2022年底實施的《反詐法》各條例,對聊天工具、轉(zhuǎn)賬雙方的身份加以強管理和確認,對于高風(fēng)險行為采取審慎允許的態(tài)度防止詐騙行為的發(fā)生。

關(guān)鍵詞:

責(zé)任編輯:Rex_24

推薦閱讀