近年來，隨著網(wǎng)絡(luò)技術(shù)的發(fā)展，金融詐騙手段快速翻新，迷惑性不斷增強(qiáng)，嚴(yán)重侵害公眾財(cái)產(chǎn)安全與合法權(quán)益?！癆I換臉擬聲”類金融詐騙，就是其中典型之一。
7月24日，金融監(jiān)管總局金融消費(fèi)者權(quán)益保護(hù)局發(fā)布了四類新型電信網(wǎng)絡(luò)詐騙，其中就包括了“AI換臉”“AI換聲”類金融詐騙。事實(shí)上，這已經(jīng)是金融監(jiān)管總局體系就此的第四次風(fēng)險(xiǎn)提示。
據(jù)金融監(jiān)管總局金融消費(fèi)者權(quán)益保護(hù)局介紹，“AI換臉擬聲”類金融詐騙，從手法上來看，多為不法分子以“網(wǎng)店客服”“營(yíng)銷推廣”“招聘兼職”“婚戀交友”等為借口，通過微信、電話等方式聯(lián)系消費(fèi)者，采集發(fā)音、語句或面部信息。利用“換臉”“擬聲”等技術(shù)合成消費(fèi)者虛假音頻、視頻或圖像，模擬他人聲音或形象騙取信任，再以借錢、投資、緊急救助等借口誘導(dǎo)其親友轉(zhuǎn)賬匯款，或提供銀行賬戶密碼等敏感信息，隨后立即轉(zhuǎn)移資金。
此外，不法分子還可能對(duì)明星、專家、執(zhí)法人員等音視頻進(jìn)行人工合成，假借其身份傳播虛假消息，從而實(shí)現(xiàn)詐騙目的。
據(jù)記者統(tǒng)計(jì)，截至目前，關(guān)于“AI換臉擬聲”類金融詐騙，除金融監(jiān)管總局金融消費(fèi)者權(quán)益保護(hù)局2024年7月24日的最新“發(fā)聲”外，廈門、北京與吉林等地金融監(jiān)管總局的派出機(jī)構(gòu)，均專門就此提示風(fēng)險(xiǎn)。
例如，2023年10月7日，北京金融監(jiān)管局通過一則題為“識(shí)破欺詐詭計(jì) 保護(hù)家庭財(cái)產(chǎn)”風(fēng)險(xiǎn)提示，明確向金融消費(fèi)者提出“視頻電話眼見、耳聽未必屬實(shí)”。
而據(jù)廈門金融監(jiān)管局2023年7月7日發(fā)布的風(fēng)險(xiǎn)提示顯示，伴隨著AI深度合成技術(shù)的成熟，AI深度合成產(chǎn)品和服務(wù)井噴式涌現(xiàn)，不少如“AI換臉”“AI換聲”等尚處監(jiān)管灰色地帶的產(chǎn)業(yè)野蠻生長(zhǎng)，為不法分子提供了可乘之機(jī)，成為網(wǎng)絡(luò)欺詐和身份盜竊等犯罪活動(dòng)的工具。這種利用AI技術(shù)融合他人面孔和聲音、制造逼真的合成圖像來實(shí)施的新型網(wǎng)絡(luò)詐騙，呈現(xiàn)手段愈發(fā)多樣、門檻大幅降低、辨別難度加大等特點(diǎn)，常令消費(fèi)者放松警惕，短時(shí)間內(nèi)造成較大損失。
對(duì)此，金融消費(fèi)者除應(yīng)對(duì)提供個(gè)人信息、提供短信驗(yàn)證碼等涉及重要決策或敏感信息的請(qǐng)求時(shí)，保持高度警惕外，廈門金融監(jiān)管局特別提示，AI擬聲、AI換臉包裝作偽后的通話，雖能逼真地模仿原始人物的語言和行為，但仍充滿破綻。例如，眨眼頻率過低、眼睛移動(dòng)不協(xié)調(diào)、面部表情不自然、唇形不匹配、語句不連貫等。
吉林金融監(jiān)管局在2023年10月13日的風(fēng)險(xiǎn)提示中還尤其關(guān)注到中老年人群體?！皩?duì)新興AI技術(shù)不了解不敏感的中老年人往往成為‘AI換臉’詐騙的潛在受害者，廣大消費(fèi)者在對(duì)身邊的這類人群加強(qiáng)常規(guī)反詐提示的同時(shí)，也要注意揭示不法分子的新手段”。該局表示。
除“AI換臉擬聲”類金融詐騙外，金融監(jiān)管總局在今日的風(fēng)險(xiǎn)提示中，還就“共享屏幕”類、虛假網(wǎng)絡(luò)投資理財(cái)類及網(wǎng)絡(luò)游戲產(chǎn)品虛假交易類新型金融詐騙做以充分說明，同時(shí)表示，金融消費(fèi)者如果發(fā)現(xiàn)陷入詐騙陷阱導(dǎo)致資金受損，或發(fā)現(xiàn)涉嫌違法犯罪線索，應(yīng)保存好聊天記錄、通話錄音、交易截屏等有關(guān)證據(jù)，及時(shí)向公安機(jī)關(guān)反映，切不可輕信網(wǎng)絡(luò)上自稱“網(wǎng)警”“黑客”等組織或人員，避免再次受騙。
用戶評(píng)論