隨著人工智能軟件普及，“AI換臉”“AI合成照片、視頻”等技術(shù)越來(lái)越多地出現(xiàn)在網(wǎng)絡(luò)里，“AI”造假花樣越來(lái)越多，一些不法分子將新技術(shù)用于非法的目的，讓犯罪手段又有了新方式。
“一鍵去衣”！
在北京警方偵破的一起案件中，警方接到報(bào)案，有人在境外的網(wǎng)站上發(fā)廣告，只需一張日常生活照片，就可以完成一鍵“去衣”的效果。
一名被警方抓獲的犯罪嫌疑人白某某原本是一家互聯(lián)網(wǎng)公司的技術(shù)員，他因?yàn)槭褂肁I去衣技術(shù)，制作、販賣(mài)淫穢物品而涉嫌犯罪。
北京市海淀區(qū)人民檢察院檢察官助理 郭樹(shù)正：白某某用的這款人工智能軟件，能很快對(duì)被害人的圖片“一鍵去衣”，基本上幾秒鐘、幾分鐘就能批量生成相應(yīng)的圖片。
警方在白某某家的電腦里，查獲了大量的涉案照片，都是經(jīng)過(guò)“一鍵去衣”技術(shù)處理的。
郭樹(shù)正：他在QQ上向351個(gè)人販賣(mài)過(guò)相關(guān)圖片，圖片數(shù)量將近7000張。
隨后，白某某因涉嫌制作、販賣(mài)淫穢物品牟利罪被公訴至法院。今年4月19日，北京市海淀區(qū)人民法院對(duì)這起案件進(jìn)行了開(kāi)庭審理。
公訴人：其對(duì)含有人臉信息的眾多不特定女性照片進(jìn)行侮辱性編輯并出售，圖片數(shù)量多，涉及人數(shù)多，社會(huì)公眾利益受到嚴(yán)重?fù)p害。
那么，這些經(jīng)過(guò)去衣的照片的受害者都是什么人？白某某為什么要制作這些照片呢？他又是如何進(jìn)行牟利的呢？
2023年6月，家住北京的白某某在境外的社交媒體上接觸到了這項(xiàng)“一鍵去衣”的技術(shù)，于是他動(dòng)起了歪心思，打算利用這項(xiàng)技術(shù)來(lái)賺錢(qián)。
北京市海淀區(qū)人民檢察院檢察官 李鵬：他在境外的社交媒體上發(fā)布了廣告，內(nèi)容就是“去衣”，1.5元一張。
這就是白某某發(fā)布的廣告帖，上面寫(xiě)著“電腦AI去衣，白菜價(jià)”“身邊人、網(wǎng)紅、明星皆可”。他的廣告發(fā)布后，有不少人聯(lián)系白某某，給他發(fā)送照片并購(gòu)買(mǎi)這項(xiàng)“去衣”服務(wù)。
郭樹(shù)正：一張圖片他賣(mài)1.5元，能迅速滿足相關(guān)人的需求。這個(gè)時(shí)候就有很多人去瀏覽白某某在境外社交網(wǎng)站上發(fā)布的帖子，經(jīng)過(guò)我們統(tǒng)計(jì)，瀏覽他發(fā)布廣告的人有3萬(wàn)人左右。
那么，“AI去衣”究竟是怎樣的一種技術(shù)呢？據(jù)白某某供述，這項(xiàng)技術(shù)并不是真的“去衣”，而是一種偽造、重繪的技術(shù)。
郭樹(shù)正：其實(shí)我們可以把它理解為深度的圖片偽造，它并不是真的去掉別人照片上的衣服，其實(shí)都是針對(duì)已有的模型和已有的模組進(jìn)行圖片重繪。
而且，這項(xiàng)技術(shù)操作起來(lái)十分簡(jiǎn)單，去衣只需要一鍵就能完成，因此白某某定價(jià)不高，一張照片只需要1.5元，卻可以利用低價(jià)吸引更多的訂單。
短短幾個(gè)月的時(shí)間，白某某就制作了幾千張去衣的圖片，賺了將近一萬(wàn)元錢(qián)。然而，他卻沒(méi)有意識(shí)到這一行為可能產(chǎn)生的嚴(yán)重后果。
郭樹(shù)正：其中有讓白某某去學(xué)生、教師、女同事等衣服的圖片。根據(jù)我們調(diào)查，白某某在這個(gè)過(guò)程中，他其實(shí)是知道可能會(huì)有人拿這個(gè)圖片實(shí)施違法犯罪行為，比方說(shuō)敲詐勒索，或者繼續(xù)傳播對(duì)被害人的名譽(yù)造成一定的損失，或者實(shí)施一些其他更惡劣的犯罪行為。
檢察官介紹，白某某使用的實(shí)際上是一個(gè)正規(guī)的AI繪圖軟件，而“去衣”只是其中的一個(gè)功能模塊。白某某自以為發(fā)現(xiàn)了其中的商機(jī)，實(shí)際上卻把自己送到了法庭里被告人的位置上。
公訴人：經(jīng)依法審查查明，2023年6月至8月，被告人白某某在本市海淀區(qū)等地發(fā)布AI虛擬廣告，將他人提供的承載人臉信息的特定多數(shù)女性圖片，通過(guò)深度制造技術(shù)AI軟件制作成裸體圖片販賣(mài)牟利，同時(shí)出售AI去衣軟件及使用教程牟利。
涉嫌制作販賣(mài)淫穢物品牟利罪被提起公訴
檢察機(jī)關(guān)認(rèn)為，被告人白某某以牟利為目的，制作、販賣(mài)淫穢物品，情節(jié)嚴(yán)重，其行為觸犯了《中華人民共和國(guó)刑法》的相關(guān)規(guī)定，應(yīng)當(dāng)以制作、販賣(mài)淫穢物品牟利罪追究其刑事責(zé)任。
郭樹(shù)正：非法進(jìn)行加工和利用，加工利用之后又通過(guò)各種非法途徑傳播，導(dǎo)致本來(lái)是為我們服務(wù)，為科技進(jìn)步發(fā)展提供幫助的一項(xiàng)技術(shù)，變成了犯罪的工具。
侵犯不特定女性名譽(yù) 破壞網(wǎng)絡(luò)環(huán)境
檢察機(jī)關(guān)認(rèn)為，白某某利用AI技術(shù)犯罪的行為不僅侵犯了無(wú)數(shù)無(wú)辜者的隱私與名譽(yù)，還破壞了網(wǎng)絡(luò)環(huán)境的純凈，與科技向善的精神相背離。而利用新技術(shù)犯罪，也將受到司法機(jī)關(guān)的嚴(yán)厲打擊。
公訴人：人工智能技術(shù)興起之后，已經(jīng)成為當(dāng)今科技領(lǐng)域備受矚目的技術(shù)之一，正在深刻改變我們社會(huì)、經(jīng)濟(jì)以及生活方式，為社會(huì)帶來(lái)更多的便利。同時(shí)我們也打擊治理運(yùn)用AI技術(shù)實(shí)施犯罪，任何利用新技術(shù)實(shí)施犯罪的行為必將受到嚴(yán)懲。
“換臉”偽造不雅照
實(shí)施敲詐勒索
一鍵去衣、AI換臉技術(shù)，還會(huì)被不法分子利用，成為敲詐勒索的工具。近期，這類(lèi)案件又有抬頭趨勢(shì)。前不久，深圳警方打掉一個(gè)團(tuán)伙，這個(gè)團(tuán)伙從網(wǎng)上等各種渠道收集被害人圖片信息，然后進(jìn)行合成處理，用來(lái)敲詐勒索。
前不久，深圳市民吳先生突然收到一個(gè)陌生手機(jī)號(hào)碼發(fā)來(lái)的彩信，點(diǎn)開(kāi)一看竟然是他和一名陌生女子在酒店房間內(nèi)的不雅照片。
當(dāng)事人 吳先生：當(dāng)時(shí)我收到一條彩信，里面是我的一張裸照，他當(dāng)時(shí)威脅我，在幾點(diǎn)之前要跟他聯(lián)系給他轉(zhuǎn)錢(qián)，我當(dāng)時(shí)一想不對(duì)勁，就報(bào)警了。
深圳警方接到報(bào)案后，立即對(duì)吳先生提供的線索進(jìn)行偵查。通過(guò)梳理報(bào)案記錄，警方發(fā)現(xiàn)全市有同樣遭遇的不止吳先生一人，犯罪嫌疑人的敲詐勒索方式都如出一轍。
當(dāng)事人 鄧先生：內(nèi)容就是有我的照片，我旁邊還有女的，還寫(xiě)我的名字。我還問(wèn)我的同事，我同事說(shuō)這肯定是別人復(fù)制上去的。
于是警方立即對(duì)相似的案件進(jìn)行串并處理。調(diào)查后，一個(gè)通過(guò)換臉技術(shù)合成不雅照，實(shí)施敲詐勒索的犯罪團(tuán)伙逐漸浮出水面。
深圳市公安局坪山分局民警 張威：經(jīng)調(diào)查，這個(gè)團(tuán)伙流竄作案，以“已掌握你在外面找小姐”“艷照將公之于眾”等方式進(jìn)行威脅，進(jìn)而逼迫受害人“破財(cái)消災(zāi)”，從而達(dá)到敲詐勒索的目的。
團(tuán)伙分工明確：有人修圖、有人尋作案目標(biāo)
隨著偵查工作的深入，警方發(fā)現(xiàn)這是一個(gè)以王某為首的犯罪團(tuán)伙，團(tuán)伙內(nèi)分工明確，有人負(fù)責(zé)修圖，有人負(fù)責(zé)尋找作案目標(biāo)，有人負(fù)責(zé)發(fā)短信打電話聯(lián)系收款。深圳坪山警方兵分多路，展開(kāi)統(tǒng)一收網(wǎng)行動(dòng)，在多地警方協(xié)助下成功抓獲以王某為首的十多名犯罪嫌疑人。
在犯罪嫌疑人的電腦里，警方發(fā)現(xiàn)了大量經(jīng)過(guò)合成換臉后的不雅照片。
張威：從嫌疑人電腦里面提取的相關(guān)證據(jù)，這些圖片是嫌疑人從網(wǎng)上等各種渠道收集的被害人圖片信息，然后進(jìn)行合成處理，用來(lái)敲詐被害人。
目前，王某等人已被檢察機(jī)關(guān)提起公訴。案件正在進(jìn)一步審理當(dāng)中。
深圳市公安局刑警支隊(duì)民警 程儒：如果遇到這種以換臉的方式實(shí)施敲詐勒索的行為，請(qǐng)及時(shí)報(bào)警。我們公安機(jī)關(guān)會(huì)依法嚴(yán)厲打擊這種違法犯罪，在案件辦理過(guò)程當(dāng)中嚴(yán)格保護(hù)當(dāng)事人的個(gè)人隱私。
以合成照威脅受害人
并準(zhǔn)確說(shuō)出個(gè)人信息
在山東威海，也有當(dāng)事人遭遇到騙局，在收到偽造的不雅照后，沒(méi)有多加核實(shí)，就向敲詐團(tuán)伙轉(zhuǎn)賬20萬(wàn)元。
前不久，威海警方接到了反詐中心的一條資金預(yù)警信息，有市民正在向涉詐賬戶進(jìn)行轉(zhuǎn)賬，民警立即與當(dāng)事人取得聯(lián)系，核實(shí)情況。
威海市公安局經(jīng)濟(jì)技術(shù)開(kāi)發(fā)區(qū)分局皇冠派出所民警 劉羿：我們看到他的手機(jī)收到了一條短信，短信上的內(nèi)容大概就是一張圖片，上面有一男一女的裸照，還附了留言，說(shuō)“我有你全部的影像資料，趕緊跟我聯(lián)系”，并附上了一個(gè)電話。
王先生說(shuō)自己當(dāng)時(shí)看到這張照片，當(dāng)時(shí)就有點(diǎn)懵。沒(méi)有來(lái)得及多想，他撥打了信息上面的電話。由于對(duì)方準(zhǔn)確地說(shuō)出了自己的姓名以及工作單位，并且告訴王先生只要向他們轉(zhuǎn)賬68萬(wàn)元就可以買(mǎi)斷這些視頻，如果王先生不給錢(qián)就把視頻公開(kāi)。在對(duì)方的恐嚇下，王先生信以為真。
劉羿：王先生起初沒(méi)有那么多錢(qián)，所以他就說(shuō)我先給你10萬(wàn)元，對(duì)方同意后就給他發(fā)了一個(gè)指定的銀行賬戶，所以王先生就向賬戶內(nèi)轉(zhuǎn)了第一筆10萬(wàn)元。然后對(duì)方仍然給他打電話說(shuō)這個(gè)錢(qián)太少了，如果不想讓其他人知道，不想讓單位的同事知道，就必須再次轉(zhuǎn)賬。王先生通過(guò)多方籌集，又向指定的銀行賬戶轉(zhuǎn)了第二筆10萬(wàn)元。
先后轉(zhuǎn)賬20萬(wàn)元 但未能滿足對(duì)方胃口
然而，先后轉(zhuǎn)賬的20萬(wàn)元，根本滿足不了對(duì)方的胃口。正當(dāng)王先生驚慌失措時(shí)，民警聯(lián)系到了王先生。
劉羿：當(dāng)我們跟王先生一同看這張照片的時(shí)候，我們發(fā)現(xiàn)雖然臉部有相似的地方，但是他的臉型以及身形完全不是他本人。
之后，民警趕緊通過(guò)國(guó)家反詐大數(shù)據(jù)平臺(tái)對(duì)王先生轉(zhuǎn)賬的兩個(gè)銀行賬戶進(jìn)行緊急止付操作。
劉羿：平臺(tái)對(duì)我們止付的這兩個(gè)賬戶進(jìn)行反饋，反饋出賬戶的余額以及銀行卡的卡主身份等等情況。我們發(fā)現(xiàn)這兩個(gè)賬戶的余額已經(jīng)顯示為0，所以我們緊接著就對(duì)這兩個(gè)賬戶進(jìn)行分析研判。
警方緊急止付 經(jīng)過(guò)研判鎖定兩名嫌疑人
經(jīng)過(guò)研判分析，警方鎖定了犯罪嫌疑人鄭某和鐘某的身份信息。今年1月22日，威海警方趕赴浙江烏鎮(zhèn)將兩名犯罪嫌疑人抓獲歸案，為王先生挽回了損失。
警方介紹，在這些案件當(dāng)中，犯罪嫌疑人先是通過(guò)網(wǎng)絡(luò)等渠道，搜集被害人的視頻、照片以及相關(guān)信息。再通過(guò)AI換臉技術(shù)PS合成所謂的“不雅視頻”或“艷照”，然后通過(guò)短信、郵箱等渠道，精準(zhǔn)發(fā)送給選定的對(duì)象并留下聯(lián)系方式，最后以要舉報(bào)、散播、告知家屬等手段威脅選定的對(duì)象，要求被害人將錢(qián)匯到他們指定的銀行賬戶。
警方提示：遇到此類(lèi)情況要及時(shí)留存證據(jù)，撥打110報(bào)警。
用戶評(píng)論