自4月23日開始，中央網(wǎng)信辦在全國范圍內(nèi)開展為期兩個(gè)月的“清朗·整治‘自媒體’無底線博流量”專項(xiàng)行動(dòng)。重點(diǎn)整治“自媒體”造熱點(diǎn)蹭熱點(diǎn)，制造以假亂真、虛實(shí)混雜的“信息陷阱”等突出問題。近日，西安警方就破獲了一起網(wǎng)絡(luò)謠言案。
（圖源：央視新聞）
2023年12月21日，某短視頻平臺(tái)上，一條短視頻引發(fā)了很多西安市民的關(guān)注。視頻里，流經(jīng)當(dāng)?shù)氐囊粭l河流潭峪河上，冒出一陣陣白色的熱氣。有市民擔(dān)心是不是市政的熱水管道出現(xiàn)了泄漏。
當(dāng)?shù)囟鄠€(gè)部門很快介入調(diào)查，原是一條熱力管道在河道上，冬天的時(shí)候管道過熱，在河面上產(chǎn)生了水蒸氣，管道沒有破裂，也沒有出現(xiàn)熱水外泄的情況。
當(dāng)?shù)毓俜胶芸毂倭酥{。然而令人奇怪的是，此后網(wǎng)絡(luò)平臺(tái)上仍然有一些自媒體賬號(hào)在不斷散播西安市鄠邑區(qū)管道破裂的消息，而且帖文里還言之鑿鑿相關(guān)部門正在對(duì)事故原因展開深入調(diào)查。
警方調(diào)查發(fā)現(xiàn)，有的帖文配圖，是2011年5月商丘網(wǎng)當(dāng)時(shí)發(fā)布的管道破裂的一張圖片。
（圖源：央視新聞）
然而，就是這樣一個(gè)拼湊的不實(shí)帖文，在很多自媒體賬號(hào)上被大量轉(zhuǎn)發(fā)，并引起了很多網(wǎng)友的恐慌。一些很多同質(zhì)不同類型的不同描述的一些帖文，總閱讀量已經(jīng)達(dá)到20多萬了。
雷同的謠言背后竟是AI“洗稿”
官方辟謠后謠言還在大肆傳播，到底是怎么回事？原來，在這些散布不實(shí)消息的自媒體賬號(hào)背后，竟然隱藏一條依靠AI人工智能洗稿并且未經(jīng)審核、肆意發(fā)布的黑色產(chǎn)業(yè)鏈。
根據(jù)警方的調(diào)查，最早發(fā)布不實(shí)消息的，有一個(gè)名叫“可愛的牛牛往上沖”的自媒體賬號(hào)。而這個(gè)賬號(hào)的實(shí)際操作人，是四川綿陽的王某。于是，辦案民警趕到綿陽，對(duì)王某進(jìn)行了傳喚。
警方調(diào)查發(fā)現(xiàn)，王某加入了一個(gè)微信群。微信群里面像王某這種類型的群眾還比較多。他們微信群的群主，每天定時(shí)會(huì)推送一些文章到群成員自媒體賬號(hào)的草稿箱里面。
（圖源：央視新聞）
據(jù)王某交代，微信群里的成員收到這些文章后，還需要在草稿箱里點(diǎn)擊發(fā)送，這樣就可以把文章發(fā)布到各自的自媒體賬號(hào)上，而發(fā)布者會(huì)根據(jù)閱讀量和轉(zhuǎn)發(fā)量來獲取收益。用戶獲取收益之后，會(huì)把一半的收益分給群主，也就是供稿人。
警方很快查明，王某所在的微信群群主是柳某，而據(jù)柳某交代，跟他一起發(fā)布文章的還有他的同學(xué)唐某，而且他們發(fā)布的文章也都不是自己寫的，而是來自一款叫“翠綠筆墨”的寫稿軟件。
每天生成19萬篇文章牟利分成
上述涉案的“翠綠筆墨”軟件，一天就能生成19萬篇文章，7天能達(dá)到上百萬篇。它是如何運(yùn)作的？又是怎么流向網(wǎng)絡(luò)的呢？
（圖源：央視新聞）
據(jù)警方了解，這款名為“翠綠筆墨”的軟件，是一個(gè)名叫黃某的男子開發(fā)的。用戶需要從一家專門售賣新聞稿件的網(wǎng)絡(luò)平臺(tái)上，購買大量的真實(shí)新聞稿件，形成稿池。接下來，注冊(cè)用戶就可以根據(jù)各自的需求，自動(dòng)生成一篇篇的文稿。
張羽林介紹，這個(gè)軟件生成文章的特點(diǎn)就是它會(huì)從大量的從平臺(tái)購買的社會(huì)熱點(diǎn)新聞里，根據(jù)用戶的需求抓取熱點(diǎn)比較高的文章，然后用AI軟件把這些文章進(jìn)行拼湊、前后段落顛倒、同義詞替換，產(chǎn)生一篇同質(zhì)的反映同一件事情的不同類型的文章。為規(guī)避監(jiān)管，不引發(fā)風(fēng)險(xiǎn)，這款軟件在抓取社會(huì)熱點(diǎn)文章時(shí)，還專門設(shè)計(jì)了關(guān)鍵詞篩選的功能，會(huì)規(guī)避一些涉政、涉案件、涉暴恐的文章。
民警介紹，從2023年10月黃某開發(fā)“翠綠筆墨”軟件之后，在三個(gè)月時(shí)間內(nèi)，獲利24000多元。雖然他個(gè)人獲利不多，但這款軟件每天產(chǎn)生的文章大概在19萬篇左右，他們提取了7天這個(gè)軟件里面保存的文章，大概在100多萬（篇），涉及時(shí)事新聞、社會(huì)熱點(diǎn)、社會(huì)生活方面。使用該軟件的169個(gè)用戶，將這些拼湊的文章發(fā)布到6000多個(gè)自媒體賬號(hào)上。
（圖源：央視新聞）
新型謠言 “有視頻也未必有真相”
“有視頻也未必有真相”。早在去年6月2日，浙江就破獲了首例利用AI炮制虛假信息的案件。
這則“紹興上虞工業(yè)園區(qū)發(fā)生重大火災(zāi)”的視頻就是通過AI技術(shù)深度合成，看上去煞有其事的播報(bào)事件，實(shí)際上子虛烏有，視頻實(shí)為網(wǎng)上其他火災(zāi)畫面剪輯拼接而成。
去年5月中旬以來，該團(tuán)伙為吸粉引流、牟取利益，利用AI合成技術(shù)自動(dòng)生成虛假視頻，通過平臺(tái)返利形式非法獲利4萬余元。截至案發(fā)，已經(jīng)編造虛假視頻1.8萬余個(gè)，有20個(gè)視頻造成惡劣影響。
通過AI合成技術(shù)，不法分子大大降低了虛假視頻的制作門檻，有的僅需1分鐘就可以制作完成；而當(dāng)這種技術(shù)應(yīng)用在虛假文章生產(chǎn)上，則成了違法違規(guī)的重災(zāi)區(qū)。
（圖源：央視新聞）
去年6月，一則“綿陽大學(xué)生涉嫌賣淫800多次，賺120余萬元，警方成功抓獲”的配圖文章引發(fā)網(wǎng)民圍觀，后經(jīng)警方證實(shí)，為AI軟件自動(dòng)生成虛假文章。
今年3月，山東警方破獲一起特大造謠引流網(wǎng)絡(luò)水軍案，某傳媒公司利用群控軟件和人工智能技術(shù)，大肆爬取境內(nèi)外短視頻內(nèi)容，篡改編造敏感社會(huì)事件，在網(wǎng)絡(luò)平臺(tái)發(fā)布虛假信息，通過其運(yùn)營的自媒體賬號(hào)達(dá)4萬多個(gè)，虛假帖文信息80多萬篇。
近日，公安部網(wǎng)安局還公布了一批涉謠言典型案例，其中一起由安徽合肥警方破獲的案件引發(fā)關(guān)注。
今年1月25日，安徽合肥市新站區(qū)佳海工業(yè)園一棟倉庫發(fā)生火災(zāi)。合肥消防當(dāng)天發(fā)布火警通報(bào)：本次火災(zāi)過火面積約470平方米，無人員傷亡，火災(zāi)原因正在調(diào)查中。
但當(dāng)天，在某網(wǎng)絡(luò)平臺(tái)上出現(xiàn)一則關(guān)于這起火災(zāi)的消息，其中“巨大人員傷亡”的描述令網(wǎng)友們十分揪心。
合肥警方調(diào)查發(fā)現(xiàn)，發(fā)布這則網(wǎng)絡(luò)謠言的博主網(wǎng)名叫“會(huì)飛的魚”，所在地為四川省成都市，而且帖子中出現(xiàn)的地區(qū)并非火災(zāi)的實(shí)際發(fā)生地。
原來，“會(huì)飛的魚”看到合肥的這起火災(zāi)報(bào)道，于是截取了相關(guān)媒體的報(bào)道圖片，并復(fù)制了報(bào)道中的部分文字，然后把這些內(nèi)容放到AI軟件中生成文章，通過自己的賬號(hào)發(fā)布在網(wǎng)絡(luò)平臺(tái)。
（圖源：央視新聞）
警方發(fā)現(xiàn)，林某某在發(fā)帖時(shí)還故意使用了一些極其夸張的詞語描述。為了突顯火災(zāi)的嚴(yán)重程度，他在帖文中寫道：“此次火災(zāi)中，許多人失去了家園和工作，造成了巨大的人員傷亡和財(cái)產(chǎn)損失?！彼€配了幾張濃煙滾滾的火災(zāi)現(xiàn)場(chǎng)圖片，并用標(biāo)紅字體寫到“是否有傷亡，情況不明”。而林某某這么做的本意是想把發(fā)帖當(dāng)作副業(yè)，賺取稿費(fèi)。
據(jù)了解，上述利用AI造謠者，均受到了應(yīng)有的法律制裁。
來源 | 極目新聞綜合央視新聞、澎湃新聞、光明網(wǎng)、潮新聞、安徽警方
編審 | 鄭宗敏 姚詠祺（實(shí)習(xí)生）
用戶評(píng)論