據(jù)統(tǒng)計(jì)，全球約一半人口所在的國家或地區(qū)，將在明年迎來領(lǐng)導(dǎo)人選舉。其中，包括美國、印度、印尼、墨西哥等大國將在2024年迎來大選年。
在AI技術(shù)飛速發(fā)展的當(dāng)下，越來越多的政治家和科技界大佬表示，他們非常擔(dān)憂在AI技術(shù)加持下假消息愈發(fā)泛濫，而且“真假難辨”，會嚴(yán)重影響選舉的公平性。今年早些時候，在美國地方和聯(lián)邦層面選舉活動中都出現(xiàn)了AI生成的假消息干擾選民判斷。雖然“假新聞”并不是今年冒出來的新鮮事物，但一位美國民主黨競選團(tuán)隊(duì)人員認(rèn)為，AI制造的假新聞“體驗(yàn)更加絲滑”，速度更快，內(nèi)容更加“真實(shí)”，讓普通觀眾更容易接受和傳播。
“AI教父”辛頓警告說，未來AI生產(chǎn)的高質(zhì)量“假”內(nèi)容，可能讓普通人完全難以分辨真假。
AI假消息干擾選舉
已有“前車之鑒”
今年美國芝加哥市長選舉前夕，網(wǎng)上突然出現(xiàn)一段關(guān)于溫和派民主黨候選人保羅·瓦拉斯的視頻。視頻中，瓦拉斯侃侃而談，一改往日溫和的政見，對芝加哥社會負(fù)面現(xiàn)象展開猛烈抨擊。瓦拉斯表示，由于缺乏法律和秩序，芝加哥已經(jīng)變成一個“無法無天”的真空地帶，而且“警察隨隨便便就可以射殺嫌疑人，人們卻對這些情況視而不見”。
不過，這段視頻是由AI合成的。AI通過大量素材的輸入學(xué)習(xí)，模仿瓦拉斯的聲音，達(dá)到了“以假亂真”的地步。在瓦拉斯本人親自向推特平臺發(fā)出投訴之后，推特刪除了這段視頻，但負(fù)面影響已經(jīng)產(chǎn)生。最終瓦拉斯在選舉中不敵對手布蘭登·約翰遜。
值得注意的是，這段由AI造假的視頻是由一個叫“芝加哥湖畔新聞”的賬號發(fā)布的。該賬號在發(fā)布視頻之日剛剛注冊2天，目前尚不清楚這個賬號背后的操縱者是否為瓦拉斯的競爭對手。
通過AI模仿聲音并非芝加哥選戰(zhàn)中首創(chuàng)，美國共和黨總統(tǒng)候選人德桑蒂斯的支持者們也干過類似的事情。他們曾經(jīng)用AI模擬特朗普的聲音講話，試圖影響選民，但這次嘗試遠(yuǎn)不能撼動特朗普在共和黨選民心中遙遙領(lǐng)先的地位。
除了明目張膽的造假之外，AI技術(shù)也能在常規(guī)競選廣告制作中起到很大作用。此前共和黨方面曾推出一段廣告，利用AI技術(shù)描繪了拜登連任當(dāng)選后美國的“悲慘境況”：來自墨西哥的難民源源不斷涌入，消耗美國城鎮(zhèn)內(nèi)的公共資源，大量警察也很難維持當(dāng)?shù)厣鐣伟病?/p>
美國民主黨競選辦公室成員杰基表示，這段廣告雖然不至于讓觀眾誤以為是真實(shí)發(fā)生的事情，但AI技術(shù)的加持的確讓虛擬的畫面顯得更真實(shí)、更有質(zhì)感，“絲滑的觀看體驗(yàn)也更有利于傳播。”
專家：
造假成本更低，隱蔽性更強(qiáng)
由機(jī)器人創(chuàng)立的假賬號在網(wǎng)上自動發(fā)帖，“病毒式傳播”假消息，是2016年美國大選給人留下的深刻印象之一。臉書平臺估計(jì)，約1.26億美國網(wǎng)民看到過社交媒體上發(fā)布的虛假內(nèi)容。在此之后，社交媒體上泛濫的假消息一發(fā)不可收拾。根據(jù)哈佛大學(xué)肯尼迪學(xué)院研究人員的分析，美國社交平臺上所有新聞中可能有5%是完全虛假或具有高度誤導(dǎo)性的。
如今各大社交媒體公司都推出了技術(shù)手段，打擊由機(jī)器人批量注冊的“僵尸賬號”，但這并不能阻斷假消息的生產(chǎn)分發(fā)鏈條。在AI技術(shù)幫助下，假消息的生產(chǎn)成本變得更便宜了，而且傳播效果更好。
美國喬治敦大學(xué)政治學(xué)教授穆塞爾最近的一項(xiàng)研究算出，一個生成可用文本的人工智能模型每生產(chǎn)1000萬個帖子，可以比組織人工編寫假新聞的方式節(jié)省300萬美元，從而將內(nèi)容生成成本削減三分之二。更重要的是，大語言模型和機(jī)器翻譯技術(shù)的進(jìn)步意味著AI可能很快就會消除“僵尸賬號”的一些明顯跡象，例如糟糕的語法或標(biāo)點(diǎn)符號錯誤，這會讓社交平臺更加防不勝防。
更重要的是，以往這些假賬號通常會一遍又一遍使用相同的文本復(fù)制在評論區(qū)，這對平臺監(jiān)控者來說是比較容易捕捉的。但AI模型能讓人創(chuàng)建無限數(shù)量的不重樣的消息，經(jīng)過訓(xùn)練，一些看起來像真人的機(jī)器人賬號可以騙過大型社交媒體平臺使用的過濾算法，以突出宣傳某些新聞主題并用聲量“淹沒”其他負(fù)面新聞主題的討論。如果有政治傾向的媒體隨后抓住社交媒體上熱門的話題，這種假新聞的影響力可能會進(jìn)一步放大。
長期擔(dān)任美國共和黨競選策略師的里克·威爾遜是反特朗普組織“林肯計(jì)劃”的聯(lián)合創(chuàng)始人，他表示一些涉及拜登兒子丑聞的假新聞可能會被發(fā)布在極右翼Facebook群組等地，通過分享進(jìn)行傳播，然后被主流右翼媒體某個知名人士看到后給予采納，突然間就成為在主流人群中熱烈討論的話題。“這樣做的目的不是為了愚弄高智商選民或主流媒體，他們的目的是欺騙一些信息匱乏的共和黨選民，讓他們相信并在社交媒體上分享這些內(nèi)容。一旦主流人群看見有大量類似信息被人分享，可能會動搖他們的想法?！?/p>
在印度，政治同行們也發(fā)現(xiàn)，由真人傳播的假消息要比機(jī)器人賬號來得更加可信，而且還節(jié)約成本。在當(dāng)?shù)剡x舉中，印度一些選舉團(tuán)隊(duì)會將精心制作的內(nèi)容同時扔進(jìn)幾千個WhatsApp群聊里，往往會獲得受眾自發(fā)的大面積轉(zhuǎn)發(fā)。
政客、科技巨頭：
AI造假破壞力無法預(yù)估
AI對選舉產(chǎn)生的巨大影響引起了政界和科技界的普遍關(guān)注。在今年一次聽證會上，美國參議員們就選舉被AI操縱的可能性向?qū)＜疫M(jìn)行了質(zhì)問。當(dāng)時密蘇里州共和黨參議員喬什·霍利表示：“我不希望這個國家的勞動人民和兒童被用作生成式AI技術(shù)的小白鼠?！彼髮I模型進(jìn)行白名單式準(zhǔn)入管理。明尼蘇達(dá)州民主黨參議員艾米·克洛布查也表示擔(dān)心，她認(rèn)為在選舉廣告中大量使用AI的情況沒有得到足夠重視和警惕。
曾在美國前總統(tǒng)奧巴馬競選團(tuán)隊(duì)擔(dān)任數(shù)字總監(jiān)的泰迪·戈夫此前對媒體表示，“AI還不會創(chuàng)造出我們從未想像過的全新類型的虛假信息，但它會讓生成虛假信息變得更容易、更快速、更廉價(jià)。其影響將是相當(dāng)深遠(yuǎn)的?！?/p>
谷歌前首席執(zhí)行官埃里克·施密特曾警告說，“2024年的選舉將一團(tuán)糟，因?yàn)樯缃幻襟w平臺無法保護(hù)我們免受AI生成的虛假消息的侵害?！眲?chuàng)造了Chatgpt的OpenAI首席執(zhí)行官山姆·阿爾特曼表示，“我對人工智能對未來選舉產(chǎn)生的影響感到緊張，至少在每個人都習(xí)慣AI之前，這種影響將是巨大的。”
阿爾特曼
谷歌CEO桑達(dá)爾·皮查伊此前表示，社會需要為人工智能快速發(fā)展做好準(zhǔn)備。他同時強(qiáng)調(diào)虛假信息、視頻和圖像帶來的問題要遠(yuǎn)比人們想像的嚴(yán)重，破壞力無法預(yù)估。
用戶評論