DoNews6月14日消息，據(jù)央視新聞報道， 1 月，有網(wǎng)絡(luò)平臺出現(xiàn)一條“西安發(fā)生爆炸”的消息，其時間地點(diǎn)等關(guān)鍵信息和配圖齊備，極具迷惑性。經(jīng)警方調(diào)查，消息發(fā)布賬號歸屬于一家江西的 MCN 機(jī)構(gòu)。
該公司實(shí)際控制人為王某某。據(jù)南昌市公安局高新分局網(wǎng)絡(luò)安全保衛(wèi)大隊大隊長李毅介紹，上述“爆炸”消息經(jīng)核實(shí)并未發(fā)生，就此初步判定該 MCN 機(jī)構(gòu)發(fā)布的數(shù)條信息涉嫌網(wǎng)絡(luò)造謠。
警方立刻對該公司負(fù)責(zé)人進(jìn)行約談，同時勘察該公司辦公場所，對使用的電腦和軟件工具進(jìn)行現(xiàn)場取證。
經(jīng)核實(shí)，上述謠言從文本到圖片全部由 AI 生成。王某某通過國內(nèi)一個網(wǎng)站 —— 其專門提供“近期可能生成熱點(diǎn)的新聞報道”或“正在 / 即將發(fā)生的一類事情”，并分級分類將關(guān)鍵詞提供給寫作者。王某某通過該網(wǎng)站生成關(guān)鍵詞，形成了文章的標(biāo)題。
王某某隨后再通過具有語音交互功能的 AI 軟件，說出關(guān)鍵詞后軟件自動從網(wǎng)絡(luò)上抓取相關(guān)信息，生成數(shù)百到上千字的文本，并配上“貌似與事件相關(guān)”的虛假圖片，從而形成看起來信息量很大、實(shí)際上子虛烏有的內(nèi)容。
隨后，王某某再將 AI 生成的內(nèi)容使用另一款軟件自動上傳到該 MCN 機(jī)構(gòu)控制的多網(wǎng)絡(luò)平臺不同賬號上，并對外發(fā)布，全程基本不需要人工參與。因此，在操作過程中產(chǎn)生了此類謠言信息。這家 MCN 機(jī)構(gòu)短時間內(nèi)生成了大量文章，最高峰一天能生成 4000-7000 篇。
警方在調(diào)查過程中發(fā)現(xiàn)，該 MCN 機(jī)構(gòu)在網(wǎng)絡(luò)上發(fā)布的內(nèi)容以民生類信息為主，通過加入夸張故事情節(jié)或獵奇性成分，或編造不實(shí)信息來獲取網(wǎng)民關(guān)注度、點(diǎn)贊量，進(jìn)而實(shí)現(xiàn)流量變現(xiàn)。通過這一方式，王某某在短時間內(nèi)獲得了高額報酬。經(jīng)警方初步估算，該機(jī)構(gòu)每天的收入在 1 萬元以上。
經(jīng)查，江西男子王某江經(jīng)營有 5 家 MCN 機(jī)構(gòu)，共運(yùn)營自媒體賬號 842 個，其長期組織公司人員選取熱點(diǎn)文章，使用人工智能工具批量生成不實(shí)文章進(jìn)行吸粉引流。目前，江西南昌公安機(jī)關(guān)已對王某江處以行政拘留 5 日，責(zé)令涉案 MCN 機(jī)構(gòu)停業(yè)整改。
