如何更好地掌握規(guī)律、制定規(guī)則,給算法提供正確指引,讓人工智能能夠更有效地甄別虛假和低俗內(nèi)容并控制其傳播,是當(dāng)前業(yè)界和學(xué)界要重點(diǎn)研究的問題

當(dāng)前,甄別和控制網(wǎng)絡(luò)虛假信息傳播已經(jīng)成為一個(gè)世界性話題。虛假信息不僅令我國(guó)網(wǎng)絡(luò)空間深受其擾,一些西方國(guó)家也日益意識(shí)到它的危害。去年美國(guó)大選中,不同利益集團(tuán)相互指責(zé)和控訴對(duì)方制造和傳播虛假信息,吃相難看,顏面盡失。

虛假信息及低俗內(nèi)容,在互聯(lián)網(wǎng)環(huán)境中跨地域大規(guī)模快速傳播的現(xiàn)象,主要出現(xiàn)在擁有海量用戶的互聯(lián)網(wǎng)應(yīng)用平臺(tái)產(chǎn)生以后。每個(gè)用戶都可以在這個(gè)平臺(tái)上發(fā)布信息,并在平臺(tái)內(nèi)部和平臺(tái)之間快速傳播信息。在一定的利益動(dòng)機(jī)和社會(huì)心理機(jī)制作用下,一些平臺(tái)用戶試圖發(fā)布虛假信息及低俗內(nèi)容謀取各種利益。由于這類信息和內(nèi)容往往流傳甚快甚廣,使得社會(huì)原有的甄別及防范機(jī)制難以及時(shí)做出反應(yīng)。

對(duì)于這一新問題,有多種解決思路。比較傳統(tǒng)的方法,諸如提高公眾傳播素養(yǎng),更多發(fā)揮傳統(tǒng)媒體把關(guān)功能,加大對(duì)虛假信息及低俗內(nèi)容發(fā)布者的處罰力度,加重平臺(tái)責(zé)任等。

互聯(lián)網(wǎng)企業(yè)的反應(yīng),卻是更多地借助技術(shù)手段。如臉譜推出“事實(shí)核查工具”,邀請(qǐng)用戶通過下拉菜單將他們看到的可疑新聞報(bào)道在該平臺(tái)上進(jìn)行標(biāo)記。第三方事實(shí)核查人員隨后分析標(biāo)出的報(bào)道,并判定其為真實(shí)報(bào)道還是虛假新聞;谷歌新聞實(shí)驗(yàn)室發(fā)起成立了一個(gè)名為“FDN”的新聞學(xué)術(shù)和技術(shù)聯(lián)盟,研究方向主要是社交媒體新聞的原創(chuàng)判斷和真實(shí)性認(rèn)證。我國(guó)的互聯(lián)網(wǎng)平臺(tái)也作出了多方努力。例如,北京字節(jié)跳動(dòng)科技公司在“今日頭條”平臺(tái)上,依靠人工智能技術(shù),模仿人腦機(jī)制,對(duì)低俗圖片的攔截率較之前純?nèi)斯r截提高了73.71%;針對(duì)“標(biāo)題黨”現(xiàn)象,一些網(wǎng)站構(gòu)建了“人工+機(jī)器”的模式構(gòu)建防火墻,對(duì)敏感詞、標(biāo)題黨和虛假信息進(jìn)行技術(shù)性攔截。

然而,一些業(yè)界人士擔(dān)心人工智能無法處理復(fù)雜的價(jià)值判斷問題,也有互聯(lián)網(wǎng)人士認(rèn)為算法沒有價(jià)值觀。其實(shí),人工智能的算法本身就是根據(jù)特定領(lǐng)域的規(guī)律和規(guī)則制定的,在這些規(guī)律和規(guī)則中,就蘊(yùn)含著價(jià)值選擇與判斷。在確立模型并不斷學(xué)習(xí)之后,執(zhí)行算法的機(jī)器完全能夠具有超越人腦的能力,這在不久前圍棋的人機(jī)大戰(zhàn)中已經(jīng)得以驗(yàn)證。

如何更好地掌握規(guī)律、制定規(guī)則,給算法提供正確指引,讓人工智能能夠更有效地甄別虛假和低俗內(nèi)容并控制其傳播,是當(dāng)前業(yè)界和學(xué)界要重點(diǎn)研究的問題。

首先,我們需要更全面地梳理和分析產(chǎn)生虛假和低俗內(nèi)容的利益結(jié)構(gòu)和動(dòng)機(jī),分析各類利益主體制造和傳播虛假及低俗內(nèi)容的行為特點(diǎn),如謀求政治利益和謀求經(jīng)濟(jì)利益的行為主體,在制造和傳播虛假及低俗內(nèi)容的行為方面有哪些異同。通過這些分析,為建立模型提供依據(jù)。

其次,可以通過對(duì)網(wǎng)絡(luò)平臺(tái)上虛假及低俗內(nèi)容傳播者生產(chǎn)的內(nèi)容進(jìn)行文本分析,對(duì)其傳播行為進(jìn)行跟蹤研究,以掌握其心理特征及行為特征,支持識(shí)別模型的構(gòu)建。

此外,還可以通過對(duì)人們網(wǎng)絡(luò)信息接收和接受的心理特征及行為的分析,建立模型,探索如何通過算法干預(yù)這一過程,阻斷虛假及低俗內(nèi)容的傳播,減低其傳播效果。

(作者是中國(guó)人民大學(xué)新聞學(xué)院教授、博士生導(dǎo)師)