麻省理工學(xué)院 | 授權(quán)社交媒體用戶評(píng)估內(nèi)容有助于打擊虛假信息
指南者留學(xué)
2022-11-16 13:02:29
閱讀量:1253
<p><img src="https://info.compassedu.hk/sucai/content/1668574997800/1668574997800.jpg" width="808" height="539" /></p>
<p>在打擊虛假信息傳播時(shí),社交媒體平臺(tái)通常會(huì)讓大多數(shù)用戶坐在副駕駛位置上。平臺(tái)經(jīng)常使用機(jī)器學(xué)習(xí)算法或人工事實(shí)核查員為用戶標(biāo)記虛假或誤導(dǎo)的內(nèi)容。</p>
<p> </p>
<p>麻省理工學(xué)院計(jì)算機(jī)科學(xué)和人工智能實(shí)驗(yàn)室(CSAIL)的研究生Farnaz Jahanbakhsh說(shuō):“僅僅因?yàn)檫@是現(xiàn)狀,并不意味著這是正確的方法或唯一的方法。”</p>
<p> </p>
<p>她和她的合作者進(jìn)行了一項(xiàng)研究,他們把這種權(quán)力交給了社交媒體用戶。</p>
<p> </p>
<p>他們首先對(duì)人們進(jìn)行調(diào)查,了解他們?nèi)绾伪苊饣蜻^(guò)濾社交媒體上的錯(cuò)誤信息。利用他們的發(fā)現(xiàn),研究人員開(kāi)發(fā)了一個(gè)原型平臺(tái),讓用戶能夠評(píng)估內(nèi)容的準(zhǔn)確性,指出他們信任哪些用戶來(lái)評(píng)估準(zhǔn)確性,并根據(jù)這些評(píng)估過(guò)濾出現(xiàn)在他們feed中的帖子。</p>
<p>通過(guò)一項(xiàng)實(shí)地研究,他們發(fā)現(xiàn)用戶可以在沒(méi)有接受任何事先培訓(xùn)的情況下有效地評(píng)估誤導(dǎo)信息的帖子。此外,用戶重視以結(jié)構(gòu)化方式評(píng)估職位和查看評(píng)估結(jié)果的能力。研究人員還發(fā)現(xiàn),參與者使用內(nèi)容過(guò)濾器的方式有所不同——例如,一些人屏蔽了所有誤導(dǎo)的內(nèi)容,而另一些人則使用過(guò)濾器尋找這樣的文章。</p>
<p> </p>
<p>Jahanbakhsh說(shuō),這項(xiàng)研究表明,去中心化的審查方法可以導(dǎo)致社交媒體上更高的內(nèi)容可靠性。她補(bǔ)充說(shuō),這種方法也比集中審核方案更有效和可擴(kuò)展,可能會(huì)吸引不信任平臺(tái)的用戶。</p>
<p> </p>
<p>“很多關(guān)于錯(cuò)誤信息的研究假設(shè)用戶無(wú)法決定什么是真的,什么是假的,所以我們必須幫助他們。我們完全沒(méi)有看到。我們看到,人們確實(shí)會(huì)仔細(xì)審查內(nèi)容,他們也會(huì)試圖互相幫助。但這些努力目前還沒(méi)有得到平臺(tái)的支持。”</p>
<p> </p>
<p>Jahanbakhsh與華盛頓大學(xué)艾倫計(jì)算機(jī)科學(xué)與工程學(xué)院助理教授Amy Zhang共同撰寫(xiě)了這篇論文;以及CSAIL計(jì)算機(jī)科學(xué)教授、資深作者David Karger。這項(xiàng)研究將在ACM計(jì)算機(jī)支持的協(xié)作工作和社會(huì)計(jì)算會(huì)議上發(fā)表。</p>
<p> </p>
<p><span class="h1"><strong>戰(zhàn)斗的錯(cuò)誤信息</strong></span></p>
<p> </p>
<p>網(wǎng)絡(luò)虛假信息的傳播是一個(gè)普遍的問(wèn)題。然而,目前社交媒體平臺(tái)用來(lái)標(biāo)記或刪除虛假信息的方法有缺點(diǎn)。例如,當(dāng)平臺(tái)使用算法或事實(shí)核查員來(lái)評(píng)估帖子時(shí),可能會(huì)在用戶之間造成緊張,他們認(rèn)為這些努力侵犯了言論自由等問(wèn)題。</p>
<p> </p>
<p>Jahanbakhsh補(bǔ)充道:“有時(shí)用戶希望在他們的信息流中出現(xiàn)錯(cuò)誤信息,因?yàn)樗麄兿胫浪麄兊呐笥鸦蚣胰私佑|了什么,這樣他們就知道何時(shí)以及如何與他們談?wù)撨@些信息。”</p>
<p> </p>
<p>用戶經(jīng)常嘗試自己評(píng)估和標(biāo)記錯(cuò)誤信息,他們?cè)噲D通過(guò)請(qǐng)求朋友和專家?guī)椭麄兝斫馑喿x的內(nèi)容來(lái)互相幫助。但這些努力可能會(huì)適得其反,因?yàn)樗鼈儧](méi)有得到平臺(tái)的支持。用戶可以在誤導(dǎo)性的帖子下留言,或者用憤怒的表情符號(hào)回應(yīng),但大多數(shù)平臺(tái)都認(rèn)為這些行為是參與的標(biāo)志。例如,在Facebook上,這可能意味著誤導(dǎo)的內(nèi)容將顯示給更多的人,包括用戶的朋友和關(guān)注者——這與用戶想要的完全相反。</p>
<p> </p>
<p>為了克服這些問(wèn)題和陷阱,研究人員試圖創(chuàng)建一個(gè)平臺(tái),讓用戶能夠提供和查看帖子的結(jié)構(gòu)化準(zhǔn)確性評(píng)估,指示他們信任的其他人來(lái)評(píng)估帖子,并使用過(guò)濾器控制feed中顯示的內(nèi)容。研究人員的最終目標(biāo)是讓用戶更容易互相幫助評(píng)估社交媒體上的錯(cuò)誤信息,從而減少每個(gè)人的工作量。</p>
<p> </p>
<p>研究人員首先調(diào)查了192名通過(guò)Facebook和郵件列表招募的用戶,看看用戶是否重視這些功能。調(diào)查顯示,用戶對(duì)錯(cuò)誤信息非常敏感,并試圖跟蹤和報(bào)告,但擔(dān)心自己的評(píng)估可能被誤解。他們對(duì)平臺(tái)為他們?cè)u(píng)估內(nèi)容的努力表示懷疑。而且,盡管他們希望過(guò)濾器能夠屏蔽不可靠的內(nèi)容,但他們不會(huì)信任由平臺(tái)操作的過(guò)濾器。</p>
<p> </p>
<p>利用這些見(jiàn)解,研究人員建立了一個(gè)類似facebook的原型平臺(tái),稱為T(mén)rustnet。在Trustnet中,用戶發(fā)布和分享真實(shí)的、完整的新聞文章,并可以相互關(guān)注以查看其他人發(fā)布的內(nèi)容。但是,在用戶可以在Trustnet中發(fā)布任何內(nèi)容之前,他們必須對(duì)該內(nèi)容進(jìn)行準(zhǔn)確或不準(zhǔn)確的評(píng)級(jí),或者查詢其準(zhǔn)確性,這將對(duì)其他人可見(jiàn)。</p>
<p> </p>
<p>“人們分享錯(cuò)誤信息的原因通常不是因?yàn)樗麄儾恢朗裁词钦娴模裁词羌俚?。相反,在分享的時(shí)候,他們的注意力被誤導(dǎo)到其他事情上。如果你讓他們?cè)诜窒韮?nèi)容之前先評(píng)估一下,這會(huì)幫助他們更有眼光,”她說(shuō)。</p>
<p> </p>
<p>用戶還可以選擇值得信任的個(gè)人,他們將看到其內(nèi)容評(píng)估。他們以一種私密的方式這樣做,以防他們關(guān)注某個(gè)與他們有社會(huì)關(guān)系的人(可能是朋友或家人),但他們不相信這個(gè)人會(huì)評(píng)估內(nèi)容。該平臺(tái)還提供過(guò)濾器,允許用戶根據(jù)帖子的評(píng)估方式和評(píng)價(jià)者來(lái)配置他們的提要。</p>
<p> </p>
<p><strong><span class="h1">測(cè)試Trustnet</span></strong></p>
<p> </p>
<p>原型完成后,他們進(jìn)行了一項(xiàng)研究,其中有14人使用該平臺(tái)一周。研究人員發(fā)現(xiàn),盡管沒(méi)有接受過(guò)任何培訓(xùn),用戶通常可以根據(jù)專業(yè)知識(shí)、內(nèi)容來(lái)源或通過(guò)評(píng)估文章的邏輯來(lái)有效地評(píng)估內(nèi)容。他們還能夠使用過(guò)濾器來(lái)管理他們的提要,盡管他們使用過(guò)濾器的方式不同。</p>
<p> </p>
<p>“即使在如此小的樣本中,有趣的是,并不是每個(gè)人都想以同樣的方式閱讀新聞。有時(shí),人們希望在自己的信息流中發(fā)布誤導(dǎo)信息,因?yàn)樗麄兛吹搅诉@樣做的好處。這表明社交媒體平臺(tái)現(xiàn)在缺少這種代理,它應(yīng)該還給用戶,”她說(shuō)。</p>
<p> </p>
<p>當(dāng)內(nèi)容包含多種說(shuō)法,有些是真的,有些是假的,或者如果標(biāo)題和文章是脫節(jié)的,用戶有時(shí)確實(shí)很難評(píng)估內(nèi)容。她說(shuō),這表明有必要為用戶提供更多的評(píng)估選項(xiàng)——也許可以說(shuō)明一篇文章是真實(shí)的,但具有誤導(dǎo)性,或者它包含政治傾向。</p>
<p> </p>
<p>由于Trustnet用戶有時(shí)很難評(píng)估內(nèi)容與標(biāo)題不匹配的文章,Jahanbakhsh啟動(dòng)了另一個(gè)研究項(xiàng)目,創(chuàng)建一個(gè)瀏覽器擴(kuò)展,讓用戶修改新聞標(biāo)題,使其更符合文章的內(nèi)容。</p>
<p> </p>
<p>雖然這些結(jié)果表明,用戶可以在打擊虛假信息的斗爭(zhēng)中發(fā)揮更積極的作用,但Jahanbakhsh警告說(shuō),賦予用戶這種權(quán)力并不是萬(wàn)靈藥。首先,這種方法可能會(huì)造成用戶只能從志同道合的來(lái)源看到信息的情況。然而,過(guò)濾器和結(jié)構(gòu)化評(píng)估可以重新配置,以幫助緩解這個(gè)問(wèn)題,她說(shuō)。</p>
<p> </p>
<p>除了探索Trustnet的增強(qiáng)功能,Jahanbakhsh還希望通過(guò)游戲化的方式,鼓勵(lì)人們閱讀不同觀點(diǎn)的內(nèi)容評(píng)估。由于社交媒體平臺(tái)可能不愿做出改變,她也在開(kāi)發(fā)技術(shù),讓用戶可以通過(guò)正常的網(wǎng)頁(yè)瀏覽來(lái)發(fā)布和查看評(píng)估內(nèi)容,而不是在一個(gè)平臺(tái)上。</p>
<p>這項(xiàng)工作部分得到了美國(guó)國(guó)家科學(xué)基金會(huì)的支持。</p>
<p> </p>
<blockquote>
<p>注:本文由院校官方新聞直譯,僅供參考,不代表指南者留學(xué)態(tài)度觀點(diǎn)。</p>
</blockquote>