前幾天，一則“政府工作人員因買方便面被通報(bào)”的消息甚囂塵上。公安網(wǎng)安部門查明，該內(nèi)容均屬虛構(gòu)，系曹某林為博眼球利用AI憑空捏造。目前，曹某林已被屬地公安機(jī)關(guān)依法采取刑事強(qiáng)制措施。
“厲行節(jié)約、反對(duì)浪費(fèi)”本是社會(huì)共識(shí)，也是正風(fēng)肅紀(jì)的抓手，流量投機(jī)分子偏偏炮制謠言碰瓷，人為制造“低級(jí)黑”。從現(xiàn)實(shí)影響看，這一荒誕謠言還真迷惑了一些人，對(duì)相關(guān)工作造成了一定干擾。如今造謠者被刑拘，再度警示各方：造謠生事不僅缺德，更是違法，必然付出代價(jià)。
更值得一提的是，上述謠言又是“AI生成”。近兩年來，AI謠言頻出，且明顯侵入時(shí)事政治等硬新聞?lì)I(lǐng)域，并展現(xiàn)出幾個(gè)典型特性。
其一，成本極低，造謠趨于工業(yè)化。以往，為了抓人眼球，造謠者還要費(fèi)些心思編造拼接，刺激情緒。如今，敲敲鍵盤就可批量生產(chǎn)不實(shí)內(nèi)容。一鍵生成、坐收流量，在AI助力下，一個(gè)人就可以是一支“水軍”。有報(bào)道顯示，某家MCN機(jī)構(gòu)用AI生成文章和圖片，最高峰一天能生成4000至7000篇。
其二，能力極強(qiáng)，“出品”有模有樣。從惡搞名人，到捏造熱點(diǎn)，再到“改寫”歷史，各個(gè)領(lǐng)域AI都能信手拈來。往往只需要一個(gè)指令，其就能將文字、聲音、圖像和視頻等深度融合。基于強(qiáng)大的生成能力，很多“AI謠言”已然能“以假亂真”。
其三，“效果”極佳，造謠“一本萬利”。由于沖擊力強(qiáng)、迷惑性高，不少虛假信息竟能產(chǎn)出百萬、千萬量級(jí)的瀏覽量。網(wǎng)絡(luò)造謠的門檻與成本之低，效率與收益之高，破壞與影響之大，讓人細(xì)思極恐。
謠言之害，不必多言。而當(dāng)技術(shù)加持作惡，“網(wǎng)絡(luò)傳播的坍塌”就不再是危言聳聽。
這些年，監(jiān)管部門也一直在升級(jí)對(duì)AI謠言的治理。比如，相關(guān)規(guī)定明確提出，要對(duì)AI生成內(nèi)容作出鮮明標(biāo)識(shí)。不過，從現(xiàn)實(shí)來看，不少平臺(tái)對(duì)AI生成的信息要么沒有提示，要么字體極小，有的審核機(jī)制滯后甚至“先發(fā)后審”，給謠言傳播留下了較大空間。再看技術(shù)層面，多個(gè)平臺(tái)上線AI檢測工具，嘗試用“魔法打敗魔法”。但對(duì)于海量生產(chǎn)的UGC內(nèi)容而言，AI測假的能力看上去還沒能跟上需求。總體來看，制度完善“提速”，治理手段“提智”，方向肯定沒錯(cuò)，關(guān)鍵是如何做好落實(shí)。
AI技術(shù)日日加速迭代，這也意味著治理AI造謠必須加緊腳步，治理手段和路徑都須更具前瞻性。加大資源與技術(shù)投入，盡快形成治理合力，才能防止AI工具淪為謠言的“黑箱”。
前幾天，一則“政府工作人員因買方便面被通報(bào)”的消息甚囂塵上。公安網(wǎng)安部門查明，該內(nèi)容均屬虛構(gòu)，系曹某林為博眼球利用AI憑空捏造。目前，曹某林已被屬地公安機(jī)關(guān)依法采取刑事強(qiáng)制措施。
“厲行節(jié)約、反對(duì)浪費(fèi)”本是社會(huì)共識(shí)，也是正風(fēng)肅紀(jì)的抓手，流量投機(jī)分子偏偏炮制謠言碰瓷，人為制造“低級(jí)黑”。從現(xiàn)實(shí)影響看，這一荒誕謠言還真迷惑了一些人，對(duì)相關(guān)工作造成了一定干擾。如今造謠者被刑拘，再度警示各方：造謠生事不僅缺德，更是違法，必然付出代價(jià)。
更值得一提的是，上述謠言又是“AI生成”。近兩年來，AI謠言頻出，且明顯侵入時(shí)事政治等硬新聞?lì)I(lǐng)域，并展現(xiàn)出幾個(gè)典型特性。
其一，成本極低，造謠趨于工業(yè)化。以往，為了抓人眼球，造謠者還要費(fèi)些心思編造拼接，刺激情緒。如今，敲敲鍵盤就可批量生產(chǎn)不實(shí)內(nèi)容。一鍵生成、坐收流量，在AI助力下，一個(gè)人就可以是一支“水軍”。有報(bào)道顯示，某家MCN機(jī)構(gòu)用AI生成文章和圖片，最高峰一天能生成4000至7000篇。
其二，能力極強(qiáng)，“出品”有模有樣。從惡搞名人，到捏造熱點(diǎn)，再到“改寫”歷史，各個(gè)領(lǐng)域AI都能信手拈來。往往只需要一個(gè)指令，其就能將文字、聲音、圖像和視頻等深度融合?；趶?qiáng)大的生成能力，很多“AI謠言”已然能“以假亂真”。
其三，“效果”極佳，造謠“一本萬利”。由于沖擊力強(qiáng)、迷惑性高，不少虛假信息竟能產(chǎn)出百萬、千萬量級(jí)的瀏覽量。網(wǎng)絡(luò)造謠的門檻與成本之低，效率與收益之高，破壞與影響之大，讓人細(xì)思極恐。
謠言之害，不必多言。而當(dāng)技術(shù)加持作惡，“網(wǎng)絡(luò)傳播的坍塌”就不再是危言聳聽。
這些年，監(jiān)管部門也一直在升級(jí)對(duì)AI謠言的治理。比如，相關(guān)規(guī)定明確提出，要對(duì)AI生成內(nèi)容作出鮮明標(biāo)識(shí)。不過，從現(xiàn)實(shí)來看，不少平臺(tái)對(duì)AI生成的信息要么沒有提示，要么字體極小，有的審核機(jī)制滯后甚至“先發(fā)后審”，給謠言傳播留下了較大空間。再看技術(shù)層面，多個(gè)平臺(tái)上線AI檢測工具，嘗試用“魔法打敗魔法”。但對(duì)于海量生產(chǎn)的UGC內(nèi)容而言，AI測假的能力看上去還沒能跟上需求?？傮w來看，制度完善“提速”，治理手段“提智”，方向肯定沒錯(cuò)，關(guān)鍵是如何做好落實(shí)。
AI技術(shù)日日加速迭代，這也意味著治理AI造謠必須加緊腳步，治理手段和路徑都須更具前瞻性。加大資源與技術(shù)投入，盡快形成治理合力，才能防止AI工具淪為謠言的“黑箱”。
本文鏈接：http://www.lbgj202.com/v-146-2527.html警惕AI成為謠言工廠
相關(guān)文章：
數(shù)控畢業(yè)實(shí)習(xí)報(bào)告07-05
樂小米的語錄74條01-30
經(jīng)典愛情朋友圈宣言短句08-13
裝飾工程合作簡單協(xié)議書09-27
保潔服務(wù)承諾書07-26
初一期中考試反思與總結(jié)02-25
銷售人員賦能培訓(xùn)心得10-17
平安行觀后感09-12
幼兒園寒假安全教育演講稿08-02
父女情深作文500字09-14
設(shè)計(jì)建議書09-10
《沖?撞》電影觀后感08-23
考察狀元館敘事作文07-23
2024下半年湖北中小學(xué)教師資格面試報(bào)名時(shí)間、報(bào)考條件及入口（11月11日16:00截止）11-03
王昌齡《送郭司倉》全文及鑒賞07-20
簡單兒童折紙鴿子手工折紙教程07-26