隨著AIGC（利用人工智能技術來生成各種類型的內容）創作的快速發展與迭代，網絡空間變得更加豐富多元。比如，用各種模版一鍵上傳照片，就可以生成各種有趣的小視頻；看AI小貓小狗做飯，也成了近段時間的熱議話題。但與此同時，AI生成的各種低質內容也鋪天蓋地而來，給廣大用戶造成信息干擾。
生成式AI降低了標題黨、“擦邊”內容的制作門檻，但技術的加持讓AI謠言更具“說服力”、偽裝性和強傳播性，使得傳統辟謠手段難以招架。可以說，部分生成式AI正在重塑謠言的傳播生態，并嚴重擾亂網絡環境。
去年4月，在公安部公布的10起打擊整治網絡謠言違法犯罪典型案例中，就有4起涉及使用AI造謠。據不完全統計，2024年搜索熱度較高的50個國內AI風險相關輿情案例中，超1/5與AI造謠有關。
當AI學會“一本正經地胡說八道”后，我們該怎么辦？一方面，全鏈條的有效治理迫在眉睫，從企業平臺、監管部門、技術提供者、用戶等多方面發力，方能最大程度擠壓AI謠言的生存空間；另一方面，作為AI技術應用和海量信息的載體，平臺方的治理效能顯得尤為重要。不少專家建議把關注重點放到源頭治理上來，特別是同樣利用AI，在謠言內容識別、路徑追蹤和自動化辟謠等方面“用魔法打敗魔法”。
例如，今日頭條在鼓勵用戶使用AI提效的基礎上，也迅速升級、迭代AI模型的識別能力，收嚴AI內容的審核力度。識別到創作者使用AI輔助創作時，平臺會打上標簽，以提醒用戶注意甄別。除此之外，平臺還增加了后臺的AI治理——持續迭代低質內容AI模型，命中模型的內容會被自動處置，從而減少或禁止對外傳播。據了解，對于AI謠言治理，今日頭條已構建起涵蓋內容治理制度、內容審核、辟謠教育、內外聯動的四位一體“防御工事”，取得了較為顯著的效果。2024年攔截不實信息超500萬條，處置低質AI內容93萬條。
讓“AI治理”跑贏“AI謠言”，我們期待各平臺積極踐行社會責任，不斷升級“魔法”。政府機構、媒體、公眾的多方協同也不可缺位，畢竟，網絡謠言治理需多方握指成拳、形成合力。
隨著AIGC（利用人工智能技術來生成各種類型的內容）創作的快速發展與迭代，網絡空間變得更加豐富多元。比如，用各種模版一鍵上傳照片，就可以生成各種有趣的小視頻；看AI小貓小狗做飯，也成了近段時間的熱議話題。但與此同時，AI生成的各種低質內容也鋪天蓋地而來，給廣大用戶造成信息干擾。
生成式AI降低了標題黨、“擦邊”內容的制作門檻，但技術的加持讓AI謠言更具“說服力”、偽裝性和強傳播性，使得傳統辟謠手段難以招架?？梢哉f，部分生成式AI正在重塑謠言的傳播生態，并嚴重擾亂網絡環境。
去年4月，在公安部公布的10起打擊整治網絡謠言違法犯罪典型案例中，就有4起涉及使用AI造謠。據不完全統計，2024年搜索熱度較高的50個國內AI風險相關輿情案例中，超1/5與AI造謠有關。
當AI學會“一本正經地胡說八道”后，我們該怎么辦？一方面，全鏈條的有效治理迫在眉睫，從企業平臺、監管部門、技術提供者、用戶等多方面發力，方能最大程度擠壓AI謠言的生存空間；另一方面，作為AI技術應用和海量信息的載體，平臺方的治理效能顯得尤為重要。不少專家建議把關注重點放到源頭治理上來，特別是同樣利用AI，在謠言內容識別、路徑追蹤和自動化辟謠等方面“用魔法打敗魔法”。
例如，今日頭條在鼓勵用戶使用AI提效的基礎上，也迅速升級、迭代AI模型的識別能力，收嚴AI內容的審核力度。識別到創作者使用AI輔助創作時，平臺會打上標簽，以提醒用戶注意甄別。除此之外，平臺還增加了后臺的AI治理——持續迭代低質內容AI模型，命中模型的內容會被自動處置，從而減少或禁止對外傳播。據了解，對于AI謠言治理，今日頭條已構建起涵蓋內容治理制度、內容審核、辟謠教育、內外聯動的四位一體“防御工事”，取得了較為顯著的效果。2024年攔截不實信息超500萬條，處置低質AI內容93萬條。
讓“AI治理”跑贏“AI謠言”，我們期待各平臺積極踐行社會責任，不斷升級“魔法”。政府機構、媒體、公眾的多方協同也不可缺位，畢竟，網絡謠言治理需多方握指成拳、形成合力。
本文鏈接：http://www.wbe-yiqi.com/news-2-797-0.html打敗AI謠言亟待“魔法”升級
聲明：本網頁內容由互聯網博主自發貢獻，不代表本站觀點，本站不承擔任何法律責任。天上不會到餡餅，請大家謹防詐騙！若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。
下一篇：農機智駕繪春圖
點擊右上角
微信好友
朋友圈
點擊瀏覽器下方“
”分享微信好友Safari瀏覽器請點擊“
”按鈕
點擊右上角
QQ
點擊瀏覽器下方“”分享QQ好友Safari瀏覽器請點擊“”按鈕
