2月24日，今日頭條在北京舉辦平台治理開放日，圍繞AI謠言、同質化發文、網絡詐騙等熱議的網絡治理焦點，與會嘉賓共同分享今日頭條過去一年來在安全治理、内容生态等方面的細緻舉措及有效經驗。 活動現場，今日頭條相關業務負責人與學界專家紛紛發表演講，對近年來AI謠言與AI技術治理等議題給予了高度關注。 今日頭條生态治理運營負責人韓雨桐介紹稱，平台很早就關注到AI謠言等情況、問題的出現，更針對性升級、疊代了AI模型的識别能力。在四位一體防禦工事外，還建立起了包括謠言庫、權威信源庫以及專業審核團隊在内的三大核心治理能力，全面優化了AI謠言的防控水平，加強了對AI謠言、低質内容的可靠治理和管控。 會上，清華大學新聞與傳播學院副教授陸洪磊分享了題為《AI謠言治理：多方協力的數字戰役》的演講，在聚焦AI謠言産生背景及特點。他指出，伴随AI技術的進一步應用，生成式AI正在重塑網絡信息的傳播生态，體現在内容端就是AI謠言的日益猖獗。在AI的加持之下，謠言實現了分平台、分渠道、分時段、分媒介的定制化發布，為網絡環境帶來了更加嚴峻的跨平台影響。其低廉的成本和倍率傳播特性，使得辟謠難度大幅增加。而AI技術自我學習和自我強化的特性，匹配AI生成圖片等造假手段，使得AI謠言越來越逼真，對于内容平台來說這無疑是一場需要特别關注的“進化危機”。 清華大學新聞與傳播學院副教授陸洪磊 如何應對這一新的态勢，陸洪磊以今日頭條為例，指出今日頭條平台所采取的“内容治理制度、内容審核、辟謠教育、内外聯動”四位一體防禦工事，為AI謠言的治理提供了一條具有可行性的發展之路。 不久前今日頭條發布的《2024年度治理報告》中顯示，截止2024年底，今日頭條平台已處理低質AI内容超93萬條，禁言、封禁相關賬号超2.9萬個，用戶關于低質AI内容的負反饋量級從28條/天降到了2條/天，有效抑制和打擊了AI謠言的傳播鍊條與傳播溫床。 陸洪磊認為，AI謠言的治理難以依靠單一力量來完成，需要聯動各方建立謠言線索互通機制。在協同治理方面，平台需要做好技術的守門員，加強跨平台辟謠合作，破解AI謠言的“deepfake”陷阱；平台也可以考慮推出“事實快速核驗通道”，激發用戶的反謠言意識，便于遏制謠言的傳播。執法機構需要做好法治保障的護盤手，加快相關法律細則的出台和落實，建立“技術取證-電子證據-司法鑒定”的全鍊條執法标準；而每位網民則都應當成為理性的受者和傳者，轉發前思考三秒，分析一下信息來源是否真實、邏輯是否合理、是否屬于誘導内容等，并對可疑内容主動進行核實。 陸洪磊總結道，魔高一尺，道高一丈。當網友發現AI圖片中的異常字母時，他們會在評論區自發形成的“真相拼圖”，這正是協同治理最生動的注腳。