互聯(lián)網(wǎng)平臺，對內(nèi)容領域亂象正加碼治理。2月24日，今日頭條“平臺治理開放日”活動在北京舉辦。相關業(yè)務負責人與學界專家圍繞網(wǎng)絡虛假謠言、同質(zhì)化發(fā)文、AI低質(zhì)內(nèi)容等領域的治理進行了深入探討。據(jù)介紹，這是今日頭條自成立以來首次舉辦平臺治理開放日。此前，今日頭條發(fā)布《2024年度治理報告》，對外公布了過去一年來平臺針對網(wǎng)絡虛假謠言、同質(zhì)化發(fā)文、網(wǎng)絡詐騙、無底線博流量、網(wǎng)絡水軍等重點專項的治理成果。
互聯(lián)網(wǎng)數(shù)字時代，資訊海量、信息爆炸成為日常。信息質(zhì)量和流動速率數(shù)倍提升，也給人們帶來“幸福的煩惱”。很多時候，熱搜話題上的一條信息，最終被證實是謠言；切換多個平臺閱讀新聞，發(fā)現(xiàn)不少文章結構和內(nèi)容似曾相識；每遇熱門話題事件，跟帖評論口吻幾乎一致，或者跟帖網(wǎng)友互相“掐架”，背后原來有“水軍”發(fā)力……真假難辨、謠言頻出、內(nèi)容同質(zhì)、事件反轉，伴隨網(wǎng)絡而生的種種內(nèi)容亂象，既給用戶帶來困擾、造成困惑，也是擺在各互聯(lián)網(wǎng)平臺面前的治理課題。能否錨定重點、發(fā)力解決“痛點”，是平臺能力的實踐，更是平臺責任的體現(xiàn)。
從這個角度觀察，今日頭條持續(xù)發(fā)力內(nèi)容治理，便有了更具象的呈現(xiàn)。以剛剛過去的2024年為例。在治理網(wǎng)絡虛假謠言上，平臺通過謠言攔截、“頭條講真的”等公益辟謠教育、聯(lián)合權威媒體科普多種方式，累計攔截不實信息超500萬條，查證知識點101086個，封禁造謠、傳謠等違規(guī)賬號47705個；而在治理同質(zhì)化發(fā)文上，平臺則以源頭攔截、協(xié)同與教育等途徑，實現(xiàn)累計處罰同質(zhì)化內(nèi)容超781萬篇，禁言、封號超6.3萬個違規(guī)賬號等。治理視野上突出重點，介入途徑上多元并舉，處理方式上精準界定。既持續(xù)治理各類內(nèi)容亂象，也通過治理效果培育內(nèi)容生態(tài)新風。
事實上，針對內(nèi)容領域的亂象治理，今日頭條一直將治理工作作為重中之重，然而隨著互聯(lián)網(wǎng)的發(fā)展，和其他資訊平臺一樣“舊”的內(nèi)容亂象逐漸得到有效治理，但諸如AI低質(zhì)文、“水軍”、博流量等，新的亂象又開始出現(xiàn)并納入治理范圍。不斷升級識別技術、動態(tài)推出處置辦法等等，“因時而變”的動作背后，是平臺提升內(nèi)容水平、優(yōu)化整體生態(tài)健康度的體現(xiàn)，更折射出治理思路和踐行平臺責任的定力。
實踐已經(jīng)反復證明，不論是互聯(lián)網(wǎng)平臺上的謠言、詐騙還是“水軍”，抑或同質(zhì)低質(zhì)內(nèi)容、AI“冒險”創(chuàng)作，打擊治理的過程不會是一次性的，發(fā)力的主角也注定不能只是一方。治理內(nèi)容領域亂象需要定力，更需要匯聚合力。這既是互聯(lián)網(wǎng)本身的海量性、開放性所決定，也是網(wǎng)民素養(yǎng)、黑灰產(chǎn)業(yè)鏈條等多種因素所影響。例如，令不少平臺頭疼的網(wǎng)絡“水軍”問題。由于網(wǎng)絡“水軍”潛藏依附著黑灰產(chǎn)業(yè)，且存在門檻低、流竄“作案”等特點。查處“水軍”，不能只依賴于平臺本身的技術識別，更有賴于執(zhí)法部門等多方一起，通過執(zhí)法打擊、常態(tài)治理擠壓整個產(chǎn)業(yè)的生存空間。又比如，AI低質(zhì)發(fā)文的治理，也是目前各平臺面臨的一個課題。如今，五花八門的AI軟件增多，功能“禁區(qū)”模糊，給人們在“前端”的低質(zhì)或虛假創(chuàng)作環(huán)節(jié)中提供了空間；盡管創(chuàng)作者或平臺上線了提醒標識，但不少用戶不經(jīng)細敲或考證，輕易模仿、搬運，以假當真進行“二次創(chuàng)作”。這警示我們，一方面對于AI軟件市場和功能范圍，需及時劃定“紅線”；另一方面也要多措并舉，持續(xù)對所有人群加強宣傳教育，提升網(wǎng)友的互聯(lián)網(wǎng)素養(yǎng)。如此才能讓AI創(chuàng)作真正信息有用、有利用戶。
清朗、健康、優(yōu)質(zhì)的內(nèi)容生態(tài)，是平臺步步靠近的目標。不論是今日頭條還是其他互聯(lián)網(wǎng)平臺，繼續(xù)錨定“重點”對象，動態(tài)優(yōu)化舉措，持續(xù)加碼治理。平臺有定力，善于聚合力，就能不斷打開平臺內(nèi)容治理新的氣象。最終獲益的，也是每一個信任平臺的用戶。(文/宋凜)