抖音開展“AI起號”專項治理行動

　　5月19日消息，抖音近日發布關于“AI起號”專項治理行動的公告。公告稱，近期，抖音開展專項行動治理“AI起號”現象，重點整治利用AI生成低俗獵奇視頻、AI生成虛擬外國幼兒教育專家教授育兒內容、AI視頻賬號售賣教程、AI賬號秘籍傳授、引導規避平臺AI標注、轉讓銷售AI虛擬賬號等行為。在平臺站內，累計清理311條違規內容，針對心x甜、向xAi同城流量、瑞xxAI智習室等15個嚴重違規賬號進行了封禁。

　　一、“AI起號”亂象：技術便利下的內容異化

　　網經社數字零售臺(DR.100EC.CN)查詢DeepSeek后獲悉，“AI起號”指通過人工智能技術快速生成視頻、打造虛擬人設，以實現賬號流量變現的行為。此次抖音點名的違規案例中，三類現象尤為突出：

　　低俗內容工業化生產：AI批量生成獵奇、低俗視頻，利用算法漏洞博取流量;

　　虛假人設欺騙用戶：如虛構“外國育兒專家”人設，輸出未經科學驗證的內容牟利;

　　灰色產業鏈衍生：部分賬號公然售賣“AI起號教程”或轉讓虛擬賬號，形成黑產閉環。

　　這些行為不僅污染內容生態，更可能誤導消費者、侵害未成年人權益。例如，虛假育兒建議可能對家庭造成實際危害，而AI生成的“完美人設”則加劇社會信任危機。

　　二、平臺治理邏輯：從被動應對到主動防御

　　抖音此次行動反映了平臺治理策略的升級：

　　技術識別與標注：通過AI水印、內容指紋等技術標記生成式內容，但違規者試圖“規避標注”的行為增加了治理難度;

　　規則細化：將“AI起號”相關售賣、教學行為納入違規范疇，切斷黑產傳播鏈;

　　跨平臺協作：需聯合電商、支付平臺打擊教程交易，避免治理“按下葫蘆浮起瓢”。

　　然而，挑戰依然存在。AI技術迭代速度遠超規則更新，例如近期“深度偽造”(Deepfake)語音和視頻的泛濫，使得虛假人設更難被普通用戶識別。

　　三、行業啟示：技術向善需多方共治

　　抖音的治理僅是AI內容亂象的“冰山一角”。長遠來看，需構建三層防線：

　　平臺責任前置：將AI內容審核嵌入創作工具端，例如自動攔截違規腳本或敏感關鍵詞;

　　用戶教育普及：增設“AI內容識別提示”，提升公眾媒介素養;

　　立法與標準完善：我國需加快出臺生成式AI內容管理辦法，明確虛擬人設的法律責任。

　　國際經驗亦可借鑒，如歐盟《數字服務法》要求平臺對AI生成內容進行風險評估，美國加州已立法禁止選舉前60天傳播深度偽造視頻。

　　AI技術本應是內容創作的“加速器”，而非擾亂秩序的“作弊器”。抖音此次治理傳遞出明確信號：技術應用不能突破倫理底線。未來，唯有平臺、用戶、監管方形成合力，才能讓技術真正服務于優質內容的創造，而非短視的流量游戲。在創新與治理的平衡木上，規則的完善程度將決定我們能否走向一個更清朗的數字未來。