12月4日,北京消協聯合京東、美團、拼多多、唯品會、抖音、快手、小紅書、微信直播等8家電商平臺,正式簽訂全國首份《促進AI(人工智能)技術規范應用承諾書》(下稱《承諾書》),從技術標識、內容審核、責任追溯等環節建立企業自律規范,提出六大具體舉措,劃定AI技術應用“合規紅線”,壓實平臺企業主體責任,維護消費者合法權益。
近年來,AI數字人直播、虛擬場景帶貨等新技術應用快速普及,在提升消費體驗的同時,部分商家的違規操作也引發消費者廣泛擔憂。據網經社數字零售臺(DR.100EC.CN)了解,北京消協歷時3個月開展專項調查,通過問卷調研、體驗式調查、專家研討等方式,鎖定當前AI合成技術應用中侵害消費者權益的三大突出問題:
一是消費者知情權保障不足,“真假難辨”困擾普遍存在。據3162份有效回收問卷調查數據,近九成的受訪者呼吁“AI生成內容需顯著標識”,超七成接受虛擬背景但強調需有顯著提示;超六成認為AI數字人“缺乏真情實感”,近三成擔憂其“可能誤導消費決策”。
二是合成技術濫用滋生消費風險,“虛假營銷”問題凸顯。針對電商平臺的AI數字人、AI場景直播帶貨行為,北京消協通過“模擬消費者在直播間購物+線下比對實物”的方式,對10個AI數字人直播帶貨樣本開展體驗調查。調查發現:5個樣本在直播界面標注“AI生成”“擬真場景”等提示信息,5個樣本沒有對體驗人員的問題進行及時回應或互動;6個樣本存在未提示私下交易風險等問題。此外,部分網絡直播中存在利用公眾信任謀取不當利益的情況,近期網信部門也處置了一批利用AI換臉技術仿冒公眾人物開展直播營銷的網絡賬號。
三是平臺審核機制存在短板,“風險防控”能力有待提升。經與專家研討調研發現,當前部分電商平臺尚未建立健全AI內容審核專項制度,對商家使用AI數字人、虛擬場景等技術缺乏有效管理規則和精準識別技術,導致消費者在購物過程中難以快速辨別信息真偽,增加了消費決策風險。
針對上述問題,《承諾書》以“標識透明、審核嚴格、責任可溯”為核心,提出六大具體措施,為AI技術在電商領域的合規應用劃定“紅線”。北京消協相關負責人表示,下一步,消協組織將持續跟蹤網絡AI技術應用動態,組織志愿者體驗直播間購物、追蹤反饋實際感受,督促企業嚴格落實承諾內容。同時,通過線上線下多渠道開展消費教育活動,向廣大消費者普及AI技術常識,提升消費者辨別虛假內容的能力與防范意識。通過多方協作、多維施策,構建“技術合規、平臺履責、消費安心”的網絡消費環境。


產品與服務
聯系站長
關于我們