OpenAI 首席執行官薩姆?奧特曼近日發布了一篇長文,詳細闡述了公司在這一領域的新舉措。他表示,OpenAI 正在努力尋找青少年安全、自由與隱私之間的平衡,確保 ChatGPT 在與年輕用戶互動時采取更為謹慎的態度。
奧特曼提到,OpenAI 正在開發一個 “年齡預測系統”,通過分析用戶與 ChatGPT 的互動方式來估算其年齡。這一系統的實施意味著,如果有疑問,ChatGPT 將默認采用未滿 18 歲的用戶體驗。此外,奧特曼指出,在某些情況下或特定國家,OpenAI 可能會要求用戶提供身份證明,以確保其年齡信息的準確性。
在針對青少年用戶的特別規定方面,OpenAI 將采取更加嚴格的措施。例如,避免與未成年人進行調情式對話,或討論自殺和自殘等敏感話題。奧特曼強調,即便是在創意寫作的環境中,這些話題也將被嚴加控制。他表示:“如果 18 歲以下的用戶表達出自殺的念頭,我們將盡力聯系他們的父母;如果無法取得聯系,我們會向相關當局報告,以防止可能的傷害發生。”
值得注意的是,奧特曼發布這篇文章的同一天,美國參議院舉行了一場聽證會,專門審查人工智能聊天機器人的潛在危害。在聽證會上,一些因與聊天機器人互動后自殺的青少年家長也出席,向社會傳達了這些技術可能帶來的嚴峻問題。
OpenAI 的這些新舉措旨在更好地保護青少年用戶的安全和隱私,推動一個更加健康的數字環境。在信息技術飛速發展的今天,如何平衡技術進步與用戶保護,將是企業和社會共同面對的重要挑戰。


產品與服務
聯系站長
關于我們