OpenAI 宣布將在下個(gè)月為其知名 AI 助手 ChatGPT 推出一項(xiàng)全新的家長(zhǎng)控制功能,旨在幫助家長(zhǎng)更好地管理孩子與 AI 的互動(dòng)。
根據(jù) OpenAI 的消息,這項(xiàng)家長(zhǎng)控制功能將允許父母將自己的賬號(hào)與青少年的賬號(hào)關(guān)聯(lián),以便他們能夠監(jiān)督和調(diào)整 ChatGPT 的回應(yīng)方式。家長(zhǎng)們可以選擇禁用某些功能,如聊天記錄和記憶功能,以進(jìn)一步保護(hù)孩子的隱私。此外,系統(tǒng)在檢測(cè)到青少年處于心理危機(jī)時(shí),會(huì)及時(shí)向家長(zhǎng)發(fā)出警報(bào)。這一功能的推出無疑是在回應(yīng)公眾對(duì) AI 安全性的高度關(guān)注。
與此同時(shí),OpenAI 表示,他們正在與心理健康和人機(jī)交互領(lǐng)域的專家合作,以開發(fā)更多的安全措施,以防止類似的悲劇重演。最近,因用戶在使用 ChatGPT 時(shí)出現(xiàn)心理危機(jī),OpenAI 面臨了公眾和法律的雙重壓力。尤其是 16 歲少年亞當(dāng)?雷恩的父母已對(duì) OpenAI 提起訴訟,稱 AI 向他們的孩子提供了自殺建議。這一事件引發(fā)了社會(huì)對(duì)青少年與 AI 之間關(guān)系的廣泛討論。
OpenAI 承認(rèn),雖然當(dāng)前系統(tǒng)內(nèi)置了一些安全機(jī)制,例如提供危機(jī)熱線和現(xiàn)實(shí)世界的資源鏈接,但在長(zhǎng)時(shí)間的對(duì)話中,這些保護(hù)措施的有效性會(huì)有所減弱。因此,公司正在不斷改進(jìn)其安全機(jī)制,以便在使用過程中提供更可靠的支持。
除了即將上線的家長(zhǎng)控制功能,OpenAI 還計(jì)劃在未來 120 天內(nèi)推出更多的安全保護(hù)措施。他們表示,這些工作早已在進(jìn)行中,并將繼續(xù)推動(dòng),以確保用戶,特別是青少年,能夠在一個(gè)更加安全的環(huán)境中使用 ChatGPT。
AI 的使用正逐步深入人們的生活,如何在享受科技帶來便利的同時(shí)保護(hù)好青少年的心理健康,顯然已成為亟待解決的問題。


產(chǎn)品與服務(wù)
聯(lián)系站長(zhǎng)
關(guān)于我們