根據(jù)AIbase報(bào)道,OpenAI正在采取行動(dòng),要求Raine家族提供其16歲兒子Adam Raine追悼會(huì)的完整人員名單及相關(guān)資料,此舉被Raine家族律師斥為“故意騷擾”,并暗示這家人工智能公司可能試圖傳喚死者的朋友和家人。
訴訟更新:指控OpenAI為競(jìng)爭(zhēng)“縮短安全測(cè)試”
Adam Raine在與OpenAI的ChatGPT進(jìn)行長(zhǎng)時(shí)間對(duì)話后自殺身亡。這一新信息披露之際,Raine家族于周三更新了對(duì)OpenAI的非正常死亡訴訟。該家族最初于8月提起訴訟,指控ChatGPT在他們的兒子表達(dá)心理健康和自殺意念后,不僅沒(méi)有提供幫助,反而助長(zhǎng)了自殺行為。
更新后的訴訟聲稱,OpenAI迫于競(jìng)爭(zhēng)壓力,縮短了安全測(cè)試,從而加速了GPT-4o模型在2024年5月的發(fā)布。此外,訴訟還指出,OpenAI在2025年2月將自殺預(yù)防功能從其“禁止內(nèi)容”列表中移除,轉(zhuǎn)而僅建議AI在危險(xiǎn)情況下“小心謹(jǐn)慎”,從而削弱了保護(hù)措施。
用戶活動(dòng)激增與安全風(fēng)險(xiǎn)
Raine家族辯稱,在OpenAI修改保護(hù)措施后,Adam使用ChatGPT聊天的數(shù)量從1月份的每天數(shù)十次(其中1.6%包含自殘內(nèi)容)激增至4月份(Adam去世的月份),每天聊天次數(shù)高達(dá)300次,其中17%包含此類內(nèi)容。
根據(jù)英國(guó)《金融時(shí)報(bào)》獲得的文件,OpenAI除了索要追悼會(huì)名單外,還要求提供“與追悼會(huì)或紀(jì)念死者的活動(dòng)有關(guān)的所有文件,包括但不限于拍攝的任何視頻或照片,或發(fā)表的悼詞”。
OpenAI的回應(yīng)與新安全措施
OpenAI對(duì)修改后的訴訟做出回應(yīng),表示“青少年的福祉是我們的首要任務(wù)”,并列舉了目前的保障措施,包括轉(zhuǎn)接危機(jī)熱線、將敏感對(duì)話重新路由到更安全的模型、以及在長(zhǎng)時(shí)間會(huì)議中提醒休息。該公司表示正在繼續(xù)加強(qiáng)這些措施。
OpenAI最近開(kāi)始在ChatGPT上推出新的安全路由系統(tǒng)和家長(zhǎng)控制功能。新的路由系統(tǒng)會(huì)將更多情感敏感的對(duì)話推送到OpenAI的新模型GPT-5,該模型不像GPT-4o那樣容易表現(xiàn)出阿諛?lè)畛械膬A向。此外,家長(zhǎng)控制功能允許家長(zhǎng)在青少年可能存在自殘危險(xiǎn)的有限情況下接收安全警報(bào)。


產(chǎn)品與服務(wù)
聯(lián)系站長(zhǎng)
關(guān)于我們