為“傳喚朋友”鋪路?OpenAI被曝索要輕生少年追悼會(huì)完整名單

　　根據(jù)AIbase報(bào)道，OpenAI正在采取行動(dòng)，要求Raine家族提供其16歲兒子Adam Raine追悼會(huì)的完整人員名單及相關(guān)資料，此舉被Raine家族律師斥為“故意騷擾”，并暗示這家人工智能公司可能試圖傳喚死者的朋友和家人。

　　訴訟更新:指控OpenAI為競(jìng)爭(zhēng)“縮短安全測(cè)試”

　　Adam Raine在與OpenAI的ChatGPT進(jìn)行長(zhǎng)時(shí)間對(duì)話后自殺身亡。這一新信息披露之際，Raine家族于周三更新了對(duì)OpenAI的非正常死亡訴訟。該家族最初于8月提起訴訟，指控ChatGPT在他們的兒子表達(dá)心理健康和自殺意念后，不僅沒(méi)有提供幫助，反而助長(zhǎng)了自殺行為。

　　更新后的訴訟聲稱，OpenAI迫于競(jìng)爭(zhēng)壓力，縮短了安全測(cè)試，從而加速了GPT-4o模型在2024年5月的發(fā)布。此外，訴訟還指出，OpenAI在2025年2月將自殺預(yù)防功能從其“禁止內(nèi)容”列表中移除，轉(zhuǎn)而僅建議AI在危險(xiǎn)情況下“小心謹(jǐn)慎”，從而削弱了保護(hù)措施。

　　用戶活動(dòng)激增與安全風(fēng)險(xiǎn)

　　Raine家族辯稱，在OpenAI修改保護(hù)措施后，Adam使用ChatGPT聊天的數(shù)量從1月份的每天數(shù)十次（其中1.6%包含自殘內(nèi)容）激增至4月份(Adam去世的月份)，每天聊天次數(shù)高達(dá)300次，其中17%包含此類內(nèi)容。

　　根據(jù)英國(guó)《金融時(shí)報(bào)》獲得的文件，OpenAI除了索要追悼會(huì)名單外，還要求提供“與追悼會(huì)或紀(jì)念死者的活動(dòng)有關(guān)的所有文件，包括但不限于拍攝的任何視頻或照片，或發(fā)表的悼詞”。

　　OpenAI的回應(yīng)與新安全措施

　　OpenAI對(duì)修改后的訴訟做出回應(yīng)，表示“青少年的福祉是我們的首要任務(wù)”，并列舉了目前的保障措施，包括轉(zhuǎn)接危機(jī)熱線、將敏感對(duì)話重新路由到更安全的模型、以及在長(zhǎng)時(shí)間會(huì)議中提醒休息。該公司表示正在繼續(xù)加強(qiáng)這些措施。

　　OpenAI最近開(kāi)始在ChatGPT上推出新的安全路由系統(tǒng)和家長(zhǎng)控制功能。新的路由系統(tǒng)會(huì)將更多情感敏感的對(duì)話推送到OpenAI的新模型GPT-5，該模型不像GPT-4o那樣容易表現(xiàn)出阿諛?lè)畛械膬A向。此外，家長(zhǎng)控制功能允許家長(zhǎng)在青少年可能存在自殘危險(xiǎn)的有限情況下接收安全警報(bào)。