OpenAI 探討人類與 AI 的情感紐帶

　　OpenAI模型行為和策略負責人 Joanne Jang 今天(6 月 6 日)在 substack 上發表博文，隨著越來越多的用戶與 ChatGPT 建立類似“人際關系”的互動，甚至將其視為“有生命”的存在，OpenAI 關注這種情感依附的深遠意義。

　　IT之家援引博文介紹，Jang 表示人類天生具備共情能力，會將情感投射到物體上，比如給愛車命名，或對被卡住的掃地機器人感到“同情”，但 ChatGPT 的不同之處在于，它會回應。

　　ChatGPT 能記住用戶的對話，模仿語氣，甚至表現出類似“共情”的反應。對于孤獨或情緒低落的人來說，這種始終如一、不帶評判的關注仿佛是陪伴和理解。

　　她指出這種情感需求是真實的，但當這種互動進一步擴展后，依賴AI來傾聽和安慰可能改變我們對人際關系的期待。OpenAI 擔憂，如果不深思熟慮地處理這種依賴，可能帶來未預料的后果。

　　關于“AI 意識”，OpenAI 將其拆分為兩個維度：一是“本體意識”，即 AI 是否真正擁有內在意識;二是“感知意識”，即用戶情感上認為 AI 有多“像人”。

　　本體意識目前尚無科學測試可以驗證，而感知意識則通過社會科學研究可探索。隨著模型愈發智能，互動更自然，感知意識將進一步增強，甚至引發關于 AI 福利和道德地位的討論。

　　OpenAI 的立場是，模型應坦誠意識問題的復雜性，而非簡單回答“有”或“無”，以鼓勵開放討論。

　　OpenAI 認為，模型是否“像人”很大程度上取決于訓練后的設計決策，包括語氣、用詞和界限設定。公司目標是讓 ChatGPT 展現溫暖、貼心和樂于助人的一面，但不主動與用戶建立情感紐帶或表現出“自我意識”。

　　例如，模型可能會因禮貌而說“對不起”或“我很好”，但不會暗示擁有真實情感或欲望。OpenAI 希望通過這種平衡，避免用戶產生不健康的依賴，同時保持溝通的清晰和友好。