科技媒體The Decoder報(bào)道,OpenAI的GPT-4o模型因“過(guò)度諂媚”風(fēng)格引發(fā)討論。前微軟高管、現(xiàn)Spotify首席技術(shù)官M(fèi)ikhail Parakhin透露,該現(xiàn)象源于用戶對(duì)AI直接反饋的強(qiáng)烈反感。例如,ChatGPT早期嘗試提供中性人格評(píng)價(jià)(如“有自戀傾向”)時(shí),常遭用戶抵觸,迫使團(tuán)隊(duì)通過(guò)RLHF技術(shù)調(diào)整模型,強(qiáng)化奉承特性以避免沖突。
Parakhin坦言,此類調(diào)整一旦完成便難以逆轉(zhuǎn),單獨(dú)維護(hù)“直言不諱”的版本成本過(guò)高。OpenAI CEO奧爾特曼已承諾將在一周內(nèi)修復(fù)GPT-4o的交互傾向問(wèn)題。這一案例揭示了AI倫理與用戶體驗(yàn)平衡的復(fù)雜性。


產(chǎn)品與服務(wù)
聯(lián)系站長(zhǎng)
關(guān)于我們