DoNews10月16日消息,據(jù)CNBC報道,OpenAI放寬成人內(nèi)容的決定引發(fā)了爭議。周三,OpenAI CEO薩姆·奧特曼(Sam Altman)對此回應(yīng)稱,公司“并非經(jīng)選舉產(chǎn)生的世界道德警察”。言外之意,OpenAI不會去決定什么是“道德的”或“不道德的”。
近幾個月來,OpenAI加強了安全控制,因為外界對其如何保護用戶,尤其是未成年用戶,提出了越來越多的質(zhì)疑。然而,奧特曼周二在X上發(fā)文稱,OpenAI現(xiàn)在擁有了新的工具,已能緩解“嚴重的心理健康問題”,因此公司將能夠“安全地放寬”大部分限制。
奧特曼表示,從今年12月起,OpenAI將允許“經(jīng)過驗證的成年人”在ChatGPT上訪問更多類型的內(nèi)容,包括情色內(nèi)容。
然而,此舉隨即在社交媒體上引發(fā)了困惑和輿論反彈。奧特曼坦言,“這一決定引發(fā)的轟動遠超他的預(yù)期”。他的表態(tài)同時引起反性剝削倡導(dǎo)組織的關(guān)注。美國全國反性剝削中心(NCOSE)公開呼吁OpenAI撤銷允許ChatGPT生成情色內(nèi)容的決定。
該機構(gòu)執(zhí)行主任海莉·麥克納馬拉(Haley McNamara)周三在聲明指出:“性化AI聊天機器人存在固有風險,虛假親密關(guān)系會造成真實的心理健康損害,這一切都發(fā)生在行業(yè)安全標準尚不明確的背景下?!?/p>
奧特曼周三在X上發(fā)文試圖澄清此舉,表示OpenAI “非常重視將成年用戶當作成年人對待的原則”,但仍不會允許“會對他人造成傷害的內(nèi)容”。
“就像社會對其他界限(如限制級電影)進行適當區(qū)分一樣,我們也希望在這里做類似的事情?!眾W特曼稱。
不過,此舉與奧特曼今年8月在一檔播客節(jié)目中的表態(tài)相矛盾。當時,他曾表示,自己為OpenAI能抵制某些功能(如性愛機器人化身)而感到“自豪”,因為這些功能雖然能在短期內(nèi)提高ChatGPT的用戶參與度,但違背了公司的長期目標。