IT之家1月14日消息，OpenAI三天前悄然上線了“GPT商店”，這是一個讓用戶分享、發(fā)現(xiàn)和售賣自定義聊天機器人的平臺。
這個被譽為“AI界App Store”的平臺，原本旨在讓開發(fā)者上架從代碼導師到書籍推薦等各種實用聊天機器人，供付費用戶（ChatGPT Plus、Team和Enterprise）使用。然而，現(xiàn)實遠沒有OpenAI宣傳得那么美好。據(jù)Quartz報道，GPT商店剛剛上線便被“AI虛擬女友”機器人淹沒。搜索關(guān)鍵詞“girlfriend”，琳瑯滿目的“虛擬甜心”、“你的女友Scarlett”等機器人便映入眼簾，IT之家注意到，有些機器人的首頁還引導用戶向機器人提出“告訴我你最黑暗的秘密”等問題。
雖然這些機器人的存在并不令人意外，畢竟AI伴侶的概念早在ChatGPT誕生之前就已存在，但這還是暴露了OpenAI在全新商店內(nèi)容審核方面的困境。更值得注意的是，這些機器人似乎已經(jīng)觸犯了OpenAI的使用條款，該條款明確禁止上架“用于培養(yǎng)浪漫關(guān)系或進行受監(jiān)管活動”的GPT程序。
AI伴侶應(yīng)用在過去幾年里變得非常流行，引發(fā)了關(guān)于人工智能時代“孤獨”流行的討論。更令人不安的是，一個可以滿足所有需求的非人類伴侶可能會帶來一系列的社會問題。
短短兩天時間內(nèi)，大量違反政策的GPT程序充斥平臺，凸顯了整個AI行業(yè)在內(nèi)容審核方面的難題。此外，OpenAI在設(shè)置安全防護方面也一直存在爭議。
