據(jù)華盛頓郵報報道,美國聯(lián)邦貿(mào)易委員會(FTC)近日對總部位于舊金山的公司OpenAI展開了全面調(diào)查,原因是該公司開發(fā)的流行聊天機器人ChatGPT可能違反了消費者保護法,將個人聲譽和數(shù)據(jù)置于危險之中。


FTC向該公司發(fā)出了一份20頁的記錄要求(demand for record),要求其說明如何應(yīng)對其AI模型所帶來的風(fēng)險,這項調(diào)查對OpenAI在美國的業(yè)務(wù)構(gòu)成了重大的監(jiān)管威脅。
FTC強調(diào),盡管政府和國會沒有明確規(guī)定全面的監(jiān)管規(guī)則,但現(xiàn)有的消費者保護法仍然適用于AI。參議院多數(shù)黨領(lǐng)袖查爾斯?E?舒默預(yù)測,新的AI立法仍需數(shù)月時間才能出臺。
FTC向OpenAI提出的記錄要求標(biāo)志著該機構(gòu)執(zhí)行這些警告的第一步具體行動。如果FTC發(fā)現(xiàn)其違反消費者保護法的證據(jù),就可以對其處以罰款,并規(guī)定該公司如何處理數(shù)據(jù)。IT之家注意到,F(xiàn)TC此前已經(jīng)確立了自己作為硅谷主要監(jiān)管機構(gòu)的地位,對meta、亞馬遜和推特等公司因涉嫌違反消費者保護法而處以了重罰。
在其記錄要求中,F(xiàn)TC特別要求OpenAI提供關(guān)于其產(chǎn)品對個人做出虛假、誤導(dǎo)、誹謗或有害陳述的任何投訴的詳細描述。FTC正在調(diào)查OpenAI是否從事了導(dǎo)致消費者聲譽受損的不公平或欺騙性行為。此外,該機構(gòu)還要求提供與3月份發(fā)生的安全事件相關(guān)的記錄,該事件泄露了一些用戶的支付相關(guān)信息和聊天記錄。FTC正在調(diào)查OpenAI的數(shù)據(jù)安全做法是否違反消費者保護法。OpenAI此前在一篇博客文章中聲稱,只有極少數(shù)用戶將自己的數(shù)據(jù)泄露給其他人。
FTC向OpenAI尋求的信息中,還包括任何評估消費者對其AI工具生成的輸出的準(zhǔn)確性和可靠性的理解的研究、測試或調(diào)查,該機構(gòu)重點關(guān)注OpenAI的聊天機器人生成的可能損害個人聲譽的虛假陳述。例如,ChatGPT此前錯誤地指控一位廣播電臺脫口秀主持人涉及法律索賠,OpenAI為此遭到誹謗訴訟。ChatGPT還編造了一個涉及虛構(gòu)故事和《華盛頓郵報》(The Washington Post)不存在的文章的性騷擾丑聞。除了解決這些問題外,F(xiàn)TC還要求OpenAI提供其產(chǎn)品、廣告實踐、新產(chǎn)品發(fā)布的政策和程序以及減輕大型語言模型相關(guān)風(fēng)險的安全措施的詳細細節(jié)。該機構(gòu)還要求OpenAI提供用于訓(xùn)練其模型的數(shù)據(jù)的詳細描述,以及用于解決其產(chǎn)生“幻覺”或編造答案的方法。
FTC對OpenAI的調(diào)查意味著著該公司面臨重大監(jiān)管挑戰(zhàn),OpenAI的ChatGPT的快速增長及其產(chǎn)生有害內(nèi)容的潛力引起了聯(lián)邦貿(mào)易委員會的注意,該委員會尋求執(zhí)行現(xiàn)有的消費者保護法,這項調(diào)查的結(jié)果可能有助于塑造美國人工智能監(jiān)管的未來。