據(jù)《法治日?qǐng)?bào)》近日?qǐng)?bào)道，在一些電商平臺(tái)上，有不少做AI“復(fù)活”生意的商家，標(biāo)價(jià)從幾元、幾十元到上百元乃至數(shù)千元。與此同時(shí)，近年來(lái)，AI換聲、AI換臉等詐騙手段也越來(lái)越高級(jí)，欺騙用戶的情感和錢(qián)財(cái)。
受訪專家建議，AI“復(fù)活”技術(shù)提供者提供服務(wù)前，應(yīng)明確要求用戶提供相關(guān)證明，并加強(qiáng)技術(shù)防范，避免AI產(chǎn)品侵犯他人合法權(quán)益或被用于欺詐等不法行為。相關(guān)部門(mén)要加強(qiáng)監(jiān)管，推動(dòng)建立行業(yè)標(biāo)準(zhǔn)，既保證技術(shù)創(chuàng)新，也要保障人類的價(jià)值和尊嚴(yán)。
IT之家此前報(bào)道，近日一名男子通過(guò)AI換臉技術(shù)成功“復(fù)活”去世的父親。視頻中，這名男子為了更像自己的父親，剃掉了胡須，用AI換臉?shù)浿?a href="http://www.baoxianwx.cn/video/" target="_blank">視頻，并模仿父親的語(yǔ)氣向自己的奶奶報(bào)平安。
無(wú)獨(dú)有偶，音樂(lè)人包小柏也使用了類似的形式來(lái)“復(fù)活”已故女兒，通過(guò)AI技術(shù)制作了“數(shù)位（數(shù)字）女兒”，成功重現(xiàn)愛(ài)女的嗓音。
2021年，包小柏22歲的女兒病故，此后包小柏決定攻讀博士、鉆研AI相關(guān)技術(shù)，并希望AI技術(shù)讓女兒能夠在數(shù)字世界里“復(fù)活”。他希望能夠通過(guò)AI技術(shù)來(lái)重現(xiàn)愛(ài)女的嗓音，但由于女兒生前僅留下3句與媽媽視頻通話時(shí)的英文對(duì)話，與錄音室規(guī)模落差太大，AI專業(yè)工程人員直言“癡人說(shuō)夢(mèng)”。但包小柏決定自己鉆研，花費(fèi)10個(gè)月終于做出了2小時(shí)的聲紋。
然而，并不是所有人都將這項(xiàng)技術(shù)運(yùn)用到思念親人。以美國(guó)為例，2023年全美老年人因?yàn)樵p騙而損失了16億美元（IT之家備注：當(dāng)前約115.2億元人民幣），其中就有許多詐騙是利用AI技術(shù)來(lái)“克隆”熟人的聲音，以及其他依靠AI生成的伎倆。
