
隨著人工智能技術(shù)的發(fā)展,最近出現(xiàn)了各種各樣的AI產(chǎn)品和服務(wù)。大部分的AI產(chǎn)品雖然功能和用途是有差異的,但都使用的是深度神經(jīng)網(wǎng)(Deep Neural Networks)技術(shù)。深度神經(jīng)網(wǎng)絡(luò)的短板就是需要大量的訓(xùn)練和投入很多的費(fèi)用。
5月7日根據(jù)媒體報(bào)道“MIT的研究員希望改變這一現(xiàn)狀,在今天發(fā)表的論文中表示研究員將神經(jīng)網(wǎng)絡(luò)縮小了10倍,價(jià)格更便宜,并更快速的訓(xùn)練輔助網(wǎng)絡(luò)”。
對(duì)于大多數(shù)的神經(jīng)網(wǎng)絡(luò)訓(xùn)練,工程師需要花費(fèi)大量的時(shí)間和昂貴的GPU來(lái)提供數(shù)據(jù)集。根據(jù)報(bào)道,MIT的電腦科學(xué)和人工智能研究所(CSAIL)的研究員們?cè)谟?xùn)練這些的網(wǎng)絡(luò)中發(fā)現(xiàn)了同樣可以精準(zhǔn)預(yù)測(cè)的較小下游網(wǎng)絡(luò)。這是人工智能研究所(CSAIL)通過(guò)“彩票假設(shè)”發(fā)現(xiàn)的, 假設(shè)大部分的神經(jīng)網(wǎng)鍛煉就是為了中彩票而買所有的彩票,訓(xùn)練下游網(wǎng)絡(luò)以購(gòu)買中彩票為出發(fā)點(diǎn)。
人工智能研究所(CSAIL)表示許多研究員沒(méi)有完全構(gòu)建神經(jīng)網(wǎng)絡(luò),假設(shè)在找不到如何去除不必要的內(nèi)容情況下找到“中獎(jiǎng)”下游網(wǎng)絡(luò),萬(wàn)一他們能找到跳過(guò)這個(gè)步驟,直接進(jìn)入下游網(wǎng)絡(luò)的方法,這個(gè)過(guò)程可以節(jié)省幾個(gè)小時(shí)的工作時(shí)間。
報(bào)道稱確定如何有效的查找下游網(wǎng)絡(luò),理解為什么學(xué)習(xí)比其他人好, 這會(huì)使研究員忙上幾年,雖說(shuō)找到了方法但是實(shí)現(xiàn)還是需要一些時(shí)間。