網(wǎng)絡(luò)健康是個大問題

 

　　互聯(lián)網(wǎng)的普及有如太陽般給這個世界帶了信息透明和公正，但色情、暴力、恐怖等也如太陽黑子般揮之不去?；ヂ?lián)網(wǎng)中黑暗的角落，對廣大網(wǎng)民尤其是青少年網(wǎng)民的身心健康產(chǎn)生極大的危害，甚至引發(fā)犯罪行為，產(chǎn)生嚴重的社會問題；僅以色情為例，來看下面一組數(shù)據(jù)：

 

　　1、在互聯(lián)網(wǎng)上，總共有超過26,000,000（2千6百萬）個色情網(wǎng)站，占整個互聯(lián)網(wǎng)上全部網(wǎng)站數(shù)的12%。

 

　　2、在互聯(lián)網(wǎng)世界里，每秒鐘有28,258人在瀏覽色情網(wǎng)站，這造就了網(wǎng)絡(luò)色情業(yè)每秒鐘超過3,000美元的消費額，年消費額近1000億美元。

 

　　3、每天有68,000,000（6千8百萬）次的網(wǎng)絡(luò)搜索是與色情相關(guān)的，占每天總搜索量的1/4。

 

　　4、網(wǎng)絡(luò)色情中有相當(dāng)一部分是兒童色情內(nèi)容，每天有116,000次關(guān)于兒童色情的搜索；孩子們第一次在網(wǎng)上觀看色情內(nèi)容的平均年齡是11歲。

 

 

　　不良內(nèi)容泛濫導(dǎo)致犯罪等嚴重社會問題

 

　　undefinedTed Bundy，美國活躍于1973年至1978年的連環(huán)殺手

 

　　如下論述出自一個叫Ted Bundy的美國人，一個涉嫌強奸并殺害了超過100名女性的連環(huán)殺手，他說：“我們是某些人的兒子某些人的丈夫，只不過我們受媒體暴力，尤其是色情暴力所害，偏離了軌道。如果整個社會對這些情色內(nèi)容不能加以控制，那么正常家庭的孩子就會輕易地被色情暴力奪走。”

 

　　更多的研究數(shù)據(jù)，得出了以下幾點結(jié)論：

 

　　1、大部分強奸和猥褻兒童犯罪份子都承認受到色情網(wǎng)站的啟發(fā)；

 

　　2、許多健康的青少年承認，只要看了一次色情網(wǎng)站，都會對女性產(chǎn)生不恰當(dāng)?shù)臎_動；

 

　　3、相當(dāng)部分的初高中生，甚至成年人，會模仿情色電影的暴力內(nèi)容。

 

　　中國互聯(lián)網(wǎng)不良內(nèi)容防護遠不完美

 

　　據(jù)數(shù)據(jù)顯示，中國兒童性發(fā)育的時間由原先的11至12歲開始發(fā)育，提前到女孩平均9.7歲，男孩平均11.3歲。與性發(fā)育提前相反的是，中國的性教育發(fā)展卻相對滯后。另一方面，超過1.5億的中國網(wǎng)民年齡低于19歲，超過1800萬的兒童網(wǎng)民不足10歲，半數(shù)以上兒童不到5歲即接觸互聯(lián)網(wǎng)。傳統(tǒng)文化的因循守舊和互聯(lián)網(wǎng)色情的泛濫，讓中國的孩子們對性的認知陷入困惑狀態(tài)。

 

　　2014年，僅中國互聯(lián)網(wǎng)違法和不良信息舉報中心接受到的淫穢色情有害信息舉報就達71萬多起，平均每天近2000起，而事實上很多孩子恰恰就是這些色情信息的傳播者。

 

 

　　國內(nèi)的搜索引擎也不盡安全，不少色情內(nèi)容的鏈接可以很輕易被搜索到。網(wǎng)盤云盤中，也充斥著各種色情圖片和視頻。最近鬧得沸沸揚揚的百度網(wǎng)盤被“誤塞海量色情視頻“事件，更是將網(wǎng)盤的安全推向了封口浪尖。試想一下，當(dāng)平日安分守己、刻苦學(xué)習(xí)的孩子，打開網(wǎng)盤下載預(yù)存的課件時，卻發(fā)現(xiàn)滿屏都是色情視頻，少年將走向何處？

 

　　undefined互聯(lián)網(wǎng)直播讓安全監(jiān)控難上加難

 

　　2016年，互聯(lián)網(wǎng)產(chǎn)業(yè)的版圖上，網(wǎng)絡(luò)視頻直播比以往更熱鬧些。2016年3月，成立只有兩年多的“斗魚”直播平臺再度完成新一輪融資，獲得騰訊領(lǐng)投的約1億美元投資。但與此同時，“斗魚”、“熊貓TV”等多家直播平臺卻頻繁曝出色情裸露甚至直播性愛的事故，引起軒然大波。

 

　　undefined

 

　　一邊資本熱捧，一邊色情泛濫。2016年7月，“斗魚”等26個直播平臺被查處，1.68萬余名“網(wǎng)紅主播“被處理，共關(guān)閉嚴重違規(guī)表演房間4,313間，整改違規(guī)表演房間15,795間。然而高壓整頓并未有實質(zhì)性效果，“嘿咻”直播平臺在被勒令停業(yè)整頓僅僅一個月后，再次大批量出現(xiàn)各種色情淫穢直播畫面。

 

　　色情誤播頻發(fā)的電子大屏幕

 

　　線下的電子媒體也深受色情困擾。近年隨著LED/LCD屏幕造價的不斷降低，其展示內(nèi)容豐富多彩且操控靈活，電子顯示屏在商場、體育館、演藝場館、學(xué)校、政府機關(guān)等各種場合得到了廣泛應(yīng)用。伴隨公共電子顯示屏的普及，各種色情誤播事故是你方唱罷我登場，層出不窮。被廣泛報道的，就有“安徽蚌埠萬達廣場電子屏播放色情視頻”、“廣東珠海市北大附屬實驗學(xué)校食堂顯示器播放不雅視頻“、“遼寧錦江市凌河區(qū)解放小學(xué)教室電子白板多次播放色情視頻”、“巴西客運站時刻表顯示屏顯示色情網(wǎng)站并播放色情視頻”等上百起色情播放事故，各種電子屏應(yīng)用場合均未幸免；在中小學(xué)甚至幼兒園出現(xiàn)的色情播放事故，影響尤其惡劣。

 

　　互聯(lián)網(wǎng)內(nèi)容安全監(jiān)控刻不容緩

 

　　不良內(nèi)容在全球互聯(lián)網(wǎng)及線下電子媒體泛濫成災(zāi)，國內(nèi)外的技術(shù)巨頭們一直在嘗試使用人工智能加以識別和過濾，人工智能是維護健康網(wǎng)絡(luò)的幕后英雄。Facebook、Google、Microsoft、Twitter等知名互聯(lián)網(wǎng)公司，均采用人工智能的技術(shù)來監(jiān)測和過濾色情、暴力等不良圖片和信息。人工智能用于不良內(nèi)容過濾，主要有如下三類典型應(yīng)用：

 

　　一、社交平臺和信息服務(wù)平臺自帶的人工智能過濾

 

　　雖然社交平臺都有相關(guān)的用戶協(xié)議，要求不能發(fā)布任何仇恨、裸露、暴力、威脅的內(nèi)容，然而對用戶并不能產(chǎn)生實際約束作用。一個典型的例子，微軟發(fā)布的聊天機器人Tay，在twitter上線不到24小時，就因為被網(wǎng)友的不當(dāng)言論“教壞”了，而不得不下線“修理”。但面對海量并發(fā)的各種言論和信息，人工檢測實在費時費力，人工智能這時候就展現(xiàn)其獨特優(yōu)勢了：

 

 

　?。璮acebook機器學(xué)習(xí)小組使用機器學(xué)習(xí)方法來監(jiān)測所有上載到facebook的圖片的內(nèi)容，包括廣告的內(nèi)容，用來過濾其中色情、暴力等內(nèi)容。

 

　?。璗witter收購了兩家視覺媒體內(nèi)容監(jiān)測創(chuàng)業(yè)公司Madbits和Whetlab，運用它們的人工神經(jīng)網(wǎng)絡(luò)技術(shù)實現(xiàn)色情內(nèi)容監(jiān)控。

 

　?。璆oogle的SafeSearch（安全檢索）功能使用了機器學(xué)習(xí)來識別色情圖片，可給未成年人提供健康正常的網(wǎng)絡(luò)瀏覽與檢索。

 

　　二、軟件和技術(shù)供應(yīng)商開發(fā)的色情內(nèi)容過濾的軟件和API

 

　?。璆oogle不僅提供SafeSearch功能，并且將此功能作為API開放給其他用戶使用，作為他們的云視覺API（Cloud Vision API）服務(wù)的一部分，目前已有很多客戶。一些規(guī)模較小的社交平臺（例如用戶個人品牌服務(wù)公司Photofy）可以使用這套系統(tǒng)來保證他們的用戶不使用色情圖片來吸引流量。

 

　?。④浀娜斯ぶ悄蹵PI服務(wù)（微軟牛津計劃）也提供類似的功能。

 

　　三、不良內(nèi)容終極殺手：新型智能硬件和軟件服務(wù)

 

　　以上基于云計算的不良內(nèi)容鑒別技術(shù)和服務(wù)，主要應(yīng)用于大型互聯(lián)網(wǎng)社交平臺或搜索引擎，對線下應(yīng)用和中小型網(wǎng)站并不適用，比如上文提到的公共電子顯示屏、缺乏計算平臺和防護技術(shù)的普通門戶網(wǎng)站（如中小企業(yè)主頁、各級政府機關(guān)的門戶網(wǎng)站等）、以及對防護實時性要求很高的視頻直播等?？上驳氖?，隨著算法和技術(shù)的不斷進步，人工智能也逐漸滿足上述應(yīng)用需求了。北京匠數(shù)科技有限公司（www.deepctrl.com），是國內(nèi)專注于網(wǎng)絡(luò)和電子媒體內(nèi)容安全監(jiān)控的人工智能公司，設(shè)計推出了基于深度學(xué)習(xí)的“盒諧”系列不良內(nèi)容監(jiān)控產(chǎn)品，包括適用于公共電子屏不良內(nèi)容實時過濾的智能硬件，給中小企業(yè)和政府機關(guān)門戶網(wǎng)站提供的內(nèi)容安全監(jiān)控服務(wù)，以及適用于網(wǎng)絡(luò)直播的內(nèi)容安全監(jiān)控服務(wù)等。匠數(shù)科技CEO張樂平說，“我們相信，保護互聯(lián)網(wǎng)和電子媒體免受色情暴力等不良信息的侵害，給所有的網(wǎng)民尤其是青少年提供一個干凈健康的互聯(lián)網(wǎng)世界，是人工智能最主要的價值所在，也是匠數(shù)科技的責(zé)任和使命——只為更好的智能世界。”

 

　　人工智能，做網(wǎng)絡(luò)健康最忠實的守護神，消除互聯(lián)網(wǎng)中黑暗的角落，讓互聯(lián)網(wǎng)的普世之光，照進世界的現(xiàn)在和未來。