網(wǎng)易云安全：直播用戶量爆發(fā)，智能化風控成趨勢

近日，第二屆移動視頻生態(tài)發(fā)展論壇在上海舉行，200余位來自視頻直播的行業(yè)領(lǐng)袖和技術(shù)專家就視頻直播趨勢變化、直播內(nèi)容監(jiān)管與規(guī)范、視頻內(nèi)容IP價值的發(fā)掘和重塑等主題展開探討。

　　網(wǎng)易云安全(易盾)產(chǎn)品總監(jiān)王博受邀出席論壇，并發(fā)表了關(guān)于“視頻直播行業(yè)內(nèi)容安全現(xiàn)狀與實踐”的演講，他認為當下直播運營者在內(nèi)容監(jiān)管方面往往會遇到風險、成本、技術(shù)、效果等困境，而在內(nèi)容安全解決方案上，做到有機整合、人工智能、內(nèi)容風控這三點尤為重要。此外，網(wǎng)易云安全正式面向企業(yè)客戶開放了其內(nèi)容安全智能系統(tǒng)，這一系統(tǒng)在云安全服務(wù)領(lǐng)域處于業(yè)內(nèi)領(lǐng)先。

　　網(wǎng)絡(luò)直播爆發(fā)的同時，內(nèi)容監(jiān)管問題日益凸顯

　　2016年被譽為“中國網(wǎng)絡(luò)直播元年”，上半年網(wǎng)絡(luò)直播用戶規(guī)模就已經(jīng)達到了3.25億，占網(wǎng)民總體的“45.8%”，中國直播市場的總量超過了 250 億元。網(wǎng)絡(luò)直播作為一種新的大眾傳媒方式開始全方位走入公眾視野。

　　一個新行業(yè)野蠻增長之后，暴露的是約束條件的不健全?！斑M入2017年，直播遇到新挑戰(zhàn)，內(nèi)容監(jiān)管就是其中之一”，王博說，“僅2016年7月，文化部查處關(guān)閉的直播房間數(shù)超過2萬、涉及網(wǎng)絡(luò)主播超1.6萬”。

　　隨著國家在直播內(nèi)容方面的收緊，有關(guān)部門對直播內(nèi)容提出了要24小時監(jiān)管、建立內(nèi)容審核機制，包括錄播先審后發(fā)，以及主播實名認證等要求。王博認為，在如此嚴格的內(nèi)容監(jiān)管要求下，直播運營者或COO往往會遇到以下四個方面的困境——風險、成本、技術(shù)、效果。

　　風險層面：如果某直播運營團隊在內(nèi)容審查方面經(jīng)驗比較少，往往會出現(xiàn)觸犯法規(guī)高壓線，輕則停站，重則關(guān)站。

　　成本審核：如果是自建7×24小時的審核團隊，一般來說90后團隊管理難度大、人員流動非常頻繁，這會導致成本居高不下。

　　技術(shù)成本：無論是內(nèi)容監(jiān)管，還是文本反垃圾，采取自研技術(shù)時間周期長且成本也非常高。

　　效果不佳：垃圾清理不干凈，極大可能會影響用戶，因此造成用戶流失。

　　控制違規(guī)內(nèi)容，最好從源頭解決

　　在直播內(nèi)容黃、暴、廣告日益嚴峻的情況下，打造純凈網(wǎng)絡(luò)空間顯得尤為迫切。在本次論壇上，王博根據(jù)網(wǎng)易20年的反垃圾技術(shù)經(jīng)驗，總結(jié)出了以下三點重要經(jīng)驗——有機整合、人工智能、內(nèi)容風控。

　　有機整合是指必須有一個完整的、功能齊全的內(nèi)容管控系統(tǒng)?！熬W(wǎng)易在做內(nèi)容安全方面，對整個業(yè)務(wù)流程中每一個環(huán)節(jié)都有把控。舉個例子來說，用戶注冊到登陸再到發(fā)表一些內(nèi)容——包括圖片、文本、音頻、視頻，我們都會做內(nèi)容防護，確保最后的內(nèi)容是純凈、安全的?！蓖醪┱f。

　　借助人工智能。單純靠人工解決審核問題，已經(jīng)無法滿足視頻直播高流量的需求，人工智能在此環(huán)節(jié)中起到很大作用，讓機器做機器做的事情，讓人做人做的事情。在此方面，網(wǎng)易云安全(易盾)會通過機器學習進行語意分析及智能關(guān)鍵詞分析，來判斷發(fā)表的內(nèi)容是否涉黃、涉暴、涉及謠言等。

　　內(nèi)容風控，在反垃圾方面如果是事后做，會比較被動。反垃圾更為高效的手段在于運營者在源頭或者垃圾沒有產(chǎn)生之時，做到提前預(yù)知。王博表示，網(wǎng)易云安全(易盾)可以通過對用戶行為的大數(shù)據(jù)分析，形成用戶畫像，能提前預(yù)知該用戶是否產(chǎn)生詐騙行為。

　　據(jù)王博介紹，目前網(wǎng)易云安全(易盾)已經(jīng)為瘋播、全聚星、栗子直播、魚泡泡等多家視頻或直播客戶提供反垃圾服務(wù)。針對直播行業(yè)，網(wǎng)易云安全(易盾)推出了專業(yè)的主播身份認證功能、直播掛機檢測和直播黑屏檢測功能等。隨著視頻直播用戶內(nèi)容遞進式爆發(fā)，視頻平臺的內(nèi)容安全能力走向系統(tǒng)化、智能化已經(jīng)成為趨勢。

　　此外，網(wǎng)易云安全(易盾)還推出有內(nèi)容反垃圾、行為式驗證碼、注冊保護服務(wù)、登陸保護等服務(wù)，已為眾多UGC、PUGC平臺提供內(nèi)容安全和業(yè)務(wù)安全防護服務(wù)，為企業(yè)降低人力和技術(shù)成本，其相關(guān)技術(shù)已經(jīng)處于業(yè)內(nèi)領(lǐng)先。

生成海報

免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。