當(dāng)前位置:首頁(yè) >  科技 >  IT業(yè)界 >  正文

先審后播的后彈幕時(shí)代,平臺(tái)還可以怎樣監(jiān)管彈幕內(nèi)容?

 2019-03-12 16:19  來(lái)源: 互聯(lián)網(wǎng)   我來(lái)投稿 撤稿糾錯(cuò)

  域名預(yù)訂/競(jìng)價(jià),好“米”不錯(cuò)過(guò)

自從彈幕視頻網(wǎng)站Acfun和Bilibili的興起之后,國(guó)內(nèi)很多視頻平臺(tái)甚至直播平臺(tái)紛紛加入了實(shí)時(shí)彈幕功能,現(xiàn)在對(duì)于經(jīng)常在網(wǎng)上看視頻的朋友而言,在視頻中看到彈幕,或自己看視頻時(shí)發(fā)點(diǎn)心情彈幕,已經(jīng)是習(xí)以為常的事,甚至有些人專門(mén)喜歡看視頻中吐槽的彈幕,還會(huì)通過(guò)實(shí)時(shí)發(fā)布的彈幕與別人相互交流,因此說(shuō)視頻中的彈幕,其實(shí)已經(jīng)成了視頻內(nèi)容的一種重要組成部分。

盡管優(yōu)質(zhì)的彈幕將屏幕前的觀眾聚集在了一起,但是很多無(wú)意義甚至惡俗的彈幕內(nèi)容也極大地破壞了用戶體驗(yàn)。短時(shí)間內(nèi)瘋狂涌入的彈幕可以表一個(gè)視頻的熱門(mén)程度,但同樣也給屏幕前的觀眾帶來(lái)了困擾。因此各大彈幕視頻網(wǎng)站都在采用“關(guān)鍵詞過(guò)濾+人工審核”的方式來(lái)監(jiān)管彈幕內(nèi)容。各大視頻網(wǎng)站都有自己的屏蔽詞庫(kù),比如愛(ài)奇藝就有自建的監(jiān)測(cè)工具”愛(ài)奇藝大腦“,根據(jù)彈幕的關(guān)鍵詞進(jìn)行屏蔽。

2018年8月,《北京青年報(bào)》在《順風(fēng)車(chē)司機(jī)直播女乘客牟利》一文中寫(xiě)到,” 有順風(fēng)車(chē)司機(jī)邊接單邊在虎牙平臺(tái)上直播,且專選女性乘客。整個(gè)直播過(guò)程中,女乘客并不知道自己正在被看客‘圍觀’,也不知道直播間滿屏都是污穢不堪的留言。“此后,彈幕文化下,低俗的彈幕內(nèi)容對(duì)于網(wǎng)絡(luò)環(huán)境的負(fù)面影響日益引起重視。

近日,中國(guó)網(wǎng)絡(luò)視聽(tīng)節(jié)目服務(wù)協(xié)會(huì)發(fā)布《網(wǎng)絡(luò)短視頻平臺(tái)管理規(guī)范》和《網(wǎng)絡(luò)短視頻內(nèi)容審核標(biāo)準(zhǔn)細(xì)則》,再次重申彈幕進(jìn)行”先審后播“的重要性,但這對(duì)于視頻和直播平臺(tái)來(lái)說(shuō),無(wú)疑是一個(gè)巨大考驗(yàn)。據(jù)小葫蘆直播平臺(tái)統(tǒng)計(jì),2018年全年全平臺(tái)直播彈幕條數(shù)就達(dá)到了452億條。而截止到今天(3月7日)下午三點(diǎn),虎牙和斗魚(yú)兩個(gè)平臺(tái)的彈幕條數(shù)已經(jīng)分別達(dá)到了1430萬(wàn)條和1015萬(wàn)條。

這樣龐大的彈幕條數(shù),和更加堅(jiān)決的監(jiān)管政策,也促使平臺(tái)方不斷優(yōu)化過(guò)濾規(guī)則。常見(jiàn)的處理方式有敏感詞攔截、詞庫(kù)過(guò)濾和違規(guī)用戶屏蔽。而Acfun和Bilibili還在前端頁(yè)面為用戶開(kāi)放了通過(guò)正則表達(dá)式屏蔽彈幕的功能,這種規(guī)則引擎也可以應(yīng)用在全平臺(tái)的彈幕管理中。由于詞庫(kù)攔截的方式相對(duì)滯后和刻板,各個(gè)平臺(tái)也逐漸擴(kuò)大人工審核團(tuán)隊(duì)來(lái)完善審核,字節(jié)跳動(dòng)公司提出將現(xiàn)有6000人運(yùn)營(yíng)審核隊(duì)伍再度擴(kuò)大至總?cè)藬?shù)1萬(wàn)人,快手宣布將審核團(tuán)隊(duì)從2000人擴(kuò)大至5000人。

然而盡管人對(duì)于價(jià)值觀的辨別、社會(huì)局勢(shì)的把握、大事件的捕捉要遠(yuǎn)遠(yuǎn)強(qiáng)于機(jī)器,但卻免不了有疲勞疏忽的時(shí)刻。熱門(mén)直播?瞬間爆發(fā)的彈幕容易讓內(nèi)容審核員應(yīng)接不暇,也很難在15秒內(nèi)做出準(zhǔn)確判斷,因此讓現(xiàn)在更加成熟智能的機(jī)器審核輔助審核員顯得尤為重要。

隨著近年來(lái)數(shù)據(jù)挖掘的迅速發(fā)展,文本挖掘也開(kāi)始受到重視,逐漸應(yīng)用到垃圾信息處理中。通過(guò)文本分詞、詞性標(biāo)注、句法結(jié)構(gòu)分析、詞位置分析等手段,結(jié)合大數(shù)據(jù)的算法實(shí)現(xiàn)對(duì)垃圾彈幕、涉黃涉政彈幕的分析識(shí)別也是未來(lái)彈幕管理的大方向。

以在業(yè)內(nèi)知名的人工智能公司圖普科技為例,此前依托圖像識(shí)別技術(shù),圖普科技為眾多直播、短視頻平臺(tái)提供了圖像視頻的內(nèi)容審核。但是正如之前順風(fēng)車(chē)司機(jī)接單直播視頻所表現(xiàn)出來(lái)的,單一的圖像審核維度并不能完全評(píng)價(jià)用戶的內(nèi)容是否符合規(guī)范,彈幕文字也是考量因素之一,因此,圖普科技便研發(fā)了文本內(nèi)容審核的功能,利用全天候響應(yīng)速度快的機(jī)器識(shí)別,從圖像和文字兩個(gè)維度對(duì)用戶內(nèi)容進(jìn)行審核,?既保證了審核的及時(shí)性和準(zhǔn)確性,又能減輕內(nèi)容審核員的負(fù)擔(dān)??梢哉f(shuō)現(xiàn)在人工智能充當(dāng)了網(wǎng)絡(luò)環(huán)境的掃地機(jī)器人,幫助內(nèi)容審核員凈化網(wǎng)絡(luò)環(huán)境,帶給用戶更好的體驗(yàn)。

對(duì)于視頻直播平臺(tái)來(lái)講,想要保證用戶粘度,內(nèi)容體驗(yàn)永遠(yuǎn)是根本。既要在市場(chǎng)和用戶的監(jiān)督下做好內(nèi)容審核的工作,避免踩到紅線,又不能因此犧牲用戶體驗(yàn),阻止彈幕文化的發(fā)展,因此不斷優(yōu)化審核技術(shù),引入基于自然語(yǔ)言處理的智能文本審核,或許將是平臺(tái)方們的必經(jīng)之路。

申請(qǐng)創(chuàng)業(yè)報(bào)道,分享創(chuàng)業(yè)好點(diǎn)子。點(diǎn)擊此處,共同探討創(chuàng)業(yè)新機(jī)遇!

相關(guān)文章

熱門(mén)排行

信息推薦