一大早，朋友就告訴了筆者一個(gè)不好的消息：最近，他網(wǎng)站被網(wǎng)信辦約談了，需要至少關(guān)停一周，原因就是網(wǎng)站存在不良內(nèi)容。
事實(shí)上，在最近幾個(gè)月里，內(nèi)容安全問(wèn)題似乎已經(jīng)成為了整個(gè)互聯(lián)網(wǎng)行業(yè)的普遍現(xiàn)象。5月27日，好奇心日?qǐng)?bào)網(wǎng)站和App 自 2019 年 5 月 28 日零時(shí)起停止更新 3 個(gè)月，讀者評(píng)論和其他互動(dòng)都將暫停；5月30日，B站、虎牙、斗魚等直播平臺(tái)相繼發(fā)布了系統(tǒng)技術(shù)升級(jí)通知，彈幕功能將受影響。
僅僅只是在5月份，就有B站、起點(diǎn)文學(xué)、晉江文學(xué)網(wǎng)、釘釘社區(qū)發(fā)布暫停更新或直接被查處懲罰。在如今的互聯(lián)網(wǎng)行業(yè)，使用國(guó)內(nèi)的服務(wù)器并作出產(chǎn)品備案審核，哪怕你只是一個(gè)小平臺(tái)，只要存在不良內(nèi)容，那么你就有被約談的可能。
在不斷營(yíng)造風(fēng)清氣正的互聯(lián)網(wǎng)環(huán)境的過(guò)程中，是否配有內(nèi)容安全、以及內(nèi)容安全風(fēng)控能力怎樣，開始真正影響到一家互聯(lián)網(wǎng)企業(yè)的發(fā)展甚至命運(yùn)。
正常來(lái)說(shuō)，以往出現(xiàn)內(nèi)容安全問(wèn)題的企業(yè)大多數(shù)是頭部知名企業(yè)，但伴隨著互聯(lián)網(wǎng)行業(yè)的成熟，情況已經(jīng)不一樣了。從目前的市場(chǎng)態(tài)勢(shì)來(lái)看，不僅是筆者朋友的小網(wǎng)站被約談，從監(jiān)管頻率、監(jiān)管力度、監(jiān)管范圍來(lái)看，整個(gè)互聯(lián)網(wǎng)行業(yè)已經(jīng)徹底告別簡(jiǎn)單粗暴的發(fā)展階段，不管一個(gè)企業(yè)的融資金額、用戶數(shù)據(jù)、營(yíng)收數(shù)據(jù)有多好看，一旦觸碰到法律法規(guī)，縱然是幾億甚至幾十億價(jià)值的產(chǎn)品，一樣只能跟市場(chǎng)告別。
隨著近兩年?duì)I造風(fēng)清氣正互聯(lián)網(wǎng)環(huán)境的決心，正把諸多在上個(gè)階段無(wú)序發(fā)展的互聯(lián)網(wǎng)公司弄得始料不及。
大小產(chǎn)品均被大范圍監(jiān)管 內(nèi)容安全已成為互聯(lián)網(wǎng)行業(yè)最大的隱雷
不止是5月迎來(lái)了互聯(lián)網(wǎng)產(chǎn)品內(nèi)容安全問(wèn)題爆發(fā)季，在最近這幾個(gè)月，你會(huì)發(fā)現(xiàn)包括雪球、今日頭條、知識(shí)星球、簡(jiǎn)書在內(nèi)的諸多知名APP，全部都曝出了內(nèi)容安全事件，被暫停更新、甚至下架等。
其中，近期最轟動(dòng)的就是晉江文學(xué)網(wǎng)被查處、起點(diǎn)中文網(wǎng)多個(gè)頻道要求整改的消息。作為一家成立于2003年的老牌女性網(wǎng)絡(luò)文學(xué)網(wǎng)站，晉江文學(xué)已經(jīng)衍生出大量知名的影視IP，其中就包括了《花千骨》、《魔道祖師》、《鎮(zhèn)魂》、《知否？知否？應(yīng)是綠肥紅瘦》、《香蜜沉沉燼如霜》、《羋月傳》、《微微一笑很傾城》、《美人心計(jì)》、《戰(zhàn)長(zhǎng)沙》、《何以笙簫默》、《泡沫之夏》等火熱作品。
在IP泛娛樂(lè)市場(chǎng)越來(lái)越大的情況下，擁有大量IP的晉江文學(xué)，本來(lái)可以迎來(lái)更迅猛發(fā)展，但因?yàn)樵趦?nèi)容安全管理方面存在漏洞，導(dǎo)致晉江文學(xué)有部分內(nèi)容涉嫌傳播淫穢色情信息行為被北京掃黃打非部門查處，大大影響了晉江文學(xué)的發(fā)展。
同時(shí)，哪怕是最大的網(wǎng)文平臺(tái)起點(diǎn)中文網(wǎng)，也因內(nèi)容安全問(wèn)題讓業(yè)務(wù)受到影響。起點(diǎn)中文網(wǎng)問(wèn)題突出的“都市”頻道“異術(shù)超能”欄目、“女生網(wǎng)”頻道“N次元”欄目暫停更新7天，很多火熱的網(wǎng)文作品也受此影響不能更新甚至被封禁，大量作者跪求讀者們不要下架他們作品。
這一切，歸根結(jié)底還是網(wǎng)文平臺(tái)在內(nèi)容安全管理存在缺陷。包括晉江文學(xué)、起點(diǎn)中文在內(nèi)的諸多互聯(lián)網(wǎng)平臺(tái)，他們?cè)诩ち业氖袌?chǎng)競(jìng)爭(zhēng)都沒(méi)有倒下，沒(méi)想到竟然會(huì)在內(nèi)容安全問(wèn)題上“折戟”，這值得所有互聯(lián)網(wǎng)從業(yè)者警惕。
同時(shí)，從去年下半年開始，包括阿里云在內(nèi)的諸多域名/主機(jī)服務(wù)商，對(duì)內(nèi)容審核的要求也越來(lái)越高，網(wǎng)站備案的難度顯著提升。在備案資料方面，以前阿里云的企業(yè)備案只需要營(yíng)業(yè)執(zhí)照和法人身份證就行，但去年下半年開始阿里云的企業(yè)認(rèn)證需要企業(yè)手持身份證和營(yíng)業(yè)執(zhí)照一起拍照，這讓一個(gè)網(wǎng)站備案的時(shí)間也越來(lái)越長(zhǎng)。
很多企業(yè)千辛萬(wàn)苦完成阿里云網(wǎng)站備案之后，結(jié)果又強(qiáng)制要求阿里云備案的域名就必須使用阿里云的服務(wù)器，否則在系統(tǒng)檢測(cè)出來(lái)之后將面臨停止服務(wù)器訪問(wèn)甚至取消備案的后果。但如果使用阿里云服務(wù)器，你就會(huì)發(fā)現(xiàn)阿里云服務(wù)器端的垃圾內(nèi)容過(guò)濾機(jī)制開始影響到網(wǎng)站運(yùn)營(yíng)，系統(tǒng)總是時(shí)不時(shí)地就停止了一些網(wǎng)頁(yè)訪問(wèn)，要求修改內(nèi)容才能繼續(xù)開啟服務(wù)器提供服務(wù)。
這些舉措看似的阿里云的審核趨嚴(yán)，本質(zhì)卻是整個(gè)中國(guó)互聯(lián)網(wǎng)環(huán)境在更加正能量的發(fā)展過(guò)程中，網(wǎng)絡(luò)基礎(chǔ)服務(wù)平臺(tái)需要配合監(jiān)管部門必須去做好的一些信息工作。
與此同時(shí)，不止是中國(guó)對(duì)內(nèi)容安全監(jiān)管趨嚴(yán)。國(guó)外也對(duì)內(nèi)容安全開始加強(qiáng)監(jiān)管。新西蘭總理Jacinda Ardern之前表示，科技公司應(yīng)被視為“出版商，而非只是郵遞員”，而澳大利亞總理Scott Morrison也曾表示：“把互聯(lián)網(wǎng)當(dāng)作一個(gè)無(wú)人管理的空間是不可接受的?！?/span>
法律層面，國(guó)外也開始不斷立法。澳大利亞今年通過(guò)一項(xiàng)新法律，嚴(yán)控在社交媒體上傳播暴力內(nèi)容，如果社交媒體平臺(tái)沒(méi)有快速刪除平臺(tái)上暴力恐怖內(nèi)容，公司高管可能被判入獄3年，而社交媒體平臺(tái)也將面臨高達(dá)其年?duì)I業(yè)額10%的罰款。而在同一個(gè)時(shí)間段，歐盟也通過(guò)草案：如果無(wú)法在一小時(shí)內(nèi)刪除恐怖主義內(nèi)容，企業(yè)將面臨最高達(dá)全球營(yíng)業(yè)額4%的罰款。
內(nèi)容安全問(wèn)題也發(fā)生在其他國(guó)家。比如抖音國(guó)際版TikTok 在印度非?；馃幔岸螘r(shí)間也因?yàn)閮?nèi)容問(wèn)題遭受封禁。同時(shí)，著名游戲平臺(tái)Steam也被印尼政府封禁過(guò)，印尼甚至還要求過(guò)Google、Facebook對(duì)一些違規(guī)內(nèi)容進(jìn)行下線刪除。
從這來(lái)看，不論是國(guó)內(nèi)還是國(guó)外，內(nèi)容安全已成互聯(lián)網(wǎng)企業(yè)標(biāo)配風(fēng)控項(xiàng)，而且基本涵蓋所有的互聯(lián)網(wǎng)行業(yè)。
不管你是不是內(nèi)容產(chǎn)品，哪怕你是一個(gè)服務(wù)型產(chǎn)品，但你產(chǎn)品里有評(píng)論和展示內(nèi)容，你就一樣有可能會(huì)遭遇內(nèi)容爆雷的風(fēng)險(xiǎn)。這樣一來(lái)，內(nèi)容安全就必須是標(biāo)配。
在這個(gè)具備一定門檻的市場(chǎng)中，創(chuàng)業(yè)不僅要考慮用戶、資金、資源從哪里來(lái)，還必須重視監(jiān)管層面的問(wèn)題，真正地承擔(dān)起主體責(zé)任，才能守住一家互聯(lián)網(wǎng)公司的生命線。
如何排除內(nèi)容安全這顆雷？思維、技術(shù)、策略都需要突破
怎么辦？生活再殘酷，也還得繼續(xù)。
盡管互聯(lián)網(wǎng)行業(yè)不再是可以簡(jiǎn)單粗暴獲得流量然后變現(xiàn)的時(shí)代，對(duì)于內(nèi)容和服務(wù)的要求也越來(lái)越高，但這某種意義上也是一個(gè)大浪淘沙的過(guò)程，是真正將劣質(zhì)的信息驅(qū)除出去的一個(gè)過(guò)程，這也是互聯(lián)網(wǎng)創(chuàng)業(yè)者必經(jīng)的一個(gè)過(guò)程。
那么，面對(duì)這樣所有互聯(lián)網(wǎng)企業(yè)都不得不去重視的生命線，大家又應(yīng)該怎么辦？我認(rèn)為，最核心是其實(shí)就是要從思維、技術(shù)、策略三個(gè)層面進(jìn)行再升級(jí)、再突破。
（1）對(duì)于內(nèi)容安全，筆者認(rèn)為很多人需要從思維上進(jìn)行突破。其實(shí)在很多年前，就有很多互聯(lián)網(wǎng)企業(yè)在做跟內(nèi)容安全相關(guān)的事情，其中最簡(jiǎn)單粗暴的方式就是關(guān)鍵詞文字過(guò)濾。
尤其是對(duì)于媒體和社區(qū)來(lái)說(shuō)，建立一個(gè)違規(guī)關(guān)鍵詞數(shù)據(jù)庫(kù)，然后用文字一對(duì)一地進(jìn)行判斷識(shí)別，然后對(duì)帶有違禁詞的內(nèi)容進(jìn)行屏蔽，這是一個(gè)哪怕到現(xiàn)在還還在沿用的一種內(nèi)容安全管理方式。
在過(guò)去，很多企業(yè)也許在內(nèi)容安全管理方面就做了這么一件事情，然后也安穩(wěn)度過(guò)了很多時(shí)間，這讓很多人認(rèn)為內(nèi)容安全其實(shí)就是做關(guān)鍵詞屏蔽，導(dǎo)致有一些企業(yè)對(duì)于內(nèi)容安全不夠重視。
事實(shí)上，大家要從思維上重新認(rèn)識(shí)內(nèi)容安全。過(guò)去很多公司覺(jué)得從監(jiān)管部門或者其他渠道拿到了一些關(guān)鍵詞列表加入到數(shù)據(jù)庫(kù)中進(jìn)行屏蔽，內(nèi)容安全就搞定了，這導(dǎo)致很多企業(yè)一度都不舍得再升級(jí)技術(shù)和招聘內(nèi)容審核人員。
事實(shí)上，時(shí)代已經(jīng)發(fā)生了變化。這是一個(gè)富媒體時(shí)代，圖片、視頻、音頻的內(nèi)容安全遠(yuǎn)比文本處理要復(fù)雜，早已進(jìn)入到了人工智能不斷迭代+人工審核補(bǔ)充的時(shí)代。從最近這兩年的多起內(nèi)容安全事故之后，以百度、騰訊、阿里、今日頭條為首的諸多公司都紛紛加大了內(nèi)容審核人員和技術(shù)的投入力度。
從這個(gè)角度來(lái)看，尤其是在行業(yè)處于中上地位的企業(yè)，格外要重視從思維上進(jìn)行升級(jí)。
有些互聯(lián)網(wǎng)企業(yè)在內(nèi)容安全上出問(wèn)題，跟他們此前的思維落后有些關(guān)系。只有首先從思維上對(duì)內(nèi)容安全重視、對(duì)內(nèi)容安全給予持續(xù)的投入，才能真正從管理執(zhí)行方面解決內(nèi)容安全問(wèn)題。
（2）那么，策略方面大家應(yīng)該如何做呢？巨頭和中小公司的策略顯然不一樣，并且內(nèi)容安全管理和整體的運(yùn)營(yíng)策略也已經(jīng)關(guān)聯(lián)非常緊密，如何做好新時(shí)代的內(nèi)容安全管理，還得結(jié)合實(shí)際情況來(lái)看。
對(duì)于有一定數(shù)據(jù)規(guī)模和數(shù)據(jù)沉淀的大企業(yè)來(lái)說(shuō)，如果本身技術(shù)實(shí)力還可以，那么人工+自建體系+內(nèi)容安全服務(wù)商三重方式去做，是最穩(wěn)妥的。如果擁有政策法規(guī)解讀能力再加上得當(dāng)?shù)倪\(yùn)營(yíng)策略制訂，以及能持續(xù)不斷地投入算（物）力、人力，也可以采用人工+自建體系。
但對(duì)于大多數(shù)本身數(shù)據(jù)和公司規(guī)模都不大的中小企業(yè)來(lái)說(shuō)，由于數(shù)據(jù)沉淀不及巨頭，且很難及時(shí)、正確地解讀政策法規(guī)，那么自建體系這個(gè)部分或許就只能換成尋找靠譜的內(nèi)容安全服務(wù)商。
為什么這么說(shuō)呢？一方面，自建體系如果沒(méi)有強(qiáng)大數(shù)據(jù)做沉淀，其整個(gè)體系的訓(xùn)練模型也很難達(dá)到預(yù)期效果，導(dǎo)致投入了還是會(huì)出現(xiàn)內(nèi)容安全問(wèn)題；另外一方面，自建內(nèi)容安全體系成本并不小，如果不能持續(xù)的重金投入，最后也可能達(dá)不到自用的預(yù)期。
那么，第三方內(nèi)容安全服務(wù)商應(yīng)該如何選擇？市場(chǎng)主要也就是兩類服務(wù)商，一類是專門一直做技術(shù)類服務(wù)商的企業(yè)，他們跟上了這個(gè)時(shí)代的技術(shù)步伐，能夠提供一些技術(shù)解決方案，另一類就是不僅擁有技術(shù)實(shí)力，還擁有大量數(shù)據(jù)沉淀和自身也有內(nèi)容安全需求的大公司，這一類公司的內(nèi)容安全服務(wù)從效果、價(jià)格以及服務(wù)及時(shí)性、業(yè)務(wù)場(chǎng)景的覆蓋等維度來(lái)看綜合效益最好。
比較典型的是網(wǎng)易易盾，它擁有21年專業(yè)內(nèi)容安全防護(hù)經(jīng)驗(yàn)及大數(shù)據(jù)積累，其次也服務(wù)了小米、花椒、VIVO、OPPO、網(wǎng)易新聞、網(wǎng)易云音樂(lè)等多款用戶過(guò)億的產(chǎn)品。根據(jù)它的官網(wǎng)顯示，易盾的第三代內(nèi)容安全服務(wù)提供鑒黃、涉政、暴恐、廣告等數(shù)十大類上千小類的有害內(nèi)容智能識(shí)別過(guò)濾服務(wù)，智能識(shí)別精準(zhǔn)率超過(guò)99.8%。最近，網(wǎng)易易盾還推出了內(nèi)容安全月活動(dòng)，能夠通過(guò)歷史數(shù)據(jù)專項(xiàng)策略布控、快速清洗、全面檢測(cè)，及時(shí)幫助中小企業(yè)降低內(nèi)容安全隱患。
這種服務(wù)，其實(shí)本質(zhì)是源自于網(wǎng)易內(nèi)部自身使用的技術(shù)解決方案和數(shù)據(jù)模型。網(wǎng)絡(luò)上有公開資料顯示，網(wǎng)易易盾是如今已達(dá)20+“高齡”的網(wǎng)易安全部在2016年，將其自身的技術(shù)沉淀和實(shí)踐云化并對(duì)外提供服務(wù)的結(jié)果。
如果說(shuō)能夠獲得一個(gè)大公司自身使用的內(nèi)容安全解決方案，那么這樣的體系確實(shí)在實(shí)用性方面會(huì)更強(qiáng)。不過(guò)，選擇服務(wù)商也好，自建體系也罷，不容忽視的就是一定要在技術(shù)上有所突破。
（3）技術(shù)方面，其實(shí)最大的挑戰(zhàn)在于數(shù)據(jù)訓(xùn)練模型和音頻、視頻處理的技術(shù)突破——如何高效、準(zhǔn)確地處理不良內(nèi)容，這非?？简?yàn)技術(shù)體系的實(shí)力。
比如在短視頻和直播這兩年用戶激增后，很多主流平臺(tái)都因不良內(nèi)容被監(jiān)管部門處罰，音頻和視頻如何有效處理不良內(nèi)容一度成為一個(gè)難點(diǎn)。業(yè)內(nèi)是如何解決的？網(wǎng)易易盾饒曉艷此前就在接受雷鋒網(wǎng)采訪的時(shí)候有簡(jiǎn)單分享過(guò)相關(guān)做法。
首先，他們結(jié)合政策法規(guī)和輿情分析團(tuán)隊(duì)的策略、20多年的數(shù)據(jù)和技術(shù)沉淀，配合關(guān)鍵特征提取和識(shí)別訓(xùn)練強(qiáng)化機(jī)器的訓(xùn)練能力，讓內(nèi)容安全系統(tǒng)能夠利用人工智能技術(shù)實(shí)現(xiàn)視頻和音頻的有害信息識(shí)別與篩選。
后來(lái)，他們還會(huì)根據(jù)新事物、新特征不斷迭代內(nèi)容安全技術(shù)。比如短視頻中的呻吟聲或者嬌喘聲，以及ASMR場(chǎng)景下的違規(guī)音頻。這是用傳統(tǒng)手段無(wú)法識(shí)別的，網(wǎng)易易盾進(jìn)行了技術(shù)迭代，使用了聲紋檢測(cè)技術(shù)，并在內(nèi)容安全類目上新增了嬌喘呻吟類。
從這個(gè)案例去看，不管是自建體系還是找服務(wù)商，最核心的一定是技術(shù)迭代速度要快，要及時(shí)跟進(jìn)違法違規(guī)團(tuán)隊(duì)的操作手段進(jìn)行識(shí)別和處理，才有可能真正符合當(dāng)前的監(jiān)管要求。
總體而言，內(nèi)容安全是如今所有互聯(lián)網(wǎng)公司都需要邁過(guò)去的一個(gè)門檻，只要在思維上有所突破，不管采用怎樣的策略去完善這塊的漏洞，在持續(xù)研究或者選擇前沿有效技術(shù)去解決問(wèn)題之后，內(nèi)容安全的排雷工作自然也差不多完成了。
監(jiān)管更嚴(yán)的趨勢(shì)不可逆不重視內(nèi)容安全的公司注定被淘汰
1月份“掃黃打非”部門開展學(xué)習(xí)類APP專項(xiàng)整治工作；
3月全國(guó)“掃黃打非”辦公室在全國(guó)范圍內(nèi)開展“凈網(wǎng)2019”、“護(hù)苗2019”、“秋風(fēng)2019”等專項(xiàng)行動(dòng)，持續(xù)凈化社會(huì)文化環(huán)境；
4月份，全國(guó)“掃黃打非”辦公室又組織開展網(wǎng)上低俗信息專項(xiàng)整治活動(dòng)。
一系列的監(jiān)管動(dòng)作，讓大量的互聯(lián)網(wǎng)產(chǎn)品進(jìn)入自查自糾或監(jiān)管部門強(qiáng)制要求整改狀態(tài)，這已經(jīng)凸顯出監(jiān)管部門要打造風(fēng)清氣正的互聯(lián)網(wǎng)環(huán)境的決心是足夠堅(jiān)定的。
在未來(lái)的中國(guó)、甚至國(guó)際的互聯(lián)網(wǎng)環(huán)境中，對(duì)內(nèi)容強(qiáng)監(jiān)管的趨勢(shì)，是不可逆的，因?yàn)槭刈」蛄妓缀偷赖碌拙€，創(chuàng)造青少年健康成長(zhǎng)的互聯(lián)網(wǎng)環(huán)境是所與人的共識(shí)。盡管這樣的趨勢(shì)會(huì)淘汰掉一大批互聯(lián)網(wǎng)企業(yè)，但互聯(lián)網(wǎng)終歸就是一個(gè)充滿了競(jìng)爭(zhēng)】的商業(yè)生態(tài)。
監(jiān)管部門從規(guī)矩上為用戶們提供一個(gè)良好、健康、正能量的環(huán)境，只有真正可以承擔(dān)起主體責(zé)任的公司，才有可能在這樣一個(gè)新時(shí)代更好的生存下去?，F(xiàn)在互聯(lián)網(wǎng)行業(yè)一切都和內(nèi)容有關(guān)，在監(jiān)管更嚴(yán)的情況下，如果還不重視內(nèi)容安全，也許這樣的企業(yè)也只剩下被淘汰了。
熱門推薦: 上海微信小程序 小程序開發(fā) 小程序設(shè)計(jì) 支付寶小程序 百度小程序
