7月15日，小紅書(shū)公布2020年第二季度社區(qū)生態(tài)治理報(bào)告，報(bào)告顯示，小紅書(shū)當(dāng)季處理涉嫌刷量筆記66萬(wàn)篇，實(shí)時(shí)攔截和清理黑產(chǎn)刷量行為超過(guò)1.3億次，巡回?cái)r截和清理黑產(chǎn)刷量行為超過(guò)1.3億次。

此外，在二季度啟動(dòng)的小紅書(shū)生態(tài)專(zhuān)項(xiàng)治理中，重點(diǎn)打擊惡意營(yíng)銷(xiāo)、評(píng)論區(qū)廣告引流等用戶(hù)高頻舉報(bào)的內(nèi)容。經(jīng)過(guò)一個(gè)季度強(qiáng)力打擊，評(píng)論廣告舉報(bào)量環(huán)比降低了44%。

“這意味著用戶(hù)看到或者感受到的，有反感的內(nèi)容量明顯下降，并且在趨勢(shì)上也越來(lái)越少。”小紅書(shū)生態(tài)治理專(zhuān)項(xiàng)組負(fù)責(zé)人表示。

在反作弊領(lǐng)域，平臺(tái)還基于社區(qū)關(guān)系圖，全面使用圖計(jì)算相關(guān)技術(shù)，提高了灰黑產(chǎn)識(shí)別的覆蓋率，使模型每天能夠在原有打擊量基礎(chǔ)上提供10%增力。

小紅書(shū)方面表示，社區(qū)生態(tài)治理是一個(gè)長(zhǎng)期不間斷的工作，第三季度將重點(diǎn)放在直播內(nèi)容治理上，針對(duì)惡意導(dǎo)流、低俗直播及不良社會(huì)價(jià)值導(dǎo)向類(lèi)直播的進(jìn)行重點(diǎn)打擊。

嚴(yán)打標(biāo)題黨惡意營(yíng)銷(xiāo) 封禁賬號(hào)終身禁入

小紅書(shū)在今年4月表示，將在二季度啟動(dòng)社區(qū)專(zhuān)項(xiàng)治理，針對(duì)社區(qū)內(nèi)經(jīng)常受到舉報(bào)的詐騙引流、網(wǎng)絡(luò)謠言、偽科學(xué)標(biāo)題黨、惡意營(yíng)銷(xiāo)、低俗媚俗、傳播不良生活方式和不良流行文化以及違規(guī)廣告等內(nèi)容和賬號(hào)進(jìn)行全面治理。

為此，小紅書(shū)專(zhuān)項(xiàng)治理團(tuán)隊(duì)針對(duì)不良社會(huì)價(jià)值導(dǎo)向的內(nèi)容進(jìn)行嚴(yán)格治理，處理了涉黃等色情低俗內(nèi)容的違規(guī)筆記超過(guò)1800篇，侵權(quán)假冒類(lèi)內(nèi)容近300篇，并對(duì)涉及上述內(nèi)容的惡劣賬號(hào)進(jìn)行封號(hào)清理。

“這類(lèi)內(nèi)容不僅讓用戶(hù)產(chǎn)生反感，也容易讓外界對(duì)小紅書(shū)用戶(hù)產(chǎn)生負(fù)面誤解，平臺(tái)必須對(duì)這些內(nèi)容堅(jiān)決地說(shuō)‘不’，才能引導(dǎo)用戶(hù)發(fā)布更向上的內(nèi)容，維護(hù)社區(qū)生態(tài)。”小紅書(shū)生態(tài)治理專(zhuān)項(xiàng)組負(fù)責(zé)人表示，比如‘康笑天’、‘胖妃娘娘’等賬號(hào)在全網(wǎng)都以同樣的“標(biāo)題黨”方式博眼球，標(biāo)題存在嚴(yán)重誤導(dǎo)性，平臺(tái)不僅封禁了此類(lèi)賬號(hào)，并且規(guī)定終身禁入。

“一些惡意營(yíng)銷(xiāo)號(hào)或標(biāo)題黨筆記和賬號(hào)背后都有逐利的目的，這類(lèi)賬號(hào)更會(huì)利用灰黑產(chǎn)技術(shù)刷量，占用公域資源，通過(guò)一個(gè)階段的專(zhuān)項(xiàng)治理，我們看到“節(jié)省”等真實(shí)分享的內(nèi)容獲得了更多的呈現(xiàn)空間。”上述負(fù)責(zé)人解釋說(shuō)，在平臺(tái)治理已經(jīng)見(jiàn)到成效的情況下，未來(lái)還將繼續(xù)加大治理力度，持續(xù)打擊。

近年來(lái)，在互聯(lián)網(wǎng)社交平臺(tái)、UGC內(nèi)容平臺(tái)，時(shí)有“抑郁”、“自殺”等傾向內(nèi)容出現(xiàn)，小紅書(shū)為此成立了“挽救生命小分隊(duì)”，針對(duì)社區(qū)中發(fā)現(xiàn)的疑似“自殺”類(lèi)的筆記，通過(guò)快速反饋機(jī)制，提供線索給各地警方進(jìn)行核實(shí)及緊急干預(yù)。

三季度將著力提升直播內(nèi)容

隨著直播業(yè)務(wù)發(fā)展，低質(zhì)內(nèi)容和刷量灰黑產(chǎn)也盯上了直播間的利益空間。為響應(yīng)國(guó)家網(wǎng)信辦及相關(guān)部門(mén)對(duì)直播內(nèi)容生態(tài)的監(jiān)管要求，抖音、快手、小紅書(shū)等平臺(tái)先后展開(kāi)直播間專(zhuān)項(xiàng)治理。

小紅書(shū)方面透露，平臺(tái)已經(jīng)同步展開(kāi)直播間治理，包括嚴(yán)厲的反作弊打擊灰黑產(chǎn)機(jī)制，平臺(tái)已在第二季度公布了《小紅書(shū)直播規(guī)范》，第三季度，平臺(tái)不僅會(huì)繼續(xù)打擊灰黑產(chǎn)，還會(huì)把重點(diǎn)放在直播間的低質(zhì)量、存在不良社會(huì)價(jià)值導(dǎo)向內(nèi)容的治理上。

小紅書(shū)方面表示，平臺(tái)反作弊機(jī)制已經(jīng)覆蓋直播間，實(shí)時(shí)攔截刷量行為，并在直播間數(shù)據(jù)中實(shí)時(shí)進(jìn)行扣除。平臺(tái)還積極配合公安機(jī)關(guān)打擊黑產(chǎn)作弊鏈條和詐騙團(tuán)伙。

據(jù)介紹，小紅書(shū)已經(jīng)制定了全面嚴(yán)格的直播內(nèi)容審核機(jī)制，并在二季度發(fā)布了《小紅書(shū)直播行為》規(guī)范明確社區(qū)規(guī)則，對(duì)用戶(hù)直播內(nèi)容進(jìn)行實(shí)時(shí)安全把控，并定期對(duì)用戶(hù)進(jìn)行直播規(guī)范普及。平臺(tái)還將采取直播間巡視，重點(diǎn)內(nèi)容監(jiān)控等方式，對(duì)低質(zhì)量低營(yíng)養(yǎng)，存在不良社會(huì)價(jià)值導(dǎo)向的內(nèi)容進(jìn)行干預(yù)和治理。

中國(guó)社會(huì)科學(xué)院法學(xué)研究所研究員、《環(huán)球法律評(píng)論》雜志副主編支振鋒此前曾表示，數(shù)字經(jīng)濟(jì)大幅度拓展生產(chǎn)生活。以大數(shù)據(jù)、物聯(lián)網(wǎng)、云計(jì)算、人工智能為代表的信息技術(shù)，正在以前所未有的力度為人類(lèi)賦能，但也給社會(huì)治理帶來(lái)了極其巨大的挑戰(zhàn)。

“近年來(lái)，以小紅書(shū)、騰訊、阿里巴巴、百度等為代表的頭部互聯(lián)網(wǎng)企業(yè)，積極進(jìn)行技術(shù)迭代，努力健全防控機(jī)制，大力開(kāi)展專(zhuān)項(xiàng)行動(dòng)，在打擊網(wǎng)絡(luò)灰黑產(chǎn)上起到了重要作用。”支振鋒說(shuō)。

目前，除了持續(xù)的迭代策略對(duì)抗、加強(qiáng)內(nèi)容模型識(shí)別外，小紅書(shū)自主開(kāi)發(fā)、升級(jí)清理不良內(nèi)容、打擊虛假數(shù)據(jù)策略模型和治理策略，對(duì)有效提升基于行為特征、內(nèi)容特征等方面的算法模型和策略識(shí)別能力在治理中也起到了關(guān)鍵作用。“平臺(tái)生態(tài)治理是一場(chǎng)‘持久戰(zhàn)’。”前述負(fù)責(zé)人表示，在打擊黑灰產(chǎn)方面，小紅書(shū)會(huì)堅(jiān)持到底，絕不放松。