什么是內容審核?

內容審核主要是對包含色情、涉政、涉政敏感人物、圖文違規、暴恐、違禁、廣告等垃圾信息的文本、圖片、音頻、視頻進行檢測和識別,通過系統化的方式提供審核、打標、自定義配置等能力來保障企業內容安全。一方面為了凈化網絡,讓人們在享受網絡便利的同時,也是安全的。另一方面客戶降低業務違規風險。簡單來說就是審查平臺用戶生成的全部內容,評論、圖片、視頻、私信等。
那么審核方式都有哪些呢?
機器審核
按照制定好的規則或機器學習算法對內容進行審核。通常,成熟的審核系統能將95%甚至99%以上的內容都自動審核并做出處理。確定有問題的會被自動刪除,難以判斷是否有問題的會被標注,進入人工審核程序。
人工審核
雖然用戶投訴審核和結果復審大多時候也是人工審核,但這里所說的人工審核,特指審核機器無法判別的內容,通常占平臺內容數量的比例不超過5%。但對于一些大型的內容平臺,絕對數量已經很多了。在內容爆炸的時代,我們看到許多平臺在全國都有多個審核中心,每個審核中心的員工數量都成千甚至上萬。
用戶投訴審核
是前兩者的彌補,有很多違規內容以前沒有出現過,所以不在規則可以過濾的范圍內,或者非常隱蔽,規則難以嚴格過濾。用戶的投訴是發現新問題的重要渠道。通過知乎的危機事件,我們更應該重視對投訴的審核,并及時據此對機器審核做出補充。
結果復審
通常采取抽查方式,比如通過復審機器刪除的內容,看規則或算法是否過于嚴格;比如通過查看人工刪除和通過的內容,看員工的工作是否按要求執行;比如通過內容的整體巡查,看是否存在新的問題未被注意到。
鴻聯九五有著雄厚的人力資源、專業的審核標準和風控體系,為了更好地幫助短視頻內容平臺在合規運營的同時降低成本,鴻聯九五為企業提供一站式的審核服務體系。有效過濾視頻、圖片與直播流中 99.5% 的敏感內容,在直播/短視頻等場景中采用色情識別、暴恐識別、政治敏感識別技術,實現對圖片、視頻、直播等內容的實時審核,利用文本審核對彈幕內容審核,標準統一、簡單快速;針對論壇/網站中的圖片、文本信息進行多維度的審核,高效實時,有效規避違規風險。為企業節省成本,實現零風險運營、零門檻使用以及零負擔管理。
