神眼內容審核系統，用AI筑起一道內容安全防護墻

2020-04-26 11:06

移動互聯網時代數字媒體及社交平臺快速發展，互聯網數據量水漲船高，其中視頻類數據占比達到了80％，這標志著國內外一批優秀的流媒體視頻平臺的快速成長，而在社交媒體領域視頻也成了主要的信息載體，大量的數據內容審核需求隨之而來。對于平臺方而言內容審核很關鍵，通常國內主流的社交產品都擁有超過千人的審核團隊，流媒體巨頭YouTube、社交巨頭Facebook的內容審核人員更是超過萬人。

對于內容審核而言，常見的問題包括造謠、傳謠、色情、暴力、種族等，這些問題在UGC平臺尤為凸顯。因為用戶基數龐大，在用音視頻形式輸出內容時，對于平臺等審查難度隨之提高，并且有時違規內容的邊界并不十分的清晰，這都給內容審核者的工作帶來困難。當下常見的內容審核機制分為兩種，一是采用過用戶標記有問題的內容讓機器學習，二是平臺根據用戶直接上報侮辱性、攻擊性內容，從管理系統上標記此類內容，進行特別審核并刪除。

政策及行業層面，國家互聯網信息辦公室在2019年11月－12月先后發布了《網絡音視頻信息服務管理規定》和《網絡信息內容生態治理規定》。對網絡信息內容生產者、網絡信息內容服務平臺、網絡信息內容服務使用者、網絡行業組織等提出了明確的管理要求。隨后，中國網絡視聽節目服務協會聯合央視網、芒果TV、騰訊視頻、優酷等多家平臺共同制訂了《網絡綜藝節目內容審核標準細則》，經協會常務理事會會議審議通過，并發布。

在此背景下，極鏈科技Video＋＋針對目前行業面臨的主要問題，響應政策號召，結合人工智能技術，打造全棧式智能內容安全審核引擎——神眼系統，用AI技術幫助平臺方減輕內容審核壓力、降低內容審核成本，為客戶提供一站式的智能內容安全解決方案。

神眼內容審核系統，用AI筑起一道內容安全防護墻

神眼內容安全審核系統基于先進的深度學習算法，面向視頻平臺、社交網站、網絡社區、融媒體等客戶群體，提供包括視頻、文本、圖像等泛內容的涉黃、暴力、政治敏感等風險內容的識別，高效遏制風險、全面釋放審核人力、提高審核效率、凈化網絡環境、提升用戶體驗。

產品核心功能包括：智能鑒黃、智能鑒暴、政治敏感人物識別、公眾人物識別、違禁品識別、廣告檢測、圖像質量檢測、logo識別、OCR審核等。該系統支持本地私有化部署，獨立的運營平臺滿足精細化運營需求，并為客戶配套三次審核流程，機器＋人工雙重保障審核準確率高于行業平均水平，為企業構建牢不可破的安全防御體系。

神眼內容安全審核系統基于海量特征樣本的多維度內容識別技術，采取全序列采樣識別，支持軌跡流跟蹤，有效提升視頻抽幀的質量和檢測效率。該技術能為視頻、圖片、文本等場景提供強大的深度學習算法和算力保證，對政治人物、色情、暴恐、旗幟等內容進行識別審核，大幅度降低內容風險，可減少90％以上人工審核成本。

經過多年的技術迭代升級，極鏈科技Video＋＋構筑了技術壁壘，擁有視頻識別、圖像識別、文本識別等人工智能技術，沉淀了包括VideoAI金目視頻內容結構化引擎、頑石OS視聯網操作系統、VideoNet視頻AI數據集等一系列的基礎平臺，專注消費級視頻AI技術研發和商業應用。

目前，神眼內容安全審核系統已全面對外開放，極鏈期待與更多企業攜手并進，共同努力打造更加安全健康的網絡環境。