近幾年，各國加大人工智能產業政策扶持和創新平臺建設力度，加速人工智能的應用化、產業化與融合化。人工智能技術大大地促進了數字內容產業發展，但同時整個行業正在面臨革新過程的各種新問題、新挑戰，對技術、產業、政策乃至社會層面帶來深刻影響。

8月30日，在由賽博研究院承辦，騰訊、上海社科院互聯網研究中心等聯合協辦的2019世界人工智能安全高端對話上，繼騰訊天御業務安全大腦成功入選2019世界人工智能產業安全十大創新實踐后，騰訊安全戰略研究中心聯合賽博研究院重磅發布《人工智能時代數字內容治理的機遇與挑戰》報告（以下簡稱《報告》。該報告也是國內首份聚焦人工智能與數字內容行業關系，全景式呈現發展趨勢、挑戰風險、政策創新、治理賦能等內容的報告。

騰訊安全戰略研究中心高級研究員韓李云發布《報告》

騰訊公司安全管理部總經理朱勁松在致辭中表示：“報告對政策創新與治理賦能方面的考察具有填補空白的創新和突破意義，我們可以看到人工智能時代數字內容治理的機遇與挑戰將長期并存，但AI賦能數字內容產業更加繁榮發展必是大勢所趨，需要我們一起努力推動形成良好治理環境，促進國際合作，企業更應當秉持AI向善之心繼續探索創新應用。”

騰訊公司安全管理部總經理朱勁松在大會現場致辭

數字內容產業六大發展趨勢

數字內容產業整體發展趨勢體現為縱向延伸、垂直整合、跨界布局、生態融合，行業邊界逐漸消弭，數字內容產業催生新的社會化分工，孵化出新的產業價值體系，在內容生產、傳播、消費、載體、質量、安全等各環節或方面呈現出六大發展趨勢：在內容生產方面，“人-機”協同生產模式進一步解放勞動力；在內容傳播方面，算法精準推薦占據信息流分發主導地位；在內容消費方面，沉浸式體驗與交互式反饋提供個性化選擇；在內容載體方面，萬物皆媒環境中數字內容嵌入各行業場景；在內容質量方面“內容為王”成為數字內容產業核心競爭力；在內容安全方面，各類治理難題凸顯機遇與挑戰長期并存。

AI與數字內容交織引發七類風險

人工智能助推數字內容產業顛覆性發展，難免伴隨著現有治理模式及監管體系與新業態的不匹配，既存在現行治理手段滯后帶來的治理失效和力不從心，也體現為數字內容治理問題與其他社會問題及風險的交織泛化，主要風險包含以下七大類：

數字內容極大豐富與內容審核能力不足的矛盾凸顯；“算法偏見”與“算法黑箱”影響數字內容公正性，技術攻關存難度；內容造假滋生灰色產業，深度偽造威脅國家社會穩定；智能化內容生產權責歸屬困難，版權保護亟待健全法規體系政策；“信息繭房”循環強化，或引發網絡社群“部落化”“極群化”；無序數據挖掘泄露個人隱私，躍升數字內容治理突出問題；信息資源競爭或催生新的數字鴻溝，將成數字內容治理新難題。

各國在應對人工智能時代新型、復雜的治理挑戰時，現行數字內容治理政策顯得較為滯后，但都結合各國數字內容發展情況作出各有側重的政策創新和嘗試。報告還考察了國內外企業運用人工智能技術保障數字內容安全發展的20+案例，以治理場景為導向，介紹人工智能技術在內容審核、事實核查、版權保護、打擊詐騙、輿情治理和破除信息繭房等場景領域的技術應用思路和產業實踐。

強化內容審核，精準事實核查

數據挖掘、歸因分類、機器學習、自然語言處理、計算機視覺、模式識別等各種人工智能技術方向應用在數字內容治理的不同場景中，明顯解放人力，提高治理效能。

在內容審核方面，基于騰訊云圖像分析等人工智能技術，微信推出“珊瑚內容安全助手”小程序，為廣大小程序開發者提供風險自測、內容鑒別、行業動態三個維度的內容安全能力。如在文字鑒別、圖片鑒別模塊，“珊瑚”小程序可對用戶上傳內容中是否含有違法有害信息給出鑒別結果，同時提供能力介紹和接入引導文檔，為開發運營者從“體驗”“理解”到“接入”提供一站式安全能力服務。

在事實核查方面，基于海量數據與人工智能技術，騰訊微信公眾平臺辟謠中心、微信安全中心、騰訊新聞較真平臺、騰訊內容開放平臺企鵝號等探索出一系列智能內容核真措施，如打造辟謠數據庫，智能識別處置謠言，借助機器算法觸達謠言易感人群，基于閱讀或投訴謠言的類型標簽進行精準推送辟謠防謠。

加強版權保護，嚴厲打擊詐騙

版權侵害嚴重影響數字內容產業的健康發展，騰訊安全團隊開發的神鸮網絡侵權監測系統，充分利用AI優勢打造的包括70億個點和1000多億條領先的知識圖譜，成功克服并解決現有監管領域“數據、算法、計算力”不足的問題，而騰訊安全也通過與APPLE、華為、vivo、OPPO等手機廠商合作,對其內置默認瀏覽器的網絡侵權鏈接的攔截率達到93.6%。