AI在安全播出領域的應用

導語：AI在安全播出領域的應用一文來源于網友上傳，不代表本站觀點，若需要原創文章可咨詢客服老師，歡迎參考。

摘要：隨著互聯網和大數據的發展，人工智能技術（ai）得到了高速和深入的發展。在有線電視安全播出領域運用AI技術，將會顯著提升安全播出工作效果。本文對安全播出中的內容安全審播現狀進行了總結，對AI技術發展進行了介紹，并對如何將AI應用于安全播出領域進行了詳細分析，提出具體技術部署方案和相關建議，對AI技術運用于數字電視安全播出具有啟示價值。

關鍵詞：AI；安全播出；大數據

1引言

隨著我國經濟發展和社會進步，人民群眾對精神文化生活的需求日益增長。廣播電視播出機構通過不斷增加播出頻道數量和節目內容來滿足用戶這方面需求，這對作為廣播電視產業發展的基礎和廣播電視工作生命線的安全播出工作提出了更高要求。在我國，廣播電視承擔了黨、政府和人民宣傳喉舌的特殊功能，是輿論引導的主要工具。安全播出是廣播電視運營商的首要任務，而內容安全是安全播出的重點之一，特別是涉及政治、外交、軍事、國計民生大政方針等內容時，更加不能有絲毫差錯。

2內容安全審核與播出現狀

對于有線電視運營商來說，安全播出包括電視節目的播出、傳輸與覆蓋等網絡傳輸環節，也包括點播形式的媒資和頁面海報等內容呈現環節。其中，媒資內容安全涉及意識形態和輿論導向，是安全播出重中之重的環節。針對媒資內容的安全播出措施主要包括播出前審核和播出過程中監聽監看。目前，對媒資內容的審核由審核專家采取人工方式進行，人工審核的特點是審核效率有限。播出過程中對媒資內容進行監聽監看以人工方式為主，但這種方式存在明顯不足：第一，對內容安全的認知取決于人員業務素質、主客觀判斷等因素，不同人員對同樣內容的認知結果存在差異；第二，欄目數量和點播媒資內容日益增多，需要增加具備安全播出業務素質的人員數量，相應的人力成本也會大幅增加；第三，監聽監看人員值守期間安播壓力大，精神高度緊張，工作體驗不佳，專業人員流失嚴重。針對內容審核以人工方式為主存在的問題，通過引入AI技術，基于智能算法，輔助內容安全審核，可以大幅度減輕目前內容安全審核壓力，提升安全播出的工作效果。

3AI技術發展現狀

近些年，隨著互聯網和大數據的發展，AI技術得到了高速和深入發展，很多領域的AI技術，如人臉識別、圖像識別、語音識別、OCR文字識別、自然語言處理（NaturalLanguageProcessing，NLP）等，已經具備成熟的算法，通過大量數據的訓練和配備強大的運算能力，其識別精度和處理速度已經能夠滿足實際應用的需求，也在各種場景中逐步得到應用。

3.1人臉識別

人臉識別，基于深度學習算法，能夠準確識別視頻中的人臉信息，提供人臉檢測、人臉1:1比對、人臉1:N識別等能力。人臉識別算法應用過程是通過建設敏感人物人臉庫，基于人臉檢測和1:N識別技術對流數據預處理層分發的視頻流數據進行人臉檢測（找出視頻幀中是否存在人臉）和人臉識別（對于通過人臉檢測找到的人臉，與已有敏感人物人臉庫中的N個人臉進行比對，找出最相似的一張臉或多張臉，并給出相似度排序判斷，從而判別是否有敏感人物出現在節目中）。

3.2圖像識別

圖像識別，基于深度學習算法及大規模圖像訓練，可以準確識別圖片的內容分類或圖片中包含的物體類別，從而可以審核圖片是否含有色情、暴恐等不健康內容或違規物品。圖像識別算法應用過程是通過提取節目視頻關鍵幀后，轉換為一張張圖片，然后傳送給圖像識別算法，圖像識別算法會給出其屬于色情、暴恐的概率或圖像中出現違規物品的概率，相關違規分類或違規物品需要提前定義并進行訓練樣本標注。

3.3語音識別

語音識別算法能夠讓計算機自動地識別語音中所攜帶的信息。基于深度學習的算法，語音識別和處理技術可以克服傳統語音識別中采用時間、頻率而導致的不穩定問題。語音識別算法應用過程先對音頻文件進行識別處理，在我國一般要求能夠識別普通話、粵語、英語，并將結果轉換為中英文文本，再由自然語言處理引擎對文本內容是否敏感違規進行分析識別。現在語音處理技術在秒級實時語音識別方面仍然不夠成熟而且支持語言有限制。因此，如果應用在直播節目實時監管的場景上，語音識別只能作為輔助手段，采用分鐘級延遲；對回放視頻和回放音頻則沒有延遲的問題。

3.4OCR文字識別

對硬字幕的視頻文件，可以進行視頻幀提取并轉換為一張張圖片，然后借助OCR文字識別技術進行處理，獲得視頻幀中出現的字幕文本，再由NLP引擎對文本內容是否敏感違規進行分析識別。

3.5自然語言處理

自然語言處理算法是AI智能深度學習的一個重要應用領域，經過幾十年的發展，基于統計的模型已經成為NLP的主流，同時人工神經網絡在NLP領域也受到了足夠重視。自然語言處理算法提供包括分詞、命名實體識別、文本分類等功能。在我國，通過自然語言處理算法對視頻字幕和音頻轉換后的文本以及節目網站的其他文本進行敏感或違規內容識別，能支持中英文文本識別。

4AI在安全播出領域應用需求分析

4.1AI在節目審核中的應用

功能上，AI技術已支持圖像、文本、視頻、音頻的識別與理解，可提供內容敏感、淫穢色情、恐怖暴力及不良圖文信息鑒別過濾等多個維度的審核能力。但在實際情況中，媒資內容中往往存在語意不清、界限模糊的內容，需要通過專家的人工審核來鑒別，而專家的政治素質和業務素質是審核鑒別的關鍵因素。在廣播電視行業，對媒資內容的審核能力，對不良信息的鑒別能力是需要經歷長期培養和實踐方可形成的；同時，審核專家還必須實時更新業務知識方可跟上安全播出的需求發展。因此，在較長時期內，AI審核無法代替人工審核，媒資內容審核必須依靠有經驗的審核專家。AI系統對于較確定條件下的情景具有快速判斷和處理的能力，可將AI應用于對媒資內容的初步審核環節，利用AI審核鑒別和過濾出媒資中明顯違規的有害內容并提供視頻標簽，在此基礎上進行專家人工二次審核。在待審核節目數量較多的情況下，采取這種審核模式，AI可以在較大程度上提升專家審核速度和效率。

4.2AI在監聽監看中的應用

AI技術可以應用于電視節目的媒資內容監聽監看環節，在電視節目播出方面發揮安全播出輔助作用。從時效性分類，電視臺播出的節目有兩種類型：非直播節目和直播節目。對于電視臺而言，非直播類節目在節目播出編排之前對其內容進行審核；直播類節目，尤其是體育賽事、大型國內和國際活動的現場直播，則無法實現播出前審核，只能采取在直播過程中對其內容進行實時監聽監看的措施并疊加延時機制。大型活動現場具有人群聚集的特點，現場情景不可控風險高，其直播畫面信息量大、背景環境復雜，人工監聽監看難以全面應對。這種情況下，可以利用AI技術輔助人工對現場直播內容進行監聽監看。具體來說，可以利用AI圖像識別技術，對現場直播畫面中的人臉、場景和文字信息進行識別提取，快速判斷是否含有敏感信息。此外，可以利用AI語音識別技術和自然語言處理技術對現場的語音進行識別分析，并進行敏感信息檢索過濾。境外頻道由于涉及的語言種類多，對其節目內容進行監聽監看的難度非常大。隨著支持的語言種類不斷豐富，可以利用AI語種識別和語音識別技術來輔助人工在境外頻道監聽監看中發揮積極作用。

5AI輔助安全播出技術部署方案

AI輔助安全播出技術部署方案示意如圖1所示，按功能模塊分為AI平臺、審核平臺、監聽監看平臺、播控平臺和安全播出知識庫。AI平臺對接收到的音視頻數據進行智能分析，提取其特征并與安全播出知識庫比對，發現問題會返回結果給審核平臺和監看監聽平臺；安全播出知識庫存放違反安全播出的一些敏感信息特征；審核平臺主要針對播出內容進行合規性審核；監聽監看平臺主要對直播播出節目內容再次審核，確保播出節目萬無一失；播控平臺負責電視傳輸及切換。按實現內容分為AI輔助內容審核和AI輔助監聽監看兩個部分。在AI輔助內容審核中，審核人員主要是利用AI平臺對內容進行初審，通過人臉識別可發現敏感問題內容，場景識別可發現淫穢色情和恐怖暴力等明顯問題內容，通過語音轉文本后進行關鍵詞識別以及語義分析可發現音頻中的問題內容。在AI輔助監聽監看中，通過監聽監看平臺統一實施對電視頻道的監測，由監聽監看平臺調度AI平臺實現輔助監聽監看，具體工作流程如下。（1）播控平臺傳送電視頻道信號到監聽監看平臺。（2）監聽監看平臺將節目數據傳送給AI平臺。（3）AI平臺對節目數據進行識別，根據安全播出知識庫進行推理和判斷，并將結果返回給監聽監看平臺。（4）工作人員從監聽監看平臺獲取AI平臺運行結果，用于輔助監聽監看。

6AI引發的變化

可以預見，安全播出領域引入AI技術后，可引發如下變化。

6.1監聽監看工作模式的調整

引入AI技術輔助安全播出工作后，一方面，由少數專業技術人員對安全播出知識庫進行日常更新和維護，將內容安全審核相關知識和專家經驗實時轉化為符合規則的電子數據；另一方面，在AI輔助下，更多的推理判斷由AI執行，監聽監看工作人員則可將工作重心放在應急操作及技術處置上。

6.2降低人工監聽監看難度和復雜度

AI技術基于安全播出知識庫對節目內容安全性提供輔助推理判斷，一方面，全體監聽監看人員能夠共享知識庫中的知識和專家經驗，減小因人員業務素質和主觀判斷能力不同而造成的工作結果差異；另一方面，AI平臺強大的運算能力使得監聽監看更加全面和細節化。AI能夠大大降低監聽監看人員對內容安全進行判斷的難度和復雜度，提升安全播出工作整體效果。

6.3減輕安播人員值守期間壓力

AI技術在起到內容安全審核輔助作用的同時提高了安播工作的整體效果，減輕了安播人員的審核和監聽監看工作精神壓力，提升了工作體驗，有利于留住業務人才，培養專業安播團隊。

7結語

為更好地將AI應用于安全播出領域，本文提出如下建議供參考：一是出于安全播出工作重要性，建立AI行業能力平臺，以滿足利用AI輔助安全播出工作在安全性和運算能力方面的實際需求；二是建立安全播出行業專家知識庫，以滿足監聽監看從業人員對不斷更新的安全播出相關知識和專家經驗的實際需求。互聯網技術、通信技術和編碼技術的發展，使得視頻以高清、超高清、AR/VR等多形式進行高質量呈現，視頻的信息量以幾何級數暴漲。隨著AI技術和運算能力持續發展與提升，AI必將不斷賦能廣播電視行業，目前媒體內容安全審核以“人工為主、AI為輔”人機結合方式將會發展到以“AI為主、人工為輔”的機人智慧方式，進一步加強各類情況、各種方式的大數據分析、智能處理和機器學習能力，進一步優化提升AI對內容識別、報警和處理的精確度與可信度，最大程度降低監播人員的干預度，實現內容安全管控的L5級“自動駕駛”，在安全播出領域發揮更重要的作用。

參考文獻

[1]王文敏.人工智能原理[M].北京:高等教育出版社,2019.

[2]劉樹春,賀盼,馬建奇,等.深度實踐OCR：基于深度學習的文字識別[M].北京:機械工業出版社,2020.

[3]蔣巍,張健,曾浩.基于智能視頻監控系統的運動目標監測和跟蹤[J].電視技術,2012,36(5):110-114.

[4]朱明,梁棟,范益政,等.基于普特征的圖像匹配算法[J].華南理工大學學報（自然科學版）,2015,43(9):60-66.

[5]馮偉興,唐墨,賀波,等.VisualC++數字圖像模式識別技術詳解[M].北京:機械工業出版社,2010.

[6]王海濤.廣播電視監播系統中音頻及語音數據處理技術研究[D].西安:西北工業大學,2007.

作者：張造生 李世平 陳志強 單位：廣東有線廣播電視網絡有限公司