AI在安全播出领域的应用

摘要：随着互联网和大数据的发展，人工智能技术（AI）得到了高速和深入的发展。在有线电视安全播出领域运用AI技术，将会显著提升安全播出工作效果。本文对安全播出中的内容安全审播现状进行了总结，对AI技术发展进行了介绍，并对如何将AI应用于安全播出领域进行了详细分析，提出具体技术部署方案和相关建议，对AI技术运用于数字电视安全播出具有启示价值。

关键词：AI；安全播出；大数据

1引言

随着我国经济发展和社会进步，人民群众对精神文化生活的需求日益增长。广播电视播出机构通过不断增加播出频道数量和节目内容来满足用户这方面需求，这对作为广播电视产业发展的基础和广播电视工作生命线的安全播出工作提出了更高要求。在我国，广播电视承担了党、政府和人民宣传喉舌的特殊功能，是舆论引导的主要工具。安全播出是广播电视运营商的首要任务，而内容安全是安全播出的重点之一，特别是涉及政治、外交、军事、国计民生大政方针等内容时，更加不能有丝毫差错。

2内容安全审核与播出现状

对于有线电视运营商来说，安全播出包括电视节目的播出、传输与覆盖等网络传输环节，也包括点播形式的媒资和页面海报等内容呈现环节。其中，媒资内容安全涉及意识形态和舆论导向，是安全播出重中之重的环节。针对媒资内容的安全播出措施主要包括播出前审核和播出过程中监听监看。目前，对媒资内容的审核由审核专家采取人工方式进行，人工审核的特点是审核效率有限。播出过程中对媒资内容进行监听监看以人工方式为主，但这种方式存在明显不足：第一，对内容安全的认知取决于人员业务素质、主客观判断等因素，不同人员对同样内容的认知结果存在差异；第二，栏目数量和点播媒资内容日益增多，需要增加具备安全播出业务素质的人员数量，相应的人力成本也会大幅增加；第三，监听监看人员值守期间安播压力大，精神高度紧张，工作体验不佳，专业人员流失严重。针对内容审核以人工方式为主存在的问题，通过引入AI技术，基于智能算法，辅助内容安全审核，可以大幅度减轻目前内容安全审核压力，提升安全播出的工作效果。

3AI技术发展现状

近些年，随着互联网和大数据的发展，AI技术得到了高速和深入发展，很多领域的AI技术，如人脸识别、图像识别、语音识别、OCR文字识别、自然语言处理（NaturalLanguageProcessing，NLP）等，已经具备成熟的算法，通过大量数据的训练和配备强大的运算能力，其识别精度和处理速度已经能够满足实际应用的需求，也在各种场景中逐步得到应用。

3.1人脸识别

人脸识别，基于深度学习算法，能够准确识别视频中的人脸信息，提供人脸检测、人脸1:1比对、人脸1:N识别等能力。人脸识别算法应用过程是通过建设敏感人物人脸库，基于人脸检测和1:N识别技术对流数据预处理层分发的视频流数据进行人脸检测（找出视频帧中是否存在人脸）和人脸识别（对于通过人脸检测找到的人脸，与已有敏感人物人脸库中的N个人脸进行比对，找出最相似的一张脸或多张脸，并给出相似度排序判断，从而判别是否有敏感人物出现在节目中）。

3.2图像识别

图像识别，基于深度学习算法及大规模图像训练，可以准确识别图片的内容分类或图片中包含的物体类别，从而可以审核图片是否含有色情、暴恐等不健康内容或违规物品。图像识别算法应用过程是通过提取节目视频关键帧后，转换为一张张图片，然后传送给图像识别算法，图像识别算法会给出其属于色情、暴恐的概率或图像中出现违规物品的概率，相关违规分类或违规物品需要提前定义并进行训练样本标注。

3.3语音识别

语音识别算法能够让计算机自动地识别语音中所携带的信息。基于深度学习的算法，语音识别和处理技术可以克服传统语音识别中采用时间、频率而导致的不稳定问题。语音识别算法应用过程先对音频文件进行识别处理，在我国一般要求能够识别普通话、粤语、英语，并将结果转换为中英文文本，再由自然语言处理引擎对文本内容是否敏感违规进行分析识别。现在语音处理技术在秒级实时语音识别方面仍然不够成熟而且支持语言有限制。因此，如果应用在直播节目实时监管的场景上，语音识别只能作为辅助手段，采用分钟级延迟；对回放视频和回放音频则没有延迟的问题。

3.4OCR文字识别

对硬字幕的视频文件，可以进行视频帧提取并转换为一张张图片，然后借助OCR文字识别技术进行处理，获得视频帧中出现的字幕文本，再由NLP引擎对文本内容是否敏感违规进行分析识别。

3.5自然语言处理

自然语言处理算法是AI智能深度学习的一个重要应用领域，经过几十年的发展，基于统计的模型已经成为NLP的主流，同时人工神经网络在NLP领域也受到了足够重视。自然语言处理算法提供包括分词、命名实体识别、文本分类等功能。在我国，通过自然语言处理算法对视频字幕和音频转换后的文本以及节目网站的其他文本进行敏感或违规内容识别，能支持中英文文本识别。

4AI在安全播出领域应用需求分析

4.1AI在节目审核中的应用

功能上，AI技术已支持图像、文本、视频、音频的识别与理解，可提供内容敏感、淫秽色情、恐怖暴力及不良图文信息鉴别过滤等多个维度的审核能力。但在实际情况中，媒资内容中往往存在语意不清、界限模糊的内容，需要通过专家的人工审核来鉴别，而专家的政治素质和业务素质是审核鉴别的关键因素。在广播电视行业，对媒资内容的审核能力，对不良信息的鉴别能力是需要经历长期培养和实践方可形成的；同时，审核专家还必须实时更新业务知识方可跟上安全播出的需求发展。因此，在较长时期内，AI审核无法代替人工审核，媒资内容审核必须依靠有经验的审核专家。AI系统对于较确定条件下的情景具有快速判断和处理的能力，可将AI应用于对媒资内容的初步审核环节，利用AI审核鉴别和过滤出媒资中明显违规的有害内容并提供视频标签，在此基础上进行专家人工二次审核。在待审核节目数量较多的情况下，采取这种审核模式，AI可以在较大程度上提升专家审核速度和效率。

4.2AI在监听监看中的应用

AI技术可以应用于电视节目的媒资内容监听监看环节，在电视节目播出方面发挥安全播出辅助作用。从时效性分类，电视台播出的节目有两种类型：非直播节目和直播节目。对于电视台而言，非直播类节目在节目播出编排之前对其内容进行审核；直播类节目，尤其是体育赛事、大型国内和国际活动的现场直播，则无法实现播出前审核，只能采取在直播过程中对其内容进行实时监听监看的措施并叠加延时机制。大型活动现场具有人群聚集的特点，现场情景不可控风险高，其直播画面信息量大、背景环境复杂，人工监听监看难以全面应对。这种情况下，可以利用AI技术辅助人工对现场直播内容进行监听监看。具体来说，可以利用AI图像识别技术，对现场直播画面中的人脸、场景和文字信息进行识别提取，快速判断是否含有敏感信息。此外，可以利用AI语音识别技术和自然语言处理技术对现场的语音进行识别分析，并进行敏感信息检索过滤。境外频道由于涉及的语言种类多，对其节目内容进行监听监看的难度非常大。随着支持的语言种类不断丰富，可以利用AI语种识别和语音识别技术来辅助人工在境外频道监听监看中发挥积极作用。

5AI辅助安全播出技术部署方案

AI辅助安全播出技术部署方案示意如图1所示，按功能模块分为AI平台、审核平台、监听监看平台、播控平台和安全播出知识库。AI平台对接收到的音视频数据进行智能分析，提取其特征并与安全播出知识库比对，发现问题会返回结果给审核平台和监看监听平台；安全播出知识库存放违反安全播出的一些敏感信息特征；审核平台主要针对播出内容进行合规性审核；监听监看平台主要对直播播出节目内容再次审核，确保播出节目万无一失；播控平台负责电视传输及切换。按实现内容分为AI辅助内容审核和AI辅助监听监看两个部分。在AI辅助内容审核中，审核人员主要是利用AI平台对内容进行初审，通过人脸识别可发现敏感问题内容，场景识别可发现淫秽色情和恐怖暴力等明显问题内容，通过语音转文本后进行关键词识别以及语义分析可发现音频中的问题内容。在AI辅助监听监看中，通过监听监看平台统一实施对电视频道的监测，由监听监看平台调度AI平台实现辅助监听监看，具体工作流程如下。（1）播控平台传送电视频道信号到监听监看平台。（2）监听监看平台将节目数据传送给AI平台。（3）AI平台对节目数据进行识别，根据安全播出知识库进行推理和判断，并将结果返回给监听监看平台。（4）工作人员从监听监看平台获取AI平台运行结果，用于辅助监听监看。

6AI引发的变化

可以预见，安全播出领域引入AI技术后，可引发如下变化。

6.1监听监看工作模式的调整

引入AI技术辅助安全播出工作后，一方面，由少数专业技术人员对安全播出知识库进行日常更新和维护，将内容安全审核相关知识和专家经验实时转化为符合规则的电子数据；另一方面，在AI辅助下，更多的推理判断由AI执行，监听监看工作人员则可将工作重心放在应急操作及技术处置上。

6.2降低人工监听监看难度和复杂度

AI技术基于安全播出知识库对节目内容安全性提供辅助推理判断，一方面，全体监听监看人员能够共享知识库中的知识和专家经验，减小因人员业务素质和主观判断能力不同而造成的工作结果差异；另一方面，AI平台强大的运算能力使得监听监看更加全面和细节化。AI能够大大降低监听监看人员对内容安全进行判断的难度和复杂度，提升安全播出工作整体效果。

6.3减轻安播人员值守期间压力

AI技术在起到内容安全审核辅助作用的同时提高了安播工作的整体效果，减轻了安播人员的审核和监听监看工作精神压力，提升了工作体验，有利于留住业务人才，培养专业安播团队。

7结语

为更好地将AI应用于安全播出领域，本文提出如下建议供参考：一是出于安全播出工作重要性，建立AI行业能力平台，以满足利用AI辅助安全播出工作在安全性和运算能力方面的实际需求；二是建立安全播出行业专家知识库，以满足监听监看从业人员对不断更新的安全播出相关知识和专家经验的实际需求。互联网技术、通信技术和编码技术的发展，使得视频以高清、超高清、AR/VR等多形式进行高质量呈现，视频的信息量以几何级数暴涨。随着AI技术和运算能力持续发展与提升，AI必将不断赋能广播电视行业，目前媒体内容安全审核以“人工为主、AI为辅”人机结合方式将会发展到以“AI为主、人工为辅”的机人智慧方式，进一步加强各类情况、各种方式的大数据分析、智能处理和机器学习能力，进一步优化提升AI对内容识别、报警和处理的精确度与可信度，最大程度降低监播人员的干预度，实现内容安全管控的L5级“自动驾驶”，在安全播出领域发挥更重要的作用。

参考文献

[1]王文敏.人工智能原理[M].北京:高等教育出版社,2019.

[2]刘树春,贺盼,马建奇,等.深度实践OCR：基于深度学习的文字识别[M].北京:机械工业出版社,2020.

[3]蒋巍,张健,曾浩.基于智能视频监控系统的运动目标监测和跟踪[J].电视技术,2012,36(5):110-114.

[4]朱明,梁栋,范益政,等.基于普特征的图像匹配算法[J].华南理工大学学报（自然科学版）,2015,43(9):60-66.

[5]冯伟兴,唐墨,贺波,等.VisualC++数字图像模式识别技术详解[M].北京:机械工业出版社,2010.

[6]王海涛.广播电视监播系统中音频及语音数据处理技术研究[D].西安:西北工业大学,2007.

作者：张造生 李世平 陈志强 单位：广东有线广播电视网络有限公司