内容审核概述
融云音视频服务支持将音视频通话、线上会议或直播等类型应用的音频、视频数据自动或手动发往审核服务,方便您对 App 下的用户内容进行审核,提升业务安全性,避免违规行为对您的业务造成损失。
融云会将审核结果通过回调服务发往到您的应用服务器。通过解析审核结果,您可以决策是否需要对 App 的用户执行封禁等操作。
注意
客户端不提供针对该功能的管理接口和回调接口。
音频流审核可提供以下能力:
- 涉政语音识别:精准识别各类场景中涉政人物、政治事件、反动分裂、恐怖主义等百余种类型涉政音频
- 娇喘语音识别:基于Bi-GRU、Attention模型,精准识别声音中含有娇喘、呻吟、耳骚、喊麦等违规音频
- 国歌识别:率先启用NAR模型,构建混合深度神经网络模型,精准识别复杂场景下的标准国歌与歪唱国歌
- 色情语音识别:精准识别音频中含有色情、低俗、污秽、语爱等涉黄内容
- 辱骂语音识别:精准识别各类场景中含有污辱、谩骂、诋毁等辱骂内容
- 垃圾广告识别:精准识别利用微信号、手机号、QQ等开展违法垃圾广告内容
视频流审核可提供以下能力:
- 涉政视频识别:精准识别各类场景国旗国徽、政治人物、军装、反动人物、恶搞领导人等涉政视频
- 色情视频识别:精准识别色情、性感、低俗、污秽、色情动漫、儿童裸露、游戏暴露、视爱等涉黄视频
- 暴恐视频识别:精准识别各类场景的血腥暴乱、恐怖组织、邪教组织、枪支刀具等暴恐视频
- 广告视频识别:实时精准识别和拦截各类场景的手机号、微信、QQ、微博、网址、二维码等各种变体垃圾广告内容
- 垃圾广告识别:精准识别利用微信号、手机号、QQ、二维码等开展违法垃圾广告内容
- Logo 水印识别:高精度 Logo 水印检测识别技术,支持竞品 Logo 检测、涉政 Logo 检测,维护客户品牌形象
服务架构
融云媒体服务器( RTC Server )会把收到的音视频流转码成审核服务需要的格式 (RTMP)来送审,不需要您转码或者截帧再去送审;
在启动审核任务后,我们会按照一定的周期或在命中拦截事件时把第三方的审核结果回调给您。您可以解析出审核结果,并决策是否需要执行进一步操作,例如 踢出房间,或封禁用户。
开通服务
您可以在控制台的IM & 音视频审核页面开通服务,并完成以下配置:
-
指定音视频审核的启动方式:
- 自动启动:音视频会话开始就开始审核。
- 手动启动:由您主动调用 API 启动审核任务。这种方式下同时支持通过 API 结束审核。详见任务控制。
音视频会话结束时自动停止审核。
-
填写审核结果的回调地址:
回调地址示例:
http(s)://your.app.server/any-url-path
。配置完成后,您的 App 内所有房间的音视频审核有任何状态变更,均会通过 HTTP 请求,实时回调您的服务器。回调 URL 必须是公网可访问的 URL 地址。
配置后 30 分钟内生效。