跳到主要内容

内容审核能力概述

即时通讯支持对 IM 内容进行审核,提供基础审核能力、专业审核服务,以及自行对接审核服务的能力。

  • 内置敏感词机制:即时通讯(IM)服务内置开箱即用的敏感词机制。注意,敏感词机制仅是一种基础保护机制,且仅限于文本内容(默认最多 50 个敏感词),不可替代专业内容审核服务。
  • 专业 IM 审核服务内容审核服务产品中提供 IM 审核,可为 IM 内容提供全面的保障与支持,支持审核文本、图片、语音片段、小视频,精准识别敏感信息。
  • 消息回调服务:消息回调可将消息先行发送至 App 指定的地址,由 App 返回结果决定是否继续发送至收件人。App 可以使用消息回调服务自行实现审核,或自行对接第三方审核服务。

如果消息被判定违规导致无法下发收件人,默认情况下消息发送者不会收到通知。如果需要接收通知,方式如下:

  • 客户端:支持通知消息发件人。如果 App 希望消息发送者接收消息已被拦截的通知,可提交工单开通含敏感词消息屏蔽状态回调发送端,并在客户端设置监听(要求 Android/iOS SDK 版本 ≧ 5.1.4,Web ≧ 5.0.2)。详见各客户端「敏感信息拦截回调」文档。
  • 服务端:支持对触发专业 IM 审核服务的消息提供审核结果回调。审核通过与未通过的消息都会在该服务中返回。

敏感词机制

敏感词机制是一种基础保护机制,仅支持对文本消息内容中的敏感词进行识别与过滤。对命中敏感词的消息,您可以选择进行屏蔽该消息(不会下发给接收方),或按指定规则替换消息中的敏感词后再进行下发。

目前支持的敏感词过滤语言包括:中文、英文、日语、德语、俄语、韩语、阿拉伯语。

提示

如需审核文本(支持语义检测)、图片、语音片段、小视频,建议使用即时通讯服务提供的 内容审核服务产品

您可以通过控制台或 API 方式管理 App Key 下开发环境或生产环境的敏感词:

  • 控制台 IM 服务下的敏感词设置页面,支持添加、删除、导出等操作。详见配置敏感词服务
  • 服务端 API,支持添加、删除、获取敏感词等操作。详见消息敏感词

默认行为

  • 默认最多设置 50 个敏感词。
  • 默认仅对从客户端 SDK 发送的消息生效。
  • 默认仅支持识别官方内置的文本消息类型(消息标识为 RC:TxtMsg)中的敏感词。支持单聊、群聊、聊天室、超级群会话。超级群中文本消息修改后的内容默认也会敏感词识别、拦截或过滤。
  • 触发敏感词默认没有通知。

敏感词过滤规则

  • 简体、繁体智能过滤:设置中文简体敏感词后,对应繁体敏感词也会自动识别过滤。
  • 智能忽略标点符号:支持智能忽略字符串中的标点符号,匹配敏感词。例如:设置敏感词为 “反动”,如果消息内容中包含 “反,动”、也会被过滤。这种情况下 “反v动”、“反3动” 也会被过滤。
  • 智能识别英文词:支持对英文单词进行智能识别过滤,提升匹配的准确性。英文支持全角、半角,大、小写自动匹配。例如:设置敏感词 “AV”,只过滤完整单词 “AV”、"av",不会对单词 “Java ” 中包含的 “av” 进行过滤。
  • 数字敏感词:支持匹配连续数字字符串。支持智能匹配全角数字。例如:设置敏感词 “123”,可过滤 “123”、“1 2 3”、“123汉字”、“123”(全角),但无法过滤 “123467” 中的 “123” 片段。

IM 内容审核服务

如果您希望全面审核 IM 内容,可以使用内容审核服务产品,该产品提供 IM 审核服务与音视频审核服务。即时通讯服务服务端回调提供审核结果。

IM 审核针对即时通讯业务,具体可提供以下能力:

  • 审核文本内容
  • 审核图片
  • 审核语音片段
  • 审核小视频
  • 审核自定义消息类型(需要提交工单申请)
  • 审核超级群业务中的消息修改
  • 从控制台查看审核报告
  • 从控制台查询 IM 审核记录
  • 审核结果回调

IM 内容审核计费

内容审核服务为付费服务,开发环境可免费体验,生产环境下需预存才能使用服务。具体计费说明详见资费标准 · IM 审核

IM 内容审核服务配置

在控制台的 IM & 音视频审核 页面开通 IM 审核服务后,可以配置审核服务厂商、审核关键词、会话与消息类型等。

(width=600)

如需接收审核结果,请务必配置接收审核结果回调的地址。详见审核结果回调

消息回调服务

如果您希望对接自己的审核系统或其他第三方内容审核服务,可以使用消息回调服务

消息回调服务(原模版路由)提供一种消息过滤机制。您可以根据发送用户 ID、接收用户 ID、消息类型、会话类型等参数,将相应的消息同步到您指定的服务器。超级群业务中,修改消息内容、更新消息扩展也支持通过消息回调同步到您指定的服务器。

消息同步到您指定的服务器后,可以使用您自己的审核系统执行内容审核,也可以对接其他第三方审核系统。即时通讯服务端会根据您应用服务器返回的响应结果,决定是否将消息下发、是否替换消息中的内容,以及如何进行内容替换。

您可以通过控制台的消息回调服务页面管理 App Key 下开发环境或生产环境的消息回调服务状态和路由规则。

关于如何创建路由规则,以及回调参数的具体说明,请参见消息回调服务文档。

消息回调服务计费

费用以官方价格说明页面及计费说明文档为准。