内容审核概述
即时通讯支持对 IM 内容进行审核。
- 即时通讯(IM)服务已内置敏感词机制。注意 ,敏感词机制仅是一种基础保护机制,且仅限于文本内容(默认最多 50 个敏感词),不可替代专业内容审核服务。
- 融云的内容审核服务产品中的 IM 审核服务,可为 IM 内容提供全面的保障与支持,支持审核文本、图片、语音片段、小视频,精准识别敏感信息。
- 如需自行实现审核或对接第三方审核服务,可以使用消息回调服务。
如果消息因被判定违规导致无法下发收件人,默认情况下消息发送者不会收到通知。如果 App 希望通知消息发送者消息已被拦截,可提交工单开通含敏感词消息屏蔽状态回调发送端,并在客户端设置监听(要求 Android/iOS SDK 版本 ≧ 5.1.4,Web ≧ 5.0.2)。详见敏感信息拦截回调。
敏感词机制
注意
敏感词机制是一种基础保护机制,仅支持对文本消息内容中的敏感词进行识别与过滤。对命中敏感词的消息,您可以选择进行屏蔽该消息(不会下发给接收方),或按指定规则 替换消息中的敏感词后再进行下发。
目前支持的敏感词过滤语言包括:中文、英文、日语、德语、俄语、韩语、阿拉伯语。
您可以通过以下方式管理 App Key 下开发环境或生产环境的敏感词:
功能描述 | 客户端 API | 融云服务端 API | 控制台 |
---|---|---|---|
添加敏感词,支持设置替换内容 | 不提供该 API | 添加敏感词 | 敏感词设置页面 |
移除敏感词 | 不提供该 API | 移除敏感词 | 敏感词设置页面 |
批量移除敏感词 | 不提供该 API | 批量移除敏感词 | 敏感词设置页面 |
获取敏感词列表,支持获取设置的替换内容 | 不提供该 API | 获取敏感词列表 | 敏感词设置页面 |
默认行为
- 默认最多设置 50 个敏感词。
- 默认仅针对从客户端 SDK 发送的消息生效。
- 默认仅支持识别官方内置的文本消息类型(消息标识为
RC:TxtMsg
)中的敏感词。支持单聊、群聊、聊天室、超级群会话。超级群中文本消息修改后的内容默认也会敏感词识别、拦截或过滤。
调整配置
- IM 旗舰版或 IM 尊享版可以在控制台 IM 服务管理 页面的扩展服务标签下自行调整敏感词上限数。具体功能与费用以融云官方价格说明页面及计费说明文档为准。
- 如果您对使用服务端 API 发送的消息进行敏感词过滤,可以在控制台的免费基础功能界面打开 Server API 发送消息过滤敏感词开关。
- 如果您需要对自定义消息类型启用敏感词机制,可以在敏感词设置页面点击设置自定义消息。提供自定义消息的消息类型的
ObjectName
,及该消息类型下内容(Content)JSON 结构中对应的键值 Key,即可对该 Key 所对应的 Value 值进行敏感词过滤处理。
IM 内容审核服务
注意
客户端不提供针对该功能的管理接口,仅提供回调接口,可在消息被判定为不下发时通知消息发送方。详见敏感信息拦截回调。
如果您希望全面审核 IM 内容,可以使用融云的内容审核服务产品,该产品提供 IM 审核服务与音视频审核服务。
IM 审核针对即时通讯业务,具体可提供以下能力:
- 审核文本内容
- 审核图片
- 审核语音片段
- 审核小视频
- 审核自定义消息类型(需要提交工单申请)
- 审核超级群业务中的消息修改
- 从控制台查看审核报告
- 从控制台查询 IM 审核记录
- 审核结果回调
您可以在控制台的 IM & 音视频审核 页面开通 IM 审核服务,配置接收审核结果回调的地址。详见服务端文档审核结果回调。
IM 内容审核计费
内容审核服务为付费服务,开发环境可免费体验,生产环境下需预存才能使用服务。具体计费说明详见资费标准 · IM 审核。
消息回调服务
如果您希望对接自己的审核系统或其他第三方内容审核服务,可以使用消息回调服务。
消息回调服务(原模版路由)提供一种消息过滤机制。您可以根据发送用户 ID、接收用户 ID、消息类型、会话类型等参数,将相应的消息同步到您指定的服务器。超级群业务中,修改消息内容、更新消息扩展也支持通过消息回调同步到您指定的服务器。
消息同步到您指定的服务器后,可以使用您自己的审核系统执行内容审核,也可以对接其他第三方审核系统。融云服务端会根据您应用服务器返回的响应结果,决定是否将消息下发、是否替换消息中的内容,以及如何进行内容替换。
您可以通过控制台的消息回调服务页面管理 App Key 下开发环境或生产环境的消息回调服务状态和路由规则。
关于如何创建路由规则,以及回调参数的具体说明,请参见消息回调服务文档。