You need to enable JavaScript to run this app.
导航
智能审核
最近更新时间:2025.10.14 14:33:43首次发布时间:2022.11.03 16:50:56
复制全文
我的收藏
有用
有用
无用
无用

veImageX 提供了图片、音频、视频智能审核功能,支持分类型智能检测图片、音频、视频中涉黄、涉政、暴恐、违法违规等十几种禁用行为(详情参见审核维度),并返回给您最终识别结果。从而满足您的业务审核场景,避免违规图片、音频、视频给您带来的业务和法律上的风险,提高品牌可信度。
Image

应用场景

  • 网站论坛:支持用户原创内容类网站的违法违规文件的识别和处理,可以识别并预警用户上传的不合规文件,帮助您快速定位处理,降低业务违规风险。
  • 电商商城:高效识别并预警商家或客户上传商品图中的不合规文件,避免涉黄、涉暴、涉政等十几种指定违禁维度的图片发布,可以降低人工审核成本以及避免违规风险。
  • 传媒:可以批量识别如小说漫画等插图中涉黄、涉暴等行为,提高此类文本发行出版的质量。

前提条件

计费说明

智能审核功能属于附加组件下智能处理模块,属于后付费计费,使用后会产生附加组件智能处理费用。智能审核按照各审核维度在审核成功状态下的审核次数进行计费。
文件审核费用 = 附加组件请求次单价 x 请求次 x 倍率 x 审核维度。审核费用需要乘以审核维度,比如同一张图片选择涉黄、涉政、涉暴三个维度审核,则审核次数为 3 次。举例,审核 1000 张图片,全部按 6 个维度审核,则后付费审核费用 = 0.069✖️1✖️15✖️6 = 6.21 元。

注意

  • 审核成功的文件(包含删除或者冻结)计费,审核失败的文件不计费。
  • 若对低频存储文件资源的 URI/URL 执行了智能审核,将产生低频存储数据取回费用。
  • 若您开通了大图审核能力,则对于文件大小在 5MB~32MB 之间的文件,veImageX 会先压缩再审核,其中压缩能力将按照基础文件处理服务(您每月可使用 10TB 的免费额度)计量计费。

使用限制

  1. 登录火山引擎控制台
  2. 在左侧导航栏,选择组件市场 > 附加组件
  3. 选择中国地区,并单击智能审核
    Image
  4. 查看组件介绍页签下,页面右侧的使用限制。

操作步骤

新增文件审核

  1. 在附加组件页面,单击智能审核

  2. 进入新增文件审核页面,单击新增审核任务,创建您的图片审核任务。
    Image

  3. 在弹出的右侧新建审核任务页面,请根据指引完成配置。
    Image

    配置类型

    配置项

    说明

    基础配置

    服务名称

    在下拉框中选择要审核的服务。

    审核类型

    选择审核文件类型,支持图片、音频和视频。当选择视频时,默认审核内容为视频画面,若需要审核音频,请勾选视频声音选项。

    审核范围

    • 整个服务
    • 前缀匹配,若你希望对某个目录进行审核或不审核,请设置路径为对应的目录名,以 / 结尾。例test/
      • 指定前缀审核,即需要对某个目录进行审核;
      • 指定前缀不审核,即不需要对某个目录进行审核。
    • 通配符匹配:
      • 指定通配符审核,即需要对某些文件进行审核;
      • 指定通配符不审核,即不需要对某些文件进行审核

      注意

      若您配置了上传 Content-Type 限制,则上传文件的格式需在服务的 Content-Type 白名单内,否则,无法成功上传。

    维度选择

    目前仅支持智能安全审核维度,维度更全、结果更准。

    维度配置

    选择审核的维度,详情参见审核维度

    审核频率

    对视频文件截图的频率,当审核类型为视频时,支持该配置项。

    大图审核

    当审核类型为图片时,支持该配置项。图片审核仅支持审核 5MB 以下的图片,若您的图片大小在 5MB~32MB,您可以开启大图审核功能,veImageX 会对图片压缩后再进行审核。开启后,将对压缩能力按照基础图片处理进行计费。

    说明

    • 若未开启大图审核且图片大小 ≥ 5 MB,可能会导致系统超时报错;
    • 若已开启大图审核但图片大小 ≥ 32 MB,可能会导致系统超时报错。

    冻结设置

    冻结措施

    对应审核问题图片的安全处理措施,不支持下发该图片。

    • 建议不通过:对应内外部接口返回为建议不通过/违规,建议直接拦截;
    • 建议复审:对应内外部接口返回为建议复审/可疑,建议人工审核。

    冻结数据维度

    支持自定义数据维度,系统根据选择的结果进行数据冻结。冻结维度可少于所选审核维度或与其保持一致。

    冻结策略

    当前仅支持选择禁用图片,资源被禁用。

    回调设置

    回调类型

    支持自定义配置回调类型,系统根据选择的结果进行数据回调。回调维度可少于所选审核维度或与其保持一致。

    回调数据

    支持自定义回调图片类型,与回调类型搭配筛选符合的图片进行数据回调。

    • 建议通过,即文件为建议通过时返回回调内容
    • 建议复审,即文件为建议复审时返回回调内容
    • 建议不通过,即文件为建议不通过时返回回调内容
    • 审核失败,即文件为审核失败时返回回调内容

    回调 URL

    支持自定义回调协议(http / https),并输入回调地址,接收图片审核结果。详情请见回调内容

  4. 点击确认,保存审核任务配置。

已存文件审核

  1. 在附加组件页面,单击智能审核

  2. 进入已存文件审核页面,单击新增审核任务,创建您的图片审核任务。
    Image

  3. 在弹出的右侧新建审核任务页面,请根据指引完成配置。

    配置类型

    配置项

    说明

    文件来源

    选择来源

    • 服务内:选择审核服务内的文件;
    • URL 上传:支持上传指定的 URL 列表文件,系统将对文件内填写的全部 URL 进行审核。支持扩展名:.txt 文件,其中 URL 不超过 10 万条。

    审核范围

    当来源类型为 URL 上传时,显示该配置项。选择一份指定的 URL 列表文件,将对列表中的全部 URL 进行审核,文件仅支持 utf8 编码的纯文本文件。支持扩展名.txt 文件,不超过 10 万条。

    基础配置

    服务名称

    在下拉框中选择要审核的服务。

    审核类型

    选择审核文件类型,支持图片、音频和视频。当选择视频时,默认审核内容为视频画面,若需要审核音频,请勾选视频声音选项。

    审核场景

    • 图片上传场景:针对上传环节图片请求获取结果;
    • 存量图片处理:针对已有存储内的图片请求获取结果。

    审核范围

    • 整个服务
    • 前缀匹配,若你希望对某个目录进行审核或不审核,请设置路径为对应的目录名,以 / 结尾。例test/
      • 指定前缀审核,即需要对某个目录进行审核;
      • 指定前缀不审核,即不需要对某个目录进行审核。
    • 通配符匹配:
      • 指定通配符审核,即需要对某些文件进行审核;
      • 指定通配符不审核,即不需要对某些文件进行审核

      注意

      若您配置了上传 Content-Type 限制,则上传文件的格式需在服务的 Content-Type 白名单内,否则,无法成功上传。

    维度选择

    目前仅支持智能安全审核维度,维度更全、结果更准。

    维度配置

    选择审核的维度,详情参见审核维度

    审核频率

    对视频文件截图的频率,当审核类型为视频时,支持该配置项。

    大图审核

    当审核类型为图片时,支持该配置项。图片审核仅支持审核 5MB 以下的图片,若您的图片大小在 5MB~32MB,您可以开启大图审核功能,veImageX 会对图片压缩后再进行审核。开启后,将对压缩能力按照基础图片处理进行计费。

    说明

    • 若未开启大图审核且图片大小 ≥ 5 MB,可能会导致系统超时报错;
    • 若已开启大图审核但图片大小 ≥ 32 MB,可能会导致系统超时报错。

    冻结设置

    冻结措施

    对应审核问题图片的安全处理措施,不支持下发该图片。

    • 建议不通过:对应内外部接口返回为建议不通过/违规,建议直接拦截;
    • 建议复审:对应内外部接口返回为建议复审/可疑,建议人工审核。

    冻结数据维度

    支持自定义数据维度,系统根据选择的结果进行数据冻结。冻结维度可少于所选审核维度或与其保持一致。

    冻结策略

    当前仅支持选择禁用图片,资源被禁用。

    回调设置

    回调类型

    支持自定义配置回调类型,系统根据选择的结果进行数据回调。回调维度可少于所选审核维度或与其保持一致。

    回调数据

    支持自定义回调图片类型,与回调类型搭配筛选符合的图片进行数据回调。

    • 建议通过,即文件为建议通过时返回回调内容
    • 建议复审,即文件为建议复审时返回回调内容
    • 建议不通过,即文件为建议不通过时返回回调内容
    • 审核失败,即文件为审核失败时返回回调内容

    回调 URL

    支持自定义回调协议(http / https),并输入回调地址,接收图片审核结果。详情请见回调内容

  4. 点击确认,保存审核任务配置。

管理审核任务

  1. 您可以进入审核结果查询 tab,可以查看审核结果;也可以在新增文件审核已存文件审核页面,进入审核详情查看。
    Image

  2. 您可以参考下表管理您的审核任务。

    字段

    选项

    所属服务

    下拉选项为当前账号下所有服务

    审核文件

    新增文件

    服务内

    URL 上传

    文件类型

    图片

    音频

    视频

    审核结果

    建议通过

    建议复审

    建议不通过

    审核失败

    冻结状态

    已冻结

    未冻结

    审核状态

    审核中

    审核完成

    审核失败

    审核维度

    详情见审核维度

    任务 ID

    支持主动输入任务 ID 查询

    查询时间

    今天、昨天、近 7 天、近 30 天、主动输入时间

    数据统计

    审核文件总数

    处理意见占比

    审核总次数(计费次数)

  3. 选择异常文件后,您可根据文件类型,对文件执行以下操作。

    文件类型

    操作

    操作说明

    冻结文件

    恢复

    恢复冻结文件到原始审核结果状态。

    删除

    删除该条审核和对应的文件资源。

    详情

    可查看审核任务 ID、文件名称、URI。

    问题文件

    冻结

    冻结文件,该文件不可下发。

    删除

    删除该条审核和对应的文件资源。

    详情

    可查看审核任务 ID、文件名称、URI。

    审核失败文件

    重试

    重新提交审核,将重新生成一条任务记录。

    删除

    删除该条审核和对应的文件资源。

    详情

    可查看审核任务 ID、文件名称、URI。

  4. 更详细的结果请在下方回调内容中查看。

回调内容

图片回调内容

您在智能审核开启回调后,在图片审核结束后 veImageX 会将审核结果以 json 形式回调至您的回调地址。您可以通过回调内容,进行后续的文件处理操作,具体如下表所示:

参数名

类型

含义

Id

String

审核任务中图片对应 EntryID

Image

String

图片资源 URI 或 URL。取决于创建任务传入的资源地址。

Status

String

审核状态,取值如下所示:

  • Success:成功
  • Fail:失败

AuditImageType

String

审核后图片类型,取值如下所示:

  • normal:正常
  • frozen:冻结图片
  • problem:问题图片
  • fail:审核失败

AuditSuggestion

String

审核建议,取值如下所示:

  • nopass:建议不通过
  • recheck:建议复审

InvolveDimension

Array of String

审核后图片涉及的违规 tag

SubLabel

Array of String

详见图片标签

音频回调内容

您在智能审核开启回调后,在音频审核结束后 veImageX 会将审核结果以 json 形式回调至您的回调地址。您可以通过回调内容,进行后续的文件处理操作,具体如下表所示:

参数名

类型

含义

TaskId

String

审核任务 ID

Id

String

审核任务中音频对应 EntryID

Url

String

资源 URI 或 URL。取决于创建任务传入的资源地址。

AuditAudioType

String

审核后音频类型,取值如下所示:

  • normal:正常
  • frozen:冻结音频
  • problem:问题音频
  • fail:审核失败

AuditAudioSuggestion

String

审核建议,取值如下所示:

  • nopass:建议不通过
  • recheck:建议复审

AuditAudioDetails

AuditAudioDetails

音频审核结果详情(正常图片不返回)

InvolveDimension

Array of String

审核后音频涉及的违规 tag

SubLabel

Array of String

详见音频标签

Status

String

审核状态,取值如下所示:

  • Success:成功
  • Fail:失败

AuditAudioDetails

参数名

类型

含义

StartTime

Int

切片开始时间,单位:秒

EndTime

Int

切片结束时间,单位:秒

AudioText

String

音频 ASR 转换后的文本

SliceId

String

音频切片的唯一 ID

Decision

String

当前音频切片的处置建议:PASS / REVIEW / BLOCK

FinalSubLabel

String

当前音频切片命中的所有一级风险标签中风险值最高的一级标签,具体标签值见Sublabel 取值说明

DecisionSubLabel

String

当前音频切片命中的风险值最高的二级标签,对应 FinalSubLabel 参数的二级标签,具体标签值见Sublabel 取值说明

视频回调内容

您在智能审核开启回调后,在视频审核结束后 veImageX 会将审核结果以 json 形式回调至您的回调地址。您可以通过回调内容,进行后续的文件处理操作,具体如下表所示:

参数名

类型

含义

TaskId

String

审核任务 ID

Id

String

审核任务中视频对应 EntryID

Url

String

资源 URI 或 URL。取决于创建任务传入的资源地址。

AuditAudioType

String

审核后视频声音类型,取值如下所示:

  • normal:正常
  • frozen:冻结图片
  • problem:问题图片
  • fail:审核失败

AuditVideoType

String

审核后视频画面类型,取值如下所示:

  • normal:正常
  • frozen:冻结图片
  • problem:问题图片
  • fail:审核失败

AuditAudioSuggestion

String

视频声音审核建议,取值如下所示:

  • nopass:建议不通过
  • recheck:建议复审

AuditVideoSuggestion

String

视频画面审核建议,取值如下所示:

  • nopass:建议不通过
  • recheck:建议复审

AuditAudioDetails

Object of AuditAudioDetails

视频声音审核结果详情

AuditVideoDetails

Object of AuditVideoDetails

视频画面审核结果详情

InvolveDimension

Array of String

审核后视频涉及的违规 tag

SubLabel

Array of String

详见视频标签

Status

String

审核状态,取值如下所示:

  • Success:成功
  • Fail:失败

AuditAudioDetails

参数名

类型

含义

StartTime

Int

切片开始时间,单位:秒

EndTime

Int

切片结束时间,单位:秒

AudioText

String

视频音频 ASR 转换后的文本

SliceId

String

视频音频切片的唯一 ID

Decision

String

当前视频音频切片的处置建议:PASS / REVIEW / BLOCK

FinalSubLabel

String

当前视频音频切片命中的所有一级风险标签中风险值最高的一级标签,具体标签值见Sublabel 取值说明

DecisionSubLabel

String

当前视频音频切片命中的风险值最高的二级标签,对应 FinalSubLabel 参数的二级标签,具体标签值见Sublabel 取值说明

AuditVideoDetails

参数名

类型

含义

Offset

float64

视频截帧距离片头的时间戳,单位:秒

SliceId

string

截帧图片的唯一 ID

Decision

String

当前截帧图片的处置建议:PASS / REVIEW / BLOCK

Text

String

截帧图片中识别出的文本内容

FinalSubLabel

String

当前视频画面切片命中的所有一级风险标签中风险值最高的一级标签,具体标签值见Sublabel 取值说明

DecisionSubLabel

String

当前视频画面切片命中的风险值最高的二级标签,对应 FinalSubLabel 参数的二级标签,具体标签值见Sublabel 取值说明

OpenAPI

开通计费配置后,您可以通过调用 OpenAPI 来完成智能审核相关操作,具体如下所示:

服务端 SDK

veImageX 提供了配套的开发工具集 SDK,支持多种编程语言,帮助您更方便的调用 API。

参考信息

审核维度

审核素材

一级标签

二级标签

图片

涉黄

  • 涉黄:色情动作、物体、动漫、裸露、性暗示、性行为等
  • 性感低俗:男性、女性局部特写等

涉政

  • 涉敏 2:涉政相关

暴恐

  • 涉敏 1:暴恐相关

广告

  • 广告:色情、交友、招嫖、医疗、赌博广告等
  • 二维码:二维码

违法违规

  • 引人不适:恶心、恐怖、尸体、虐待等
  • 违禁:违禁药品、武器、赌博、野生动物等
  • 诈骗:刷单、招工、投资理财、金融、仿冒等
  • 不良画面:自我伤害、夸张吃播、不良风气等
  • 未成年相关:儿童色情、低俗、未成年吸烟喝酒等
  • 图片质量:模糊、纯色边框、纯色屏等
  • 年龄识别:婴幼儿、儿童、青年、中年、老年

文字违规

  • 文字违规:涉黄、涉政、谩骂、联系方式等

音频

涉黄

  • 涉黄:色情、性骚扰、性暗示、呻吟娇喘等

涉政

  • 涉敏 2:涉政相关

暴恐

  • 涉敏 1:暴恐相关

广告

  • 广告:色情、招嫖、医疗、赌博、账号买卖广告等
  • 联系方式:联系方式、URL、email

违法违规

  • 谩骂:恶意攻击、不文明用语等
  • 违禁: 毒品、赌博、违禁品等
  • 诈骗:刷单、招工、投资理财、金融、仿冒等
  • 违反公序良俗:违背伦理道德
  • 低质:灌水、无意义等

视频画面

涉黄

  • 涉黄:色情动作、物体、动漫、裸露、性暗示、性行为等
  • 性感低俗:男性、女性局部特写等

涉政

  • 涉敏 2:涉政相关

暴恐

  • 涉敏 1:暴恐相关

广告

  • 广告:色情、交友、招嫖、医疗、赌博广告等
  • 二维码:二维码
  • 广告法:非推广范围、虚假营销、效果承诺等

违法违规

  • 引人不适:恶心、恐怖、尸体、虐待等
  • 违禁:违禁药品、武器、赌博、野生动物等
  • 诈骗:刷单、招工、投资理财、金融、仿冒等
  • 不良画面:自我伤害、夸张吃播、不良风气等
  • 未成年相关:儿童色情、低俗、未成年吸烟喝酒等
  • 图片质量:模糊、纯色边框、纯色屏等
  • 年龄识别:婴幼儿、儿童、青年、中年、老年

文字违规

  • 文字违规:涉黄、涉政、谩骂、联系方式等

视频声音

涉黄

  • 涉黄:色情、性骚扰、性暗示、呻吟娇喘等

涉政

  • 涉敏 2:涉政相关

暴恐

  • 涉敏 1:暴恐相关

广告

  • 广告:色情、招嫖、医疗、赌博、账号买卖广告等
  • 联系方式:联系方式、URL、email
  • 广告法:非推广范围、虚假营销、效果承诺等

违法违规

  • 谩骂:恶意攻击、不文明用语等
  • 违禁: 毒品、赌博、违禁品等
  • 诈骗:刷单、招工、投资理财、金融、仿冒等
  • 违反公序良俗:违背伦理道德、偏见歧视
  • 低质:灌水、无意义