veImageX 提供了图片、音频、视频智能审核功能,支持分类型智能检测图片、音频、视频中涉黄、涉政、暴恐、违法违规等十几种禁用行为(详情参见审核维度),并返回给您最终识别结果。从而满足您的业务审核场景,避免违规图片、音频、视频给您带来的业务和法律上的风险,提高品牌可信度。
智能审核功能属于附加组件下智能处理模块,属于后付费计费,使用后会产生附加组件智能处理费用。智能审核按照各审核维度在审核成功状态下的审核次数进行计费。
文件审核费用 = 附加组件请求次单价 x 请求次 x 倍率 x 审核维度。审核费用需要乘以审核维度,比如同一张图片选择涉黄、涉政、涉暴三个维度审核,则审核次数为 3 次。举例,审核 1000 张图片,全部按 6 个维度审核,则后付费审核费用 = 0.069✖️1✖️15✖️6 = 6.21 元。
注意
在附加组件页面,单击智能审核。
进入新增文件审核页面,单击新增审核任务,创建您的图片审核任务。
在弹出的右侧新建审核任务页面,请根据指引完成配置。
配置类型 | 配置项 | 说明 |
|---|---|---|
基础配置 | 服务名称 | 在下拉框中选择要审核的服务。 |
审核类型 | 选择审核文件类型,支持图片、音频和视频。当选择视频时,默认审核内容为视频画面,若需要审核音频,请勾选视频声音选项。 | |
审核范围 |
| |
维度选择 | 目前仅支持智能安全审核维度,维度更全、结果更准。 | |
维度配置 | 选择审核的维度,详情参见审核维度。 | |
审核频率 | 对视频文件截图的频率,当审核类型为视频时,支持该配置项。 | |
大图审核 | 当审核类型为图片时,支持该配置项。图片审核仅支持审核 5MB 以下的图片,若您的图片大小在 5MB~32MB,您可以开启大图审核功能,veImageX 会对图片压缩后再进行审核。开启后,将对压缩能力按照基础图片处理进行计费。 说明
| |
冻结设置 | 冻结措施 | 对应审核问题图片的安全处理措施,不支持下发该图片。
|
冻结数据维度 | 支持自定义数据维度,系统根据选择的结果进行数据冻结。冻结维度可少于所选审核维度或与其保持一致。 | |
冻结策略 | 当前仅支持选择禁用图片,资源被禁用。 | |
回调设置 | 回调类型 | 支持自定义配置回调类型,系统根据选择的结果进行数据回调。回调维度可少于所选审核维度或与其保持一致。 |
回调数据 | 支持自定义回调图片类型,与回调类型搭配筛选符合的图片进行数据回调。
| |
回调 URL | 支持自定义回调协议(http / https),并输入回调地址,接收图片审核结果。详情请见回调内容。 |
点击确认,保存审核任务配置。
在附加组件页面,单击智能审核。
进入已存文件审核页面,单击新增审核任务,创建您的图片审核任务。
在弹出的右侧新建审核任务页面,请根据指引完成配置。
配置类型 | 配置项 | 说明 |
|---|---|---|
文件来源 | 选择来源 |
|
审核范围 | 当来源类型为 URL 上传时,显示该配置项。选择一份指定的 URL 列表文件,将对列表中的全部 URL 进行审核,文件仅支持 utf8 编码的纯文本文件。支持扩展名 | |
基础配置 | 服务名称 | 在下拉框中选择要审核的服务。 |
审核类型 | 选择审核文件类型,支持图片、音频和视频。当选择视频时,默认审核内容为视频画面,若需要审核音频,请勾选视频声音选项。 | |
审核场景 |
| |
审核范围 |
| |
维度选择 | 目前仅支持智能安全审核维度,维度更全、结果更准。 | |
维度配置 | 选择审核的维度,详情参见审核维度。 | |
审核频率 | 对视频文件截图的频率,当审核类型为视频时,支持该配置项。 | |
大图审核 | 当审核类型为图片时,支持该配置项。图片审核仅支持审核 5MB 以下的图片,若您的图片大小在 5MB~32MB,您可以开启大图审核功能,veImageX 会对图片压缩后再进行审核。开启后,将对压缩能力按照基础图片处理进行计费。 说明
| |
冻结设置 | 冻结措施 | 对应审核问题图片的安全处理措施,不支持下发该图片。
|
冻结数据维度 | 支持自定义数据维度,系统根据选择的结果进行数据冻结。冻结维度可少于所选审核维度或与其保持一致。 | |
冻结策略 | 当前仅支持选择禁用图片,资源被禁用。 | |
回调设置 | 回调类型 | 支持自定义配置回调类型,系统根据选择的结果进行数据回调。回调维度可少于所选审核维度或与其保持一致。 |
回调数据 | 支持自定义回调图片类型,与回调类型搭配筛选符合的图片进行数据回调。
| |
回调 URL | 支持自定义回调协议(http / https),并输入回调地址,接收图片审核结果。详情请见回调内容。 |
点击确认,保存审核任务配置。
您可以进入审核结果查询 tab,可以查看审核结果;也可以在新增文件审核和已存文件审核页面,进入审核详情查看。
您可以参考下表管理您的审核任务。
字段 | 选项 |
|---|---|
所属服务 | 下拉选项为当前账号下所有服务 |
审核文件 | 新增文件 |
服务内 | |
URL 上传 | |
文件类型 | 图片 |
音频 | |
视频 | |
审核结果 | 建议通过 |
建议复审 | |
建议不通过 | |
审核失败 | |
冻结状态 | 已冻结 |
未冻结 | |
审核状态 | 审核中 |
审核完成 | |
审核失败 | |
审核维度 | 详情见审核维度 |
任务 ID | 支持主动输入任务 ID 查询 |
查询时间 | 今天、昨天、近 7 天、近 30 天、主动输入时间 |
数据统计 | 审核文件总数 |
处理意见占比 | |
审核总次数(计费次数) |
选择异常文件后,您可根据文件类型,对文件执行以下操作。
文件类型 | 操作 | 操作说明 |
|---|---|---|
冻结文件 | 恢复 | 恢复冻结文件到原始审核结果状态。 |
删除 | 删除该条审核和对应的文件资源。 | |
详情 | 可查看审核任务 ID、文件名称、URI。 | |
问题文件 | 冻结 | 冻结文件,该文件不可下发。 |
删除 | 删除该条审核和对应的文件资源。 | |
详情 | 可查看审核任务 ID、文件名称、URI。 | |
审核失败文件 | 重试 | 重新提交审核,将重新生成一条任务记录。 |
删除 | 删除该条审核和对应的文件资源。 | |
详情 | 可查看审核任务 ID、文件名称、URI。 |
更详细的结果请在下方回调内容中查看。
您在智能审核开启回调后,在图片审核结束后 veImageX 会将审核结果以 json 形式回调至您的回调地址。您可以通过回调内容,进行后续的文件处理操作,具体如下表所示:
参数名 | 类型 | 含义 |
|---|---|---|
Id | String | 审核任务中图片对应 EntryID |
Image | String | 图片资源 URI 或 URL。取决于创建任务传入的资源地址。 |
Status | String | 审核状态,取值如下所示:
|
AuditImageType | String | 审核后图片类型,取值如下所示:
|
AuditSuggestion | String | 审核建议,取值如下所示:
|
InvolveDimension | Array of String | 审核后图片涉及的违规 tag |
SubLabel | Array of String | 详见图片标签 |
您在智能审核开启回调后,在音频审核结束后 veImageX 会将审核结果以 json 形式回调至您的回调地址。您可以通过回调内容,进行后续的文件处理操作,具体如下表所示:
参数名 | 类型 | 含义 |
|---|---|---|
TaskId | String | 审核任务 ID |
Id | String | 审核任务中音频对应 EntryID |
Url | String | 资源 URI 或 URL。取决于创建任务传入的资源地址。 |
AuditAudioType | String | 审核后音频类型,取值如下所示:
|
AuditAudioSuggestion | String | 审核建议,取值如下所示:
|
AuditAudioDetails | 音频审核结果详情(正常图片不返回) | |
InvolveDimension | Array of String | 审核后音频涉及的违规 tag |
SubLabel | Array of String | 详见音频标签 |
Status | String | 审核状态,取值如下所示:
|
参数名 | 类型 | 含义 |
|---|---|---|
StartTime | Int | 切片开始时间,单位:秒 |
EndTime | Int | 切片结束时间,单位:秒 |
AudioText | String | 音频 ASR 转换后的文本 |
SliceId | String | 音频切片的唯一 ID |
Decision | String | 当前音频切片的处置建议:PASS / REVIEW / BLOCK |
FinalSubLabel | String | 当前音频切片命中的所有一级风险标签中风险值最高的一级标签,具体标签值见Sublabel 取值说明。 |
DecisionSubLabel | String | 当前音频切片命中的风险值最高的二级标签,对应 FinalSubLabel 参数的二级标签,具体标签值见Sublabel 取值说明。 |
您在智能审核开启回调后,在视频审核结束后 veImageX 会将审核结果以 json 形式回调至您的回调地址。您可以通过回调内容,进行后续的文件处理操作,具体如下表所示:
参数名 | 类型 | 含义 |
|---|---|---|
TaskId | String | 审核任务 ID |
Id | String | 审核任务中视频对应 EntryID |
Url | String | 资源 URI 或 URL。取决于创建任务传入的资源地址。 |
AuditAudioType | String | 审核后视频声音类型,取值如下所示:
|
AuditVideoType | String | 审核后视频画面类型,取值如下所示:
|
AuditAudioSuggestion | String | 视频声音审核建议,取值如下所示:
|
AuditVideoSuggestion | String | 视频画面审核建议,取值如下所示:
|
AuditAudioDetails | Object of AuditAudioDetails | 视频声音审核结果详情 |
AuditVideoDetails | Object of AuditVideoDetails | 视频画面审核结果详情 |
InvolveDimension | Array of String | 审核后视频涉及的违规 tag |
SubLabel | Array of String | 详见视频标签 |
Status | String | 审核状态,取值如下所示:
|
参数名 | 类型 | 含义 |
|---|---|---|
StartTime | Int | 切片开始时间,单位:秒 |
EndTime | Int | 切片结束时间,单位:秒 |
AudioText | String | 视频音频 ASR 转换后的文本 |
SliceId | String | 视频音频切片的唯一 ID |
Decision | String | 当前视频音频切片的处置建议:PASS / REVIEW / BLOCK |
FinalSubLabel | String | 当前视频音频切片命中的所有一级风险标签中风险值最高的一级标签,具体标签值见Sublabel 取值说明。 |
DecisionSubLabel | String | 当前视频音频切片命中的风险值最高的二级标签,对应 FinalSubLabel 参数的二级标签,具体标签值见Sublabel 取值说明。 |
参数名 | 类型 | 含义 |
|---|---|---|
Offset | float64 | 视频截帧距离片头的时间戳,单位:秒 |
SliceId | string | 截帧图片的唯一 ID |
Decision | String | 当前截帧图片的处置建议:PASS / REVIEW / BLOCK |
Text | String | 截帧图片中识别出的文本内容 |
FinalSubLabel | String | 当前视频画面切片命中的所有一级风险标签中风险值最高的一级标签,具体标签值见Sublabel 取值说明。 |
DecisionSubLabel | String | 当前视频画面切片命中的风险值最高的二级标签,对应 FinalSubLabel 参数的二级标签,具体标签值见Sublabel 取值说明。 |
开通计费配置后,您可以通过调用 OpenAPI 来完成智能审核相关操作,具体如下所示:
veImageX 提供了配套的开发工具集 SDK,支持多种编程语言,帮助您更方便的调用 API。
审核素材 | 一级标签 | 二级标签 |
|---|---|---|
图片 | 涉黄 |
|
涉政 |
| |
暴恐 |
| |
广告 |
| |
违法违规 |
| |
文字违规 |
| |
音频 | 涉黄 |
|
涉政 |
| |
暴恐 |
| |
广告 |
| |
违法违规 |
| |
视频画面 | 涉黄 |
|
涉政 |
| |
暴恐 |
| |
广告 |
| |
违法违规 |
| |
文字违规 |
| |
视频声音 | 涉黄 |
|
涉政 |
| |
暴恐 |
| |
广告 |
| |
违法违规 |
|