开启审核功能后,如果审核的内容存在违规,你在接口中指定的 url 地址会收到来自 RTC 服务端的消息回调,相关事件的信息包含在回调字段中。
开启审核功能后,如果模型判断指定用户发送的内容可能违规,发起审核时指定的 url 地址会收到关于违规信息的 HTTP POST 请求。具体回调信息包含在 Request Body 中。
你需要部署 HTTP(s) 服务以接收回调,在接收到回调时,返回 HTTP 状态码 200
。
Request Body:
参数名 | 类型 | 示例值 | 描述 |
---|---|---|---|
EventType | String | MachineReviewResult | 事件类型 |
EventData | String | / | 具体的事件内容 |
EventTime | String | 2021-08-19T11:47:28+08:00 | 事件产生时间,RFC3339 格式 |
EventId | String | 6110e5394f69bb00ca885806_bc_test1234567_bc_1111_1629344822736_img_doc | 用于去重的事件 ID |
Version | String | 2020-12-01 | 回调版本,本接口取值:2020-12-01 |
AppId | String | Your_AppId | 应用的唯一标志 |
Signature | String | LWEBANvuLWECANvuLWEDANvuLWEEANvuLWEFANvuLWEgANX6uh+5+4QOmBj97xGmlCwQ62k5Urz7+KAvhUbdPiip | 回调签名 |
Nonce | String | 9091 | 4位签名随机数 |
参数名 | 类型 | 示例值 | 描述 |
---|---|---|---|
RoomId | String | Your_RoomId | 房间 ID,是房间的唯一标志 |
UserId | String | Your_UserId | 用户 ID |
MediaType | Uint32 | 1 | 可能违规的内容类型: 1:视频截图; 2:音频切片 |
Images | List | ["``http://1.jpg``", "``http://2.jpg``"] | 用户审核图片的 url |
Audio | String | http://1.wav | 用户审核音频的 url |
AudioText | String | 血腥暴力 | 用户语音识别的文本 |
HitReasons | List | ["``mandarin``"] | 违规原因 |
RiskHit | List<risk> | [{"Score":0.9039,"Name":"gun"}] | 命中的模型列表。若没有命中违规内容,则不返回该字段。 |
RiskALL | List | [{"Score":0,"Name":"POLITY"}] | 已配置的所有模型列表 |
Suggest | String | PASS | 对审核用户执行操作建议: - PASS - REVIEW - REJECT |
AIResultOrigin | String | {} | 审核模型的原始结果。 该字段已列出审核结果的关键信息,若你要看查看全部信息,可参看此参数的传出值。 |
AudioSegmentInfo | AudioSegmentInfo | / | 音频切片信息。仅在音频审核时返回 |
参数名 | 类型 | 示例值 | 描述 |
---|---|---|---|
Name | String | porn_general_image_v4 | 命中风险模型的英文名 |
Score | Float | 1 | 模型分数0-1,得分越高,内容违规可能性越高。 |
参数名 | 类型 | 示例值 | 描述 |
---|---|---|---|
StartTime | Int64 | 1685451004282 | 切片开始时间戳,Unix 时间,单位 ms。 |
FinishTime | Int64 | 1685451033112 | 切片结束时间戳,Unix 时间,单位 ms。 |
Duration | Int | 28830 | 音频切片时长,单位 ms。 |
Body
图片:
{
"EventType":"MachineReviewResult",
"EventData":"{
"RoomId":"Your_RoomId",
"UserId":"Your_UserId",
"MediaType":1,
"Images":["http://1.jpg", "http://2.jpg"],
"Audio":"http://1.wav",
"AudioText":"Your_AudioText",
"HitReasons":[
"politics",
"abuse",
"abuse"
],
"RiskHit":[
{
"Score":0.85439557,
"Name":"politics"
}
],
"RiskALL":[
{
"Score":0,
"Name":"POLITY"
}
]
"Suggest":"REJECT",
"AIResultOrigin":"{}"
}
"EventTime":"2023-05-30T20:51:07+08:00",
"EventId":"Your_EventId",
"Version":"2020-12-01",
"AppId":"Your_AppId",
"Signature":"Your_Signature",
"Nonce":"7302"
}
音频
{
"EventType":"MachineReviewResult",
"EventData":"{
"RoomId":"Your_RoomId",
"UserId":"Your_UserId",
"MediaType":2,
"Images":["`http://1.jpg", "http://2.jpg`"],
"Audio":"http://1.wav",
"AudioText":"Your_AudioText",
"HitReasons":[
"politics",
"abuse",
"abuse"
],
"RiskHit":[
{
"Score":0.85439557,
"Name":"politics"
}
],
"RiskALL":[
{
"Score":0,
"Name":"POLITY"
}
]
"Suggest":"REJECT",
"AIResultOrigin":"{}",
"AudioSegmentInfo":{
"StartTime":1685451004282,
"FinishTime":1685451033112,
"Duration":28830
}
}
"EventTime":"2023-05-30T20:51:07+08:00",
"EventId":"Your_EventId",
"Version":"2020-12-01",
"AppId":"Your_AppId",
"Signature":"Your_Signature",
"Nonce":"7302"
}