You need to enable JavaScript to run this app.
导航
回调审核结果 DetectionResult
最近更新时间:2024.06.26 11:29:00首次发布时间:2022.03.16 15:12:04

开启审核功能后,如果审核的内容存在违规,你在接口中指定的 url 地址会收到来自 RTC 服务端的消息回调,相关事件的信息包含在回调字段中。

回调行为

开启审核功能后,如果模型判断指定用户发送的内容可能违规,发起审核时指定的 url 地址会收到关于违规信息的 HTTP POST 请求。具体回调信息包含在 Request Body 中。
你需要部署 HTTP(s) 服务以接收回调,在接收到回调时,返回 HTTP 状态码 200

回调字段

Request Body:

参数名类型示例值描述
EventTypeStringMachineReviewResult事件类型
EventDataString/具体的事件内容
EventTimeString2021-08-19T11:47:28+08:00事件产生时间,RFC3339 格式
EventIdString6110e5394f69bb00ca885806_bc_test1234567_bc_1111_1629344822736_img_doc用于去重的事件 ID
VersionString2020-12-01回调版本,本接口取值:2020-12-01
AppIdStringYour_AppId应用的唯一标志
SignatureStringLWEBANvuLWECANvuLWEDANvuLWEEANvuLWEFANvuLWEgANX6uh+5+4QOmBj97xGmlCwQ62k5Urz7+KAvhUbdPiip回调签名
NonceString90914位签名随机数

EventData

参数名类型示例值描述
RoomIdStringYour_RoomId房间 ID,是房间的唯一标志
UserIdStringYour_UserId用户 ID
MediaTypeUint321可能违规的内容类型:
1:视频截图;
2:音频切片
ImagesList["``http://1.jpg``", "``http://2.jpg``"]用户审核图片的 url
AudioStringhttp://1.wav用户审核音频的 url
AudioTextString血腥暴力用户语音识别的文本
HitReasonsList["``mandarin``"]违规原因
RiskHitList<risk>[{"Score":0.9039,"Name":"gun"}]命中的模型列表。若没有命中违规内容,则不返回该字段。
RiskALLList[{"Score":0,"Name":"POLITY"}]已配置的所有模型列表
SuggestStringPASS对审核用户执行操作建议:
- PASS
- REVIEW
- REJECT
AIResultOriginString{}审核模型的原始结果。
该字段已列出审核结果的关键信息,若你要看查看全部信息,可参看此参数的传出值。
AudioSegmentInfoAudioSegmentInfo/音频切片信息。仅在音频审核时返回

risk

参数名类型示例值描述
NameStringporn_general_image_v4命中风险模型的英文名
ScoreFloat1模型分数0-1,得分越高,内容违规可能性越高。

AudioSegmentInfo

参数名类型示例值描述
StartTimeInt641685451004282切片开始时间戳,Unix 时间,单位 ms。
FinishTimeInt641685451033112切片结束时间戳,Unix 时间,单位 ms。
DurationInt28830音频切片时长,单位 ms。

请求示例

Body
图片:

{
    "EventType":"MachineReviewResult",
    "EventData":"{
        "RoomId":"Your_RoomId",
        "UserId":"Your_UserId",
        "MediaType":1,
        "Images":["http://1.jpg", "http://2.jpg"],
        "Audio":"http://1.wav",
        "AudioText":"Your_AudioText",
        "HitReasons":[
         "politics",
            "abuse",
            "abuse"
        ],
        "RiskHit":[
            {
                "Score":0.85439557,
                "Name":"politics"
            }
        ],
        "RiskALL":[
            {
                "Score":0,
                "Name":"POLITY"
            }
        ]
        "Suggest":"REJECT",
        "AIResultOrigin":"{}"
    }
    "EventTime":"2023-05-30T20:51:07+08:00",
    "EventId":"Your_EventId",
    "Version":"2020-12-01",
    "AppId":"Your_AppId",
    "Signature":"Your_Signature",
    "Nonce":"7302"
}

音频

{
    "EventType":"MachineReviewResult",
    "EventData":"{
        "RoomId":"Your_RoomId",
        "UserId":"Your_UserId",
        "MediaType":2,
        "Images":["`http://1.jpg", "http://2.jpg`"],
        "Audio":"http://1.wav",
        "AudioText":"Your_AudioText",
        "HitReasons":[
         "politics",
            "abuse",
            "abuse"
        ],
        "RiskHit":[
            {
                "Score":0.85439557,
                "Name":"politics"
            }
        ],
        "RiskALL":[
            {
                "Score":0,
                "Name":"POLITY"
            }
        ]
        "Suggest":"REJECT",
        "AIResultOrigin":"{}",
        "AudioSegmentInfo":{
            "StartTime":1685451004282,
            "FinishTime":1685451033112,
            "Duration":28830
        }
    }
    "EventTime":"2023-05-30T20:51:07+08:00",
    "EventId":"Your_EventId",
    "Version":"2020-12-01",
    "AppId":"Your_AppId",
    "Signature":"Your_Signature",
    "Nonce":"7302"
}