回调审核结果 DetectionResult--实时音视频-火山引擎

文档中心

立即注册

实时音视频

请输入

音视频内容安全

回调审核结果 DetectionResult

开启审核功能后，如果审核的内容存在违规，你在接口中指定的 url 地址会收到来自 RTC 服务端的消息回调，相关事件的信息包含在回调字段中。

回调行为

开启审核功能后，如果模型判断指定用户发送的内容可能违规，发起审核时指定的 url 地址会收到关于违规信息的 HTTP POST 请求。具体回调信息包含在 Request Body 中。
你需要部署 HTTP(s) 服务以接收回调，在接收到回调时，返回 HTTP 状态码 200。

回调字段

Request Body：

参数名	类型	示例值	描述
EventType	String	`MachineReviewResult`	事件类型
EventData	String	/	具体的事件内容
EventTime	String	`2021-08-19T11:47:28+08:00`	事件产生时间，RFC3339 格式
EventId	String	`6110e5394f69bb00ca885806_bc_test1234567_bc_1111_1629344822736_img_doc`	用于去重的事件 ID
Version	String	`2020-12-01`	回调版本，本接口取值：`2020-12-01`
AppId	String	`Your_AppId`	应用的唯一标志
Signature	String	`LWEBANvuLWECANvuLWEDANvuLWEEANvuLWEFANvuLWEgANX6uh+5+4QOmBj97xGmlCwQ62k5Urz7+KAvhUbdPiip`	回调签名
Nonce	String	9091	4位签名随机数

EventData

参数名	类型	示例值	描述
RoomId	String	`Your_RoomId`	房间 ID，是房间的唯一标志
UserId	String	`Your_UserId`	用户 ID
MediaType	Uint32	`1`	可能违规的内容类型： 1：视频截图； 2：音频切片
Images	List	["``http://1.jpg``", "``http://2.jpg``"]	用户审核图片的 url
Audio	String	`http://1.wav`	用户审核音频的 url
AudioText	String	`血腥暴力`	用户语音识别的文本
HitReasons	List	["``mandarin``"]	违规原因
RiskHit	List<risk>	`[{"Score":0.9039,"Name":"gun"}]`	命中的模型列表。若没有命中违规内容，则不返回该字段。
RiskALL	List	`[{"Score":0,"Name":"POLITY"}]`	已配置的所有模型列表
Suggest	String	`PASS`	对审核用户执行操作建议： - PASS - REVIEW - REJECT
AIResultOrigin	String	`{}`	审核模型的原始结果。该字段已列出审核结果的关键信息，若你要看查看全部信息，可参看此参数的传出值。
AudioSegmentInfo	AudioSegmentInfo	/	音频切片信息。仅在音频审核时返回

risk

参数名	类型	示例值	描述
Name	String	`porn_general_image_v4`	命中风险模型的英文名
Score	Float	`1`	模型分数0-1，得分越高，内容违规可能性越高。

AudioSegmentInfo

参数名	类型	示例值	描述
StartTime	Int64	`1685451004282`	切片开始时间戳，Unix 时间，单位 ms。
FinishTime	Int64	`1685451033112`	切片结束时间戳，Unix 时间，单位 ms。
Duration	Int	`28830`	音频切片时长，单位 ms。

请求示例

Body
图片：

{
    "EventType":"MachineReviewResult",
    "EventData":"{
        "RoomId":"Your_RoomId",
        "UserId":"Your_UserId",
        "MediaType":1,
        "Images":["http://1.jpg", "http://2.jpg"],
        "Audio":"http://1.wav",
        "AudioText":"Your_AudioText",
        "HitReasons":[
         "politics",
            "abuse",
            "abuse"
        ],
        "RiskHit":[
            {
                "Score":0.85439557,
                "Name":"politics"
            }
        ],
        "RiskALL":[
            {
                "Score":0,
                "Name":"POLITY"
            }
        ]
        "Suggest":"REJECT",
        "AIResultOrigin":"{}"
    }
    "EventTime":"2023-05-30T20:51:07+08:00",
    "EventId":"Your_EventId",
    "Version":"2020-12-01",
    "AppId":"Your_AppId",
    "Signature":"Your_Signature",
    "Nonce":"7302"
}

音频

{
    "EventType":"MachineReviewResult",
    "EventData":"{
        "RoomId":"Your_RoomId",
        "UserId":"Your_UserId",
        "MediaType":2,
        "Images":["`http://1.jpg", "http://2.jpg`"],
        "Audio":"http://1.wav",
        "AudioText":"Your_AudioText",
        "HitReasons":[
         "politics",
            "abuse",
            "abuse"
        ],
        "RiskHit":[
            {
                "Score":0.85439557,
                "Name":"politics"
            }
        ],
        "RiskALL":[
            {
                "Score":0,
                "Name":"POLITY"
            }
        ]
        "Suggest":"REJECT",
        "AIResultOrigin":"{}",
        "AudioSegmentInfo":{
            "StartTime":1685451004282,
            "FinishTime":1685451033112,
            "Duration":28830
        }
    }
    "EventTime":"2023-05-30T20:51:07+08:00",
    "EventId":"Your_EventId",
    "Version":"2020-12-01",
    "AppId":"Your_AppId",
    "Signature":"Your_Signature",
    "Nonce":"7302"
}

最近更新时间：2024.06.26 11:29:00

这个页面对您有帮助吗？

有用

无用