直播质检是火山引擎企业直播提供的直播合规质检工具。基于 AI 大模型和合规需求,直播质检提供机器审核和人工审核结合的直播审核服务。在直播过程中,通过预设的质检规则,质检工具可实时分析直播中的画面、语音、文字内容并告警,从而有效降低人工审核成本、提升审核效率,确保直播内容合规以规避业务风险。
本文档将带您跑通质检的核心路径,快速上手直播质检。
在电商直播等场景中,直播质检可以帮您实时监控内容合规,避免因主播使用违规词语、展示违禁商品等行为导致平台处罚或用户流失。其主要特性如下:
直播质检的整体流程主要分为以下三个阶段:
在直播过程中,质检平台会采集直播流,基于豆包大模型和行业小模型分析直播图像和语音内容,实时推送风险提醒。整体处理流程如下:
使用直播质检平台之前,您需要了解以下概念。
概念 | 描述 |
|---|---|
规则 | 规则是质检的核心,是定义违规行为的标准和依据。直播质检平台预置了一系列针对汽车、金融等行业的通用质检规则,您无需自行创建规则,即可快速上手体验。 |
场景 | 场景是规则的集合。在实际质检时,单条规则可能无法满足您一次质检的需求。您可灵活组合多个质检规则,以搭建贴合业务的质检场景。 |
任务 | 质检任务是直播质检平台的核心功能。要对指定直播间内容进行质检,需要先创建质检任务,在任务中指定直播地址和规则。 |
项目 | 项目是在直播质检平台进行操作与管理的单元。您可以在项目中为成员授予权限,并创建质检任务、新建规则、创建审核场景等。 |
质检回放视频支持免费保留 180 天。
在开始使用直播质检服务前,请确保当前登录的账号所属主账号已开通直播质检服务。
本小节将从创建质检项目开始,手把手带您跑通在直播前、中、后,在直播质检平台操作的核心流程。
子账号首次访问直播质检平台,将提示“暂无使用权限”。若您希望使用子账号访问直播质检平台,该子账号所属主账号需在直播质检平台为子账号授权,即添加子账号为系统管理员或项目成员。具体步骤如下所示。
添加子账号为系统管理员后,该子账号对所有项目的所有配置项,均具有管理权限。添加步骤如下:
为了在直播质检平台中划分操作与管理单元,您需要先创建一个质检项目。
为了将一系列规则打包以便在任务中使用,您需要先创建一个审核场景。
进入项目后,在左侧导航栏,点击新建场景,进入场景创建页面。
参考下表配置项描述,填写场景的名称和规则即可。
配置项 | 描述 |
|---|---|
审核场景名称 | 设置自定义的审核场景名称。名称不可超过 20 个字符。 |
审核场景类别 | 审核场景的类别。目前默认选择且仅支持直播审核。 |
自定义描述 | 对该场景自定义的备注信息,用于描述该审核场景的用途或特点。备注信息不可超过 200 个字符。 |
规则列表 | 点击 +添加,弹出选择规则弹窗,勾选想要添加的预置规则。 |
任务标签 | 任务标签用于对任务添加标签,方便后续的任务筛选和管理。任务标签创建入口如下所示。 |
完成必填配置后,点击保存。您将进入场景管理页面。在该页面,您可查看或继续编辑该场景。
为了对指定直播间内容进行质检,您需要创建一个质检任务。
在左侧导航栏,点击任务管理 > 新建任务。进入创建任务界面。
参考下表,填写必填的配置项即可。
配置项 | 描述 |
|---|---|
任务名称 | 设置任务的自定义名称,用于识别和管理。名称长度不能超过 200 个字符。 |
任务类型 | 目前默认选择且仅支持直播审核。 |
待审直播 | 配置需要审核的直播来源。支持通过流地址或直播间ID 进行配置:
注意 若选择直播间 ID,请确保当前质检平台登录的主账号或子账号所属主账号与企业直播控制台中该直播间所属的主账号一致。 |
审核场景 | 选择在步骤二创建的场景。选择该场景表示将使用该场景中添加的规则来对直播内容进行检测。 |
启动时间 | 设置任务的开始执行时间。这是一个可选配置。如果不设置,系统将默认在任务创建后立即启动。 |
规则变量 | 用于配置审核场景中定义的规则变量。 |
任务标签 | 任务标签用于对任务添加标签,方便后续的任务筛选和管理。任务标签创建入口如下所示。 |
完成以上必填配置后,点击保存。您将进入任务列表页面。您可查看该任务的状态等信息。
在直播过程中,审核人可进入直播监控台,结合实时机审的结果,对直播间做出告警或断流操作。详情参考以下步骤。
注意
要在监控台对直播间进行告警和断流操作,您需先联系技术支持开通该配置。
机审结束后,您可以查看质检分析详情,或下载 .xlsx 格式的规则检测报告。具体步骤参考下文。
.xlsx 格式的质检报告。机审结束后,审核人可在任务详情页面,结合机审结果,对整体直播内容和每个规则提交人工审核结论。
此外,请确保您的直播流协议是平台支持的格式,如 flv、rtmp、rtsp 或 hls 等。
可以。如需实现此功能,请联系技术支持开通服务,并提供以下信息:
ProjectName 的值。具体操作请参考步骤二:新建质检项目;您需要先联系技术支持开通此功能。开通后,不同处置方式的适用范围如下: