> 目前,字节跳动数据质量平台对于批处理数据的质量管理能力已经十分丰富,提供了包括表行数、空值、异常值、重复值、异常指标等多种模板的数据质量监控能力,也提供了基于spark的自定义监控能力。另外,该平台还提供了数据对比和数据探查功能,为用户在数据开发阶段及时发现数据质量问题提供了便利的手段。本文分上下两次连载,作者系**字节跳动数据平台-开发套件团队-高级研发工程师 于啸雨**。长期以来,数据质量平台的各项能力都只...
[picture.image](https://p6-volc-community-sign.byteimg.com/tos-cn-i-tlddhu82om/cb3c911f406c41e9af89d23b719195b5~tplv-tlddhu82om-image.image?=&rk3s=8031ce6d&x-expires=1716049251&x-signature=Aspt467SI6G5HPApmpAYN6RdAn0%3D)目前,字节跳动数据质量平台对于批处理数据的质量管理能力已经十分丰富,提供了包括表行数、空值、异常值、重复值、异常指标等多种模板的数据质量监控能力,也提供了基于spark的自定义监控能...
> 更多技术交流、求职机会,欢迎关注字节跳动数据平台微信公众号,回复【1】进入官方交流群 面对今日头条、抖音等不同产品线的复杂数据质量场景,火山引擎 DataLeap 数据质量平台如何满足多样的需求?本文将介绍我们在弥合大数据场景下数据质量校验与计算消耗资源大、校验计算时间长的冲突等方面的经验,同时介绍火山引擎 DataLeap 数据质量平台是如何用一套架构框架来满足流批方面的数据质量监控。# 什么是数据质量管理广义...
抖音等不同产品线的复杂数据质量场景,字节跳动数据质量平台如何满足多样的需求?本文将介绍我们在弥合大数据场景下数据质量校验与计算消耗资源大、校验计算时间长的冲突等方面的经验,同时介绍火山引擎数据质量平台是如何用一套架构框架来满足流批方面的数据质量监控。 ![picture.image](https://p3-volc-community-sign.byteimg.com/tos-cn-i-tlddhu82om/99b734c7be174f4fb501cb7e5d989f29~tplv-tlddhu82om-image.image?=...
缓存数据库 Redis 版采用了 Proxy-Server 架构,支持以图像化的形式查看代理节点(即 Proxy 节点)和数据节点(即 Server 节点)的性能监控数据。您可以通过监控数据全面掌握实例的运行状况,快速定位运维问题。本文介绍如何查看 Redis 实例的监控数据。 操作步骤登录 Redis 控制台。 在顶部菜单栏的左上角,选择实例所属的项目和地域。 在实例列表页,单击目标实例名称。 在实例详情页,单击监控告警页签。 在监控页签下,您可以选择不...
VPN连接已对接云监控,支持实时监控VPN连接的各项业务指标。您可为重点业务的VPN连接配置告警策略,设置告警指标阈值和告警通知,以便及时知晓指标异常情况,确保业务的稳定运行。VPN连接具体监控指标的介绍,请参见VPN连接监控指标。 说明 子用户无法直接查看VPN连接产品的监控数据,如需查看需使用主账号为子用户授权云监控权限,具体操作请参考为什么子用户无法查看监控数据? VPN连接控制台查看登录VPN连接控制台。 在顶部导航栏,选...
ALB 提供数据监控功能,包括实例和监听器两个维度。通过基于连接数、出入包、出入流量、状态码、QPS、请求时间和响应时间的数据分析,您可实时了解 ALB 的业务运行情况,助您快速排障、优化网络性能。 说明 您也可以前往云监控控制台查看 ALB 监控数据,并配置自动化告警,详见云监控指引文档。 查询实例监控数据前提条件已创建 ALB 实例并配置监听。 已开通火山引擎云监控服务。 操作步骤登录应用型负载均衡控制台,在控制台页面左...
操作场景负载均衡支持通过云监控服务实时监控负载均衡实例和监听器的各项业务指标。负载均衡配置完成后,您可以通过负载均衡控制台或云监控控制台查看CLB实例和监听器的监控数据。负载均衡相关监控指标的详细介绍请参见 负载均衡监控指标。 说明 云监控每30秒采集一次负载均衡的监控指标数据,该数据为负载均衡30秒内的平均值。例如新建连接数,云监控展示为30秒内平均的新建连接数。 前提条件子用户可能无法直接查看负载均衡产品的...
本文介绍如何通过控制台查看监控数据。您可以指定筛选条件查看相应的监控数据。系统存储最近90天的数据。您可以查询该时间段内任意31天的数据。 查看边缘实例监控数据 背景信息边缘实例的监控数据分为基础监控数据和操作系统监控数据: 基础监控数据:边缘实例自动上报的数据。基础监控数据的采集不依赖监控Agent。 操作系统监控数据:通过监控Agent采集的边缘实例的操作系统数据。相较于基础监控数据,操作系统监控数据的准确度更高...
以下将为您介绍如何通过 Exporter 导出火山引擎视频点播服务的监控指标数据至 Prometheus。 获取 API 访问密钥登录火山引擎视频点播控制台,点击用户名并在下拉功能框点击 API访问密钥,并获取对应的 AccessKey ID、AccessKey Secret,简称 AK、SK。 配置 YAML 文件在使用 Exporter 之前,请您获取 YAML 文件并进行配置,该文件已包含了火山引擎视频点播可导出监控指标以及必要的认证配置信息。 【附件下载】: volc-exporter.yml,大小...
操作场景私网连接支持通过云监控服务实时监控各项业务指标。通过自定义指标阈值和告警通知,能够及时知晓指标异常情况,确保业务的稳定运行。私网连接支持查看终端节点服务和终端节点的监控数据。您可以参考以下内容配置私网连接的监控告警能力: 私网连接-终端节点服务监控指标 私网连接-终端节点监控指标 配置私网连接告警策略 查看私网连接告警历史 前提条件子用户可能无法直接查看私网连接产品的监控数据,如需查看请参考为什么子...
消息队列 RabbitMQ版已接入云监控,实例日常运行过程中,您可以在消息队列 RabbitMQ版控制台或云监控控制台直接查看各项监控指标,实时分析实例的运行状态。本文档为您展示消息队列 RabbitMQ版监控数据的查看方式与主要监控指标。 前提条件查看监控数据前,请提前创建消息队列 RabbitMQ版实例。 注意事项创建实例后,消息服务 RabbitMQ版会自动为您添加一个 RabbitMQ 用户,用于采集并上报实例的监控指标数据。为了保证监控数据的准确性...
本接口用于查询相关云产品或功能的监控数据。 目前支持查询的产品或功能包括:边缘实例、弹性公网 IP、四层负载均衡、七层负载均衡、NAT 网关和文件存储。 接口说明系统存储最近 90 天的数据。您可以查询该时间段内任意 31 天的数据。 如果您指定了多个筛选条件,系统会进行取交集查询,即查询同时满足所有的筛选条件的监控数据。 查询的时间范围不同,数据统计周期也会相应调整: 查询时间范围 数据统计周期(采集的数据点之间的时...