集群监控
最近更新时间：2023.12.14 15:02:39
首次发布时间：2023.11.17 15:31:30
托管 Prometheus 控制台中预置了常见的 VKE 集群监控看板，本文为您介绍集群监控看板信息。
vke-cluster-dashboard
vke-cluster-dashboard 是集群监控概览看板，展示了集群整体的监控信息，包括：
- 节点信息：节点数量、Not Ready 节点数量、PIDPressure 节点数量等。
- 内存信息：内存使用量、内存使用率 Top 10 等。
- CPU 信息：CPU 使用量、CPU 使用率 Top 10 等。
- 磁盘信息：节点磁盘使用率 Top 10、磁盘 Read 速率 Top 10、 磁盘 Write 速率 Top 10 等。
集群监控概览看板的指标清单如下表所示。
| 看板分类 | 看板名称 | PromQL 语句 |
|---|---|---|
| 集群监控 | 节点数量 | count(kube_node_info{cluster="$ClusterId",kernel_version!=""}) |
| PIDPressure 节点数量 | count(kube_node_status_condition{cluster="$ClusterId",status="true",condition="PIDPressure"}==1) or vector(0) | |
| MemoryPressure 节点数量 | count(kube_node_status_condition{cluster="$ClusterId",status="true",condition="MemoryPressure"}==1) or vector(0) | |
| Not Ready 节点数量 | count(kube_node_info{cluster="$ClusterId",kernel_version!=""})-count(kube_node_status_condition{cluster="$ClusterId",condition="Ready", status="true",node!~"vci.*"} == 1) | |
| DiskPressure 节点数量 | count(kube_node_status_condition{cluster="$ClusterId",status="true",condition="DiskPressure"}==1) or vector(0) | |
| NetworkUnavailable 节点数量 | count(kube_node_status_condition{cluster="$ClusterId",status="true",condition="NetworkUnavailable"}==1) or vector(0) | |
| 集群内存使用 | sum(kube_pod_container_resource_requests{cluster="$ClusterId",resource="memory"})by(cluster) | |
| sum(kube_pod_container_resource_limits{cluster="$ClusterId",resource="memory"})by(cluster) | ||
| sum(kube_node_status_capacity{cluster="$ClusterId",resource="memory",node!~"vci.*"}) | ||
| sum(node_memory_MemTotal_bytes{cluster="$ClusterId"}-node_memory_MemAvailable_bytes{cluster="$ClusterId"})by(cluster) | ||
| 集群 CPU 使用 | sum(kube_pod_container_resource_requests{cluster="$ClusterId",resource="cpu"})by(cluster) | |
| sum(kube_pod_container_resource_limits{cluster="$ClusterId",resource="cpu"})by(cluster) | ||
| sum(kube_node_status_capacity{cluster="$ClusterId",resource="cpu",node!~"vci.*"})by(cluster) | ||
| sum (irate(node_cpu_seconds_total{cluster="$ClusterId",mode="user"}[5m])) by(cluster) | ||
| 节点内存使用率 Top 10 | topk(10,(node_memory_MemTotal_bytes{cluster="$ClusterId"}-node_memory_MemAvailable_bytes{cluster="$ClusterId"})/node_memory_MemTotal_bytes{cluster="$ClusterId"})*100 | |
| 节点 CPU 使用率 Top 10 | topk(10,sum(irate(node_cpu_seconds_total{cluster="$ClusterId",mode="user"}[5m]))by(node)/count(count(node_cpu_seconds_total{cluster="$ClusterId"})by(cpu,node))by(node)*100) | |
| 节点磁盘使用率 Top 10 | topk(10,sum(node_filesystem_size_bytes{cluster=~"$ClusterId",device!~'rootfs'}-node_filesystem_avail_bytes{cluster=~"$ClusterId",device!~'rootfs',fstype!~'tmpfs'})by(node)/sum(node_filesystem_size_bytes{cluster=~"$ClusterId",device!~'rootfs'})by(node)*100) | |
| 节点磁盘 Read 速率 Top 10 | topk(10,sum(rate(node_disk_read_bytes_total{cluster=~"$ClusterId",device=~"[a-z]*[a-z]"}[5m]))by(node)) | |
| 节点磁盘 Write 速率 Top 10 | topk(10,sum(rate(node_disk_written_bytes_total{cluster=~"$ClusterId",device=~"[a-z]*[a-z]"}[5m]))by(node)) | |
| 节点网络流量（In）Top 10 | topk(10,sum(rate(node_network_receive_bytes_total{cluster=~"$ClusterId"}[5m]))by(node)) | |
| 节点网络流量（Out）Top 10 | topk(10,sum(rate(node_network_transmit_bytes_total{cluster=~"$ClusterId"}[5m]))by(node)) | |
| 节点 Socket 数 Top 10 | topk(10,node_sockstat_TCP_alloc{cluster=~"$ClusterId"}) | |
| 容器组 CPU 使用 Top 10 | topk(10,sum(rate(container_cpu_usage_seconds_total{cluster="$ClusterId",container!=""}[5m]))by(pod)) | |
| 容器组 CPU 使用率 Top 10（占 requests） | topk(10,sum(rate(container_cpu_usage_seconds_total{cluster="$ClusterId",container!=""}[5m]))by(pod)/sum(kube_pod_container_resource_requests{cluster="$ClusterId",resource="cpu"})by(pod)*100) | |
| 容器组 CPU 使用率 Top 10（占 limits） | topk(10,sum(rate(container_cpu_usage_seconds_total{cluster="$ClusterId",container!=""}[5m]))by(pod)/sum(kube_pod_container_resource_limits{cluster="$ClusterId",resource="cpu"})by(pod)*100) | |
| 容器组内存使用 Top 10 | topk(10,sum(container_memory_working_set_bytes{cluster="$ClusterId",container!=""})by (pod)) | |
| 容器组内存使用率 Top 10（占 requests） | topk(10,sum(container_memory_working_set_bytes{cluster="$ClusterId",container!=""})by(pod)*100/sum(kube_pod_container_resource_requests{cluster="$ClusterId",container!="",resource="memory",unit="byte"})by(pod)) | |
| 容器组内存使用率 Top 10（占 limits） | topk(10,sum(container_memory_working_set_bytes{cluster="$ClusterId",container!=""})by(pod)*100/sum(kube_pod_container_resource_limits{cluster="$ClusterId",container!="",resource="memory",unit="byte"})by(pod)) | |
| 容器组网络流量（In）Top 10 | topk(10,sum(rate(container_network_receive_packets_total{cluster=~"$ClusterId",pod!=""}[5m]))by(pod)) | |
| 容器组网络流量（Out）Top 10 | topk(10,sum(rate(container_network_transmit_packets_total{cluster=~"$ClusterId",pod!=""}[5m]))by(pod)) | |
| 容器组 Socket 连接数 Top 10 | topk(10,sum(container_sockets{cluster="$ClusterId",pod!=""})by(pod)) |
说明
如果您需要在托管 Prometheus 中的 Explore 功能或告警中心使用上述 PromQL 语句查看具体的指标或配置告警，请修改或删除语句中关于集群、节点、容器组的变量。例如：将 cluster=~"$Cluster"参数中的$Cluster变量修改为具体的集群 ID ，或直接删除该参数。
vke-namespace-dashboard
vke-namespace-dashboard 是集群命名空间监控看板，展示了集群命名空间的监控信息。包括：
- 异常工作负载：命名空间内 NotReady 状态的 Deploment、Statefulset、DaemonSet 数量等。
- 资源使用：命名空间的内存使用、CPU 使用和 PVC 使用信息等。
集群命名空间监控看板的指标清单如下表所示。
| 看板分类 | 看板名称 | PromQL 语句 |
|---|---|---|
| 集群 Namespace 监控 | NotReady Deployment | count(sum(kube_deployment_spec_replicas{cluster="$ClusterId",namespace="$Namespace"}-kube_deployment_status_replicas_ready{cluster="$ClusterId",namespace="$Namespace"} )by(deployment) !=0)or vector(0) |
| NotReady Statefulset | count(sum(kube_statefulset_replicas{cluster="$ClusterId",namespace="$Namespace"}-kube_statefulset_status_replicas_ready{cluster="$ClusterId",namespace="$Namespace"} )by(statefulset)!=0)or vector(0) | |
| NotReady DaemonSet | count(sum(kube_daemonset_status_number_unavailable{cluster="$ClusterId",namespace="$Namespace"})by(daemonset)!=0)or vector(0) | |
| 内存使用 | sum(kube_pod_container_resource_requests{resource="memory",cluster="$ClusterId",namespace=~"$Namespace"})by(namespace) | |
| sum(kube_pod_container_resource_limits{resource="memory",cluster="$ClusterId",namespace=~"$Namespace"})by(namespace) | ||
| sum(rate(container_memory_working_set_bytes{cluster="$ClusterId",namespace=~"$Namespace"}[5m]))by(namespace) | ||
| CPU 使用 | sum(kube_pod_container_resource_requests{resource="cpu",cluster="$ClusterId",namespace=~"$Namespace"})by(namespace) | |
| sum(kube_pod_container_resource_limits{resource="cpu",cluster="$ClusterId",namespace=~"$Namespace"})by(namespace) | ||
| sum(rate(container_cpu_usage_seconds_total{cluster="$ClusterId",namespace=~"$Namespace"}[5m]))by(namespace) | ||
| PVC 使用 | sum(kube_persistentvolumeclaim_resource_requests_storage_bytes{cluster="$ClusterId",namespace="$Namespace"})by(namespace) |
说明
如果您需要在托管 Prometheus 中的 Explore 功能或告警中心使用上述 PromQL 语句查看具体的指标或配置告警，请修改或删除语句中关于集群、节点、容器组的变量。例如：将 cluster=~"$Cluster"参数中的$Cluster变量修改为具体的集群 ID ，或直接删除该参数。