基于Argo Workflows的应用：K8s集群中OTEL Collector能否无Instrumentation导出日志？

结论先行：完全可以不用Instrumentation实现日志采集导出，核心是借助Kubernetes的容器日志机制，通过OpenTelemetry Collector的日志接收器抓取容器stdout/stderr日志，再转发到Elastic Stack。以下是具体落地思路：

1. 选择合适的OTEL日志接收器 #

不用Instrumentation的话，核心是采集容器标准输出，推荐两种接收器：

• filelog接收器：直接读取节点上的容器日志文件（默认路径/var/log/pods/*/*/*.log），适合以DaemonSet模式部署的Collector，采集效率高。
• kubeletstats接收器：通过kubelet API拉取容器日志，适合Deployment模式部署的Collector，无需挂载节点日志目录，权限要求更低。

2. 核心配置示例 #

filelog接收器+Elastic导出器配置 #

receivers:
  filelog:
    # 过滤Argo Workflows相关的Pod日志
    include: [/var/log/pods/*argo-workflows*/*.log]
    start_at: beginning
    operators:
      # 解析Argo的JSON格式日志（如果是纯文本则改用regex parser）
      - type: parser
        parse_from: body
        parser: json
      # 添加固定元数据，方便Elastic中筛选
      - type: add_attributes
        attributes:
          service.name: "argo-workflows"
          log.origin: "container-stdout"

exporters:
  elasticsearch:
    endpoints: ["http://elasticsearch.your-namespace.svc.cluster.local:9200"]
    # 按日期生成索引，便于日志管理
    index: "argo-workflows-logs-%{+yyyy.MM.dd}"

service:
  pipelines:
    logs:
      receivers: [filelog]
      exporters: [elasticsearch]

3. 部署模式与权限配置 #

• DaemonSet部署：每个节点运行一个Collector实例，需挂载节点的/var/log/pods目录到Collector容器中，同时给ServiceAccount配置读取节点资源和日志文件的权限（参考RBAC配置示例）。
• Deployment部署：使用kubeletstats接收器时，需确保Collector的ServiceAccount有权限访问kubelet的API（pods、nodes的list/watch权限）。

RBAC权限示例 #

apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRole
metadata:
  name: otel-collector-log-reader
rules:
- apiGroups: [""]
  resources: ["pods", "nodes"]
  verbs: ["get", "list", "watch"]
- apiGroups: [""]
  resources: ["nodes/proxy"]
  verbs: ["get"]
---
apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRoleBinding
metadata:
  name: otel-collector-log-reader
roleRef:
  apiGroup: rbac.authorization.k8s.io
  kind: ClusterRole
  name: otel-collector-log-reader
subjects:
- kind: ServiceAccount
  name: otel-collector
  namespace: opentelemetry

4. 适配Argo Workflows日志特性 #

Argo的日志会包含工作流ID、步骤名称等关键元数据，可通过OTEL的operators进一步提取：

• 从日志文件名中解析Pod名称、命名空间，关联到Argo工作流的元数据。
• 如果日志是纯文本格式，用regex parser提取level、workflowId、stepName等字段，提升日志的可分析性。

5. 验证方法 #

• 查看Collector的Pod日志，确认没有采集错误：kubectl logs -n opentelemetry <otel-collector-pod> -c otel-collector
• 在Kibana中查看对应索引的日志，检查字段完整性和元数据准确性。

内容的提问来源于stack exchange，提问作者Vsevolod Mitskevich