使用log-pilot收集K8s应用日志到ES/Kibana实战指南

"阿里云开源插件log-pilot（logpilot）用于搜集在Kubernetes (k8s) 集群中部署的应用容器内的日志，并将其发送到日志收集系统，如Elasticsearch (ES) 和Kibana进行可视化分析。本文档将详细介绍如何在k8s集群上配置和使用logpilot来实现这一目标。" 在Kubernetes环境中，管理和监控容器的日志是运维工作的重要部分。阿里云的log-pilot插件提供了一种高效、便捷的方式来收集这些日志，以便进行后续处理和分析。以下是对该技术的详细解释： 1. **Kubernetes集群准备**： 在开始之前，你需要一个运行中的Kubernetes集群。在本例中，集群由三个节点组成：k8s-master（控制平面节点）和两个工作节点k8s-node1和k8s-node2。确保所有节点都处于“Ready”状态，并且版本为v1.20.4。使用`kubectl get node`命令可以检查节点状态。 2. **日志收集系统**： 日志pilot需要一个日志收集和存储系统。在这个例子中，选用的是Elasticsearch 7.13和Kibana 7.13。这两个组件被安装在同一台机器（192.168.60.131）上。可以通过`docker ps`命令确认Elasticsearch和Kibana容器正在运行，并使用`netstat -anput`检查9200（Elasticsearch默认端口）和5601（Kibana默认端口）是否监听。 3. **log-pilot部署**： 部署log-pilot通常涉及到以下几个步骤： - 下载或克隆log-pilot的源代码。 - 配置log-pilot以连接到Elasticsearch集群。这可能涉及修改配置文件，如设置Elasticsearch的URL和认证信息。 - 创建一个Kubernetes DaemonSet，确保log-pilot在集群中的每个工作节点上运行。DaemonSet会确保在每个节点上运行一个副本，收集该节点上的所有容器日志。 - 应用DaemonSet定义到Kubernetes集群，使用`kubectl apply -f <logpilot-daemonset-yaml>`命令。 4. **log-pilot配置**： 配置log-pilot以收集特定应用的日志，可能需要指定容器的命名空间、标签选择器等。这可以通过修改DaemonSet的yaml文件完成，添加相应的环境变量或卷挂载。 5. **验证和调试**： 安装完成后，检查log-pilot Pod的状态以确保它们正常运行。使用`kubectl get pods -l app=logpilot`命令列出所有logpilot Pod。同时，通过Kibana界面可以查看收集到的日志，验证log-pilot是否正确地将日志推送到Elasticsearch。 6. **监控和优化**： 使用Kibana仪表板可以实时查看和分析日志数据。根据需要调整log-pilot的配置，例如日志级别、过滤规则、存储策略等，以优化日志收集和分析的效率。 总结来说，阿里云开源插件log-pilot是针对Kubernetes集群日志管理的一个强大工具，它简化了日志的收集和分析过程。通过与Elasticsearch和Kibana的集成，可以实现对容器日志的实时监控和深度洞察，对提升运维效率和故障排查有着显著帮助。正确配置和使用log-pilot是实现高效k8s日志管理的关键。