【容器日志采集】【二】fluent-bit配置文件

news/2025/10/19 17:56:26/文章来源:https://www.cnblogs.com/BoTong/p/19151163

下面是第二步:创建配置文件(ConfigMap)的完整文档,包括详细说明、字段解释以及一键可用的命令👇


🧾 第二步:创建配置文件(ConfigMap)

🧠 1. 什么是 ConfigMap?

在 Kubernetes 中,ConfigMap 用于将配置信息从容器镜像中分离出来,方便灵活地管理配置。
本例中,我们通过 ConfigMap 来为 Fluent Bit 提供日志采集的完整配置,包括:

  • 主配置(fluent-bit.conf
  • 输入配置(input-kube.conf
  • 过滤配置(filter-kube.conf
  • 输出配置(Kafka & stdout)
  • 解析器配置(parsers.conf

🧰 2. 配置文件 YAML 详解

以下为一份可直接使用的配置文件 fluent-bit-config.yaml

apiVersion: v1
kind: ConfigMap
metadata:name: fluent-bit-confignamespace: logging
data:fluent-bit.conf: |[SERVICE]Flush         1Log_Level     debugDaemon        OffParsers_File  parsers.conf# IPv6 网络环境可启用# IPv6             On@INCLUDE input-kube.conf@INCLUDE filter-kube.conf@INCLUDE output-kafka.conf@INCLUDE output-stdout.conf# ====================== INPUT ======================input-kube.conf: |[INPUT]Name              tailTag               kube.*Path              /var/log/containers/assign*.logDB                /buffers/flb_kube.dbDB.Sync           NormalParser            dockerDocker_Mode       OnMem_Buf_Limit     50MBSkip_Long_Lines   OnRefresh_Interval  10# ====================== FILTER ======================filter-kube.conf: |# 注入 Kubernetes 元数据[FILTER]Name                kubernetesMatch               *Kube_URL            https://kubernetes.default.svc.cluster.local:443Kube_CA_File        /var/run/secrets/kubernetes.io/serviceaccount/ca.crtKube_Token_File     /var/run/secrets/kubernetes.io/serviceaccount/tokenMerge_Log           OnBuffer_Size         0[FILTER]Name                nestMatch               *Operation           liftNested_under        kubernetes[FILTER]Name                nestMatch               *Operation           liftNested_under        labels[FILTER]Name                modifyMatch               *Rename              app                 job_name[FILTER]Name                grepMatch               *Regex               container_name  *-job# ====================== OUTPUT - Kafka ======================output-kafka.conf: |[OUTPUT]Name                 kafkaMatch                kube.*Brokers              172.22.162.152:31092Topics               k8s-pod-logsrdkafka.log.connection.close  falseTimestamp_Key        @timestampFormat               jsonMessage_Key          pod_nameRetry_Limit          false# ====================== OUTPUT - Stdout ======================output-stdout.conf: |[OUTPUT]Name    stdoutMatch   *# ====================== PARSER ======================parsers.conf: |[PARSER]Name        dockerFormat      jsonTime_Key    timeTime_Format %Y-%m-%dT%H:%M:%S.%LTime_Keep   On

🧩 3. 各部分配置详解

区块 功能 说明
[SERVICE] 全局服务配置 定义 flush 间隔、日志等级、解析器文件等。
[INPUT] 日志采集输入 使用 tail 插件采集 Pod 的容器日志。
[FILTER] 过滤与增强 注入 K8s 元数据、重命名字段、过滤符合条件的日志。
[OUTPUT] 日志输出 输出到 Kafka 与 stdout,便于调试与后续处理。
[PARSER] 解析规则 将 Docker 容器日志从 JSON 解析为结构化字段。

⚠️ 注意

  • namespace 必须与前面创建的命名空间(如 logging)一致。
  • Brokers 地址应根据你的 Kafka 实际部署地址进行修改。
  • Path 路径应匹配实际的容器日志路径。
  • 在生产环境中可以适当调整 Mem_Buf_LimitFlush 频率以避免内存溢出。

🛠️ 4. 一键创建命令

将上面的内容保存为 fluent-bit-config.yaml 后,使用以下命令创建 ConfigMap:

kubectl apply -f fluent-bit-config.yaml

或者,使用命令行直接创建(适合快速调试):

kubectl create configmap fluent-bit-config \--namespace=logging \--from-file=fluent-bit.conf \--from-file=input-kube.conf \--from-file=filter-kube.conf \--from-file=output-kafka.conf \--from-file=output-stdout.conf \--from-file=parsers.conf

验证创建结果

kubectl get configmap -n logging
kubectl describe configmap fluent-bit-config -n logging

🧽 5. 更新与删除命令

更新配置(修改文件后重新应用):

kubectl apply -f fluent-bit-config.yaml

删除 ConfigMap:

kubectl delete configmap fluent-bit-config -n logging

⚠️ 更新 ConfigMap 不会自动热加载到 Pod 中,如需生效:

  • 可以使用 kubectl rollout restart daemonset fluent-bit -n logging
  • 或手动重启 Pod。

📝 小结

  • ✅ ConfigMap 使 Fluent Bit 的日志采集配置更加灵活和可维护。
  • 🔐 配合 ServiceAccount 与 RBAC 权限,保证采集安全性。
  • 🪄 通过 kubectl 命令,可以快速创建、查看和更新配置。
  • 🧭 最终效果:日志采集 → 过滤 → 输出 Kafka / Stdout。

是否希望我在下一步给出 部署 DaemonSet(真正让 Fluent Bit 运行起来)的完整 YAML 和命令?(即第 3 步) 🚀

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/940486.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

【容器日志采集】【三】创建daemonsets采集日志发送到kafka

🚀 第三步:部署 DaemonSet 🧠 1. 什么是 DaemonSet? 在 Kubernetes 中,DaemonSet 是一种特殊的控制器,它会确保集群中每个节点上都运行一个 Pod。 适合以下场景:系统级守护进程(如监控、日志采集) 节点本地…

2025年保洁公司权威推荐榜单:驻场/钟点/开荒/外包/商场/办公楼/工厂/医院/企业保洁服务优选指南

2025年保洁公司权威推荐榜单:驻场/钟点/开荒/外包/商场/办公楼/工厂/医院/企业保洁服务优选指南随着社会经济的快速发展和城市化进程的加快,保洁服务已经成为现代企业和公共设施不可或缺的一部分。无论是大型商场、办…

常见问题解决 --- 为什么我导出的apk不包含dex文件

常见问题解决 --- 为什么我导出的apk不包含dex文件这是因为rom开启了dex优化功能。 开启后dex会从apk中剥离出来并优化后单独的存放。 用mt管理器打开app对应的apk路径下找到oat目录找到优化后的odex,vdex文件

2025年润滑油厂家推荐排行榜,工业润滑油,汽车润滑油,发动机润滑油,甲醇发动机润滑油,全合成润滑油,长效发动机润滑油公司推荐!

2025年润滑油厂家推荐排行榜,工业润滑油,汽车润滑油,发动机润滑油,甲醇发动机润滑油,全合成润滑油,长效发动机润滑油公司推荐!随着工业和汽车行业的发展,润滑油的需求日益增长。润滑油不仅在机械运行中起到润滑…

【容器日志采集】【一】创建命名空间、角色

下面是一份补全后的文档,基于你上传的 YAML 内容,整理为 Markdown 说明文档,方便团队使用和复用。文中还特别标注了注意事项 ⚠️,帮助避免常见配置错误。📦 Kubernetes 命名空间与权限配置文档 本文档示例演示了…

深入解析:Spring Cloud Netflix Eureka:从微服务基础到高可用集群实战

深入解析:Spring Cloud Netflix Eureka:从微服务基础到高可用集群实战pre { white-space: pre !important; word-wrap: normal !important; overflow-x: auto !important; display: block !important; font-family: …

2025年电源适配器厂家推荐排行榜,电脑/手机/平板电源适配器,高品质充电解决方案!

2025年电源适配器厂家推荐排行榜,电脑/手机/平板电源适配器,高品质充电解决方案!随着科技的快速发展,电源适配器作为电子设备不可或缺的组成部分,其重要性日益凸显。无论是电脑、手机还是平板,都需要一个高效、稳…

解题报告-洛谷SCP2025T2 P14254 分割(divide)

洛谷SCP2025T2 P14254 分割(divide) 题目描述 你是洛咕咕王国的土地测绘官。洛咕咕王国并购了一块新的领土,这块新的领土正等待被分配。 这块领土可被认为是一棵有 \(n\) 个结点、结点编号为 \(1\) 到 \(n\) 的树,…

fluent-bit采集k8s(kubernetes-docker)容器日志

下面是一份补全后的文档,基于你上传的 YAML 内容,整理为 Markdown 说明文档,方便团队使用和复用。文中还特别标注了注意事项 ⚠️,帮助避免常见配置错误。📦 Kubernetes 命名空间与权限配置文档 本文档示例演示了…

别看我只是一只羊

梦回童年喜羊羊 美羊羊 懒羊羊 沸羊羊 慢羊羊 软绵绵 红太狼 灰太狼 别看我只是一只羊 绿草因为我变得更香 天空因为我变得更蓝 白云因为我变得柔软 别看我只是一只羊 羊儿的聪明难以想象 天再高心情一样奔放 每天都追…

2025年智能照明系统/模块厂家推荐排行榜,工厂/改建/车间/高亮/高光效/泛光/免维护/投光/大功率智能照明系统/模块公司精选!

2025年智能照明系统/模块厂家推荐排行榜,工厂/改建/车间/高亮/高光效/泛光/免维护/投光/大功率智能照明系统/模块公司精选!随着科技的不断进步和智能化趋势的加速发展,智能照明系统和模块在工业、商业以及民用领域得…

Pr 入门

Pr 入门项目浏览 双击素材进入源编辑器窗口。 源编辑器 选择片段范围:i 入点 o 出点。option + i 取消入点,option + o 取消出点,option + x 取消全部。 , 时间线中从当前位置插入当前所选片段 . 时间线中从当前位置…

10.19 —— (VP)2022icpc西安

最暴露真实水平的一把。只做出来 \(4\) 道纯签到题,但其实这把的前 \(6\) 题都是签到题级别,切签到的速度也不快,罚时还上天。 \(F,J\) 没啥好说的。 \(C\) 题能感觉到一定是先克隆,再出题。\(O(\log n)\) 枚举克隆…

2025年储罐源头厂家推荐排行榜,钢衬塑/钢塑复合/化工/防腐/PE/盐酸/硫酸/聚丙烯/不锈钢/次氯酸钠储罐公司精选!

2025年储罐源头厂家推荐排行榜:钢衬塑/钢塑复合/化工/防腐/PE/盐酸/硫酸/聚丙烯/不锈钢/次氯酸钠储罐公司精选!随着工业和化工行业的快速发展,储罐作为关键的储存设备,在各个领域中发挥着重要作用。无论是用于储存…

2025.10.19——1绿1蓝

普及+/提高 P5020 [NOIP 2018 提高组] 货币系统 训练题,不难想到DP 提高/省选- P5021 [NOIP 2018 提高组] 赛道修建 训练题,二分+贪心我想到了,但是这个贪心的策略出了点问题。 以前没做过这样的贪心,看完题解之后…

2025年TYPE-C母座厂家推荐排行榜,防水/板上/沉板/立插/立贴/侧插/立式/插座/接口/插头/5A大电流/高速/TID认证公司精选

2025年TYPE-C母座厂家推荐排行榜:防水/板上/沉板/立插/立贴/侧插/立式/插座/接口/插头/5A大电流/高速/TID认证公司精选随着科技的不断进步,TYPE-C接口因其高效、高速和多功能的特点,逐渐成为电子设备连接的主流选择…

26-wsl-nginx-chinese-encoding-fix

Windows 11 WSL 中 Nginx 中文乱码问题解决方案 问题描述 在 Windows 11 WSL 环境中安装了 Nginx,虽然可以正常访问,但是返回的中文内容在 Windows 浏览器中显示为乱码。 问题原因Nginx 默认配置中没有明确设置字符编…

Redis 有序集合解析 - 指南

pre { white-space: pre !important; word-wrap: normal !important; overflow-x: auto !important; display: block !important; font-family: "Consolas", "Monaco", "Courier New", …

win10-减少广告的三个操作

今天有学到一招,可以减少电脑弹框广告。 第一招:右键【显示设置】点击【通知和操作】将【通知】进行关闭第二招:右侧的【专注助手】同样也关闭第三招:点击上方【主页】找到【隐私】然后进行关闭:打完收工!

变量名越怪,JVM 越快?

在软件工程的共识里,变量命名越清晰越好——意图明确、语义完整、见名知意,这能降低沟通成本、减少误解、提升可维护性。几乎所有风格指南都把“有意义的命名”视为第一原则。 但今天读到的一篇文章《Java Performs …