Fluentd插件:解析插件概述

 解析插件用于适配各种源数据

我们知道,Fluentd是一个通用的日志采集框架,一个很重要的原因就在于它可以处理各种各样的源数据。
处理数据的第一步就是要识别这些数据的格式。
有些输入插件(如in_tail、in_syslog、in_tcp和in_udp)不能解析用户自定义格式的日志。比如,某些基于上下文环境的日志记录,无法使用用正则来解析。
这时候就要用到解析插件了。
Fluentd提供了可插拔的解析系统,用户可自己创建解析插件,来识别自定义的数据格式。

【使用方法】
对于支持<parser>指令的输入插件,可以直接通过名称来引用解析插件。
比如:
<source> @type tail path /path/to/input/file <parse> @type nginx keep_time_key true </parse></source>
这个配置片段通过在in_tail中引用parser_nginx来解析nginx的access日志。

支持<parser>的输入插件有:

【解析插件列表】

  1. 内置解析插件

    • regexp

    • apache2

    • apache_error

    • nginx

    • syslog

    • csv

    • tsv

    • ltsv

    • json

    • msgpack

    • multiline

    • none

  2. 第三方解析插件

    • grok

    • multi-format-parser

    • protobuf

    • avro

后续,我们会一起了解一下常见解析插件的用法。

(0)

相关推荐

  • 全栈必备 Log日志

    Log日志,不论对开发者自身,还是对软件系统乃至产品服务都是非常重要的事情.每个开发者都接触过日志,以至于每个人对日志的了解都会有所不同. 什么是日志 日志是什么呢?老码农看来,日志是带有明确时间标记 ...

  • 号称下一代日志收集系统!来看看它有多强

    后面随着架构的优化与演进,又引入另一个轻量级的组件 Filebeat,Filebeat和Logstash一样属于日志收集处理工具,基于原先 Logstash-fowarder 的源码改造出来的.与Lo ...

  • 编程语言采集 Nginx 日志的几种方式,你知道几种?

    来源:cnblogs.com/xiejava/p/12452434.html 由于nginx功能强大,性能突出,越来越多的web应用采用nginx作为http和反向代理的web服务器.而nginx的访 ...

  • PS插件portraiture插件如何使用?

    PS中的portraiture插件是如何来使用的,其实非常的简单,虽然操作界面复杂,但是用到的不多,下面看看操作吧. 1.首先我们在滤镜下的插件里面找到portraiture插件. 2.需要注意的是, ...

  • PS插件.photoshop插件.PS滤镜.photoshop滤镜.PS扩展插件大全

    欢迎来到[ps插件/ps滤镜插件]专版:</strong> 本版提供最全的PS滤镜,PS插件汉化版,最新PS磨皮滤镜下载,ps调色插件,ps抠图插件,PS磨皮插件,PS特效插件,PS插件打 ...

  • rubberhose插件|rubberhose插件下载 v1.0附安装教程

    rubberhose插件是针对"Adobe After Effects"推出的卡通人物关节骨骼绑定联动弹跳MG动画效果脚本,也是目前市面上制作MG人物绑定动画最简单方便的AE脚本. ...

  • Fluentd插件:过滤插件概述

    " 过滤插件是用来修改日志记录的" filter字面意思为过滤器,实际上并非简单的把一些东西给"滤掉". 在计算机领域,它有"清洗.修改"的 ...

  • Fluentd插件:输出插件概述

    输出插件用于将日志输出到指定的后端系统(包括存储.实时分析等).输出插件通常支持格式化和缓存功能. Fluentd v1.0输出插件有3种缓存与输出模式: 无缓存模式:不缓存数据,直接输出处理结果. ...

  • Fluentd 过滤插件:grep 用法详解

    " filter_grep 是一个常用的过滤日志内容的插件." 熟悉或者使用过 Linux 系统的小伙伴应该知道,Linux 中有三个处理文本内容的利器:grep.awk 和 se ...

  • Fluentd输出插件:out_elasticsearch用法详解

    " 把日志输出到elasticsearch做业务分析,这大概是最普遍的日志采集用途了" out_elasticsearch 输出插件用于将日志记录写入elasticsearch. ...

  • Fluentd输出插件:rewrite_tag_filter用法详解

    我们在做日志处理时,往往会从多个源服务器收集日志,然后在一个(或一组)中心服务器做日志聚合分析.源服务器上的日志可能属于同一应用类型,也可能属于不同应用类型. 我们可能需要在聚合服务器上对这些不同类型 ...

  • Fluentd输入插件:in_http用法详解

    in_http插件允许使用HTTP协议来采集日志事件.这个插件会建立一个支持REST风格的HTTP端点,来接收日志事件请求. [配置示例] 以下片段展示了in_http插件的简单用法. <sou ...