0
点赞
收藏
分享

微信扫一扫

Logstash部署实践

1 Logstash架构介绍

1.1为什么需要Logstash

对于部分生产上的日志无法像 Nginx 那样,可以直接将输出的日志转为 Json 格式,但是可以借助 Logstash来将我们的 ”非结构化数据“,转为 “结构化数据”;

filbeat --> logstash(input fileter output) --es

1.2什么是Logstash

Logstash 是免费且开放的服务器端数据处理管道,能够从多个来源采集数据,转换数据,然后将数据发送到您最喜欢的“存储库”中。

1.3Logstash架构介绍

Logstash 的基础架构类似于 pipeline 流水线,主要分为如下步骤:

  • Input:数据采集(常用插件:stdin、file、kafka、beat、http)
  • Filter:数据解析/转换(常用插件:grok、date、geoip、mutate、useragent)
  • Output:数据输出 (常用插件:Elasticsearch)

1.4 Logstash安装

tar -xf logstash-7.17.5-linux-x86_64.tar.gz

mv logstash-7.17.5 logstash

mv logstash /app/module/

ln -s /app/module/logstash/bin/

#验证,可以看到Logstash是需要JAVA_HOME的

Logstash部署实践_结构化

基于命令行启动logstash实例

logstash -e "input { stdin { type => stdin } } output { stdout {} }"

Logstash部署实践_数据_02

举报

相关推荐

0 条评论