日志收集 Graylog_大数据系统

日志收集 Graylog

介绍

日志管理系统，大家普遍知道的都是ELK的解决方案，但是ELK要实现认证和一些状态监控，需要安装x-pack插件包，但是x-pack是要收费的，当然可以选择破解，但是比较麻烦。而且ELK是一个解决方案，在其中包含很多软件，

不单elasticsearch,kibana,logstash,还需要redis或kafaka，收集日志还需要不同的beats，整个结构非常复杂，且占用较多资源，要想完全搞懂需要较长时间。但是很多时候，使用ELK的成本太高，可以使用一些替代方案，

除了ELK还有很多日志管理工具，其中的一个很不错的日志方案：Graylog，Graylog是一个可以跟ELK相提并论的日志管理的后起之秀，一个开源的 log 收容器，背后的储存是搭配 mongodb，而搜寻引擎则由 elasticsearch 提供，

自身集成web端，不需要单独部署，目前最新为3.0版本。

graylog官网官方操作文档如下：

Extended Search — Graylog 3.0.2 documentation

结构组成

单机

集群

完整架构图

Docker 安装请先安装Docker

Docker 离线安装_ 说不如做-CSDN博客

docker-compose部署使用

version: '3'
services:
  # MongoDB: https://hub.docker.com/_/mongo/
  mongo:
    image: mongo:3
    networks:
      - graylog
  # Elasticsearch: https://www.elastic.co/guide/en/elasticsearch/reference/6.x/docker.html
  elasticsearch:
    image: docker.elastic.co/elasticsearch/elasticsearch-oss:6.8.10
    environment:
      - http.host=0.0.0.0
      - transport.host=localhost
      - network.host=0.0.0.0
      - "ES_JAVA_OPTS=-Xms512m -Xmx512m"
    ulimits:
      memlock:
        soft: -1
        hard: -1
    deploy:
      resources:
        limits:
          memory: 1g
    networks:
      - graylog
  # Graylog: https://hub.docker.com/r/graylog/graylog/
  graylog:
    image: graylog/graylog:3.3
    environment:
      # CHANGE ME (must be at least 16 characters)!
      - GRAYLOG_PASSWORD_SECRET=somepasswordpepper
      # Password: admin
      - GRAYLOG_ROOT_PASSWORD_SHA2=8c6976e5b5410415bde908bd4dee15dfb167a9c873fc4bb8a81f6f2ab448a918
      - GRAYLOG_HTTP_EXTERNAL_URI=http://127.0.0.1:9000/
    networks:
      - graylog
    depends_on:
      - mongo
      - elasticsearch
    ports:
      # Graylog web interface and REST API
      - 9000:9000
      # Syslog TCP
      - 1514:1514
      # Syslog UDP
      - 1514:1514/udp
      # GELF TCP
      - 12201:12201
      # GELF UDP
      - 12201:12201/udp
networks:
  graylog:
    driver: bridge

演示

以admin 登录http://IP_adress:9000/ 注：IP_adress是服务器真实的IP地址

账号：admin 密码：admin

graylog 功能组成

http方式测试

curl -XPOST http://IP_adress/gelf  -p0 -d '{"short_message":"Hello there", "host":"example.org", "facility":"test", "_foo":"bar"}'

示例：

curl -XPOST http://192.168.179.191:12201/gelf -p0 -d '{"short_message":"Hello there", "host":"example.org", "facility":"test", "_foo":"bar"}'

logback.xml 接入测试引入pom


 biz.paluch.logging
 logstash-gelf
 1.11.1

logback.xml增加如下配置





 


    udp:${GROYLOG_IP}
    ${GROYLOG_PORT}
    1.1
    ${APP_NAME}
    true
    true
    true
    yyyy-MM-dd HH:mm:ss,SSSS
    ${GROYLOG_MAXIMUMMESSAGESIZE}

    
    mdcField1,mdcField2
    mdc.*,(mdc|MDC)fields
    true

application.properties 配置文件增加如下配置：

groylog.ip=192.168.179.191
groylog.port=12201
groylog.maximumMessageSize=8192

示例：

log4j 接入测试引入pom

 
    org.graylog2.log4j2
    log4j2-gelf
    1.3.1

log4j2-spring.xml 配置

日志收集 Graylog

大数据系统相关栏目本月热门文章