栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 大数据 > 大数据系统

Ntopng+ELK搭建流量分析平台

Ntopng+ELK搭建流量分析平台

前提:机器已经安装好jdk

一、首先搭建es集群

1、下载es压缩包并且解压,进入解压后的conf目录编辑elasticsearch.yml文件,配置es集群

cluster.name: my-els     # 集群名称
node.name: els-node1 # 节点名称,仅仅是描述名称,>用于在日志中区分
​
path.data: /home/davis/elasticsearch-7.15.0/data   # 数据的默认存>放路径
path.logs: /home/davis/elasticsearch-7.15.0/logs   # 日志的默认存放路径
​
​
​
#设置允许跨域
http.cors.enabled: true
http.cors.allow-origin: "*"
​
network.host: 192.168.1.54           # 当前节点的IP地址
http.port: 9200                       # 对外提供服务的端口,9300为>集群服务的端口
#culster transport port
transport.tcp.port: 9300
transport.tcp.compress: true
​
#集群节点IP地址,也可以使用els、els.shuaiguoxia.com等名称,需要各节点能够解析
​
discovery.zen.ping.unicast.hosts["192.168.1.54","192.168.1.53","192.168.1.195"]
​
discovery.zen.minimum_master_nodes: 2             # 为了避免脑裂,集群节点数最>少为 半数+1

2、配置完成以后进入bin目录,./elasticsearch启动节点,注意启动节点前先输入以下命令设置一下内存大小

sudo sysctl -w vm.max_map_count=262144

3、启动以后在浏览器输入localhost:9200测试节点是否启动成功

{
"name" : "els-node2",
"cluster_name" : "my-els",
"cluster_uuid" : "RMFd_ObnS_yQCIC9cEJSKQ",
"version" : {
  "number" : "7.15.0",
  "build_flavor" : "default",
  "build_type" : "tar",
  "build_hash" : "79d65f6e357953a5b3cbcc5e2c7c21073d89aa29",
  "build_date" : "2021-09-16T03:05:29.143308416Z",
  "build_snapshot" : false,
  "lucene_version" : "8.9.0",
  "minimum_wire_compatibility_version" : "6.8.0",
  "minimum_index_compatibility_version" : "6.0.0-beta1"
},
"tagline" : "You Know, for Search"
}

4、另外两台es服务器做同样的操作,三台机器都启动在浏览器输入http://192.168.1.53:9200/_cat/nodes查看集群状态。

二、部署kibana

1、下载kibina压缩包并解压

2、修改confid目录下的配置文件

server.host: "192.168.1.64"#kibana所在机器的ip地址

elasticsearch.hosts: ["http://192.168.1.53:9200","http://192.168.1.54:9200","http://192.168.1.195:9200"]#es集群的地址

3、进入bin目录,运行./kibana启动kibina,启动以后在浏览器输入localhost:5601查看是否启动成功并已经连接到es集群

三、部署logstash+ntopng

1、下载并解压logstash压缩包

2、进入config目录编辑logstash-sample.conf

#从tcp输入

input { tcp{ host => "192.168.1.81" port => 5100

} }

#将结果输出到es集群

output {

elasticsearch { hosts => ["http://192.168.1.53:9200","http://192.168.1.54:9200","http://192.168.1.195:9200"] index => "ntop-%{+YYYY.MM.dd}" } }

3、启动logstash,进入bin目录下./logstash -f ../conf/logstash-sample.conf。指定配置文件路径并启动logstash

4、安装ntopng

(1)运行sudo apt update

sudo apt install ntopng

(2)安装完成以后编辑ntopng的配置文件 sudo vim /etc/ntopng.conf

添加如下配置

-F=logstash;192.168.1.81;tcp;5100

(3)启动ntopng ,systemctl start ntopng

(4)启动完成后,在浏览器输入localhost:3000查看是否启动成功。

5、随便在浏览器浏览网页,然后打开es集群看是否有流量数据发送到了es集群。

架构图示

 

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/329794.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号