zabbix监控Elasticsearch集群

本节以 zabbix 为例,介绍如何使用监控系统完成 Elasticsearch 的监控报警。

github 上有好几个版本的 ESZabbix 仓库,都源自 Elastic 公司员工 untergeek 最早的贡献。但是当时 Elasticsearch 还没有官方 python 客户端,所以监控程序都是用的是 pyes 库。对于最新版的 ES 来说,已经不推荐使用了。

GitHub 地址见:https://github.com/Wasim37/zabbix-es


安装配置

仓库中包括三个文件:
1、ESzabbix.py
2、ESzabbix.userparm
3、ESzabbix_templates.xml

其中,前两个文件需要分发到每个 ES 节点上。如果节点上运行的是 yum 安装的 zabbix,二者的默认位置应该分别是:

1
2
/etc/zabbix/zabbix_externalscripts/ESzabbix.py
/etc/zabbix/agent_include/ESzabbix.userparm

然后在各节点安装运行 ESzabbix.py 所需的 python 库依赖:

1
2
yum install -y python-pbr python-pip python-urllib3 python-unittest2
pip install elasticsearch

安装成功后,你可以试运行下面这行命令,看看命令输出是否正常:

1
2
/etc/zabbix/zabbix_externalscripts/ESzabbix.py cluster status
0

最后一个文件是 zabbix server 上的模板文件,不过在导入模板之前,还需要先创建一个数值映射,因为在模板中,设置了集群状态的触发报警,没有映射的话,报警短信只有 0, 1, 2 数字不是很易懂。

创建数值映射,在浏览器登录 zabbix-web,菜单栏的 Zabbix Administration 中选择 General 子菜单,然后在右侧下拉框中点击 Value Maping。

完成以后,即可在 Templates 页中通过 import 功能完成导入 ESzabbix_templates.xml。

在给 ES 各节点应用新模板之前,需要给每个节点定义一个 {$NODENAME} 宏,具体值为该节点 elasticsearch.yml 中的 node.name 值。从统一配管的角度,建议大家都设置为 ip 地址。


模板应用

导入完成后,zabbix 里多出来三个可用模板:

  • Elasticsearch Node
    Cache 其中包括两个 Application:ES Cache 和 ES Node。分别有 Node Field Cache Size, Node Filter Cache Size 和 Node Storage Size, Records indexed per second 共计 4 个 item 监控项。在完成上面说的宏定义后,就可以把这个模板应用到各节点(即监控主机)上了。

  • Elasticsearch Service
    只有一个监控项 Elasticsearch service status,做进程监控的,也应用到各节点上。

  • Elasticsearch Cluster
    包括 11 个监控项,如下列所示。其中,ElasticSearch Cluster Status 这个监控项连带有报警的触发器,并对应之前创建的那个 Value Map。
    Cluster-wide records indexed per second
    Cluster-wide storage size
    ElasticSearch Cluster Status
    Number of active primary shards
    Number of active shards
    Number of data nodes
    Number of initializing shards
    Number of nodes
    Number of relocating shards
    Number of unassigned shards
    Total number of records

Elasticsearch Cluster模板下都是集群总体情况的监控项,所以,运用在一台有 ES 集群读取权限的主机上即可,比如 zabbix server。

zabbix监控成功后,可以在grafana上进行相关配置,展示图像。下面是我初步搭建的界面:


其他

untergeek 最近刚更新了他的仓库,重构了一个 es_stats_zabbix 模块用于 Zabbix 监控,有兴趣的读者可以参考:https://github.com/untergeek/zabbix-grab-bag/blob/master/Elasticsearch/es_stats_zabbix.README.md