蓝鲸rabbitmq监控实践
> 本文来自腾讯蓝鲸智云社区用户:vinco
rabbitmq是蓝鲸所依赖的消息队列服务,影响着多个服务,如作业平台、标准运维、监控平台、节点管理、日志平台等。因为rabbitmq服务异常而导致的故障往往比较隐蔽,这类故障往往无法在页面直接反馈出来。在生产环境中曾遇到过因为rabbitmq异常,导致作业任务以及标准运维任务执行卡住的情况,如果故障发生在夜间,会导致一些重要的定时任务无法按照预期执行,容易造成一些重大运维事故。所以通过监控掌握rabbitmq服务的运行情况,对于整个蓝鲸服务的正常运行至关重要。这里提供一个rabbitmq监控实践总结。
rabbitmq_exporter
rabbitmq监控指标采集使用开源的rabbitmq_exporter,本身监控平台就支持各类exporter插件,这里我们可以拿来即用。如果是监控平台版本是V3.6.3029或者版本相近的,可以直接使用文末附件导入,其他版本的监控平台没有测试过。
启用rabbitmq_management插件
rabbitmq_exporter采集依赖于rabbitmq启用rabbitmq_management插件。
rabbitmq_management 插件是 RabbitMQ 提供的一个管理插件,让用户可以通过图形化的方式来管理 RabbitMQ,它还提供一系列接口,rabbitmq_exporter通过请求这些接口来获取rabbitmq的各项指标。
通过以下命令启用rabbitmq_management插件
rabbitmq-plugins enable rabbitmq_management
插件启用不需要重启rabbitmq,如果是rabbitmq集群,则每个rabbitmq节点都需要启用rabbitmq_management
rabbitmq_management插件启用成功后,会在节点上监听15672端口
下载rabbitmq_exporter
Release下载地址:https://github.com/kbudde/rabbitmq_exporter/releases
Linux选择最新版本即可: rabbitmq_exporter
下载并解压至本地
rabbitmq_exporter_1.0.0-RC19_linux_amd64.tar.gz
|- LICENSE
|- README.md
|- rabbitmq_exporter
监控平台导入exporter插件
「插件」-「新建」- 「插件类型选择Exporter」-「上传rabbitmq_exporter」
绑定端口:9419
绑定主机:127.0.0.1
定义以下环境变量参数:
参数类型默认值类型默认值RABBIT_URL环境变量文本http://127.0.0.1:15672RABBIT_USER*环境变量文本adminRABBIT_PASSWORD环境变量密码无PUBLISH_PORT环境变量文本${port}PUBLISH_ADDR环境变量文本${host}RABBIT_EXPORTERS*环境变量文本exchange,node,overview,queue,alivenessALIVENESS_VHOST*环境变量文本/
RABBIT_USER:任意一个tag=management用户都可以,rabbitmqctl list_users
命令可以查看用户tag
RABBIT_EXPORTERS:rabbitm_exporter把指标分成了module,可以认为是进行了分类,RABBIT_EXPORTERS表示要采集的指标类别
ALIVENESS_VHOST:利用rabbitmq 的aliveness接口探测服务状态,接口会默认在探测的vhost下创建名为aliveness-test
的队列,接口通过对aliveness-test
队列消息的发送和接收来判断rabbitmq服务状态,确保RABBIT_USER设置的用户具有对ALIVENESS_VHOST指定的vhost有创建queue的权限,比如RABBIT_USER指定为admin,执行rabbitmqctl set_permissions -p / admin ".*" ".*" ".*"
为admin用户授权

调试插件,选择一台rabbitmq进行调试,并保存指标,如果指标名和监控平台保留字冲突,需要先转换指标名才能保存

采集
「数据采集」-「新建」-「填写采集名称和RABBIT_PASSWORD」
RABBIT_PASSWORD为rabbitmq的admin密码,其他保持默认即可

采集目标选择「动态拓扑」-「蓝鲸 / 公共组件 / rabbitmq」-「完成采集下发」

监控仪表盘
rabbitmq_exporter采集的和rabbitmq相关的指标,都带有rabbimtq_
的前缀
以下几个指标需要特别关注,其他指标请参考:https://github.com/kbudde/rabbitmq_exporter
指标名描述Label(维度)aliveness_infoaliveness状态,1或0无up节点存活状态,1或0nodeuptime节点运行时长(ms)cluster, node, self*running状态为running的节点数量cluster, node, selfnode_mem_used节点已使用的内存数量(byte)cluster, node, selfnode_mem_limit*节点内存限制(byte),默认是节点内存的40%cluster, node, selfnode_mem_alarmrabbitmq内存使用率达到node_mem_limit时告警,1告警,0不告警cluster, node, selfnode_disk_free内存空闲量(byte)cluster, node, selfnode_disk_free_limit内存空闲量限制(byte),默认是50MBcluster, node, selfnode_disk_free_alarm内存空闲量小于node_disk_free_limit时告警,1告警,0不告警cluster, node, selfpartitions网络分区数,发生网络分区是为2,正常为0cluster, node, selfqueue_messages_readyready的消息数量cluster, vhost, queue, durable, policy, selfqueue_messages_unacknowledgedunacknowledged的消息数量cluster, vhost, queue, durable, policy, selfqueue_memory队列占用的内存大小(byte)cluster, vhost, queue, durable, policy, self
self:self=1表示该条数据是当前节点的数据,rabbitmq_exporter访问当前节点的management接口,可以获取到集群所有节点的数据,用self这个label就可能表示获取到的指标是否是属于当前节点,比如在节点rabbit@VM-240-33-centos.node.consul
上采集的rabbitmq_uptime
指标,就包含了所有节点的uptime数据。
# 在rabbit@VM-240-33-centos.node.consul节点上执行curl -s 127.0.0.1:9419/metrics | grep rabbitmq_uptime
rabbitmq_uptime{cluster="rabbit@VM-240-18-centos",node="rabbit@VM-240-18-centos.node.consul",self="0"} 1.260266076e+09
rabbitmq_uptime{cluster="rabbit@VM-240-18-centos",node="rabbit@VM-240-33-centos.node.consul",self="1"} 1.433729125e+09
node_mem_limit:对应vm_memory_high_watermark配置,默认情况下 vm_memory_high_watermark 的值为0.4,即内存阈值为 0.4, 表示当 RabbitMQ 使用的内存超过 40%时,就会产生内存告警井阻塞所有生产者的连接。一旦告警被解除(有消息被消费或者从内存转储到磁盘等情况的发生), 一切都会恢复正常。
文末提供仪表盘附件导入
监控告警策略
建议设置以下指标告警:
指标名静态阈值描述rabbitmq_uptime<600000服务重启告警rabbitmq_up<1节点失活告警rabbitmq_aliveness_info<1服务异常告警rabbitmq_node_mem_alarm>=1内存使用达到阈值告警rabbitmq_partitions>=2出现网络分区告警rabbitmq_node_mem_used>节点内存的35%内存使用告警
建议再加上蓝鲸平台自带的应用内存率告警和磁盘使用率告警
附件
仪表盘
采集&策略&仪表盘
rabbitmq_exporter
查看更多蓝鲸运维文章,请跳转:蓝鲸运维手册大全