再也不怕半夜被叫醒用 Prometheus Alertmanager 实现智能告警前言做过运维的人大概都经历过这一套凌晨三点手机突然响起心跳加速翻身看消息——服务器 CPU 告警赶紧爬起来远程连接结果到公司一看什么问题都没有就是一次临时网络抖动告警触发了一次就恢复了。回去躺下睡意全无。第二天顶着黑眼圈上班。这种狼来了式的告警大概是监控系统最让人头疼的问题。系统复杂了之后指标多、阈值敏感、各种依赖关系交织在一起告警数量上来之后真正重要的告警反而被淹没在噪音里。团队开始对告警麻木反正每次点开大概率是误报——直到有一次真出了问题。后来我认真看了 Prometheus 生态里的告警链路发现问题其实不在 Prometheus 采集端而在于告警发出之前缺少一个决策层。Prometheus 负责采集和评估指标但指标触发阈值之后直接就发通知了没有聚合、没有去重、没有分级。10 条告警可能都是同一个故障引起的却会生成 10 条通知。Alertmanager 就是解决这个问题的。它能聚合告警、把重复的通知合并成一条支持按严重程度分级critical 发电话、warning 发消息、low 发邮件还能静默和抑制已知维护窗口内的告警直接静默掉不用手动关掉再开。整个链路搭起来之后告警质量明显提升。这篇说说怎么在 Ubuntu 上部署 Prometheus Alertmanager按步骤来就行。本文将带你从实战出发一步步搭建一套可靠、智能、不扰民的告警体系让你的监控系统真正成为守护业务的“哨兵”而不是半夜的“闹钟”。从此安心睡觉把告警交给 Alertmanager。1.ubuntu安装prometheus实现监控部署通过以下命令创建一个用于存放 Prometheus 的目录 /appmkdir/app进入到/app目录下cd/app从prometheus官网下载压缩文件下载适用于Linux系统的文件。使用的是 MobaXterm_Personal这是一种功能强大的终端工具常用于远程连接 Linux 服务器。进入/app下面。点击上传上传下载好的prometheus压缩文件。解压缩该文件tar-xzvfprometheus-3.7.3.linux-amd64.tar.gz将解压好的文件夹改一个名字,并删除原有的未解压文件可以不删mvprometheus-3.5.0.linux-amd64 prometheusrm-rfprometheus-3.5.0.linux-amd64.tar.gz进入解压好并且改过名的prometheus目录下查看它的版本。返回版本号代表安装成功cd/app/prometheus ./prometheus--version创建prometheus 本地TSDB数据存储目录mkdir-p/var/lib/prometheus进入这个目录使用systemctl管理Prometheus:vim/usr/lib/systemd/system/prometheus.service写入[Unit]DescriptionPrometheusDocumentationhttps://prometheus.io/Afternetwork.target[Service]TypesimpleUserrootExecStart/app/prometheus/prometheus--config.file/app/prometheus/prometheus.yml--storage.tsdb.path/var/lib/prometheus --web.enable-lifecycleExecReload/bin/kill-HUP$MAINPIDKillModeprocessRestarton-failure[Install]WantedBymulti-user.targetsystemctl enable prometheus将 Prometheus 服务设置为 开机自启动。systemctl start prometheus立即启动 Prometheus 服务。systemctl status prometheus查看 Prometheus 服务的 当前状态。systemctlenableprometheus systemctl start prometheus systemctl status prometheus部署完成后在浏览器中输入http://极空间IP:9090就能看到prometheus的界面啦2.ubuntu安装alertmanager监控去官网下载安装文件找到linux版下载下载完成后记住下载路径。手动上传到/app下载好的alertmanager文件。上传成功后解压tar-vxzfalertmanager-0.27.0.linux-amd64.tar.gz改名方便记忆mvalertmanager-0.27.0.linux-amd64 alertmanager将Altermanager配置为系统服务:cd/usr/lib/systemd/systemvimalertmanager.service[Unit]Descriptionhttps://prometheus.io[Service]Restarton-failureExecStart/app/alertmanager--config.file/app/alertmanager.yml[Install]WantedBymulti-user.target加载system文件启动alertmanager这个服务并设置开机启动systemctl daemon-reload systemctl start alertmanager.service systemctlenablealertmanager.service也可以后台手动启动nohup./alertmanager--config.filealertmanager.yml/app/alertmanager/alertmanager/alertmanager.out21catalertmanager.out启动成功后访问Altermanagerip9093默认端口为 9093。3.在prometheus上配置alertmanagerg告警进入prometheus的配置文件加入alertmanager告警规则vi/app/prometheus/prometheus.ymlBash加入以下内容后Prometheus可以用localhost:9093访问到运行在本地9093端口的Alertmanager服务从而抓取系统指标。- targets:[localhost:9093]labels: app:alertmanagerBash这一步配置的作用是告诉 Prometheus当监控规则触发告警时应该把告警信息发送到哪个 Alertmanager 服务进行处理便于一会监控node_exporter也可以监控mysqld_exporter等等。alerting: alertmanagers: - static_configs: - targets:[localhost:9093]打开prometheus监控成功后续也可以配置告警规则。但是目前我们只能在自己电脑上进行监控倘若公司有一个紧急警报我们能怎么做呢接下来cpolar就派上永场啦4.安装cpolar实现随时随地开发cpolar 可以将你本地电脑中的服务如 SSH、Web、数据库映射到公网。即使你在家里或外出时也可以通过公网地址连接回本地运行的开发环境。❤️以下是安装cpolar步骤使用一键脚本安装命令sudocurlhttps://get.cpolar.sh|sh安装完成后执行下方命令查看cpolar服务状态如图所示即为正常启动sudosystemctl status cpolarCpolar安装和成功启动服务后在浏览器上输入虚拟机主机IP加9200端口即:【http://ip:9200】访问Cpolar管理界面使用Cpolar官网注册的账号登录,登录后即可看到cpolar web 配置界面,接下来在web 界面配置即可打开浏览器访问本地9200端口使用cpolar账户密码登录即可,登录后即可对隧道进行管理。5.配置公网地址登录cpolar web UI管理界面后,点击左侧仪表盘的隧道管理——创建隧道隧道名称可自定义本例使用了:prometheus注意不要与已有的隧道名称重复协议http本地地址9090域名类型随机域名地区选择China Top点击创建创建成功后打开左侧在线隧道列表,可以看到刚刚通过创建隧道生成了公网地址接下来就可以在其他电脑或者移动端设备异地上使用地址访问。访问成功。6.保留固定公网地址使用cpolar为其配置二级子域名该地址为固定地址不会随机变化。点击左侧的预留选择保留二级子域名地区选择china top然后设置一个二级子域名名称我这里演示使用的是prometheus大家可以自定义。填写备注信息点击保留。登录cpolar web UI管理界面点击左侧仪表盘的隧道管理——隧道列表找到所要配置的隧道prometheus点击右侧的编辑。修改隧道信息将保留成功的二级子域名配置到隧道中域名类型选择二级子域名Sub Domain填写保留成功的二级子域名地区: China Top点击更新更新完成后打开在线隧道列表此时可以看到随机的公网地址已经发生变化地址名称也变成了保留和固定的二级子域名名称。最后我们使用固定的公网地址在任意设备的浏览器中访问可以看到成功访问本地部署的prometheus页面这样一个永久不会变化的二级子域名公网网址即设置好了。这样我们就可以随时随地监控不用担心在家无法监控设备总结搭完这套系统之后凌晨被叫醒的次数少了很多。不是告警少了是真正需要处理的变多了——误报和抖动被 Alertmanager 聚合或静默掉不会再一条一条弹进来。几个实际跑下来之后的心得Alertmanager 的分组和去重是关键配置。同一故障触发的多条告警分组之后合并成一条通知标题写清楚影响范围不用爬楼翻消息猜发生了什么。静默规则要提前设好。已知维护窗口、计划内重启这类场景提前设置静默比事后抱怨误报有效得多。通知渠道分级别。Critical 级别走电话或者能强提醒的渠道warning 和 info 走邮件或者消息就行不用半夜弹个窗结果只是硬盘快要满了。最后 cpolar 记得配上不然在外网看不到 Prometheus 和 Alertmanager 的界面故障的时候还要先想办法连进内网多一层麻烦。这套系统搭好之后安心睡觉这件事终于不用靠运气了。