分类： ELK

0. 背景 最近我们在维护一个 3 节点的 Elasticsearch 集群，主要用于存储应用的日志数据（Logstash/Beats 写入，按年月日切分 Index）。由于集群架构调整，我们需要对硬件进行迁移，计划缩容其中一个计算节点。 因为我们的存储采用的是网盘（NAS/SAN）挂载的形式，我的设想非常美好： “只要把网盘从旧机器卸载，挂载到新机器，IP 配好，ES 启动，集群瞬间变绿，数据零…

一、问题背景 你是否也遇到过这样的场景：启动 Kibana 后，满怀期待地打开浏览器，却只看到一句冰冷的提示——“Kibana server is not ready yet”。页面不断刷新，后台日志也不再滚动，Kibana 仿佛陷入了“假死”状态。 最近，我就遇到了这个典型问题。本文将完整复盘从发现问题、分析日志、定位根源到最终解决的全过程，并提炼出一套通用的排查思路，希望能帮助遇到类似问题的朋…

一、引言：为何需要管理 Elasticsearch 索引的生命周期？ 二、核心概念解析 三、ILM 与数据分层如何协同工作？—— 自动化的数据流转 四、实战演练：配置一个典型的日志 ILM 策略 配置节点角色/属性： (示例 elasticsearch.yml 片段) 创建 ILM 策略 (Kibana Dev Tools 或 API)： (示例 JSON 策略) 创建索引模板并关联 ILM 策略…

这个命令 GET /_cat/indices?v&s=docs.count:desc 是针对 Elasticsearch 的一个 API 请求，用于查询集群中所有索引的信息，并按照文档数量进行降序排列。 让我们分解一下这个命令： 所以，这个命令的完整含义是： 以表格形式列出 Elasticsearch 集群中所有索引的信息，包括表头，并按照每个索引包…

最近在尝试配置ELK给index配置生命周期策略，我创建了index templates， 然后创建了 index lifecycle policies， 我设想的是可以通过ILM的策略来清理 index templates里面的索引数据。 创建好了之后似乎一切看起来正常，但是对于index templates历史的数据似乎不能正常的映射到 新创建的 ILM上面。 Elasticsearch 的 …

我现在有一套日志记录系统，底层存储使用的是elasticsearch。记录的数据为接口请求日志，一般是一次请求一个日志。 大概记录的关键的字段有请求的接口名，方法名，请求耗时。 我现在想统计出，所有接口的按照分钟统计的峰值速率情况。 Kibana配置方式 我们可以进入kibana，然后进到dashboard，创建新的dashboard，然后选择 Create visualization，我们选择t…

Validation Failed: 1: this action would add [2] shards, but this cluster currently has [3000]/[3000] maximum normal shards open; 背景： 早上同事告知我公司的ELK集群上面查不到今天的最新日志了 我自己去查了下，确实早上的日子就没有了，我们有3类日志，只少了其中一类，另外…

如果是主节点与集群失联1.剩下的节点会进行主节点选举，此过程可能会发生脑裂。2.并将主节点上的主分片对应的在其他节点上的副本分片提升为主分片。3.在副本分片被提拔为主分片后，master节点开始执行恢复操作来重建缺失的副本：集群中的节点相互拷贝分片数据。4.为了达到集群中分片分布的平衡状态，还会发生分片的移动。 但当失联的节点恢复与集群的联系后，这个失联节点将被告知它携带的数据已经没有用，数据已经…

问题 早上同事反馈ELK套件平台的日志看不到了。 查询logstash应用日志显示： 解决问题 一、查看集群健康状态： 发现健康状态是red 二、查看异常的index 发现有个索引异常了，直接进行删除即可。 删除索引：  curl -XDELETE ‘http://10.7.1.8:9200/gps_lte-mode-2019.04.03’ 参考资料：https:…

因为我的elasticsearch是用来存储各种日志数据的，需要周期的把数据清理掉，不然磁盘要炸了。 Stack里面有个 Index Lifecycle Policies 好像也可以完成这个工作，没研究明白。 这里记录下使用curator来进行index的清理。 安装curator elastic官方给的下载地址：https://www.elastic.co/guide/en/elasticsea…