当前位置: 首页 > news >正文

Elasticsearch 集群运维常用命令详解

集群相关命令

在介绍 ES 集群常用命令之前,我们先回顾下 ES 集群的分布式基本原理,从下图 1 中可以看出,ES 集群是由多个节点组成,节点中会选举出一个 Master 节点,用于管理、调度集群;每个节点上存储部分索引数据,索引数据由分片来承载,即集群中有多个索引,每个索引中又会有多个分片,分片中有一到多个 segment,segment 中存储具体的 doc 数据。

如下图 1 所示,当我们通过 Client 对集群执行写入操作时,请求首先到达的节点 1 被称为协调节点,协调节点 1 根据请求信息计算出主分片所在节点 3,并将请求转发至该节点 3,节点 3 在主分片写入成功后,再同步将请求转发至副本分片所在的节点 1 和 2,待副本分片所在节点都写入成功后,节点 3 返回请求给协调节点 1,协调节点 1 再返回写入成功信息给 Client。

图 1. Elasticsearch 分布式架构原理图

以上,我们简单回顾了下 ES 集群的分布式基本原理及读写模型。下面我们详细介绍下 ES 集群相关的常用命令。

1、查看集群健康状态

命令 Response:

{
  "cluster_name" : "es-wr-test-cluster",
  "status" : "green",
  "timed_out" : false,
  "number_of_nodes" : 6,
  "number_of_data_nodes" : 3,
  "active_primary_shards" : 300,
  "active_shards" : 561,
  "relocating_shards" : 0,
  "initializing_shards" : 0,
  "unassigned_shards" : 0,
  "delayed_unassigned_shards" : 0,
  "number_of_pending_tasks" : 0,
  "number_of_in_flight_fetch" : 0,
  "task_max_waiting_in_queue_millis" : 0,
  "active_shards_percent_as_number" : 100.0
}

我们知道集群共有三种健康状态,分别是 red、yellow 和 green。通过该命令,我们不仅可以了解集群名称 cluster_name

,集群的健康状态 status,还可以了解到集群当前有多少节点 numberofnodes,多少个数据节点 numberofdatanodes,有多少个主分片 activeprimaryshards,以及正在搬迁中的分片 relocatingshards、初始化中的分片 initializingshards,还未正常分配的分片 unassignedshards 等信息。如果集群是非 green 状态,我们还可以通过 activeshardspercentasnumber 来查看集群恢复的进度。

另外从 numberofpendingtasks 参数也能够看出当前集群的任务堆积情况,如果 numberofpendingtasks 数量较大,则表明 Master 在处理 task 时有点力不从心,承载的压力较大了。

图 2 是我们腾讯云 ES 客户的一个日志集群健康信息,从该图中我们就很清晰得看到集群当前的状态为 yellow,还有 690 个副本分片未正常分配,且有 126 个 task 任务堆积,当前的分片恢复进展为 97.8% 等。

图 2. 腾讯云 ES 客户某日志集群健康信息

从该 API 的官方文档中我们可以看到有一个 level 参数,该参数是一个可选参数,提供了三种枚举值,分别是 cluster、indices 和 shards。默认就是 cluster,如果我们需要查看索引或者分片维度的健康信息,则可以使用如下 API。

GET /_cluster/health?level=indices
GET /_cluster/health?level=shards

同时还支持查看某一个具体的索引的健康信息:

GET /_cluster/health/wr_index_1?level=indices
GET /_cluster/health/wr_index_1?level=shards

2、查看任务堆积详情

返回 Response:

insertOrder timeInQueue priority source
       1685       855ms HIGH     update-mapping [foo][t]
       1686       843ms HIGH     update-mapping [foo][t]
       1693       753ms HIGH     refresh-mapping [foo][[t]]
       1688       816ms HIGH     update-mapping [foo][t]
       1689       802ms HIGH     update-mapping [foo][t]
       1690       787ms HIGH     update-mapping [foo][t]
       1691       773ms HIGH     update-mapping [foo][t]

在上面的 API 中我们可以通过GET _cluster/health来查看集群当前是否有堆积。如果有堆积也只能看到堆积的量,不能看到堆积了哪些任务,而GET/_cat/pending_tasksAPI 则可以直接查看具体是哪些任务在执行。从该 API 返回的信息中我们可以看出有一个 priority 的字段,用于标记该 task 的优先级。翻看源码,我们可以看到 Master 处理的 task 主要有六种优先级。其优先度从高到低如下所示:

IMMEDIATE > URGENT > HIGH > NORMAL > LOW > LANGUID.

通常创建索引的优先级是 URGENT,更新 Mapping 的优先级是 HIGH,如果数据在高压力写入时频繁更新 mapping,则会导致 pending_tasks 堆积的比较严重,对 Master 造成较大压力。

另外与GET/_cat/pending_tasks还有一个相似的 API。即:

GET /_cluster/pending_tasks

返回 Response:

{
   "tasks": [
      {
         "insert_order": 101,
         "priority": "URGENT",
         "source": "create-index [foo_9], cause [api]",
         "executing" : true,
         "time_in_queue_millis": 86,
         "time_in_queue": "86ms"
      },
      {
         "insert_order": 46,
         "priority": "HIGH",
         "source": "shard-started ([foo_2][1], node[tMTocMvQQgGCkj7QDHl3OA], [P], s[INITIALIZING]), reason [after recovery from shard_store]",
         "executing" : false,
         "time_in_queue_millis": 842,
         "time_in_queue": "842ms"
      },
      {
         "insert_order": 45,
         "priority": "HIGH",
         "source": "shard-started ([foo_2][0], node[tMTocMvQQgGCkj7QDHl3OA], [P], s[INITIALIZING]), reason [after recovery from shard_store]",
         "executing" : false,
         "time_in_queue_millis": 858,
         "time_in_queue": "858ms"
      }
  ]
}

从该 API 中可以更加直观的看到该 task 是否在执行 executing,以及在队列中等待的时间 timeinqueue_millis 等详细信息。

3、查看集群元数据状态信息

GET /_cluster/state/<metrics>/<target>

通过该 API 可以获取到集群维度非常丰富的元数据相关信息,例如集群中所有节点

http://www.lqws.cn/news/127855.html

相关文章:

  • IDEA集成JRebel插件,实现实时热部署
  • vue2 项目中 npm run dev 运行98% after emitting CopyPlugin 卡死
  • Windows系统下npm报错node-gyp configure got “gyp ERR“解决方法
  • 【从0-1的HTML】第3篇:html引入css的3种方式
  • 通过ca证书的方式设置允许远程访问Docker服务
  • C++ 中的 const 知识点详解,c++和c语言区别
  • HTMLCSS 学习总结
  • Server - 使用 Docker 配置 PyTorch 研发环境
  • 【RAG优化】rag整体优化建议
  • Git的使用技巧
  • Transformer-BiLSTM、Transformer、CNN-BiLSTM、BiLSTM、CNN五模型时序预测
  • STM32的ADC简介
  • STM32----IAP远程升级
  • 理解继承与组合的本质:Qt 项目中的设计选择指南
  • 基于cnn的通用图像分类项目
  • 从npm库 Vue 组件到独立SDK:打包与 CDN 引入的最佳实践
  • ann算法的种类有哪些,之间的区别,各自的适用场景
  • [蓝桥杯]填字母游戏
  • 开发源码搭建一码双端应用分发平台教程:逐步分析注意事项
  • # Vue + OpenLayers 完整项目开发指南
  • 物联网协议之MQTT(一)基础概念和设备
  • C++内存列传之RAII宇宙:智能指针
  • 20-项目部署(Docker)
  • haribote原型系统改进方向
  • 编程笔试练习(1)
  • 6.4本日总结
  • mac版excel如何制作时长版环形图
  • Delft3D软件介绍及建模原理和步骤;Delft3D数值模拟溶质运移模型建立;地表水环境影响评价报告编写思路
  • 破解HTTP无状态:基于Java的Session与Cookie协同工作指南
  • 华为云服务器 Java 项目部署 “版本穿越” 危机破解指南