Elasticsearch入门、Kibana索引管理（elasticserch-head插件使用，Kibanan安装和使用）_kibana界面devtools删除

arch

42 浏览量更新于2023-05-04 评论 1 收藏 969KB PDF 举报

身份认证购VIP最低享 7 折!

领优惠券(最高得80元）

资源详情

资源评论

资源推荐

Elasticsearch入门、入门、Kibana 索引管理（索引管理（elasticserch-head 插件使用，插件使用， Kibanan 安装和使用）安装和使用）

一、搜索的介绍

二、全文检索的介绍

三、ELK日志协议栈

1、ELK协议栈基本介绍

四、Elasticsearch介绍

1、什么是ElasticSearch

2、ElasticSearch使用案例

3、ElasticSearch对比Solr

4、ElasticSearch架构图以及基本概念(术语)

1、es概述

2、ES架构模块

3、Elasticsearch核心概念

五、ES的集群部署

六、node01服务器安装elasticsearch-head插件

1 、node01机器安装nodejs

2 、node01机器安装 elasticsearch-head 插件

七、node01服务器安装Kibana

八、使用kibana管理索引

1、使用 Xput创建索引

2、返回值说明

1、Hits

2、took

3、Shard

4、timeout

3、花式查询

4、索引映射（mappings）管理

1、为什么要映射

2、基本命令

3、获取映射字段

5、索引库配置管理（settings）

1、索引库配置

2、零停机重新索引数据

九、分页解决方案

1、导入数据

2、size+from浅分页

3、scroll深分页

十、三台机器安装IK分词器

十一、分片交互过程

1、创建索引

2、删除索引

3、查询索引

一、搜索一、搜索的介绍的介绍

搜索是指搜寻检索，指代使用一定手段来检索到我们自己需要的信息，包括从文件当中检索，百度当中检索，网站内部搜索等等

二、二、全文检索的介绍全文检索的介绍

1、、全文检索的需求介绍全文检索的需求介绍

首先我们谈几个公司，如雷贯耳的：百度、谷歌、维基百科；这些公司都有一个相似性就是门户网站，可以提供我们通过关键字搜索，然后快速的检索出我们想要的信息；

【网页百度展示】【网页百度展示】

比如我们检索传智播客，百度后台就会按照这个关键字进行查找（里面有搜索库，以及爬虫库），然后按照权重来进行从上到下的排序，给我们高亮的展示出现

【京东或者淘宝展示】【京东或者淘宝展示】

随便搜索东西，就会高精度的展示我们想要的；就会根据关键词进行海量数据的快速的检索

比如我们查找：”护手霜“ ，那么这期间内部会经过大体的：1、分词（护手，手霜，护等）2、根据这些词去海量的数据中检索 3、然后根据权重把检索出来的信息进行排序展示给我们

【传统做法】

那么对于一般的公司，初期是没有那么多数据的，所以很多公司更倾向于使用传统的数据库：mysql；比如我们要查找关键字”华为“，那么查询的方式大概就是:select * from table where field like ‘%华

为%’; 但是随着业务发展，数据会不断的膨胀，那么问题就来了；mysql单表查询能力即便经过了优化，它的极限也就是400W左右的数据量。而且还会经常出现查询超时的现象；

然后很多公司开始对数据库进行横向和纵向的扩容，开始进行数据库表的“拆分”：横向拆分和纵向拆分；但是即便这样操作，仍然会出现很多问题，比如：

1、数据库会出现单点故障问题，先天主从复制关系，于是增加了运维成本、数据库会出现单点故障问题，先天主从复制关系，于是增加了运维成本

2、因为对表的拆分，增加了后期维护的难度，同样也是增加了运维成本、因为对表的拆分，增加了后期维护的难度，同样也是增加了运维成本

3、即便做了大量的维护，但对于大数据的检索操作，依然很慢，完全达不到期望值、即便做了大量的维护，但对于大数据的检索操作，依然很慢，完全达不到期望值

于是出现了lucene，全文检索的工具。但是lucene对外暴露出的可用接口对于开发人员来说，操作是非常的复杂，而且没有效率的；于是在lucene的基础上进一步的封装，有了一个叫做 solr 的高性能分

布式检索服务框架，但是，solr有一个致命的缺点就是：在建立索引期间，solr的搜索能力会极度下降，这就在一定程度上造成了solr在实时索引上效率并不高；

最后，出现了一个叫做 elasticsearch的框架，同样是以 lucene 为基础，并且吸收了前两代的教训而开发出的分布式多用户能力的全文搜索引擎，并且 elasticsearch 是基于RESTful web接口进行发布

的，那么这就意味着，我们开发人员操作起来更方便快捷；同时 ES 拓展节点方便，可用于存储和检索海量数据，接近实时搜索能力，自动发现节点、副本机制保障可用性。

2、、非结构化数据查找方法非结构化数据查找方法

1：顺序扫描法：顺序扫描法(Serial Scanning)

所谓顺序扫描，比如要找内容包含某一个字符串的文件，就是一个文档一个文档的看，对于每一个文档，从头看到尾，如果此文档包含此字符串，则此文档为我们要找的文件，接着看下一个文件，直到

扫描完所有的文件。如利用windows的搜索也可以搜索文件内容，只是相当的慢。

2：全文检索：全文检索(Full-text Search)

将非结构化数据中的一部分信息提取出来，重新组织，使其变得有一定结构，然后对此有一定结构的数据进行搜索，从而达到搜索相对较快的目的。这部分从非结构化数据中提取出的然后重新组织的信从非结构化数据中提取出的然后重新组织的信

息，我们称之索引。息，我们称之索引。

这种先建立索引，再对索引进行搜索的过程就叫全文检索先建立索引，再对索引进行搜索的过程就叫全文检索(Full-text Search)。。虽然创建索引的过程也是非常耗时的，但是索引一旦创建就可以多次使用，全文检索主要处理的是查询，所以耗时间创建索

引是值得的。

3、、如何实现全文检索如何实现全文检索

可以使用Lucene实现全文检索。Lucene是 apache下的一个开放源代码的全文检索引擎工具包（提供了Jar包，实现全文检索的类库）。它提供了完整的查询引擎和索引引擎，部分文本分析引擎。

Lucene的目的是为软件开发人员提供一个简单易用的工具包，以方便地在目标系统中实现全文检索的功能。

注意：Lucene只是一个引擎，只是一个工具包，如果使用Lucene开发全文检索功能，要记住Lucene是不能单独运行的是不能单独运行的。

4、、lucene实现全文检索流程实现全文检索流程

1. 绿色表示索引过程，对要搜索的原始内容进行索引构建一个索引库，索引过程包括索引过程包括：确定原始内容即要搜索的内容搜索的内容→采集文档采集文档→创建文档创建文档→分析文档分析文档→索引文档索引文档。

2. 红色表示搜索过程，从索引库中搜索内容，搜索过程搜索过程包括：用户通过搜索界面用户通过搜索界面→创建查询创建查询→执行搜索，从索引库搜索执行搜索，从索引库搜索→渲染搜索结果。渲染搜索结果。

从上面了解到的知识点也可看出，索引和搜索流程图也可表示为：

总结：全文检索过程分为索引、搜索两个过程：

索引索引

从关系数据库中、互联网上、文件系统采集源数据(要搜索的目标信息)，源数据的来源是很广泛的。

将源数据采集到一个统一的地方，要创建索引索引，将索引创建到一个索引库（文件系统）中，从源数据库中提取关键信息，从关键信息中抽取一个一个词词，词和源数据是有关联的。也即创建索引时，词和

源数据有关联，索引库中记录了这个关联，如果找到了词就说明找到了源数据（http的网页、pdf电子书等……）。

搜索搜索

用户执行搜索（全文检索）编写查询关键字。

从索引库中搜索索引，根据查询关键字搜索索引库中的一个一个词查询关键字搜索索引库中的一个一个词。

展示搜索的结果。

5、、全文检索框架介绍全文检索框架介绍

市面上全文检索的框架很多，较早期的一个框架就是lucene，基本上所有的全文检索的工作都交给lucene来实现，但是lucene最大的弊端就是API太原生，没有经过任何封装，不太好使用。所以后来出现

一个叫做solr的框架，它也是基于lucene进行改造封装和包装，将服务端单独提取出来，客户端进行请求即可。

另外一个框架就是大名鼎鼎的elasticsearch了，es也是一个基于lucene打造的全文检索的框架，且一经推出就迅速被市场认可，市场占有率越来越多，现在首选的全文检索的框架基本就是ES了。

三、三、ELK日志日志协议栈协议栈

1、、ELK协议栈协议栈基本介绍基本介绍

1、、集中式日志系统集中式日志系统

日志，对于任何系统来说都是及其重要的组成部分。面对如此海量的数据，又是分布在各个不同地方，如果我们需要去查找一些重要的信息，难道还是使用传统的方法，去登陆到一台台机器上查看？看

来传统的工具和方法已经显得非常笨拙和低效了。于是，一些聪明人就提出了建立一套集中式的方法，把不同来源的数据集中整合到一个地方。

一个完整的集中式日志系统，是离不开以下几个主要特点的。

收集－能够采集多种来源的日志数据

传输－能够稳定的把日志数据传输到中央系统

存储－如何存储日志数据

分析－可以支持 UI 分析

警告－能够提供错误报告，监控机制

2、、ELK 协议栈介绍及体系结构协议栈介绍及体系结构

ELK 其实并不是一款软件，而是一整套解决方案，是三个软件产品的首字母缩写，Elasticsearch，Logstash 和 Kibana。这三款软件都是开源软件，通常是配合使用，而且又先后归于 Elastic.co 公司名

下，故被简称为 ELK 协议栈。

Elasticsearch

ES 是一个实时的分布式搜索和分析引擎，它可以用于全文搜索，结构化搜索以及分析。它是一个建立在全文搜索引擎 Apache Lucene 基础上的搜索引擎，使用 Java 语言编写。

主要特点：

实时分析

分布式实时文件存储，并将每一个字段每一个字段都编入索引

文档导向，所有的对象全部是文档

高可用性，易扩展，支持集群（Cluster）、分片和复制（Shards 和 Replicas）。见图 2 和图 3

接口友好，支持 JSON

Logstash

Logstash是一个具有实时渠道能力的数据收集引擎（像 flume）。使用 JRuby 语言编写。其作者是世界著名的运维工程师乔丹西塞 (JordanSissel)。

主要特点

几乎可以访问任何数据

可以和多种外部应用结合

支持弹性扩展

它由三个主要部分组成

Shipper－发送日志数据

Broker－收集数据，缺省内置 Redis

Indexer－数据写入

Kibana

Kibnan是一款基于 Apache 开源协议，使用 JavaScript 语言编写，为 Elasticsearch 提供分析和可视化的 Web 平台。它可以在 Elasticsearch 的索引中查找，交互数据，并生成各种维度的表图。

3、、Elk整体架构整体架构

4、、参考文档参考文档

ELK官网

ELK官网文档

ELK中文手册

ELK中文社区

四、四、Elasticsearch介绍介绍

1、、什么是什么是ElasticSearch

Elaticsearch，简称为es， es是一个开源的高扩展的分布式全文检索引擎，它可以近乎实时的存储、检索数据；本身扩展性很好，可以扩展到上百台服务器，处理PB级别的数据。es也使用Java开发并使

用Lucene作为其核心来实现所有索引和搜索的功能，但是它的目的是通过简单的RESTful API来隐藏Lucene的复杂性，从而让全文搜索变得简单。

2、、ElasticSearch使用案例使用案例

2013年初，GitHub抛弃了Solr，采取ElasticSearch 来做PB级的搜索。 “GitHub使用ElasticSearch搜索20TB的数据，包括13亿文件和1300亿行代码”

维基百科：启动以elasticsearch为基础的核心搜索架构

SoundCloud：“SoundCloud使用ElasticSearch为1.8亿用户提供即时而精准的音乐搜索服务”

百度：百度目前广泛使用ElasticSearch作为文本数据分析，采集百度所有服务器上的各类指标数据及用户自定义数据，通过对各种数据进行多维分析展示，辅助定位分析实例异常或业务层面异常。目前

覆盖百度内部20多个业务线（包括casio、云分析、网盟、预测、文库、直达号、钱包、风控等），单集群最大100台机器，200个ES节点，每天导入30TB+数据

新浪使用ES 分析处理32亿条实时日志

阿里使用ES 构建挖财自己的日志采集和分析体系

3、、ElasticSearch对比对比Solr

Solr 利用 Zookeeper 进行分布式管理，而 Elasticsearch 自身带有分布式协调管理功能;

Solr 支持更多格式的数据，而 Elasticsearch 仅支持json文件格式；

Solr 官方提供的功能更多，而 Elasticsearch 本身更注重于核心功能，高级功能多有第三方插件提供；

Solr 在传统的搜索应用中表现好于 Elasticsearch，但在处理实时搜索应用时效率明显低于 Elasticsearch

4、、ElasticSearch架构图架构图以及基本以及基本概念概念(术语术语)

1、、es概述概述

Elasticsearch是面向文档(document oriented)的，这意味着它可以存储整个对象或文档(document)。然而它不仅仅是存储，还会索引(index)每个文档的内容使之可以被搜索。在Elasticsearch中，你可以

对文档（而非成行成列的数据）进行索引、搜索、排序、过滤。

Elasticsearch比传统关系型数据库如下：

Relational DB -> Databases -> Tables -> Rows -> Columns

Elasticsearch -> Indices -> Types -> Documents -> Fields

2、、ES架构模块架构模块

Gateway是 ES 用来存储索引的文件系统，支持多种类型。

Gateway的上层是一个分布式的 lucene 框架。

Lucene之上是ES的模块，包括：索引模块、搜索模块、映射解析模块等

ES模块之上是 Discovery、Scripting 和第三方插件。

Discovery 是 ES 的节点发现模块，不同机器上的ES节点要组成集群需要进行消息通信，集群内部需要选举master节点，这些工作都是由 Discovery 模块完成。支持多种发现机制，如 Zen 、EC2、gce、

Azure。

Scripting用来支持在查询语句中插入javascript、python等脚本语言，scripting模块负责解析这些脚本，使用脚本语句性能稍低。ES也支持多种第三方插件。

再上层是ES的传输模块和JMX.传输模块支持多种传输协议，如 Thrift、memecached、http，默认使用http。JMX是java的管理框架，用来管理ES应用。

最上层是ES提供给用户的接口，可以通过RESTful接口和ES集群进行交互。

3、、Elasticsearch核心概念核心概念

1、、索引索引 index

一个索引就是一个拥有几分相似特征的文档的集合文档的集合。比如说，你可以有一个客户数据的索引，另一个产品目录的索引，还有一个订单数据的索引。一个索引由一个名字来标识（必须全部是小写字母

的），并且当我们要对对应于这个索引中的文档进行索引、搜索、更新和删除的时候，都要使用到这个名字。在一个集群中，可以定义任意多的索引。

2、、类型类型 type

在一个索引中，你可以定义一种或多种类型。一个类型是你的索引的一个逻辑上的分类一个类型是你的索引的一个逻辑上的分类/分区分区，其语义完全由你来定。通常，会为具有一组共同字段的文档定义一个类型。比如说，我们假设你运营一个博

客平台并且将你所有的数据存储到一个索引中。在这个索引中，你可以为用户数据定义一个类型，为博客数据定义另一个类型，当然，也可以为评论数据定义另一个类型。

3、、字段字段Field

相当于是数据表的字段，对文档数据根据不同属性进行的分类标识

4、、映射映射 mapping

mapping是处理数据的方式和规则方面做一些限制，如某个字段的数据类型、默认值、分析器、是否被索引等等，这些都是映射里面可以设置的，其它就是处理es里面数据的一些使用规则设置也叫做映

射，按着最优规则处理数据对性能提高很大，因此才需要建立映射，并且需要思考如何建立映射才能对性能更好。

5、、文档文档 document

一个文档是一个可被索引的基础信息单元。比如，你可以拥有某一个客户的文档，某一个产品的一个文档，当然，也可以拥有某个订单的一个文档。文档以JSON（Javascript Object Notation）格式来表

示，而JSON是一个到处存在的互联网数据交互格式。

在一个index/type里面，你可以存储任意多的文档。注意，尽管一个文档，物理上存在于一个索引之中，文档必须被赋予一个索引的 type。

6、、集群集群 cluster

一个集群就是由一个或多个节点组织在一起，它们共同持有整个的数据，并一起提供索引和搜索功能。一个集群由一个唯一的名字标识，这个名字默认就是“elasticsearch”。这个名字是重要的，因为一个

节点只能通过指定某个集群的名字，来加入这个集群

7、、节点节点 node

一个节点是集群中的一个服务器，作为集群的一部分，它存储数据，参与集群的索引和搜索功能。和集群类似，一个节点也是由一个名字来标识的，默认情况下，这个名字是一个随机的漫威漫画角色的

名字，这个名字会在启动的时候赋予节点。这个名字对于管理工作来说挺重要的，因为在这个管理过程中，你会去确定网络中的哪些服务器对应于Elasticsearch集群中的哪些节点。

一个节点可以通过配置集群名称的方式来加入一个指定的集群。默认情况下，每个节点都会被安排加入到一个叫做“elasticsearch”的集群中，这意味着，如果你在你的网络中启动了若干个节点，并假定它

们能够相互发现彼此，它们将会自动地形成并加入到一个叫做“elasticsearch”的集群中。

在一个集群里，只要你想，可以拥有任意多个节点。而且，如果当前你的网络中没有运行任何Elasticsearch节点，这时启动一个节点，会默认创建并加入一个叫做“elasticsearch”的集群。

8、、分片和复制分片和复制 shards&replicas

一个索引可以存储超出单个结点硬件限制的大量数据。比如，一个具有10亿文档的索引占据1TB的磁盘空间，而任一节点都没有这样大的磁盘空间；或者单个节点处理搜索请求，响应太慢。为了解决这

个问题，Elasticsearch提供了将索引划分成多份的能力，这些份就叫做分片。当你创建一个索引的时候，你可以指定你想要的分片的数量。每个分片本身也是一个功能完善并且独立的“索引”，这个“索

引”可以被放置到集群中的任何节点上。分片很重要，主要有两方面的原因： 1）允许你水平分割/扩展你的内容容量。 2）允许你在分片（潜在地，位于多个节点上）之上进行分布式的、并行的操作，

进而提高性能/吞吐量。

至于一个分片怎样分布，它的文档怎样聚合回搜索请求，是完全由Elasticsearch管理的，对于作为用户的你来说，这些都是透明的。

在一个网络/云的环境里，失败随时都可能发生，在某个分片/节点不知怎么的就处于离线状态，或者由于任何原因消失了，这种情况下，有一个故障转移机制是非常有用并且是强烈推荐的。为此目

的，Elasticsearch允许你创建分片的一份或多份拷贝，这些拷贝叫做复制分片，或者直接叫复制。

复制之所以重要，有两个主要原因：在分片在分片/节点失败的情况下，提供了高可用性节点失败的情况下，提供了高可用性。因为这个原因，注意到复制分片从不与原/主要（original/primary）分片置于同一节点上是非常重要的。扩展你的搜索

量/吞吐量，因为搜索可以在所有的复制上并行运行。总之，每个索引可以被分成多个分片。一个索引也可以被复制0次（意思是没有复制）或多次。一旦复制了，每个索引就有了主分片（作为复制源的

原来的分片）和复制分片（主分片的拷贝）之别。分片和复制的数量可以在索引创建的时候指定。在索引创建之后，你可以在任何时候动态地改变复制的数量，但是你事后不能改变分片的数量。

默认情况下，Elasticsearch中的每个索引被分片5个主分片和1个复制，这意味着，如果你的集群中至少有两个节点，你的索引将会有5个主分片和另外5个复制分片（1个完全拷贝），这样的话每个索引

总共就有10个分片。

五、五、ES的集群部署的集群部署

第一步第一步：：创建创建普通用户普通用户

注意：ES不能使用root用户来启动，必须使用普通用户来安装启动。这里我们创建一个普通用户以及定义一些常规目录用于存放我们的数据文件以及安装包等

创建一个es专门的用户（必须）

#使用root用户在三台机器执行以下命令

useradd es

mkdir -p /export/servers/es

chown -R es /export/servers/es

passwd es

第二步：为普通用户es添加sudo权限

为了让普通用户有更大的操作权限，我们一般都会给普通用户设置sudo权限，方便普通用户的操作

三台机器使用

root

用户执行

visudo命令然后为es用户添加权限

visudo

es ALL=(ALL) ALL

第三步：下载并上传压缩包，然后解压

将es的安v装包下载并上传到node01服务器的/home/es路径下，然后进行解压

使用es用户来执行以下操作（断开连接linux的工具，然后重新使用es用户连接上三台linux服务器）

node01服务器使用es用户执行以下命令

cd /home/es/

wget https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-6.7.0.tar.gz

tar -zxf elasticsearch-6.7.0.tar.gz -C /export/servers/es/

第四步：修改配置文件

修改elasticsearch.yml

node01服务器使用es用户来修改配置文件

cd /export/servers/es/elasticsearch-6.7.0/config

mkdir -p /export/servers/es/elasticsearch-6.7.0/logs

mkdir -p /export/servers/es/elasticsearch-6.7.0/datas

rm -rf elasticsearch.yml

vim elasticsearch.yml

cluster.name: myes

node.name: node01

path.data: /export/servers/es/elasticsearch-6.7.0/datas

path.logs: /export/servers/es/elasticsearch-6.7.0/logs

network.host: 192.168.52.100

http.port: 9200

discovery.zen.ping.unicast.hosts: ["node01", "node02", "node03"]i

bootstrap.system_call_filter: false

bootstrap.memory_lock: false

http.cors.enabled: true

http.cors.allow-origin: "*"

修改 jvm.option

修改 jvm.option配置文件，调整 jvm 堆内存大小

node01使用 es 用户执行以下命令调整 jvm 堆内存大小，每个人根据自己服务器的内存大小来进行调整

cd /export/servers/es/elasticsearch-6.7.0/config

vim jvm.options

-Xms2g

-Xmx2g

第五步：将安装包分发到其他服务器上面

node01使用 es 用户将安装包分发到其他服务器上面去

cd /export/servers/es/

scp -r elasticsearch-6.7.0/ node02:$PWD

scp -r elasticsearch-6.7.0/ node03:$PWD

第六步：node02与node03修改es配置文件

node02与node03也需要修改es配置文件

node02使用es用户执行以下命令修改es配置文件

cd /export/servers/es/elasticsearch-6.7.0/config

vim elasticsearch.yml

cluster.name: myes

node.name: node02

剩余24页未读，继续阅读

weixin_38551749

粉丝: 7
资源: 936

会员权益专享

Elasticsearch入门、Kibana 索引管理（elasticserch-head 插件使用， Kibanan 安装和使...

评论0

会员权益专享

最新资源

Elasticsearch入门、Kibana 索引管理（elasticserch-head 插件使用， Kibanan 安装和使...

评论0

Elasticsearch可视化插件，非常好用，比单独的插件head方便许多

Elasticvue-crx插件

Elasticsearch的sql插件.zip

Linux中安装Elasticsearch可视化工具

elasticsearch kibana head

谷歌elasticsearch-head

kibana和head插件什么关系

es web head 插件

elasticsearch连接工具

Elasticsearch怎么使用，步骤

elasticsearch 学习笔记

服务器es怎么在本地可视化

elasticsearch 性能监控工具

elasticsearch面试题2020

Elasticsearch学习难点

使用 Elasticsearch 做一个好用的日语搜索引擎及自动补全

elasticsearch好看的图形化界面

EFK面试题帮我出10道并给出答案

elasticsearch客户端浏览器组件

vscode里的插件跟官网的一样吗

会员权益专享

最新资源