Elasticsearch搜索资料汇总

       Elasticsearch(ES)是近实时的分布式搜索分析引擎。这篇文章整理和筛选了ES相关资料,包括索引、分词、多条件查询、聚合、自动补全、建议词、同义词、安全性等等,便于大家学习和使用ES搜索引擎。

 

Elasticsearch 简介

ElasticsearchES)是一个基于Lucene 构建的开源分布式搜索分析引擎,可以近实时的索引、检索数据。具备高可靠、易使用、社区活跃等特点,在全文检索、日志分析、监控分析等场景具有广泛应用。

lucene

Lucene介绍与入门使用

Lucene.Net API

 

Elasticsearch 中文社区:https://elasticsearch.cn/article/

Elasticsearch 官方文档:https://www.elastic.co/guide/index.html

Elasticsearch 各客户端API(eg:.NET、JAVA、Python、Go)

Elasticsearch .net client NEST 5.x 使用总结(初始化、查询、权重、排序、聚合等)

Elasticsearch 客户端SDK使用建议:创建索引的Settingmapping使用elasticsearch 提供的DSL语法更加简单。因为客户端API代码里面只提供基础的SDK,如(ik拼音等)插件就没有对应接口提供

Elasticsearch术语(索引、类型、文档、集群、节点、分片)

 

ES数据架构的主要概念(与关系数据库Mysql对比)

Elasticsearch搜索资料汇总插图

ES 早期版本,一个索引下是可以有多个Type ,从7.0 开始,一个索引只有一个Type,即_doc。一个Type 下的文档,都有相同的字段(Field

 

 

安装

docker版本的ELK快速部署

ELK

ELK elastic 公司旗下三款产品ElasticSearch Logstash Kibana 的首字母组合。

#ElasticSearch 是一个基于Lucene 构建的开源,分布式,RESTful 搜索引擎。

#Logstash 传输和处理你的日志、事务或其他数据。

#Kibana Elasticsearch 的数据分析并渲染为可视化的报表。

Kibana User Guide

docker安装elasticsearch和head插件

 

 

分词器

分词器是专门处理分词的组件,分词器由如下三部分组成:

1Character Filters:针对原始文本处理,比如:去除html 标签

2Tokenizer:按照规则切分为单词,比如:按照空格切分

3Token Filters:将切分的单词进行加工,比如:大写转小写,删除stopwords,拼音,同义词等

 

analyzer = CharFilters0个或多个)+ Tokenizer(一个) + TokenFilters(0个或多个)

Elasticsearch搜索资料汇总插图(1)

从图中能够看出,从上到下依次通过Character FiltersTokenizer 以及Token Filters,这个顺序比较好理解,一个文本进来确定要先对文本数据进行处理,再去分词,最后对分词的结果进行过滤。

 

ElasticSearch 分词器是什么

一些分词器介绍(比如适用于英语的Snowball )

elasticSearch Analysis Token Filters作用及相关样例

Writing analyzers

ElasticSearch查看字段分词结果 (便于查为什么匹配不出的问题)

Elasticsearch7 分词器(内置分词器和自定义分词器)

Elasticsearch-Analysis-IK中文分词器配置使用

elasticsearch 之分词器配置 (IK+pinyin)

Elasticsearch 使用ik中文分词器增加分词热词(自定义词)

 

 

Elasticsearch mapping

搞懂Elasticsearch 之Mapping (Reindex)

Mapping中的store属性(按需查询字段)

Elasticsearch中的store field跟non-store field的区别

Elasticsearch 理解mapping中的store属性

 

Elasticsearch 动态模板(dynamic_templates)

normalizer 的使用

ElasticSearch Normalizer 的使用方法

elasticsearch大小写无法使用term查询的问题

Adding normalizer for all keyword fields NEST

 

 

Elasticsearch DLS语法

Elasticsearch 查询语法(模糊、精确、sort、相关性、and|or、slop间隔等)

Elasticsearch 查询语法(多条件bool复杂查询(must、should、filter)、日期范围查询)

Elasticsearch 查询语法(bool复杂查询、operator(||、&&、!、+))

ElasticSearch 组合多查询(bool, must, should, must_not, filter)

Elasticsearch中match、match_phrase、query_string和term的区别

相关性score

ElasticSearch 的分数(_score) 是怎么计算得出 (2.X & 5.X)

Elasticsearch filter和query的不同

ElasticSearch 多级排序(eg:产品要根据:销量、热度、相关性排序)

Elasticsearch 搜索条件权重控制(boost)默认情况下,搜索条件的权重都是1

聚合查询

Elasticsearch 聚合语法(Aggregations)

Elasticsearch 聚合查询

通过Elasticsearch 实现聚合检索(分组统计)

Elasticsearch 范围查询(数值、日期)

分页查询

Elasticsearch 分页查询

Elasticsearch 查询语法(使用scroll响应式返回大集合文档)

Elasticsearch 嵌套查询,父子关系查询

Elasticsearch 高亮显示匹配关键词(Highlight)

 

 

同义词

elasticsearch 使用同义词(synonym.txt)

 

 

搜索建议词(Suggest功能)

Elasticsearch实现搜索推荐词(C#)

基于Elasticsearch实现搜索推荐

ElasticSearch使用completion实现补全功能

Elasticsearch Suggester详解(自动补全)

Elasticsearch搜索Suggest功能优化

elasticsearch 7.0 新特性之 search as you type

模拟实战京东搜索效果(一)

模拟实战京东搜索效果(二)

 

 

安全性

Meow攻击删除开放的的Elasticsearch(及MongoDB) 索引,建一堆以Meow结尾的奇奇怪怪的索引(如:m3egspncll-meow)—-关闭外网访问端口,或至少修改ES默认端口

用nginx给kibana、elasticsearch做权限认证

集中式日志分析平台- ELK Stack – 安全解决方案 X-Pack

 

 

常用的es语句

版本:Elasticsearch 7.9.0

在线kibana:http://134.175.121.78:5601/app/dev_tools#/console

(是我自己的服务器搭建的,请大家友好的体验)

 

删除索引

DELETE mall.completion

 

创建索引,并指定settings

PUT mall.completion

{

 “settings”:{

   “analysis”:{

     “analyzer”:{

        “ik_smart_pinyin”:{

          “type”:”custom”,

          “tokenizer”:”ik_smart”,

          “filter”:[“g_pinyin”,”word_delimiter”]

        },

        “ik_max_word_pinyin”:{

          “type”:”custom”,

          “tokenizer”:”ik_max_word”,

          “filter”:[“g_pinyin”,”word_delimiter”]

        }

      },

     “filter”:{

        “g_pinyin”:{

          “type”:”pinyin”,

          “keep_separate_first_letter”:false,

          “keep_full_pinyin”:true,

          “keep_original”:true,

          “limit_first_letter_length”:16,

          “lowercase”:true,

          “remove_duplicated_term”:true

        }

      }

    }

  },

 “mappings”: {

   “properties”: {

     “kw_completion”: {

        “type”: “completion”

      },

     “kw_text”:{

        “type”: “text”,

        “analyzer”: “ik_smart_pinyin”

      }

    }

  }

}

 

查看索引设置

GET mall.completion/_settings

 

查看mapping结构

GET mall.completion/_mapping

 

批量插入数据

POST _bulk/?refresh=true

{ “index”: { “_index”: “mall.completion” }}

{ “kw_completion”: “项目“,”kw_text”: “项目“}

{ “index”: { “_index”: “mall.completion” }}

{ “kw_completion”: “项目进度“,”kw_text”: “项目进度“}

{ “index”: { “_index”: “mall.completion” }}

{ “kw_completion”: “项目管理“,”kw_text”: “项目管理“}

{ “index”: { “_index”: “mall.completion” }}

{ “kw_completion”: “项目进度及调整 汇总.doc_文档“,”kw_text”: “项目进度及调整 汇总.doc_文档“}

{ “index”: { “_index”: “mall.completion” }}

{ “kw_completion”: “项目“,”kw_text”: “项目“}

 

查看指定分词器对文本进行分词的结果

GET mall.completion/_analyze

{

 “analyzer”: “ik_smart_pinyin”,

 “text”: “很棒的冬天暖心羽绒服

}

 

根据字段的mapping,进行分词测试

GET mall.completion/_analyze

{

 “field”: “kw_text”,

 “text”: “很棒的冬天暖心羽绒服

}

 

查询文档

GET mall.completion/_search

{

 “query”: {

   “match”: {

     “kw_text”: “项目

    }

  }

}

 

查看文档中的分词结果

GET mall.completion/_doc/CYlJTnUBrvWtEbASfvRa/_termvectors?fields=kw_text

 

使用completion获取搜索补全建议(前缀搜索)

GET mall.completion/_search

{

   “suggest”: {

        “my-completion”: {

            “prefix”: “项目“,

            “completion”: {

                “field”: “kw_completion”,

                “size”: 20,

                “skip_duplicates”: true

            }

        }

    }

}

 

获取搜索建议词 (xang为拼写错误,会建议为:xiang

GET mall.completion/_search

{

 “suggest”: {

    “my-suggestion”: {

     “text”: “xang”,

     “term”: {

        “suggest_mode”: “missing”,

        “field”: “kw_text”

      }

    }

  }

}

 

多字段匹配案例

GET mall.completion/_search

{

 “query”:{

   “multi_match”: {

     “query”: ““,

     “fields”: [“name”,”description”,”brandName”,”labelName”,”menuCategoryNamePath”]

    }

  }

}

 

查询包含字段“keyword”的文档

GET mall.completion/_search

{

 “query”:{

   “exists”: {

     “field”: “keyword”

    }

  }

}

 

多条件查询语法案例

must        文档 必须 匹配这些条件才能被包含进来。

must_not    文档 必须不 匹配这些条件才能被包含进来。

should      如果满足这些语句中的任意语句,将增加_score ,否则,无任何影响。它们主要用于修正每个文档的相关性得分。

filter      必须 匹配,但它以不评分、过滤模式来进行。这些语句对评分没有贡献,只是根据过滤标准来排除或包含文档。

{

   “bool”: {

        “must”:     { “match”: { “title”: “how to make millions” }},

        “must_not”: { “match”: { “tag”:   “spam” }},

        “should”: [

            { “match”: { “tag”: “starred” }}

        ],

        “filter”: {

          “bool”: {

              “must”: [

                  { “range”: { “date”: { “gte”: “2014-01-01” }}},

                  { “range”: { “price”: { “lte”: 29.99 }}}

              ],

              “must_not”: [

                  { “term”: { “category”: “ebooks” }}

              ]

          }

        }

    }

}

 

 

其他推荐阅读

百度搜索的高级搜索技巧

ElasticSearch 电商搜索实现(按”地里坐标”排序)

Implementing A Modern E-Commerce Search

 

 

 

 

==============================================================================

over,谢谢查阅,觉得文章对你有收获,请多帮推荐。欢迎向我提供更好的资料信息。

 

 

 

 

 

原创文章,作者:迷途资源,如若转载,请注明出处:https://www.mipng.com/577.html

这些信息可能会帮助到你: 下载帮助 | 报毒说明 | 进站必看

修改版本安卓软件,加群提示为修改者自留,非本站信息,注意鉴别

发表评论

邮箱地址不会被公开。 必填项已用*标注