栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Java

Elasticsearch系列---初识mapping

Java 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

Elasticsearch系列---初识mapping

概要

本篇简单介绍一下field数据类型mapping的相关知识。

mapping是什么?

前面几篇的实战案例,我们向Elasticsearch索引数据时,只是简单地把JSON文本放在请求体里,至于JSON里的field类型,存储到ES里是什么类型,中间是怎么做的映射,这个映射过程,就是mapping要解决的问题。

mapping简单来说,就是解决JSON文本内容到field类型映射关系的定义。将时间域视为时间类型,数字视为数字类型,字符串识别为全文或精确值字符串,这个识别的过程,叫做mapping。

Elasticsearch支持的简单域类型,类似于Java的基础数据类型,有如下几种:

  • 字符串:text,keyword
  • 整数 : byte, short, integer, long
  • 浮点数: float, double
  • 布尔型: boolean
  • 日期: date

当Elasticsearch收到JSON基本数据类型内容时,使用如下规则进行类型映射:

JSON type domain type
布尔型: true 或者 false boolean
整数: 123 long
浮点数: 123.45 double
日期格式的字符串: 2014-09-15 date
字符串: love you text
查看映射

每个索引都可以通过/_mapping查询各个field的映射结果,ES本身有自动mapping的过程,但mapping后的结果一定要仔细检查一下。

查询请求:

GET /music/_mapping/children

响应结果:

{
  "music": {
    "mappings": {
      "children": {
 "properties": {
   "content": {
     "type": "text",
     "fields": {
"keyword": {
  "type": "keyword",
  "ignore_above": 256
}
     }
   },
   "language": {
     "type": "text",
     "fields": {
"keyword": {
  "type": "keyword",
  "ignore_above": 256
}
     },
     "fielddata": true
   },
   "length": {
     "type": "long"
   },
   "likes": {
     "type": "long"
   },
   "name": {
     "type": "text",
     "fields": {
"keyword": {
  "type": "keyword",
  "ignore_above": 256
}
     }
   }
 }
      }
    }
  }
}

mapping中就自动定义了每个field的数据类型,properties下面的是各个field字段的名称、类型等信息,text类型的还带一个keyword子field。

数据类型的分词规则

index在建立时或索引数据时,如果没有手动指定mapping信息,Elasticsearch会用它的规则自动为我们创建type信息,以及type对应的mapping,mapping中包含了每个field对应的数据类型,以及如何分词等设置。

不同类型的field,有的是精确搜索(exact value),有的是全文搜索(full text)。

  • exact value,在建立倒排索引的时候,是将整个值一起作为一个关键词建立到倒排索引中的,并且大小写敏感;
  • full text,会经历各种各样的处理,分词,normaliztion(时态转换,同义词转换,大小写转换),才会建立到倒排索引中。

在一个搜索请求过来的时候,对exact value field和full text field进行搜索的会与当初建立倒排索引的行为保持一致;比如说exact value搜索的时候,就是直接按照整个值进行匹配,full text query string,也会进行分词和normalization再去倒排索引中去搜索,这样才能达到预期的搜索效果。

ES基本的几种field类型,除了text是使用full text,其他的都是exact value,总结来说mapping,决定了数据类型,建立倒排索引的行为,还有进行搜索的行为。

自定义映射

基本数据类型基本够用,但是有些数据可能需要自定义映射,尤其是字符串,string类型默认是full text,但是我们可以自己定义分词器,不同的分词器,会带来不一样的搜索效果,string类型最重要的属性是index和analyzer。

index

这个属性控制字符串的索引规则,有三个值可供选择:

  • true:支持索引,并且依据当前类型决定是全文搜索还是精确匹配
  • false:不索引

例如:

{
    "author": {
 "type":     "text",
 "index":    true
    }
}
analyzer

这个属性控制字符串使用的分词器,在支持中文的系统里,这个属性经常被用到,各路分词器大显身手,都需要用这个属性来指定,如:

{
    "content": {
 "type":     "text",
 "analyzer":    "aliws"
    }
}
测试映射

我们在建立索引之后,可以通过测试命令来查看不同的field的映射结果,即full text类型的是否有分词, exact value的是否原样保留,text的内容可以随意输入,当把这个作用工具调试时,可以诊断的内容的分词情况,举例如下:

  1. full text类型
GET /music/_analyze
{
  "field": "content",
  "text": "let me sleep" 
}

结果:

{
  "tokens": [
    {
      "token": "let",
      "start_offset": 0,
      "end_offset": 3,
      "type": "",
      "position": 0
    },
    {
      "token": "me",
      "start_offset": 4,
      "end_offset": 6,
      "type": "",
      "position": 1
    },
    {
      "token": "sleep",
      "start_offset": 7,
      "end_offset": 12,
      "type": "",
      "position": 2
    }
  ]
}
  1. exact value类型
GET /music/_analyze
{
  "field": "content.keyword",
  "text": "let me sleep" 
}

结果:

{
  "tokens": [
    {
      "token": "let me sleep",
      "start_offset": 0,
      "end_offset": 12,
      "type": "word",
      "position": 0
    }
  ]
}

注意一个小细节:Elasticsearch在自动创建text类型时,为full text,但会自动建立一个keywork子field,这个子field是exact value类型的。

小结

本篇主要介绍了一个mapping的概念,基础数据类型,以及查看映射信息和测试field映射效果的方法,测试映射效果算是一个比较有用的工具,后期实际开发中,遇到需要诊断的内容,可以用这个工具协助排查问题。

转载请注明:文章转载自 www.mshxw.com
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号