界面查询 kibana中添加简单数据es作为一个搜索索引,在分析场景中,作为明细查询的场景会比kylin、impala、hive等更加合适。
es在6.3版本开始支持sql查询,且其sql基础语法与大数据端的语法较兼容,函数库略有不同。
对于多数据源的接入,通过jdbc接入es改造成本较低,但是xpack-sql-jdbc这个客户端的包是收费的,但是其服务端仍提供了rest api 供查询。
选择想要的一个栗子
开发者工具查询进入开发者工具界面
查看有什么表
使用 SHOW TABLES查询
查看表有什么列
使用 DESCRIBE [TABLENAME]
SQL查询记录
查询一下延误的航班
REST API REST API 才是其他程序可以通过SQL查询ES的关键。
kibana rest api 通过浏览器F12可以获取到查询kibana的api接口,不过我们并不关心它的API:
curl 'http://localhost:5601/api/console/proxy?path=%2F_sql%3Fformat%3Dtxt&method=POST'
-H 'Connection: keep-alive'
-H 'sec-ch-ua: "Chromium";v="98", " Not A;Brand";v="99"'
-H 'Accept: text/plain, **; q=0.01'
-H 'Content-Type: application/json'
-d $'{rn "query": "select t.Dest from kibana_sample_data_flights t limit 20"rn}n'
--compressed
其结果如下:
sh-4.2# curl 'http://localhost:9200/_sql?format=txt'
> -H 'Connection: keep-alive'
> -H 'Accept: text/plain, **; q=0.01'
> -H 'Content-Type: application/json'
> -d $'{rn "query": "select t.Dest from kibana_sample_data_flights t limit 1"rn}n'
> --compressed
{"columns":[{"name":"Dest","type":"keyword"}],"rows":[["Sydney Kingsford Smith International Airport"]]}sh-4.2#
主要参数介绍
format
格式化返回结果,摘抄自官网:
| format | Accept HTTP header | Description |
|---|---|---|
| Human Readable | ||
| csv | text/csv | Comma-separated values |
| json | application/json | JSON (Javascript Object Notation) human-readable format |
| tsv | text/tab-separated-values | Tab-separated values |
| txt | text/plain | CLI-like representation |
| yaml | application/yaml | YAML (YAML Ain’t Markup Language) human-readable format |
| Binary Formats | ||
| cbor | application/cbor | Concise Binary Object Representation |
| smile | application/smile | Smile binary data format similar to CBOR |
如果在查询时,使用了DSL的fetch_size如:
POST /_sql?format=json
{
"query": "SELECt * FROM library ORDER BY page_count DESC",
"fetch_size": 5
}
其返回中就会有游标:
{
"columns": [
],
"rows": [
],
"cursor": "sDXF1ZXJ5QW5kRmV0Y2gBAAAAAAAAAAEWWWdrRlVfSS1TbDYtcW9lc1FJNmlYdw==:BAFmBmF1dGhvcgFmBG5hbWUBZgpwYWdlX2NvdW50AWYMcmVsZWFzZV9kYXRl+v///w8="
}
可以通过发送游标进行下一页查询,同时,游标还必须手动进行关闭。
POST /_sql/close
{
"cursor": "sDXF1ZXJ5QW5kRmV0Y2gBAAAAAAAAAAEWYUpOYklQMHhRUEtld3RsNnFtYU1hQQ==:BAFmBGRhdGUBZgVsaWtlcwFzB21lc3NhZ2UBZgR1c2Vy9f///w8="
}
columnar
是否返回列信息
默认为true,查询返回列信息。
POST /_sql?format=json
{
"query": "SELECt * FROM library ORDER BY page_count DESC",
"fetch_size": 5,
"columnar": true
}
结果:
{
"columns": [
{"name": "author", "type": "text"},
{"name": "name", "type": "text"},
{"name": "page_count", "type": "short"},
{"name": "release_date", "type": "datetime"}
],
"values": [
],
"cursor": "sDXF1ZXJ5QW5kRmV0Y2gBAAAAAAAAAAEWWWdrRlVfSS1TbDYtcW9lc1FJNmlYdw==:BAFmBmF1dGhvcgFmBG5hbWUBZgpwYWdlX2NvdW50AWYMcmVsZWFzZV9kYXRl+v///w8="
}
官方推荐在分页查询第一次查询时返回列信息,后续查询不再返回列信息的方式。
其他rest参数官网链接:https://www.elastic.co/guide/en/elasticsearch/reference/7.6/sql-rest-fields.html
fetch_size、filter、request_timeout、page_timeout也是会用到的参数。
SQL转DSL可以通过/_sql/translate进行转换
POST /_sql/translate
{
"query": "SELECt * FROM library ORDER BY page_count DESC",
"fetch_size": 10
}
SQL语法、命令
https://www.elastic.co/guide/en/elasticsearch/reference/7.6/sql-spec.html
函数https://www.elastic.co/guide/en/elasticsearch/reference/7.6/sql-functions.html
限制https://www.elastic.co/guide/en/elasticsearch/reference/7.6/sql-limitations.html
SQL查询并非ES查询主流,有许多限制需要注意,这里仅将常见的列出来。
- 查询返回结果不能过大,会抛出异常ParsingExpectionwhere和 order by时,scalar函数不能在嵌套字段上使用两个不同的结构的嵌套字段不能同时使用嵌套字段不能分页keyword 属性需要常态化arrary类型不能搜索,可以配置field.multi.value.leniency争取宽大处理聚合的排序不支持,将其放在客户端实现,且不允许超过512行聚合函数中必须是直接属性,而不能是scalar函数加工的属性嵌套子查询的实力只有小学生级别,超出这个范围就不支持了:SELECt X FROM (SELECT ...) WHERe [simple_condition]不能在having 中使用FIRST/LASTTIME类型的属性不可以在GROUP BY / HISTOGRAM中使用PIVOT中只能接收一个聚合函数



