哈喽哈喽大家好,初探Loki之后,我决定把ELK下掉!

Loki开源日志解决方案已经开源有一段时间了,对标EFK/ELK,由于其轻量的设计,备受欢迎

Loki相比EFK/ELK,它不对原始日志进行索引,只对日志的标签进行索引,而日志通过压缩进行存储,通常是文件系统存储,所以其操作成本更低,数量级效率更高

由于Loki的存储都是基于文件系统的,所以它的日志搜索时基于内容即日志行中的文本,所以它的查询支持LogQL,在搜索窗口中通过过滤标签的方式进行搜索和查询

Loki分两部分,Loki是日志引擎部分,Promtail是收集日志端,然后通过Grafana进行展示

Loki的官方文档很全

https://grafana.com/docs/loki/latest/installation

Loki·安装

从官方文档看,Loki支持源码安装、Docker、Helm、Local、Tanka

我选择local,就是编译好的二进制可执行文件

安装步骤:

下载:https://github.com/grafana/loki/releases/

curl -O -L

"https://github.com/grafana/loki/releases/download/v2.2.1/loki-linux-amd64.zip"

通过unzip解压得到可执行文件

下载配置文件

wget https://raw.githubusercontent.com/grafana/loki/master/cmd/loki/loki-local-config.yaml

Loki·配置

Loki的配置文件是loki-local-config.yaml,支持YAML语法

loki提供http和grpc两种接口,在配置文件中可以看到对应端口,分别是3100和9096,启动后,就可以通过http接口看到数据

配置完成后,就可以启动loki了,二进制可执行文件,通过--config.file指定配置文件启动即可

promtail·安装

Promtail安装也很简单

下载可执行文件

curl -O -L https://github.com/grafana/loki/releases/download/v2.2.1/promtail-linux-amd64.zip

通过unzip解压得到可执行文件即可

同样下载配置文件

wget https://raw.githubusercontent.com/grafana/loki/main/clients/cmd/promtail/promtail-local-config.yaml

之后,就可以直接可执行文件指定配置文件启动了

promtail·配置

promtail也是YAML语法,配置很简单

前面三部分很简单,server部分定义监听端口,positions定义读取的文件偏移量存储位置,clients定义loki接口地址,最后一部分scrape_configs是重点部分

  • promtail通过scrape_configs部分配置收集日志的相关信息,以测试配置文件为例:

  • job_name 用来区分日志组

  • static_configs 收集日志的静态配置

  • targets 收集日志的节点,这个参数其实是在自动发现的时候使用的

  • labels 定义一个要收集的日志文件和一组可选的附加标签

  • job 标签名称,在grafana索引的时候用到的标签名称

  • __path__ 定义日志收集的文件或路径,支持正则

配置文件修改完成后,就可以启动promtail了,和loki启动方法一样,通过--config.file指定配置文件启动

promtail,类似于tail,它只监听新增日志,不会像filebeat一样,读取日志所有内容,这是和filebeat的一个区别

Grafana·展示

好了,promtail和Loki都配置好了,需要展示,6.0以上版本的grafana就支持loki的展示了,我这边直接用docker启动grafana

grafana配置很简单,登录后,在设置——数据源中,选择添加数据源,下来列表中直接选择Loki即可

接着配置数据源,只需要修改URL即可,其他可以根据自己的需要

因为我的loki是没有做认证的,所以这里不需要认证配置,直接填写loki的地址即可,完成后保存

保存完成后,在Explore中查看日志

这里支持LogQL语法,默认情况下,如果不添加规则,是没有日志展示的,在Log browser中添加query,根据在promtail中定义的label,比如我的promtail的job是nginx,我这里填写{job="nginx"},然后run query

就可以看到nginx的日志

日志界面很清爽,保留了日志原有的样子,通过颜色区分日志级别,这里info是绿色,error是红色,可以很直观的看到日志的类别,也可以通过点击日志级别,只展示该级别的日志

总结:

相对于EFK/ELK,专为日志而生的Loki,结合Grafana生态,对于中小企业,或者说只是作为日志系统而言,我更倾向于选择Loki代替EFK/ELK