Kubernetes上使用Jaeger分布式追蹤基礎(chǔ)設(shè)施詳解
正文
作為分布式系統(tǒng)（或任何系統(tǒng)）的一個組成部分，監(jiān)測基礎(chǔ)設(shè)施的重要性怎么強調(diào)都不過分。監(jiān)控不僅要跟蹤二進制的 "上升 "和 "下降 "模式，還要參與到復(fù)雜的系統(tǒng)行為中。監(jiān)測基礎(chǔ)設(shè)施的設(shè)置可以讓人們深入了解性能、系統(tǒng)健康和長期的行為模式。
這篇文章介紹了監(jiān)控基礎(chǔ)設(shè)施的一個方面--分布式跟蹤。
微服務(wù)架構(gòu)中的可觀察性
Kubernetes已經(jīng)成為微服務(wù)基礎(chǔ)設(shè)施和部署的事實上的協(xié)調(diào)器。這個生態(tài)系統(tǒng)非常豐富，是開源社區(qū)中發(fā)展最快的系統(tǒng)之一。帶有Prometheus、ElasticSearch、Grafana、Envoy/Consul、Jaeger/Zipkin的監(jiān)控基礎(chǔ)設(shè)施構(gòu)成了一個堅實的基礎(chǔ)，以實現(xiàn)整個堆棧的指標、日志、儀表盤、服務(wù)發(fā)現(xiàn)和分布式跟蹤。
分布式追蹤
分布式跟蹤能夠捕獲請求，并建立一個從用戶請求到數(shù)百個服務(wù)之間互動的整個調(diào)用鏈的視圖。它還能對應(yīng)用程序的延遲（每個請求花了多長時間）進行檢測，跟蹤網(wǎng)絡(luò)調(diào)用的生命周期（HTTP、RPC等），并通過獲得瓶頸的可見性來確定性能問題。
下面的章節(jié)將介紹在Kubernetes設(shè)置中使用Jaeger對gRPC服務(wù)進行分布式跟蹤。Jaeger Github Org有專門的Repo，用于Kubernetes中Jaeger的各種部署配置。這些都是很好的例子，我將嘗試分解每個Jaeger組件和它的Kubernetes部署。
Jaeger組件
Jaeger是一個開源的分布式跟蹤系統(tǒng)，實現(xiàn)了OpenTracing規(guī)范。Jaeger包括存儲、可視化和過濾跟蹤的組件。
架構(gòu)圖
Jaeger客戶端
應(yīng)用程序跟蹤儀表從Jaeger客戶端開始。下面的例子使用Jaeger Go庫從環(huán)境變量初始化追 蹤 器配置，并啟用客戶端指標。
package tracer
import (
"io"
"github.com/uber/jaeger-client-go/config"
jprom "github.com/uber/jaeger-lib/metrics/prometheus"
)
func NewTracer() (opentracing.Tracer, io.Closer, error) {
// load config from environment variables
cfg, _ := jaegercfg.FromEnv()
// 博客原來：janrs.com
// create tracer from config
return cfg.NewTracer(
config.Metrics(jprom.New()),
)
}
Go客戶端使通過環(huán)境變量初始化Jaeger配置變得簡單。一些需要設(shè)置的重要環(huán)境變量包括JAEGER_SERVICE_NAME、JAEGER_AGENT_HOST和JAEGER_AGENT_PORT。Jaeger Go客戶端支持的環(huán)境變量的完整列表列在這里。
為了給你的gRPC微服務(wù)添加追蹤功能，我們將使用gRPC中間件來啟用gRPC服務(wù)器和客戶端的追蹤功能。 grpc-ecosystem/go-grpc-middleware有一個很棒的攔截器集合，包括支持OpenTracing提供者的服務(wù)器端和客戶端的攔截器。
grpc_opentracing包暴露了opentracing攔截器，可以用任何opentracing.Tracer實現(xiàn)來初始化。在這里，我們用連鎖的單項和流攔截器初始化了一個gRPC服務(wù)器。啟用它將創(chuàng)建一個根serverSpan，對于每個服務(wù)器端的gRPC請求，追 蹤 器將為服務(wù)中定義的每個RPC調(diào)用附加一個Span。
package grpc_server
import (
"github.com/opentracing/opentracing-go"
"github.com/grpc-ecosystem/go-grpc-middleware/tracing/opentracing"
"github.com/grpc-ecosystem/go-grpc-middleware"
"google.golang.org/grpc"
"github.com/masroorhasan/myapp/tracer"
)
func NewServer() (*grpc.Server, error) {
// initialize tracer
tracer, closer, err := tracer.NewTracer()
defer closer.Close()
if err != nil {
return &grpc.Server{}, err
}
opentracing.SetGlobalTracer(tracer)
// initialize grpc server with chained interceptors # janrs.com
s := grpc.NewServer(
grpc.StreamInterceptor(grpc_middleware.ChainStreamServer(
// add opentracing stream interceptor to chain
grpc_opentracing.StreamServerInterceptor(grpc_opentracing.WithTracer(tracer)),
)),
grpc.UnaryInterceptor(grpc_middleware.ChainUnaryServer(
// add opentracing unary interceptor to chain
grpc_opentracing.UnaryServerInterceptor(grpc_opentracing.WithTracer(tracer)),
)),
)
return s, nil
}
為了實現(xiàn)對gRPC服務(wù)的上游和下游請求的追蹤，gRPC客戶端也必須用客戶端開放追蹤攔截器進行初始化，如下例所示。
package grpc_client
import (
"github.com/opentracing/opentracing-go"
"github.com/grpc-ecosystem/go-grpc-middleware/tracing/opentracing"
"github.com/grpc-ecosystem/go-grpc-middleware"
"google.golang.org/grpc"
"github.com/masroorhasan/myapp/tracer"
)
func NewClientConn(address string) (*grpc.ClientConn, error) {
// initialize tracer #博文來源：janrs.com
tracer, closer, err := tracer.NewTracer()
defer closer.Close()
if err != nil {
return &grpc.ClientConn{}, err
}
// initialize client with tracing interceptor [#博文來源：janrs.com#] using grpc client side chaining
return grpc.Dial(
address,
grpc.WithStreamInterceptor(grpc_middleware.ChainStreamClient(
grpc_opentracing.StreamClientInterceptor(grpc_opentracing.WithTracer(tracer)),
)),
grpc.WithUnaryInterceptor(grpc_middleware.ChainUnaryClient(
grpc_opentracing.UnaryClientInterceptor(grpc_opentracing.WithTracer(tracer)),
)),
)
}
由gRPC中間件創(chuàng)建的父跨度被注入到go上下文中，從而實現(xiàn)強大的跟蹤支持。opentracing go客戶端可以用來將子跨度附加到父跨度上，以實現(xiàn)更精細的追蹤，以及控制每個跨度的壽命，為追蹤添加自定義標簽等。
Jaeger代理
Jaeger代理是一個守護進程，它通過UDP接收來自Jaeger客戶端的跨度，并將它們分批轉(zhuǎn)發(fā)給收集器。該代理作為一個緩沖器，從客戶那里抽象出批處理和路由。
盡管代理是作為一個守護程序建立的，但在Kubernetes設(shè)置中，代理可以被配置為在應(yīng)用Pod中作為一個sidecar容器運行，或作為一個獨立的DaemonSet。
下文討論了每種部署策略的優(yōu)點和缺點。
Jaeger SideCar 代理
Jaeger Sidecar 代理是一個容器，與你的應(yīng)用容器放在同一個艙中。表示為Jaeger服務(wù)的應(yīng)用程序myapp將通過localhost向代理發(fā)送Jaeger跨度到6381端口。[#博文來源：janrs.com#]如前所述，這些配置是通過客戶端的環(huán)境變量JAEGER_SERVICE_NAME、JAEGER_AGENT_HOST和JAEGER_AGENT_PORT設(shè)置的。
apiVersion: apps/v1
kind: Deployment
metadata:
name: myapp-deployment
namespace: default
labels:
app: myapp
spec:
replicas: 3
selector:
matchLabels:
app: myapp
template:
metadata:
labels:
app: myapp
spec:
containers:
- name: myapp
image: masroorhasan/myapp
ports:
- containerPort: 80
env:
- name: JAEGER_SERVICE_NAME
value: myapp
- name: JAEGER_AGENT_HOST
value: localhost # default
- name: JAEGER_AGENT_PORT
value: "6831"
resources:
limits:
memory: 500M
cpu: 250m
requests:
memory: 500M
cpu: 250m
# sidecar agent
- name: jaeger-agent
image: jaegertracing/jaeger-agent:1.6.0
ports:
- containerPort: 5775
protocol: UDP
- containerPort: 5778
protocol: TCP
- containerPort: 6831
protocol: UDP
- containerPort: 6832
protocol: UDP
command:
- "/go/bin/agent-linux"
- "--collector.host-port=jaeger-collector.monitoring:14267"
resources:
limits:
memory: 50M
cpu: 100m
requests:
memory: 50M
cpu: 100m
通過這種方法，每個代理（也就是每個應(yīng)用）都可以被配置為向不同的收集器（也就是不同的后端存儲）發(fā)送痕跡。
然而，這種方法最大的缺點之一是將代理的生命周期和應(yīng)用程序緊密結(jié)合在一起。追蹤的目的是在應(yīng)用程序的生命周期內(nèi)提供對其的洞察力。更有可能的是，代理側(cè)車容器在主應(yīng)用容器之前被殺死，在應(yīng)用服務(wù)關(guān)閉期間，任何/所有重要的追蹤都會丟失。這些痕跡的丟失對于理解復(fù)雜服務(wù)交互的應(yīng)用生命周期行為可能是非常重要的。這個GitHub問題驗證了在關(guān)機期間正確處理SIGTERM的必要性。
Jaeger Daemonset 代理
另一種方法是通過Kubernetes中的DaemonSet工作負載，將代理作為集群中每個節(jié)點的守護程序運行。DaemonSet工作負載可以確保當節(jié)點被擴展時，DaemonSet Pod的副本也隨之擴展。
在這種情況下，每個代理守護程序負責(zé)從其節(jié)點中安排的所有運行中的應(yīng)用程序（配置了Jaeger客戶端）中獲取追蹤信息。這是通過在客戶端設(shè)置JAEGER_AGENT_HOST指向節(jié)點中代理的IP來配置的。代理DaemonSet被配置為hostNetwork: true和適當?shù)腄NS策略，以便Pod使用與主機相同的IP。由于代理的6831端口是通過UDP接受jaeger.thrift消息的，所以守護的Pod配置端口也與hostPort: 6831綁定。
# Auth : janrs.com
apiVersion: apps/v1
kind: Deployment
metadata:
name: myapp-deployment
namespace: default
labels:
app: myapp
spec:
replicas: 3
selector:
matchLabels:
app: myapp
template:
metadata:
labels:
app: myapp
spec:
containers:
- name: myapp
image: masroorhasan/myapp
ports:
- containerPort: 80
env:
- name: JAEGER_SERVICE_NAME
value: myapp
- name: JAEGER_AGENT_HOST # NOTE: Point to the Agent daemon on the Node
valueFrom:
fieldRef:
fieldPath: status.hostIP
- name: JAEGER_AGENT_PORT
value: "6831"
resources:
limits:
memory: 500M
cpu: 250m
requests:
memory: 500M
cpu: 250m
---
apiVersion: extensions/v1beta1
kind: DaemonSet
metadata:
name: jaeger-agent
namespace: monitoring
labels:
app: jaeger
jaeger-infra: agent-daemonset
spec:
template:
metadata:
labels:
app: jaeger
jaeger-infra: agent-instance
spec:
hostNetwork: true # NOTE: Agent is configured to have same IP as the host/node
dnsPolicy: ClusterFirstWithHostNet
containers:
- name: agent-instance
image: jaegertracing/jaeger-agent:1.6.0
command:
- "/go/bin/agent-linux"
- "--collector.host-port=jaeger-collector.monitoring:14267"
- "--processor.jaeger-binary.server-queue-size=2000"
- "--discovery.conn-check-timeout=500ms"
ports:
- containerPort: 5775
protocol: UDP
- containerPort: 6831
protocol: UDP
hostPort: 6831
- containerPort: 6832
protocol: UDP
- containerPort: 5778
protocol: TCP
resources:
requests:
memory: 200M
cpu: 200m
limits:
memory: 200M
cpu: 200m
人們可能會被誘 惑（就像我一樣），用Kubernetes服務(wù)來引導(dǎo)DaemonSet。這背后的想法是，不要把應(yīng)用程序的痕跡綁定到當前節(jié)點的單一代理上。使用服務(wù)可以將工作負載（跨度）分散到集群中的所有代理。這在理論上減少了在受影響節(jié)點的單個代理莢發(fā)生故障的情況下，應(yīng)用實例丟失跨度的機會。
然而，當你的應(yīng)用程序擴展時，這將不起作用，高負載會在需要處理的痕跡數(shù)量上產(chǎn)生巨大的峰值。使用Kubernetes服務(wù)意味著通過網(wǎng)絡(luò)從客戶端向代理發(fā)送追蹤信息。很快，我就開始注意到大量的掉線現(xiàn)象?？蛻舳送ㄟ^UDP thrift協(xié)議向代理發(fā)送跨度，大量的峰值導(dǎo)致超過UDP最大數(shù)據(jù)包大小，從而導(dǎo)致丟包。
解決辦法是適當?shù)胤峙滟Y源，使Kubernetes在整個集群中更均勻地調(diào)度pod。[#博文來源：janrs.com#]我們可以增加客戶端的隊列大?。ㄔO(shè)置JAEGER_REPORTER_MAX_QUEUE_SIZE環(huán)境變量），以便在代理失效時有足夠的緩沖空間。增加代理的內(nèi)部隊列大小也是有益的（設(shè)置處理器.jaeger-binary.server-queue-size值），這樣他們就不太可能開始丟棄跨度。
Jaeger Collector 服務(wù)
Jaeger收集器負責(zé)從Jaeger代理那里接收成批的跨度，通過處理管道運行它們，并將它們存儲在指定的存儲后端?？缍纫詊aeger.thrift格式從Jaeger代理處通過TChannel（TCP）協(xié)議發(fā)送，端口為14267。
Jaeger收集器是無狀態(tài)的，可以根據(jù)需要擴展到任何數(shù)量的實例。因此，收集器可以由Kubernetes內(nèi)部服務(wù)（ClusterIP）前置，可以從代理到不同收集器實例的內(nèi)部流量進行負載平衡。
apiVersion: extensions/v1beta1
kind: Deployment
metadata:
name: jaeger-collector
namespace: monitoring
labels:
app: jaeger
jaeger-infra: collector-deployment
spec:
replicas: 1
strategy:
type: Recreate
template:
metadata:
labels:
app: jaeger
jaeger-infra: collector-pod
spec:
containers:
- image: jaegertracing/jaeger-collector:1.6.0
name: jaeger-collector
args: ["--config-file=/conf/collector.yaml"]
ports:
- containerPort: 14267
protocol: TCP
- containerPort: 14268
protocol: TCP
- containerPort: 9411
protocol: TCP
readinessProbe:
httpGet:
path: "/"
port: 14269
volumeMounts:
- name: jaeger-configuration-volume
mountPath: /conf
env:
- name: SPAN_STORAGE_TYPE
valueFrom:
configMapKeyRef:
name: jaeger-configuration
key: span-storage-type
volumes:
- configMap:
name: jaeger-configuration
items:
- key: collector
path: collector.yaml
name: jaeger-configuration-volume
resources:
requests:
memory: 300M
cpu: 250m
limits:
memory: 300M
cpu: 250m
---
apiVersion: v1
kind: Service
metadata:
name: jaeger-collector
namespace: monitoring
labels:
app: jaeger
jaeger-infra: collector-service
spec:
ports:
- name: jaeger-collector-tchannel
port: 14267
protocol: TCP
targetPort: 14267
selector:
jaeger-infra: collector-pod
type: ClusterIP
view raw
Jaeger Query 查詢服務(wù)
查詢服務(wù)是支持用戶界面的Jaeger服務(wù)器。它負責(zé)從存儲器中檢索痕跡，并將其格式化以顯示在用戶界面上。根據(jù)查詢服務(wù)的使用情況，它的資源占用率非常小。
設(shè)置一個內(nèi)部Jaeger用戶界面的入口，指向后端查詢服務(wù)。
apiVersion: extensions/v1beta1
kind: Deployment
metadata:
name: jaeger-query
namespace: monitoring
labels:
app: jaeger
jaeger-infra: query-deployment
spec:
replicas: 1
strategy:
type: Recreate
template:
metadata:
labels:
app: jaeger
jaeger-infra: query-pod
spec:
containers:
- image: jaegertracing/jaeger-query:1.6.0
name: jaeger-query
args: ["--config-file=/conf/query.yaml"]
ports:
- containerPort: 16686
protocol: TCP
readinessProbe:
httpGet:
path: "/"
port: 16687
volumeMounts:
- name: jaeger-configuration-volume
mountPath: /conf
env:
- name: SPAN_STORAGE_TYPE
valueFrom:
configMapKeyRef:
name: jaeger-configuration
key: span-storage-type
resources:
requests:
memory: 100M
cpu: 100m
limits:
memory: 100M
cpu: 100m
volumes:
- configMap:
name: jaeger-configuration
items:
- key: query
path: query.yaml
name: jaeger-configuration-volume
---
apiVersion: v1
kind: Service
metadata:
name: jaeger-query
namespace: monitoring
labels:
app: jaeger
jaeger-infra: query-service
spec:
ports:
- name: jaeger-query
port: 16686
targetPort: 16686
selector:
jaeger-infra: query-pod
type: ClusterIP
---
apiVersion: extensions/v1beta1
kind: Ingress
metadata:
name: jaeger-ui
namespace: monitoring
annotations:
kubernetes.io/ingress.class: traefik # or nginx or whatever ingress controller
spec:
rules:
- host: jaeger.internal-host # your jaeger internal endpoint
http:
paths:
- backend:
serviceName: jaeger-query
servicePort: 16686
Storage Configuration 存儲配置
Jaeger同時支持ElasticSearch和Cassandra作為存儲后端。使用ElasticSearch作為存儲，可以擁有一個強大的監(jiān)控基礎(chǔ)設(shè)施，將跟蹤和日志記錄聯(lián)系在一起。采集器處理管道的一部分是為其存儲后端索引跟蹤--這將使跟蹤顯示在你的日志UI（例如Kibana）中，也將跟蹤ID與你的結(jié)構(gòu)化日志標簽綁定。你可以通過SPAN_STORAGE_TYPE的環(huán)境變量將存儲類型設(shè)置為ElasticSearch，并通過配置配置存儲端點。
Kubernetes ConfigMap用于設(shè)置一些Jaeger組件的存儲配置。例如，Jaeger收集器和查詢服務(wù)的存儲后端類型和端點。
apiVersion: v1
kind: ConfigMap
metadata:
name: jaeger-configuration
namespace: monitoring
labels:
app: jaeger
jaeger-infra: configuration
data:
span-storage-type: elasticsearch
collector: |
es:
server-urls: http://elasticsearch:9200
collector:
zipkin:
http-port: 9411
query: |
es:
server-urls: http://elasticsearch:9200
監(jiān)控
如前所述，追蹤是監(jiān)控基礎(chǔ)設(shè)施的一個重要組成部分。這意味著，甚至你的追蹤基礎(chǔ)設(shè)施的組件也需要被監(jiān)控。
Jaeger在每個組件的特定端口上以Prometheus格式暴露指標。如果有正在運行的Prometheus節(jié)點導(dǎo)出器（它絕對應(yīng)該是）在特定的端口上刮取指標 - 然后將你的Jaeger組件的指標端口映射到節(jié)點導(dǎo)出器正在刮取指標的端口。
這可以通過更新Jaeger服務(wù)（代理、收集器、查詢）來完成，將它們的指標端口（5778、14628或16686）映射到節(jié)點出口商期望搜刮指標的端口（例如8888/8080）。
一些需要跟蹤的重要指標。
Health of each component — memory usage: sum(rate(container_memory_usage_bytes{container_name=~”^jaeger-.+”}[1m])) by (pod_name)
Health of each component — CPU usage: sum(rate(container_cpu_usage_seconds_total{container_name=~"^jaeger-.+"}[1m])) by (pod_name)
Batch failures by Jaeger Agent: sum(rate(jaeger_agent_tc_reporter_jaeger_batches_failures[1m])) by (pod)
Spans dropped by Collector: sum(rate(jaeger_collector_spans_dropped[1m])) by (pod)
Queue latency (p95) of Collector: histogram_quantile(0.95, sum(rate(jaeger_collector_in_queue_latency_bucket[1m])) by (le, pod))
這些指標為了解每個組件的性能提供了重要的見解，歷史數(shù)據(jù)應(yīng)被用來進行最佳設(shè)置。
以上就是Kubernetes上使用Jaeger分布式追蹤基礎(chǔ)設(shè)施詳解的詳細內(nèi)容，更多關(guān)于Kubernetes Jaeger分布式追蹤的資料請關(guān)注腳本之家其它相關(guān)文章！
相關(guān)文章
golang 實現(xiàn)兩個結(jié)構(gòu)體復(fù)制字段
這篇文章主要介紹了golang 實現(xiàn)兩個結(jié)構(gòu)體復(fù)制字段，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2021-04-04
Go-客戶信息關(guān)系系統(tǒng)的實現(xiàn)
這篇文章主要介紹了Go-客戶信息關(guān)系系統(tǒng)的實現(xiàn)，本文章內(nèi)容詳細，具有很好的參考價值，希望對大家有所幫助，需要的朋友可以參考下2023-01-01
Go語言規(guī)范context?類型的key用法示例解析
這篇文章主要為大家介紹了Go語言規(guī)范context?類型的key用法示例解析，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進步，早日升職加薪2023-08-08
這篇文章主要為大家介紹了Go語言字符串拼接方式與性能比較示例分析,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進步,早日升職加薪2023-12-12
這篇文章主要為大家介紹了Go語言題解LeetCode455分發(fā)餅干示例詳解，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進步，早日升職加薪2022-12-12
在 Go 語言中,內(nèi)存對齊是一個經(jīng)常被忽略但非常重要的概念,本文將通過一個簡單的例子來探討 Go 語言中的內(nèi)存對齊機制,感興趣的可以了解下2024-11-11
這篇文章主要介紹了golang 切片的三種使用方式及區(qū)別的說明，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2021-04-04
這篇文章主要介紹了goland 設(shè)置注釋模板的過程，本文通過圖文并茂的形式給大家介紹的非常詳細，對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值，需要的朋友參考下吧2020-12-12
在 Go 語言中也經(jīng)常會遇到操作文件的需求,下面這篇文章主要給大家介紹了關(guān)于Go讀取文件與寫入文件的三種方法操作,文中通過代碼介紹的非常詳細,需要的朋友可以參考下2022-09-09
這篇文章主要介紹了Go語言Echo服務(wù)器的方法,實例分析了Echo服務(wù)器的技巧,具有一定參考借鑒價值,需要的朋友可以參考下2015-02-02