Kubernetes Metrics API（Metrics Server）

監控資源指標管道 Metrics API（Metrics Server）

• 資源指標管道：
  從 Kubernetes 1.8開始，資源使用指標，例如容器 CPU 和內存使用率，可通過 Metrics API 在 Kubernetes 中獲得。這些指標可以直接被用戶訪問，比如使用kubectl top命令行，或者這些指標由集群中的控制器使用，例如，Horizontal Pod Autoscaler，使用這些指標來做決策；
• Metrics API：
  通過 Metrics API，您可以獲得指定節點或 pod 當前使用的資源量。此 API 不存儲指標值，因此想要獲取某個指定節點10分鐘前的資源使用量是不可能的；
• Metrics API 倉庫：
  API源碼GitHub倉庫地址：
• Metrics Server：
  Metrics Server是一種API Server。其提供了核心的Metrics API，通過在主 API server 中注冊的 Metrics Server Kubernetes 聚合器來采集指標信息，就像k8s組件kube-apiserver提供了很多API群組一樣，但它不是k8s組成部分，而是運行在k8s之上的單個Pod；
  為了讓用戶無縫的使用Metrics Server當中的API，還需要把這類自定義的API通過聚合器聚合到核心API組里，然后可以把此API當作是核心API的一部分并且通過kubectl api-versions可直接查看；
  Metrics Server 收集指標數據的方式是從各節點上kubelet提供的Summary API 即10250端口收集數據，收集Node和Pod核心資源指標數據，主要是內存和cpu方面的使用情況，并將收集的信息存儲在內存中；
• 您需要部署它，否則在集群中將不可用
  Metrics API 需要在集群中部署 Metrics Server。否則它將不可用；

在Kubernetes集群中部署 Metrics API（Metrics Server）

• k8s新一代架構
  核心指標流水線：kubelet、metrics-server、api-server提供的api組成，統計cpu累計使用率、內存實時使用率、Pod資源占用率及容器的磁盤占用率；
  監控流水線：用于從系統收集各種指標數據并提供終端用戶、存儲系統及HPA，它們包含核心指標及許多非核心指標。非核心指標本身不能被k8s所解析；
• 部署手冊參考
  我部署metrics-server參考的官方站點
• 從官方站點下載部署metrics server所需的yaml文件
  使用for循環下載

[root@node1 metrics]# ll
total 24
-rw-r--r-- 1 root root  398 Feb 28 03:30 auth-delegator.yaml
-rw-r--r-- 1 root root  419 Feb 28 03:30 auth-reader.yaml
-rw-r--r-- 1 root root  388 Feb 28 03:30 metrics-apiservice.yaml
-rw-r--r-- 1 root root 3252 Feb 28 03:30 metrics-server-deployment.yaml
-rw-r--r-- 1 root root  336 Feb 28 03:30 metrics-server-service.yaml
-rw-r--r-- 1 root root  795 Feb 28 03:30 resource-reader.yaml
[root@node1 metrics]# 

• 修改metrics-server-deployment.yaml文件
  修改容器當中的自定義變量資源限制，不然無法running；

command: //此處修改
    - /metrics-server
    - --metric-resolution=30s
    # These are needed for GKE, which doesn't support secure communication yet.
    # Remove these lines for non-GKE clusters, and when GKE supports token-based auth.
    - --kubelet-port=10250
    #- --deprecated-kubelet-completely-insecure=true
    - --kubelet-preferred-address-types=InternalIP,Hostname,InternalDNS,ExternalDNS,ExternalIP
command: //此處修改
    - /pod_nanny
    - --config-dir=/etc/config
    - --cpu=5m
    - --extra-cpu=0.5m
    - --memory=80Mi
    - --extra-memory=8Mi
    - --threshold=5
    - --deployment=metrics-server-v0.3.6
    - --container=metrics-server
    - --poll-period=300000
    - --estimator=exponential
    # Specifies the smallest cluster (defined in number of nodes)
    # resources will be scaled to.
    #- --minClusterSize={{ metrics_server_min_cluster_size }}

• 修改resource-reader.yaml文件
  添加nodes/stats

rules:
- apiGroups:
  - ""
  resources:
  - pods
  - nodes
  - namespaces
  - nodes/stats

• 提前下載鏡像文件，在各個node節點上
  參考腳本

[root@node2 ~]# cat pull-metrics.sh 
#!/bin/bash
#
docker pull registry.cn-hangzhou.aliyuncs.com/google_containers/metrics-server-amd64:v0.3.6
docker pull registry.cn-hangzhou.aliyuncs.com/google_containers/addon-resizer:1.8.7

docker tag registry.cn-hangzhou.aliyuncs.com/google_containers/metrics-server-amd64:v0.3.6 k8s.gcr.io/metrics-server-amd64:v0.3.6
docker tag registry.cn-hangzhou.aliyuncs.com/google_containers/addon-resizer:1.8.7 k8s.gcr.io/addon-resizer:1.8.7

docker rmi registry.cn-hangzhou.aliyuncs.com/google_containers/metrics-server-amd64:v0.3.6
docker rmi registry.cn-hangzhou.aliyuncs.com/google_containers/addon-resizer:1.8.7
[root@node2 ~]# 

• Metrics Server 應用構建
  不可重復構建

[root@node1 metrics]# kubectl apply -f ./
clusterrolebinding.rbac.authorization.k8s.io/metrics-server:system:auth-delegator created
rolebinding.rbac.authorization.k8s.io/metrics-server-auth-reader created
apiservice.apiregistration.k8s.io/v1beta1.metrics.k8s.io created
serviceaccount/metrics-server created
configmap/metrics-server-config created
deployment.apps/metrics-server-v0.3.6 created
service/metrics-server created
clusterrole.rbac.authorization.k8s.io/system:metrics-server created
clusterrolebinding.rbac.authorization.k8s.io/system:metrics-server created
[root@node1 metrics]# 
[root@node1 ~]# kubectl get pods -n kube-system
NAME                                                         READY   STATUS    RESTARTS   AGE
metrics-server-v0.3.6-cf56dfd4-mj7p2        2/2        Running           0            22s

• 測試等待結果
  有的時候需等待一會，才能刷出數據來

[root@node1 ~]# kubectl top nodes
NAME    CPU(cores)   CPU%   MEMORY(bytes)   MEMORY%   
node1   137m         6%     1043Mi          69%       
node2   21m          2%     333Mi           20%       
node3   23m          2%     343Mi           28% 

• 通過接口訪問節點資源信息路徑

查看node資源指標

[root@node1 metrics]# kubectl get --raw "/apis/metrics.k8s.io/v1beta1/nodes" | jq  | less

查看pods資源指標

[root@node1 metrics]# kubectl get --raw "/apis/metrics.k8s.io/v1beta1/pods" | jq  | less

其它方式在Kubernetes 上部署Metrics Server的方法

此方法要比以上部署要容易許多，可參考之

github kubernetes-sigs