Powered By Hexo&Shoka

Loki安装与采集流程

2024-09-04T03:34:38.798Z

# Helm 安装 Loki 以及使用 Promtail 进行日志采集（弹性集群）

安装环境：阿里云 ACK 集群 k8s 版本 1.28 Worker 节点 3 推荐单节点 4C16G 以上

# helm 更新

首先更新 Helm 源

	helm repo add grafana https://grafana.github.io/helm-charts

	helm repo update

# helm 安装配置 s3（使用阿里云 OSS）

阿里云 OSS 兼容 S3 的配置需要提前创建三个 Loki 需要使用的 Bucket
分别名称为 xxx-chunks xxx-ruler xxx-admin

	loki:
	commonConfig:
	replication_factor: 1
	schemaConfig:
	configs:
	- from: "2024-01-01"
	store: tsdb
	index:
	prefix: loki_index_
	period: 24h *#这里设置 oss 内日志保留的日期 24h 30d
	object_store: s3
	schema: v13
	storage:
	type: s3
	bucketNames:
	chunks: xxx-loki-chunks
	ruler: xxx-loki-ruler
	admin: xxx-loki-admin
	s3:
	endpoint: oss-cn-beijing-internal.aliyuncs.com #阿里云的 endpoint 地址这里用的内网因为在 VPC 内部署的 K8s 网络
	region: cn-beijing #region 不设置也可以
	secretAccessKey: sxxxxxxxxxxxx #SecretKey
	accessKeyId: LTAxxxxxxxxxxxxxxxx #KeyId
	s3ForcePathStyle: false
	insecure: false
	deploymentMode: SimpleScalable #部署模式选简单可伸缩
	backend: #后端部署
	replicas: 3 #副本数量
	persistence: #这块是自定义挂载卷后面会解释为何这么配置
	storageClass: alibabacloud-cnfs-nas
	size: 5Gi
	read: #只读 Pod
	replicas: 3
	write: #写 Pod 这是个有状态副本
	replicas: 3
	persistence:
	storageClass: alibabacloud-cnfs-nas #这块是自定义挂载卷后面会解释为何这么配置
	size: 5Gi
	singleBinary:
	replicas: 0
	minio: #关闭 minio 存储这是一个本地类似 S3 结构的文件存储库不推荐线上使用
	enabled: false
	ingester:
	replicas: 0
	querier:
	replicas: 0
	queryFrontend:
	replicas: 0
	queryScheduler:
	replicas: 0
	distributor:
	replicas: 0
	compactor:
	replicas: 0
	indexGateway:
	replicas: 0
	bloomCompactor:
	replicas: 0
	bloomGateway:
	replicas: 0

首先到文档列表中获取 Object Storage Configuration
链接贴上 helm 安装弹性集群

一些详细的配置修改可以参考这个链接 helm 安装 chart—values 设置

修改完之后将文件存储为 values.yaml 但现在不能直接应用需要考虑以下两个问题

# 1. 阿里云设置卷对应的默认存储

由于无状态的 backend 及有状态的 write 需要提供卷存储

backend 需要提供 BoltDB Shipper 的磁盘空间本地缓存数据并定期上传至 S3 中

write 则需要将 log 数据暂存在磁盘中写入数据库后清除缓存

由于以上问题我们需要检查阿里云 ACK 中是否存在未使用的存储类如有直接修改 value.yml 反之请创建存储类大小建议在 20GB 以上修改 value.yml 指定刚创建的的存储类名称

# 2. 阿里云拉取镜像问题

自 Docker 关闭中国境内的镜像源之后大部分镜像都需要挂代理获取

现在的方案为 docker.io 内的镜像直接使用 DaoCloud 的镜像仓库非 docker.io 的镜像将使用代理服务器或海外服务器拉取镜像并上传至私人 Docker Registy 仓库

我的方案代理服务器拉取的镜像 push 到将是阿里云的镜像仓库产品个人版将 value.yml 对应的例如（loki.image.registry loki.image.repository）镜像修改成阿里云镜像仓库的地址

当然可以尝试下更换 Helm Charts 仓库

# 3. 配置免密组件 SA 豁免

关于阿里云镜像问题还需要注意一个很重要的点第三方 helm 安装的应用如果使用自己账号内镜像仓库的镜像如果之前配置了免密插件拉取镜像需要设置对应 SA 或者为豁免所有 SA 的使用组件的权限

这个组件安装的位置在 kube-system 下相关配置查看配置文件名称

将 yaml 中 watch-namespace 修改成 all 并重启 acr 免密组件

	data:
	acr-api-version: '2018-12-01'
	acr-registry-info: \|
	- instanceId: ""
	expiring-threshold: 15m
	service-account: '*'
	watch-namespace: all

# 4. 关闭验证与 X-Scope-OrgID

Grafana Loki 是一个多租户系统，不同租户之间的数据隔离，通过 X-Scope-OrgID 标识请求的租户。

Loki 默认以多租户模式运行 auth_enabled: true。promtail 和 Grafana 均需要验证才能访问

Grafana 租户查询隔离时，可以在 Grafana 设置 DataSource 中根据 HTTP 标头中的 X-Scope-OrgID 区分查询。

如果设置 auth_enabled: false Loki 将不进行验证租户 ID 将设为 fake

# 安装 Promtail Damonset

设置 grafana helm 仓库

helm repo add grafana https://grafana.github.io/helm-charts
helm repo update

设置 Loki 后端地址

	config:
	clients:
	- url: http://loki-gateway/loki/api/v1/push
	tenant_id: 1

安装 protail daemonset

helm upgrade --values values.yaml --install promtail grafana/promtail

设置 Loki 限流
使用默认的 limits_config 的配置在 Loki 后端中会出现以下的的错误

promptail-http-status-429-too-many-requests
msg="error sending batch, will retry" status=429 error="server returned HTTP status 429 Too Many Requests (429): Maximum active stream limit exceeded, reduce the number of active streams

根据限流配置调整以下配置

	limits_config:
	#摄取器速率
	ingestion_rate_mb: 200
	#摄取器极限速率
	ingestion_burst_size_mb: 400
	流
	per_stream_rate_limit: 512MB

	per_stream_rate_limit_burst: 1024MB
	max_entries_limit_per_query: 25000
	max_query_parallelism: 1024

# 安装 Grafana

没什么好说的 helm 直接安装

helm install grafana grafana/grafana --namespace monitoring

用以下指令获取 grafana 密码

kubectl get secret --namespace monitoring my-grafana -o jsonpath="{.data.admin-password}" | base64 --decode ; echo

之后配置好 Loki 数据源就可以使用 Loki 查询日志了

# 架构解释

# Loki 弹性架构

Loki 弹性架构由一个复杂的读、写、存、缓存分离架构组成

# 1. 节点中的 Promtail 以 DaemonSet 的形式分布在各个节点用于收集日志将日志 Push 到 Loki 中

Promtail 会使用 fsnotify 监听指定目录下的日志文件的创建和删除

对活跃的日志文件会起一个 goroutine 进行类似 tail -f 的读取，读取到的内容发送给 channel

会有一个单独的 goroutine 读取 channel 中的日志行分批处理并进行标签处理后发送给 Loki

# 2.Loki 内的写流程

在弹性模式内 gateway 接收到 promtail push 的日志内容之后会由负载均衡到 write 的多副本中任一副本

write 副本中具有 Distributor 功能根据日志中的 TenantID、Labels 计算 Hash 根据 Hash 值分发到不同的 Ingester 上其次功能还包括验证数据格式标签预处理以及速率限制等功能

write 副本中的 Ingester 会构建及刷新 Chunk 块所有的 Chunk 块会在本地磁盘缓存（TSDB 的形式）只有达到容量上限后 Chunk 块设为只读并发送至 S3 存储端进行存储并清除指定的 Chuck 信息

# 3.Index tsdb 缓存、Memcached 缓存与 Rulers

backend 副本会定期到 S3 中下载文件并进行合并、压缩上传新的 index 到 S3 上并在本地保存 TSDB cache

索引网关服务负责处理和提供元数据查询。主要用于 query frontend 查询 Index-Gateway 中的 chunk 引用其中一部分主要用于指标查询

memcached 缓存两部分数据一种为 result-cache（查询结果的缓存）和 chunk-cache（由 Ingester 存储后的完整 chunk 缓存）并在内部维护淘汰策略

backend 副本中的 Rulers 提供类似 promthus 的 AlertManager 的报警策略另一方面 ruler 会根据评估标准配置对 query frontend 进行评估

# 4.Loki 内的查询流程

Loki 的查询一般是 Grafana 前端发出 LogQL 后经由 Gateway 指向 read 副本

其中 read 副本的 Querier 会解析 LogQL 并从 IndexGateway 中获取索引信息

优先查询 memcached 的 cache 无法查询到后将指向 S3 中的对应分片进行查询查询出的结果将会同步结果到 result-cache 以便提高下次查询的速度

# 关于 Loki-Canary

Loki-canary 是一个相对独立的组件、主要用于 Loki 集群性能的评估
Loki-canary 作为 DamonSet 分布在各个节点上会定期生成日志行这些日志行会被 Promtail 采集并按照正常流程被 Loki 处理

Loki-canary 生成的 log 行一般由时间戳及填充字符串构成，之后 Loki Canary 将打开与 Loki 的 WebSocket 连接，并跟踪它创建的日志。当在 WebSocket 上收到日志时，日志消息中的时间戳将与内部数组进行比较，用以评估 Loki 的性能指标。

Loki-canary 会定期进行抽查确保曾经上报的日志信息并没有丢失

除此之外 Loki-canary 进行指标查询 count_over_time 验证 Loki 的日志速率是否与其创建的日志速率是否相对应

Pytorch多卡训练

2024-09-04T02:44:41.953Z

首先查询是否支持 CUDA 训练进行指定设备

device = torch.device("cuda" if torch.cuda.is_available() else "cpu")

使用 GPU 训练时需要增加以下代码

	import torch
	import torch.nn as nn

	# 如果你有多个 GPU，可以使用 torch.nn.DataParallel 来并行训练

	if torch.cuda.device_count() > 1:

	print(f"Let's use {torch.cuda.device_count()} GPUs!")

	model = nn.DataParallel(model)

设置完成后启动训练时会显示

显卡占用低的或者训练时间较慢时的调试

1. 显存占用低时需要增加 batch_size

2. 显卡核心占用低时需要按照实际情况调节 DataLoader 方法内的 nums_worker

2023K+峰会上海简单记录

2023-06-15T07:20:38.846Z

# LLM 大模型对软件行业影响

类似 CopilotX GitHub Next 等代码辅助或 ChatGpt 等 LLM 大模型相关产品现在主要左右还是知识平权减少普通人获取知识成本部分代码生成及辅助功能会小范围冲击基层程序员就业

但对于软件工程全流程的需求沟通需求确认妥协代码架构设计及基础设施设计等短期内别无法代替业务专家职位永远无法替代 AI 减少了软件工程最后一英里的工作量

暗知识：LLM 始终是理解人写出来的代码而想的永远比说出来的多说出来比写出来的多而理解也会比写出来的会打折扣

# B 站混部 HPA VPA 等相关落地

混部：即线上用户业务与离线业务 Job 共同部署在一个物理节点运行充分利用 CPU Memory 资源降本增效使用 kubelet 去拉取 pod agent 上报的实时指标并反馈给指标 Controller 做分析对比结合 kube-schedule 做相关副本数量调整

主要实现方式：对于内部指标做预估在线上业务低峰期时在线上集群运行部分离线计算 Job （CPU 视频转码及大数据处理）提高资源使用率并且不影响线上 SLO 稳定分优先级对业务混部做干预用 cgroup 做 Pod 业务隔离防止干扰重要线上业务

GPU 混部：CUDA API 做 GPU 资源预测将线上训练任务和 NVIDIA CUVID FFMPEG 编解码加速任务做混部训练任务预留 1-2GB 显存资源为编解码任务预留资源

HPA ：主要是会对部分实时指标做分析如上游服务的 CPU QPS 等然后做动态扩缩容

CronHPA：对阿里的 CronHPA 做了改进对于历史指标做分析而不是单独的去按照日常规则直接扩缩容防止部分不定时的业务高峰或闲时资源浪费

VPA：自己根据实时指标实现了动态资源 request 调整显著提高了资源利用率

# B 站 API Gateway 实现

1）路由：不使用前缀匹配方式指定到接口级别效率高在一定程度上从指标阶段能减少外界扫描干扰但存在问题需要自行开发控制台 panel 隔离部门及业务避免路由过多难以配置的问题

2）负载均衡：使用 P2C 方式依赖简单的单独的一个指标实现效率及可用性远大与 RR 及 WRR 方案

3）服务降级熔断：根据指标进行降级减少影响面服务完全不可用部分请求用会启用兜底的历史请求避免用户完全不可用 Qurota 分布式限流方案即通过有状态的一个容量池下发每一个 pod 接口的限流容量 pod 本身根据自身的限流上线去做限流熔断避免 redis 等分布式方案打爆的问题

4）grpc 管理：protobuf 文件使用统一 git 仓代理保存并使用统一的 protobuild 方式保证文件统一

# 云闪付可观测性

整体比较简单易懂但 ELK（面向运维）和 Loki（轻量效率高面向开发）日志方案做混用各司其职减少 ELK 资源占用概念比较新颖

# Intel ServiceMesh

主要是社区宣传及介绍对于个人理解还可以 eBPF 相关 ServiceMesh 可能在未来会有巨大变革

# 软件质量及敏捷效能提升

1）测试与开发需要注重问题与开发部门挂钩在软件开发阶段及测试阶段由开发人员及测试人员共同推进问题 mapping 图多次积累在不同项目中共同使用提高测试效率及问题沟通效率

适用于当前所有的软件开发及测试以下为实例

问题描述	漏洞等级	涉及部门（多级）	修复及改进方案

2）软件质量部门监督软件开发及测试并推进内部敏捷开发定期开质量效能会议对整体软件交付有良好把控推进包括但不限于以下方案

tools：所有研发部门利用 copilot x 等代码生成工具生成自己代码的覆盖单元测试记录接口测试脚本并集中提交至指定 git 仓库进行统一维护

codereview：在 preview 由专人对 feature 及 bugfix 相关代码进行 codereview

owner 意识：质量左移即自身对软件漏洞做把控不允许完全将软件质量问题交于测试部门兜底对其他部门零信任在软件交付用户前对质量问题阻断

例如云端依赖 Devops 、多环境灰度、自动化、指标报警、相关 SRE 、对于指定问题指定人员解决（专人专办）owner 自身问题推进其他部门将软件交付测试前阻断风险的意识

3）自动化测试介入

在测试阶段，需要多部门联动自动化测试对相关 case 进行自动化覆盖包括但不限于 python 脚本 UI 脚本可以考虑由 AI 工具生成 Monkey 测试方案进行覆盖由一般测试人员录制自动化测试脚本并在多次回归测试利用脚本中提升效能

4）开源软件漏洞跟踪

各个部门对自己代码中使用的开源软件及版本进行记录梳理开源软件由软件质量监督部门跟进 CVE 相关漏洞问题避免出现类似 Log4Shell 相关零日漏洞造成的巨大影响

5）对部门及个人质量效能评分

部门将自己的质量及效能提升落地情况定时反馈拒绝低效研发及测试

利用etcd实现分布式锁

2023-06-14T13:04:40.381Z

# 单机锁及现有方案分布式锁介绍

单机锁: java 常见的有 juc 的 Lock 及 jvm 的 synchronized golang 的 Mutex

分布式锁：通常使用以下三种方案

基于数据库：利用数据库事务实现 for update 乐观锁

优点及缺点：不需要引入新依赖，但性能取决于数据库读写所以不适合高并发分布式锁

基于缓存：redis 分布式锁 etcd 分布式锁

redis：redis 性能极强但单机 redis 不具备 HA 分布式 redis 选举时会出现 master-slave 数据不同步的情况会出现锁失效的情况

etcd：性能较 redis 弱但是远强于 zk 方案适合云原生环境部署并且满足高可用强一致性

基于 Zookeeper 临时节点：zookeeper 分布式锁

zk 方案实现了 CP 保证强一致性不会出现锁失效的情况但是牺牲了可用性不满足 HA 并且 zk 维护较为复杂不适合云原生方案

# 分布式锁实现原理及 etcd 方案

分布式实现主要依赖以下几个牵扯到锁的原理

1. 载体例如 redis 的载体是 kv zookeeper 使用的是临时的文件系统

2. 租期服务进程持有分布式锁之后需要有一个持有时间即超时后自动释放 zk 临时节点可以被删除 redis 使用的是缓存 ttl 机制

3. 锁机制例如可重入机制、公平机制、减少惊群效应（某个 lock 释放后会换新所有 lock 上的线程争抢此 lock）等等

etcd 实现以上三点实现具体是以下方案

载体：etcd 是一个分层的多级 kv（有点像 zk 临时节点的 path）

租期：通过 lease 对 kv 设置租期，租期到期锁失效

自动续期：使用 KeepAlive 实现租约自动续期

公平锁：多个进程同时争抢锁时可以根据 Revision 值大小依次获得锁有效避免了惊群效应

Watch 机制：当 Watch 检测到某个 key 及目录变化后，Client 端可以收到通知

# client 端代码

# Java 实现

引用 jetcd 依赖

	<dependency>
	<groupId>io.etcd</groupId>
	<artifactId>jetcd-core</artifactId>
	<version>0.7.5</version>
	</dependency>

代码主体

	package cn.streamingone.common.distribution.lock;

	import io.etcd.jetcd.ByteSequence;
	import io.etcd.jetcd.Client;
	import io.etcd.jetcd.Lease;
	import io.etcd.jetcd.Lock;
	import io.etcd.jetcd.lease.LeaseKeepAliveResponse;
	import io.etcd.jetcd.lock.LockResponse;
	import io.grpc.stub.StreamObserver;
	import lombok.extern.log4j.Log4j2;
	import org.springframework.beans.factory.annotation.Value;
	import org.springframework.stereotype.Component;

	import java.nio.charset.StandardCharsets;
	import java.util.concurrent.ExecutionException;
	import java.util.concurrent.TimeUnit;

	/**
	* @author JoyseeKing
	* @date 2023/04/07/18:03
	* @description 使用 etcd 实现分布式锁
	*/
	@Component
	@Log4j2
	public class EtcdLock {
	private Client client;
	private Lock lockClient;
	private Lease leaseClient;
	private LockStates lockStates;

	@Value("${etcd.endpoint:http://localhost:2379}")
	private String endpoint;

	public EtcdLock(String lockKey, Long leaseTTL, TimeUnit unit) {
	this.client = Client.builder().endpoints(endpoint).build();
	this.lockClient = client.getLockClient();
	this.leaseClient = client.getLeaseClient();
	this.lockStates = new LockStates(lockKey, unit.toSeconds(leaseTTL));
	}

	public void lock() {
	try {
	// 正常释放锁
	if (this.lockStates.getLockPath() != null) {
	lockClient.unlock(ByteSequence.from(lockStates.getLockPath().getBytes())).get();
	}
	// 如果是主动续约，则关闭续约的定时任务

	// 删除租约
	if (lockStates.getLeaseId() != 0L) {
	leaseClient.revoke(lockStates.getLeaseId());
	}
	} catch (InterruptedException \| ExecutionException e) {
	//todo: 异常处理
	}
	log.info("线程：{} 释放锁", Thread.currentThread().getName());
	}

	// 创建一个租约
	private void createLease() throws ExecutionException, InterruptedException {
	log.debug("[etcd-lock]: start to createLease." + this.lockStates.getLockKey() + Thread.currentThread().getName());
	try {
	long leaseId = leaseClient.grant(this.lockStates.getLeaseTTL()).get().getID();
	lockStates.setLeaseId(leaseId);
	// 自动续约
	StreamObserver<LeaseKeepAliveResponse> observer = new StreamObserver<LeaseKeepAliveResponse>() {
	@Override
	public void onNext(LeaseKeepAliveResponse value) {
	log.info("cluster node lease remaining ttl: {}, lease id: {}", value.getTTL(), value.getID());
	}

	@Override
	public void onError(Throwable t) {
	log.error("cluster node lease keep alive failed. exception info: {}", t);
	}

	@Override
	public void onCompleted() {
	log.info("cluster node lease completed");
	}
	};
	// 设置自动续约
	leaseClient.keepAlive(leaseId, observer);
	} catch (InterruptedException \| ExecutionException e) {
	log.error("[etcd-lock] Create lease failed:" + e);
	lockStates.setErrorMsg("Create lease failed:" + e);
	throw e;
	}
	}

	private void createLock() throws ExecutionException, InterruptedException {
	String lockKey = this.lockStates.getLockKey();
	log.debug("[etcd-lock]: start to createLock." + lockKey + Thread.currentThread().getName());
	try {
	LockResponse lockResponse = lockClient.lock(ByteSequence.from(lockKey.getBytes()), lockStates.getLeaseId()).get();
	if (lockResponse != null) {
	String lockPath = lockResponse.getKey().toString(StandardCharsets.UTF_8);
	this.lockStates.setLockPath(lockPath);
	log.info("线程：{} 加锁成功，锁路径：{}", Thread.currentThread().getName(), lockPath);
	this.lockStates.setLocked(true);
	}
	} catch (InterruptedException \| ExecutionException e) {
	log.error("[etcd-lock] lock failed:" + e);
	lockStates.setErrorMsg("[etcd-lock] lock failed:" + e);
	leaseClient.revoke(this.lockStates.getLeaseId());
	throw e;
	}
	}
	}

	@Data
	class LockStates {
	private String lockKey;
	private String lockPath;
	private String errorMsg;
	private long leaseTTL;
	private long leaseId;
	private boolean isLocked;
	public LockStates(String lockKey, long leaseTTL) {
	this.lockKey = lockKey;
	this.leaseTTL = leaseTTL;
	}
	}

# Go 实现

	package main

	import (
	"context"
	clientv3 "go.etcd.io/etcd/client/v3"
	"go.etcd.io/etcd/client/v3/concurrency"
	"log"
	"time"
	)

	func main() {
	// 初始化客户端
	client, err := clientv3.New(clientv3.Config{Endpoints: []string{"localhost:2379"}, DialTimeout: time.Second * 3})
	if err != nil {
	log.Fatalf("client connect failed :%v\n", err)
	}

	// 创建一个 session 并设置租期 30s (内部会自动续期 Etcd KeepAlive)
	session, err := concurrency.NewSession(client, concurrency.WithTTL(30))
	if err != nil {
	log.Fatalf("session init failes:%v\n", err)
	return
	}

	defer func(session *concurrency.Session) {
	err := session.Close()
	if err != nil {
	log.Fatalf("session close :%v\n", err)
	}
	}(session)

	// 获取指定前缀的锁对象
	mutex := concurrency.NewMutex(session, "biz-lock")

	// 加锁默认等待 3s
	ctx, cancel := context.WithTimeout(context.Background(), time.Second*3)
	defer cancel()
	err = mutex.TryLock(ctx)
	if err != nil {
	log.Fatalf("lock failed :%v\n", err)
	return
	}

	// 执行业务
	for i := 1; i <= 10; i++ {
	time.Sleep(time.Second)
	log.Printf("biz execed %%%d ...", i*10)
	}

	// 释放锁
	err = mutex.Unlock(context.TODO())
	if err != nil {
	log.Fatalf("cluster node lease failed :%v\n", err)
	return
	}
	log.Println("cluster node lease")
	}

Skywalking 基本使用方式

2023-06-14T13:01:52.930Z

# agent 引入

agent 版本需要对应 project 中的依赖 version log4shell 相关漏洞在 8.9.0 以上版本修复的所以推荐选用 8.9.0 或 9.0.0 以上版本

# java 应用开发

使用 java 进行应用开发时可以直接使用以下 pom 引入相关依赖

	<dependency>
	<groupId>org.apache.skywalking</groupId>
	<artifactId>apm-toolkit-log4j-2.x</artifactId>
	<version>${skywalking-version}</version>
	</dependency>

	<dependency>
	<groupId>org.apache.skywalking</groupId>
	<artifactId>apm-toolkit-trace</artifactId>
	<version>${skywalking-version}</version>
	</dependency>

# 日志使用

TraceID 可以绑定日志并且在全文中输出 TraceID

log4j2 配置 xml 以在日志输出中添加 TraceID

	<?xml version="1.0" encoding="UTF-8"?>
	<Configuration status="INFO">
	<Appenders>
	<Console name="STDOUT" target="SYSTEM_OUT">
	<!-- 在 pattern 中增加 [% traceId] 来打印 TraceID -->
	<PatternLayout pattern="%d{HH:mm:ss.SSS} [%t] [%C] [%traceId] %-5level - %m%n"/>
	</Console>

	</Appenders>
	<Loggers>
	<Root level="INFO" includeLocation="false">
	<AppenderRef ref="STDOUT"/>
	</Root>
	</Loggers>
	</Configuration>

全文打印

String traceId = TraceContext.*traceId*();

# 配置文件及插件

# 主配置文件

文件目录 skywalking/config/agent.config 只写几个比较有意义的

	#修改 collector endpoint
	collector.backend_service=${SW_AGENT_COLLECTOR_BACKEND_SERVICES:xxx:9002}
	#修改认证
	agent.authentication=${SW_AGENT_AUTHENTICATION:your_authentication}
	#采样 -1 为全量
	agent.sample_n_per_3_secs=${SW_AGENT_SAMPLE:-1}
	#收集的 grpc 超时时间
	collector.grpc_upstream_timeout=${SW_AGENT_COLLECTOR_GRPC_UPSTREAM_TIMEOUT:30
	#sw 日志的级别会占盘空间所以调成 error
	logging.level=${SW_LOGGING_LEVEL:ERROR}
	#输出方式有 CONSOLE 和 FILE 两种我这里选择的落盘
	logging.output=${SW_LOGGING_OUTPUT:FILE}
	#单日志文件最大大小
	logging.max_file_size=${SW_LOGGING_MAX_FILE_SIZE:314572800}
	#历史文件保存 0 或负数代表一直保存历史文件
	logging.max_history_files=${SW_LOGGING_MAX_HISTORY_FILES:1}

# 忽略无用指标

文件路径 skywalking/config/apm-trace-ignore-plugin.config

// 使用了 nacos apollo 健康检查及 springcloudgateway 等可以照抄 减少不必要的指标上报

trace.ignore_path=${SW_AGENT_TRACE_IGNORE_PATH:/health,GET:/health,/notifications/v2,/eureka/apps/,GET:/actuator/info,GET:/oauth/actuator/info,/nacos/**,/logstores/**,com.xxx.api.gateway.filter.**,/actuator/**,/eureka/**,httpasyncclient/local,HttpAsyncClient/local,/topics/**,org.springframework.cloud.context.properties.**}

# 可选的 agent

注意根据实际的 springcloudgateway 版本号选择 apm-spring-cloud-gateway 插件否则会丢失相关指标上报

	apm-customize-enhance-plugin-8.8.0.jar apm-guava-cache-plugin-8.8.0.jar apm-quartz-scheduler-2.x-plugin-8.8.0.jar apm-spring-cloud-gateway-2.1.x-plugin-8.8.0.jar apm-trace-ignore-plugin-8.8.0.jar
	apm-ehcache-2.x-plugin-8.8.0.jar apm-jackson-2.x-plugin-8.8.0.jar apm-sentinel-1.x-plugin-8.8.0.jar apm-spring-cloud-gateway-3.x-plugin-8.8.0.jar apm-zookeeper-3.4.x-plugin-8.8.0.jar
	apm-fastjson-1.x-plugin-8.8.0.jar apm-kotlin-coroutine-plugin-8.8.0.jar apm-spring-annotation-plugin-8.8.0.jar apm-spring-tx-plugin-8.8.0.jar
	apm-gson-2.x-plugin-8.8.0.jar apm-mybatis-3.x-plugin-8.8.0.jar apm-spring-cloud-gateway-2.0.x-plugin-8.8.0.jar apm-spring-webflux-5.x-plugin-8.8.0.jar

需要关注对应的配置文件上文中的 agent.conf 最下方

	# If true, trace all the parameters in MongoDB access, default is false. Only trace the operation, not include parameters.
	plugin.mongodb.trace_param=${SW_PLUGIN_MONGODB_TRACE_PARAM:false}
	# If set to positive number, the `WriteRequest.params` would be truncated to this length, otherwise it would be completely saved, which may cause performance problem.
	plugin.mongodb.filter_length_limit=${SW_PLUGIN_MONGODB_FILTER_LENGTH_LIMIT:256}
	# If true, trace all the DSL(Domain Specific Language) in ElasticSearch access, default is false.
	plugin.elasticsearch.trace_dsl=${SW_PLUGIN_ELASTICSEARCH_TRACE_DSL:false}
	# If true, the fully qualified method name will be used as the endpoint name instead of the request URL, default is false.
	plugin.springmvc.use_qualified_name_as_endpoint_name=${SW_PLUGIN_SPRINGMVC_USE_QUALIFIED_NAME_AS_ENDPOINT_NAME:false}
	# If true, the fully qualified method name will be used as the operation name instead of the given operation name, default is false.
	plugin.toolit.use_qualified_name_as_operation_name=${SW_PLUGIN_TOOLIT_USE_QUALIFIED_NAME_AS_OPERATION_NAME:false}
	# If set to true, the parameters of the sql (typically `java.sql.PreparedStatement`) would be collected.
	plugin.jdbc.trace_sql_parameters=${SW_JDBC_TRACE_SQL_PARAMETERS:true}
	# If set to positive number, the `db.sql.parameters` would be truncated to this length, otherwise it would be completely saved, which may cause performance problem.
	plugin.jdbc.sql_parameters_max_length=${SW_PLUGIN_JDBC_SQL_PARAMETERS_MAX_LENGTH:512}
	# If set to positive number, the `db.statement` would be truncated to this length, otherwise it would be completely saved, which may cause performance problem.
	plugin.jdbc.sql_body_max_length=${SW_PLUGIN_JDBC_SQL_BODY_MAX_LENGTH:2048}
	# If true, trace all the query parameters(include deleteByIds and deleteByQuery) in Solr query request, default is false.
	plugin.solrj.trace_statement=${SW_PLUGIN_SOLRJ_TRACE_STATEMENT:false}
	# If true, trace all the operation parameters in Solr request, default is false.
	plugin.solrj.trace_ops_params=${SW_PLUGIN_SOLRJ_TRACE_OPS_PARAMS:false}
	# If true, trace all middleware/business handlers that are part of the Light4J handler chain for a request.
	plugin.light4j.trace_handler_chain=${SW_PLUGIN_LIGHT4J_TRACE_HANDLER_CHAIN:false}
	# If true, the transaction definition name will be simplified.
	plugin.springtransaction.simplify_transaction_definition_name=${SW_PLUGIN_SPRINGTRANSACTION_SIMPLIFY_TRANSACTION_DEFINITION_NAME:false}
	# Threading classes (`java.lang.Runnable` and `java.util.concurrent.Callable`) and their subclasses, including anonymous inner classes whose name match any one of the `THREADING_CLASS_PREFIXES` (splitted by `,`) will be instrumented, make sure to only specify as narrow prefixes as what you're expecting to instrument, (`java.` and `javax.` will be ignored due to safety issues)
	plugin.jdkthreading.threading_class_prefixes=${SW_PLUGIN_JDKTHREADING_THREADING_CLASS_PREFIXES:com.imilab.summer}
	# This config item controls that whether the Tomcat plugin should collect the parameters of the request. Also, activate implicitly in the profiled trace.
	plugin.tomcat.collect_http_params=${SW_PLUGIN_TOMCAT_COLLECT_HTTP_PARAMS:false}
	# This config item controls that whether the SpringMVC plugin should collect the parameters of the request, when your Spring application is based on Tomcat, consider only setting either `plugin.tomcat.collect_http_params` or `plugin.springmvc.collect_http_params`. Also, activate implicitly in the profiled trace.
	plugin.springmvc.collect_http_params=${SW_PLUGIN_SPRINGMVC_COLLECT_HTTP_PARAMS:true}
	# This config item controls that whether the HttpClient plugin should collect the parameters of the request
	plugin.httpclient.collect_http_params=${SW_PLUGIN_HTTPCLIENT_COLLECT_HTTP_PARAMS:true}
	# When `COLLECT_HTTP_PARAMS` is enabled, how many characters to keep and send to the OAP backend, use negative values to keep and send the complete parameters, NB. this config item is added for the sake of performance.
	plugin.http.http_params_length_threshold=${SW_PLUGIN_HTTP_HTTP_PARAMS_LENGTH_THRESHOLD:1024}
	# When `include_http_headers` declares header names, this threshold controls the length limitation of all header values. use negative values to keep and send the complete headers. Note. this config item is added for the sake of performance.
	plugin.http.http_headers_length_threshold=${SW_PLUGIN_HTTP_HTTP_HEADERS_LENGTH_THRESHOLD:2048}
	# Set the header names, which should be collected by the plugin. Header name must follow `javax.servlet.http` definition. Multiple names should be split by comma.
	plugin.http.include_http_headers=${SW_PLUGIN_HTTP_INCLUDE_HTTP_HEADERS:}
	# This config item controls that whether the Feign plugin should collect the http body of the request.
	plugin.feign.collect_request_body=${SW_PLUGIN_FEIGN_COLLECT_REQUEST_BODY:true}
	# When `COLLECT_REQUEST_BODY` is enabled, how many characters to keep and send to the OAP backend, use negative values to keep and send the complete body.
	plugin.feign.filter_length_limit=${SW_PLUGIN_FEIGN_FILTER_LENGTH_LIMIT:1024}
	# When `COLLECT_REQUEST_BODY` is enabled and content-type start with SUPPORTED_CONTENT_TYPES_PREFIX, collect the body of the request , multiple paths should be separated by `,`
	plugin.feign.supported_content_types_prefix=${SW_PLUGIN_FEIGN_SUPPORTED_CONTENT_TYPES_PREFIX:application/json,text/}
	# If true, trace all the influxql(query and write) in InfluxDB access, default is true.

# agent 挂载方式及启动命令

k8s 使用 volume 挂载

	volumes:
	- hostPath:
	path: /etc/localtime
	type: ''
	name: volume-localtime
	- name: volume-skywalking-agent-dir
	persistentVolumeClaim:
	claimName: skywalking-agent-dir

java 启动命令
java -jar -javaagent:/path/to/skywalking-agent.jar -Dskywalking.agent.service_name=xxxx xxx.jar

逃离上海

2023-06-13T03:50:55.183Z

# 最近的一些想法

真的想逃了闲的发慌开始投简历
接下来会把 Notion 的笔记逐渐导到线上有了 Notion 之后 MarkDown 真的不爱写了
Anyway 赶紧回北京吧

Docker内部署SkyWalking

2021-09-10T15:22:59.391Z

# 1. 安装 Docker

	sudo su

	apt-get purge docker
	apt-get purge docker-ce
	apt-get remove -y docker-*
	apt update
	apt install docker
	apt-get install \
	apt-transport-https \
	ca-certificates \
	curl \
	gnupg-agent \
	software-properties-common

更新 deb 源

	curl -fsSL https://mirrors.aliyun.com/docker-ce/linux/ubuntu/gpg \| apt-key add -
	add-apt-repository \ "deb [arch=amd64] https://mirrors.aliyun.com/docker-ce/linux/ubuntu \ $(lsb_release -cs) \ stable"
	apt-get update
	apt-get install docker-ce docker-ce-cli containerd.io
	docker --version
	gpasswd -a 用户名 docker
	newgrp - docker

修改 docker 远程连接

编辑此文件 vim /lib/systemd/system/docker.service
修改此项 ExecStart 添加参数 -H tcp://0.0.0.0:2375 （端口可以修改成你想要的）
重载守护进程 systemctl daemon-reload
重启 Docker sudo service docker restart

# 2. 下载并运行 ES

	docker run -d --name=es7 \
	-p 9200:9200 -p 9300:9300 \
	-e "discovery.type=single-node" elasticsearch:7.6.2

测试环境下可加

-e ES_JAVA_OPTS="-Xms512m -Xmx512m

限制 JVM 内存

# 3. 下载并运行 oap

	docker run -d --name oap \
	-e TZ=Asia/Shanghai \
	-p 12800:12800 \
	-p 11800:11800 \
	--link es7:es7 \
	-e SW_STORAGE=elasticsearch7 \
	-e SW_STORAGE_ES_CLUSTER_NODES=es7:9200 \
	apache/skywalking-oap-server:8.6.0

# 4. 下载并运行 ui

	docker run -d --name skywalking-ui \
	-e TZ=Asia/Shanghai \
	-p 8088:8080 \
	--link oap:oap \
	-e SW_OAP_ADDRESS=oap:12800 \
	apache/skywalking-ui:8.6.0

# 5. 运行监听

开发环境下载 https://archive.apache.org/dist/skywalking/8.6.0/apache-skywalking-apm-es7-8.6.0.tar.gz

tomcat 启动项目修改 bin 中 catalina.bat

加入

set JAVA_OPTS=-javaagent:C:\Users\hasee\Desktop\apache-skywalking-apm-bin\agent\skywalking-agent.jar

Spring 项目

项目打包 Dockerfile 编写可在项目在根目录加入 agent 文件夹

	ADD agent

	COPY agent /usr/local/agent

启动参数可在 pod 下加入 -javaagent:/usr/local/agent\skywalking-agent.jar

Ubuntu NodeJs安装与升级

2021-09-10T15:18:22.026Z

	apt-get install nodejs
	apt-get install npm
	node -v
	sudo npm install n -g
	sudo n --stable which node
	which node
	vim /etc/profile
	export PATH=XXXXX
	source /etc/profile