在了解golang的测试之前,先了解一下go语言自带的测试工具-go test
go test工具
Go语言中的测试依赖go test
命令。编写测试代码和编写普通的Go代码过程是类似的,并不需要学习新的语法、规则或工具。
go test命令是一个按照一定约定和组织的测试代码的驱动程序。在包目录内,所有以_test.go
为后缀名的源代码文件都是go test
测试的一部分,不会被go build
编译到最终的可执行文件中。
在*_test.go
文件中有三种类型的函数,单元测试函数、基准测试函数和示例函数。
类型 | 格式 | 作用 |
---|---|---|
测试函数 | 函数名前缀为Test | 测试程序的一些逻辑行为是否正确 |
基准函数 | 函数名前缀为Benchmark | 测试函数的性能 |
示例函数 | 函数名前缀为Example | 为文档提供示例文档 |
运行流程
go test
命令会遍历所有的*_test.go
文件中符合上述命名规则的函数,然后生成一个临时的main包用于调用相应的测试函数,然后构建并运行、报告测试结果,最后清理测试中生成的临时文件。
使用详解
上次对于go test
并没有详细的阐述,这次补上。
go test 的使用语法如下
1 | go test [build/test flags] [packages] [build/test flags & test binary flags] |
更多请查看
go help testfunc
。
go test
命令还会忽略testdata
目录,该目录用来保存测试需要用到的辅助数据。go test 有两种运行模式:
1、本地目录模式,在没有包参数(例如
go test
或go test -v
)调用时发生。在此模式下,go test
编译当前目录中找到的包和测试,然后运行测试二进制文件。在这种模式下,caching
是禁用的。在包测试完成后,go test
打印一个概要行,显示测试状态、包名和运行时间。2、包列表模式,在使用显示包参数调用
go test
时发生(例如go test math
,go test ./...
甚至是go test .
)。在此模式下,go 测试编译并测试在命令上列出的每个包。如果一个包测试通过,go test
只打印最终的ok
总结行。如果一个包测试失败,go test
将输出完整的测试输出。如果使用-bench
或-v
标志,则go test
会输出完整的输出,甚至是通过包测试,以显示所请求的基准测试结果或详细日志记录。下面详细说明下
go test
的具体用法,flag 的作用及一些相关例子。需要说明的是:一些 flag
支持go test
命令和编译后的二进制测试文件。它们都能识别加-test.
前缀的
flag,如go test -test.v
,但编译后的二进制文件必须加前缀./sum.test -test.bench=.
。
参数详解
test flag
以下 flag 可以跟被 go test
命令使用:
-args
:传递命令行参数,该标志会将 -args 之后的参数作为命令行参数传递,最好作为最后一个标志。
1 | go test -args -p=true |
-c
:编译测试二进制文件为 [pkg].test,不运行测试。
1 | go test -c && ./sum.test -p=true |
-exec xprog
:使用 xprog 运行测试,行为同go run
一样,查看go help run
。-i
:安装与测试相关的包,不运行测试。
1 | go test -i |
-o file
:编译测试二进制文件并指定文件,同时运行测试。
1 | go test -o filename |
test/binary flag
以下标志同时支持测试二进制文件和 go test
命令。
-bench regexp
:通过正则表达式执行基准测试,默认不执行基准测试。可以使用-bench .
或-bench=.
执行所有基准测试。
1 | go test -bench=. |
-benchtime t
:每个基准测试运行足够迭代消耗的时间,time.Duration(如 -benchtime 1h30s),默认 1s。
1 | go test -bench=. -benchtime 0.1s |
-count n
:运行每个测试和基准测试的次数(默认 1),如果 -cpu 指定了,则每个 GOMAXPROCS 值执行 n
次,Examples 总是运行一次。
1 | go test -bench=. -count=2 |
-cover
:开启覆盖分析,开启覆盖分析可能会在编译或测试失败时,代码行数不对。
1 | go test -bench=. -cover |
-covermode set,count,atomic
# sum -> $GOPATH/src/test/sum $ go test -coverpkg test/sum1
2
3
4
5
6
7
8
9
:覆盖分析的模式,默认是 set,如果设置 -race,将会变为 atomic。
- set,bool,这个语句运行吗?
- count,int,该语句运行多少次?
- atomic,int,数量,在多线程正确使用,但是耗资源的。
- `-coverpkg pkg1,pkg2,pkg3`:指定分析哪个包,默认值只分析被测试的包,包为导入的路径。
1 |
|
go test -list Sum
1 |
|
go test -run=TestSumParallel -parallel=2
1 |
|
go test -v -run TestSumSubTest/1+
1 |
|
go test -short
1 |
|
go test -run TestSumLongTime -timeout 1s
1 |
|
go test -v
1 |
|
go test -bench=. -benchmem
./sum.test -test.bench -test.benchmem
1 |
|
go test -v -cpuprofile=prof.out
go tool pprof prof.out
1 |
|
go test -memprofile mem.out -memprofilerate 1
go tool pprof mem.out
1 |
|
说了这么多,来实现一个简单的
string中的Split函数,并对他进行单元测试,然后在剖析代码。了解单元测试的相关规范
1 | // splits.go |
运行结果如下
说明测试成功,本次通过。当然你也可以在Terminal
里面直接运行go test
,命令,如下所示
温馨提示:关于可能造成运行test不成功原因
直接在
split_test.go
,运行。
- 或许知道,go是以文件夹的方法来区分项目。所以当前文件,并不能跑到旁边文件中去找到
Split
,以至于测试失败。或未达到预期效果那么正确的打开方式应该是?
在goland中,鼠标右键点击run测试文件所在的文件夹,选择后面第二个
go test projectFileName
在
Terminal
中,应在测试文件所在的文件夹
的路径中,进行go test [arge...]
示例看完了,那么进行简单的剖析。先从函数文件说起,(也就是这里的splits.go
)
- 不在是
package main
,而是packge projectFileName
- 函数名大写,大写意味着公有函数,可支持外部调用
测试文件
- 文件名为’*_test.go’
- 不在是
package main
,而是packge projectFileName
- 函数名为TestFuncName
基准测试
基准测试函数格式
基准测试就是在一定的工作负载之下检测程序性能的一种方法。基准测试的基本格式如下:
1 | func BenchmarkName(b *testing.B){ |
基准测试以Benchmark
为前缀,需要一个*testing.B
类型的参数b,基准测试必须要执行b.N
次,这样的测试才有对照性,b.N
的值是系统根据实际情况去调整的,从而保证测试的稳定性。 testing.B
拥有的方法如下:
1 | func (c *B) Error(args ...interface{}) |
基准测试示例
为自己写的Split
函数编写基准测试如下:
1 | // BenchmarkSplit 基准测试(性能测试) |
其中
BenchmarkSplit:表示对Split函数进行基准测试
BenchmarkSplit-8:数字
8
表示GOMAXPROCS
的值,这个对于并发基准测试很重要5188407和206 ns/op:表示每次调用
Split
函数耗时203ns
还可以为基准测试添加-benchmem
参数,来获得内存分配的统计数据。
112 B/op:表示每次操作内存分配了112字节
3 allocs/op
:则表示每次操作进行了3次内存分配!!!
优化后代码如下
1 | // split.go |
优化后代码如下
这个使用make函数提前分配内存的改动,减少了2/3的内存分配次数,并且减少了一半的内存分配。
仅仅小小的一处改动,就引起如此大的性能改变。so good
量变产生质变
性能比较函数
上面的基准测试只能得到给定操作的绝对耗时,但是在很多性能问题是发生在两个不同操作之间的相对耗时,比如同一个函数处理1000个元素的耗时与处理1万甚至100万个元素的耗时的差别是多少?再或者对于同一个任务究竟使用哪种算法性能最佳?通常需要对两个不同算法的实现使用相同的输入来进行基准比较测试。
性能比较函数通常是一个带有参数的函数,被多个不同的Benchmark函数传入不同的值来调用。举个例子如下:
1 | func benchmark(b *testing.B, size int){/* ... */} |
例如编写了一个计算斐波那契数列的函数如下:
1 | // fib.go |
编写的性能比较函数如下:
1 | // fib_test.go |
运行基准测试:
1 | split $ go test -bench=. |
这里需要注意的是,默认情况下,每个基准测试至少运行1秒。如果在Benchmark函数返回时没有到1秒,则b.N的值会按1,2,5,10,20,50,…增加,并且函数再次运行。
最终的BenchmarkFib40只运行了两次,每次运行的平均值只有不到一秒。像这种情况下应该可以使用-benchtime
标志增加最小基准时间,以产生更准确的结果。例如:
1 | split $ go test -bench=Fib40 -benchtime=20s |
这一次BenchmarkFib40
函数运行了50次,结果就会更准确一些了。
使用性能比较函数做测试的时候一个容易犯的错误就是把b.N
作为输入的大小,例如以下两个例子都是错误的示范:
1 | // 错误示范1 |
重置时间
b.ResetTimer
之前的处理不会放到执行时间里,也不会输出到报告中,所以可以在之前做一些不计划作为测试报告的操作。例如:
1 | func BenchmarkSplit(b *testing.B) { |
并行测试
func (b *B) RunParallel(body func(*PB))
会以并行的方式执行给定的基准测试。
RunParallel
会创建出多个goroutine
,并将b.N
分配给这些goroutine
执行, 其中goroutine
数量的默认值为GOMAXPROCS
。用户如果想要增加非CPU受限(non-CPU-bound)基准测试的并行性, 那么可以在RunParallel
之前调用SetParallelism
。RunParallel
通常会与-cpu
标志一同使用。
1 | func BenchmarkSplitParallel(b *testing.B) { |
执行一下基准测试:
1 | split $ go test -bench=. |
还可以通过在测试命令后添加-cpu
参数如go test -bench=. -cpu 1
来指定使用的CPU数量。
Setup与TearDown
测试程序有时需要在测试之前进行额外的设置(setup)或在测试之后进行拆卸(teardown)。
Go性能优化
做了这么多的测试最终的目的是测试代码有没有写对,性能是否可以优化。接下来进行性能优化与调优
在计算机性能调试领域里,profiling 是指对应用程序的画像,画像就是应用程序使用 CPU 和内存的情况。
Go语言是一个对性能特别看重的语言,因此语言中自带了 profiling 的库。
Go语言项目中的性能优化主要有以下几个方面:
- CPU profile:报告程序的 CPU 使用情况,按照一定频率去采集应用程序在 CPU 和寄存器上面的数据
- Memory Profile(Heap Profile):报告程序的内存的使用情况
- Block Profiling:报告 goroutine 不在运行状态的情况,可以用来分析与查找死锁等性能瓶颈
- Goroutine Profiling:报告 goroutines 的使用情况,有哪些 goroutine,它们的调用关系是怎样的
采集性能数据
Go语言内置了获取程序的运行数据的工具,包括以下两个标准库:
runtime/pprof
:采集工具型应用运行数据进行分析net/http/pprof
:采集服务型应用运行时数据进行分析
pprof开启后,每隔一段时间(10ms)就会收集下当前的堆栈信息,获取各个函数占用的CPU以及内存资源;最后通过对这些采样数据进行分析,形成一个性能分析报告。
pprof应用
如果你的应用程序是运行一段时间就结束退出类型。那么最好的办法是在应用退出的时候把 profiling
的报告保存到文件中,进行分析。对于这种情况,可以使用runtime/pprof
库。 首先在代码中导入runtime/pprof
工具:
1 | import "runtime/pprof" |
CPU性能分析
开启CPU性能分析:
1 | pprof.StartCPUProfile(w io.Writer) |
停止CPU性能分析:
1 | pprof.StopCPUProfile() |
应用执行结束后,就会生成一个文件,保存了 CPU profiling 数据。得到采样数据之后,使用go tool pprof
工具进行CPU性能分析。
内存性能优化
记录程序的堆栈信息
1 | pprof.WriteHeapProfile(w io.Writer) |
得到采样数据之后,使用go tool pprof
工具进行内存性能分析。
go tool pprof
默认是使用-inuse_space
进行统计,还可以使用-inuse-objects
查看分配对象的数量。
服务型应用
如果你的应用程序是一直运行的,比如 web 应用,那么可以使用net/http/pprof
库,它能够在提供 HTTP 服务进行分析。
如果使用了默认的http.DefaultServeMux
(通常是代码直接使用 http.ListenAndServe(“0.0.0.0:8000”, nil)
),只需要在你的web
server端代码中按如下方式导入net/http/pprof
1 | import _ "net/http/pprof" |
如果你使用自定义的 Mux,则需要手动注册一些路由规则:
1 | r.HandleFunc("/debug/pprof/", pprof.Index) |
如果你使用的是gin框架,推荐使用github.com/gin-contrib/pprof
,在代码中通过以下命令注册pprof相关路由。
1 | pprof.Register(router) |
不管哪种方式,你的 HTTP 服务都会多出/debug/pprof
endpoint,访问它会得到类似下面的内容:
这个路径下还有几个子页面:
/debug/pprof/profile:访问这个链接会自动进行 CPU profiling,并生成一个文件供下载
/debug/pprof/heap: Memory Profiling 的路径,访问这个链接会得到一个内存 Profiling 结果的文件
/debug/pprof/block:block Profiling 的路径
/debug/pprof/goroutines:运行的 goroutines 列表,以及调用关系
。。。 。。。
go tool pprof命令
不管是工具型应用还是服务型应用,我们使用相应的pprof库获取数据之后,下一步的都要对这些数据进行分析,我们可以使用go tool pprof
命令行工具。
go tool pprof
最简单的使用方式为:
1 | go tool pprof [binary] [source] |
其中:
- binary 是应用的二进制文件,用来解析各种符号;
- source 表示 profile 数据的来源,可以是本地的文件,也可以是 http 地址。
注意事项: 获取的 Profiling
数据是动态的,要想获得有效的数据,请保证应用处于较大的负载(比如正在生成中运行的服务,或者通过其他工具模拟访问压力)。否则如果应用处于空闲状态,得到的结果可能没有任何意义。
命令行交互界面
我们使用go工具链里的pprof
来分析一下。
1 | go tool pprof cpu.pprof |
执行上面的代码会进入交互界面如下:
1 | runtime_pprof $ go tool pprof cpu.pprof |
我们可以在交互界面输入top3
来查看程序中占用CPU前3位的函数:
1 | (pprof) top3 |
其中:
- flat:当前函数占用CPU的耗时
- flat::当前函数占用CPU的耗时百分比
- sun%:函数占用CPU的耗时累计百分比
- cum:当前函数加上调用当前函数的函数占用CPU的总耗时
- cum%:当前函数加上调用当前函数的函数占用CPU的总耗时百分比
- 最后一列:函数名称
在大多数的情况下,我们可以通过分析这五列得出一个应用程序的运行情况,并对程序进行优化。
还可以使用list 函数名
命令查看具体的函数分析,例如执行list logicCode
查看我们编写的函数的详细分析。
图形化
或者可以直接输入web,通过svg图的方式查看程序中详细的CPU占用情况。
想要查看图形化的界面首先需要安装graphviz图形化工具。
Mac:
1 | brew install graphviz |
Windows: 下载graphviz
将graphviz
安装目录下的bin文件夹添加到Path环境变量中。 在终端输入dot -version
查看是否安装成功。
关于图形的说明: 每个框代表一个函数,理论上框的越大表示占用的CPU资源越多。 方框之间的线条代表函数之间的调用关系。
线条上的数字表示函数调用的次数。
方框中的第一行数字表示当前函数占用CPU的百分比,第二行数字表示当前函数累计占用CPU的百分比。
除了分析CPU性能数据,pprof也支持分析内存性能数据。比如,使用下面的命令分析http服务的heap性能数据,查看当前程序的内存占用以及热点内存对象使用的情况。
1 | # 查看内存占用数据 |
go-torch和火焰图
火焰图(Flame Graph)是 Bredan Gregg 创建的一种性能分析图表,因为它的样子近似 🔥而得名。上面的 profiling
结果也转换成火焰图,如果对火焰图比较了解可以手动来操作,不过这里我们要介绍一个工具:go-torch
。这是
uber 开源的一个工具,可以直接读取 golang profiling 数据,并生成一个火焰图的 svg 文件。
安装go-torch
1 | go get -v github.com/uber/go-torch |
火焰图 svg 文件可以通过浏览器打开,它对于调用图的最优点是它是动态的:可以通过点击每个方块来 zoom in
分析它上面的内容。
火焰图的调用顺序从下到上,每个方块代表一个函数,它上面一层表示这个函数会调用哪些函数,方块的大小代表了占用
CPU 使用的长短。火焰图的配色并没有特殊的意义,默认的红、黄配色是为了更像火焰而已。
go-torch 工具的使用非常简单,没有任何参数的话,它会尝试从http://localhost:8080/debug/pprof/profile
获取
profiling 数据。它有三个常用的参数可以调整:
- -u –url:要访问的 URL,这里只是主机和端口部分
- -s –suffix:pprof profile 的路径,默认为 /debug/pprof/profile
- –seconds:要执行 profiling 的时间长度,默认为 30s
安装 FlameGraph
要生成火焰图,需要事先安装 FlameGraph工具,这个工具的安装很简单(需要perl环境支持),只要把对应的可执行文件加入到环境变量中即可。
- 下载安装perl:https://www.perl.org/get.html
- 下载FlameGraph:
git clone https://github.com/brendangregg/FlameGraph.git
- 将
FlameGraph
目录加入到操作系统的环境变量中。 - Windows平台,需要把
go-torch/render/flamegraph.go
文件中的GenerateFlameGraph
按如下方式修改,然后在go-torch
目录下执行go install
即可。
1 | // GenerateFlameGraph runs the flamegraph script to generate a flame graph SVG. func GenerateFlameGraph(graphInput []byte, args ...string) ([]byte, error) { |
压测工具wrk
推荐使用https://github.com/wg/wrk 或 https://github.com/adjust/go-wrk
使用go-torch
使用wrk进行压测:
1 | go-wrk -n 50000 http://127.0.0.1:8080/book/list |
在上面压测进行的同时,打开另一个终端执行:
1 | go-torch -u http://127.0.0.1:8080 -t 30 |
30秒之后终端会出现如下提示:Writing svg to torch.svg
然后我们使用浏览器打开torch.svg
就能看到如下火焰图了。
火焰图的y轴表示cpu调用方法的先后,x轴表示在每个采样调用时间内,方法所占的时间百分比,越宽代表占据cpu时间越多。通过火焰图我们就可以更清楚的找出耗时长的函数调用,然后不断的修正代码,重新采样,不断优化。
此外还可以借助火焰图分析内存性能数据:
1 | go-torch -inuse_space http://127.0.0.1:8080/debug/pprof/heap |
pprof与性能测试结合
go test
命令有两个参数和 pprof 相关,它们分别指定生成的 CPU 和 Memory profiling 保存的文件:
- -cpuprofile:cpu profiling 数据要保存的文件地址
- -memprofile:memory profiling 数据要报文的文件地址
我们还可以选择将pprof与性能测试相结合,比如:
比如下面执行测试的同时,也会执行 CPU profiling,并把结果保存在 cpu.prof 文件中:
1 | go test -bench . -cpuprofile=cpu.prof |
比如下面执行测试的同时,也会执行 Mem profiling,并把结果保存在 cpu.prof 文件中:
1 | go test -bench . -memprofile=./mem.prof |
需要注意的是,Profiling 一般和性能测试一起使用,这个原因在前文也提到过,只有应用在负载高的情况下
Profiling 才有意义。
referce
李文周-Go性能优化