性能测试报告

训练平台

最小资源

最小配置

name	type	desc
cpu	hardware	4 core
memory	hardware	8G
disk	hardware	SSD

核心接口

核心接口性能报告

序号	接口名称	并发用户数	请求总数	成功请求	失败请求	平均响应时间 (ms)	最大响应时间 (ms)	95%线响应时间 (ms)	吞吐量 (req/s)	错误率 (%)
1	/api/xxx	100	10,000	9,950	50	230	780	250	99.5	0.5

扩展方式

训练平台本身支持横向扩展，负责调度
训练路数取决于model-agent-train节点数
model-agent-train支持横向扩展

agent最小资源占用

name	cpu (core)	memory (GB)	gpu memory (GB)
model-agent-train	20	90	20

算法服务

算法服务最小资源占用

name	cpu (core)	memory (GB)	gpu memory (GB)
media-quality-svc	8	20	6
tts-background-svc	2	4	0
set-svc	8	70	14
predict-svc	8	20	8
pregeneration-svc	8	25	5
matting-svc	8	20	4
swapface-svc	8	20	6
torch2trt-svc	5	10	7
set-upload-svc	2	2	0
data-enhancement-cpu-svc	5	10	0
silence-extend-svc	5	10	5
mlop-agent-fs-background-svc	12	30	10
mlop-agent-sr-background-svc	12	30	10
mlop-agent-train-background-svc	16	90	20
mlop-agent-tts-background-svc	12	30	10

TTS

tts集成中心

api: http://finance-tts-dev.trafficmanager.cn/openapi/vh/tts/tts-sync'

k8s pod: 1，内存4G，CPU共享

date: 2023-04-24

并发数：15/30

result:

param: 电子书分句

tts服务

static://lyrebird-engine-prod.trafficmanager.cn:50051

k8s pod: 2，内存128G，CPU64核

GRPC并发路数：每个节点20路

压测结果（2023-04-24）

压测结果总结：

最大限制并发30，没有出现grpc的报错，单节点和双节点的并发目标均达标

随着并发的提高，响应时间也会增加，吞吐量增长变缓，20路并发之后，吞吐量基本不变

两个节点的吞吐量，并没有加倍，相同并发下，吞吐量只增加25%

200个字符：(音频约40秒)

TTS厂商	并发数	样本	平均值	中位数	90% 百分位	95% 百分位	99% 百分位	最小值	最大值	异常 %	吞吐量	接收 KB/sec	发送 KB/sec
VH_XB	30	1500	13194	13121	14297	14773	16360	694	18576	0.0	2.25	6.174	2.233

300个字符：(音频约60秒)

TTS厂商	并发数	样本	平均值	中位数	90% 百分位	95% 百分位	99% 百分位	最小值	最大值	异常 %	吞吐量	接收 KB/sec	发送 KB/sec
VH_XB	30	1500	19715	19710	20994	21431	22762	9500	25607	0.0	1.506	5.956	1.932

600个字符：(音频约120秒)

TTS厂商	并发	样本	平均值	中位数	90% 百分位	95% 百分位	99% 百分位	最小值	最大值	异常 %	吞吐量	接收 KB/sec	发送 KB/sec
VH_XB	15	750	20219	20320	21602	22354	25711	34	46555	0.0	0.723	5.528	1.564

两个服务节点，不同并发数测试，200字符

并发	样本	平均值	中位数	90% 百分位	95% 百分位	99% 百分位	最小值	最大值	吞吐量	接收 KB/sec	发送 KB/sec
5	50	6239	6233	6978	7098	7626	5176	7626	0.7767834949043002	2.1144896338242605	0.7724140877454636
10	100	6291	6547	7525	7962	8723	33	8746	1.4577259475218658	3.9836489841472305	1.4445295417274053
15	150	6961	6945	8412	9085	10261	30	10443	1.9784220106043422	5.418982897366061	1.961059296605028
20	200	8486	8561	10212	10422	13410	35	14298	2.2241003514078557	6.084076466655175	2.20635533200258
25	250	10257	10633	12073	12871	16320	29	36709	2.071062289269412	5.678132779427724	2.0556183130576335
30	300	11801	12749	13763	14307	16366	31	17479	2.3651471909935196	6.476045555198594	2.346030457675691

单个服务节点，不同并发数测试，200字符

并发	样本	平均值	中位数	90% 百分位	95% 百分位	99% 百分位	最小值	最大值	吞吐量	接收 KB/sec	发送 KB/sec
5	50	6462	6485	7078	7229	7545	5294	7545	0.7555152614082804	2.0726351191825323	0.7452007073511634
10	100	7012	6997	7654	7914	8750	5590	8822	1.3806243183167428	3.7513342439701236	1.367667482673165
15	150	7712	7618	9228	10339	11317	29	34889	1.5352964657475359	4.21097036493997	1.524211545301481
20	200	10005	9953	11621	12521	16117	32	17161	1.8735011990407675	5.141150751273981	1.8536867283516938
25	250	12705	12770	14247	14672	17785	6786	19446	1.8665910075111622	5.128035893611779	1.853590492798692
30	300	15132	15391	16349	16631	18858	6513	19625	1.8981335020563113	5.210456787804492	1.8803755733944953

压测结果（2023-04-27）

tts服务

static://lyrebird-engine-int.trafficmanager.cn:50051

k8s pod: ，内存 -- G，CPU -- 核

GRPC并发路数：

压测结果总结：

1个节点，20-30的并发可以稳定运行，20并发时达到最大吞吐量，2.4qps左右

5个节点，100路并发可以稳定运行

4个节点，100路并发，服务端崩溃

**单个服务节点，不同并发数测试，200字符 (20路并发 rtf = 7.98/40=0.2) 本地tts-center **

并发	样本	平均值	中位数	90% 百分位	95% 百分位	99% 百分位	最小值	最大值	吞吐量	接收 KB/sec	发送 KB/sec
30	9567	11821	11789	13284	13780	15081	6613	27365	2.5338388121495012	6.9541933880235	2.513018188262211
25	2725	9966	9952	11306	11820	12933	5686	16176	2.49773370767258	6.846184796260549	2.4748813776995
20	1999	7983	7932	9053	9457	11158	4698	13667	2.4870236833330845	6.828946536611128	2.4662500489877726
20 (随机声音)	274	9132	8903	11363	12028	12537	5774	13345	2.11908647264909	5.761417400097447	2.0941930070146406

5个服务节点，不同并发数测试，200字符 (100路并发 rtf = 7.99/40=0.2) dev的tts-center

并发	样本	平均值	中位数	90% 百分位	95% 百分位	99% 百分位	最小值	最大值	异常 %	吞吐量	接收 KB/sec	发送 KB/sec
100	19999	8243	7993	11169	11889	13800	3744	26297	0.0	11.81799379524302	32.15869393097208	11.99861731791993

1个服务节点，不同并发数测试，200字符 (20路并发 rtf = 7.99/40=0.2) dev的tts-center

并发	样本	平均值	中位数	90% 百分位	95% 百分位	99% 百分位	最小值	最大值	吞吐量	接收 KB/sec	发送 KB/sec
30	300	11277	11467	12446	12739	13167	5297	14003	2.5903604054777487	7.067897865866821	2.6340896016457425
25	250	9841	9891	11027	11522	11842	4684	11873	2.4351044659815906	6.6365918582282175	2.476672460186042
20	200	7829	7937	8799	9055	9417	4937	9671	2.4262716696388495	6.572471407904794	2.4629856144836286

训练平台#

最小资源#

核心接口#

扩展方式#

算法服务#

TTS#

压测结果（2023-04-24）#

压测结果总结：#

压测结果（2023-04-27）#

压测结果总结：#

训练平台

最小资源

核心接口

扩展方式

算法服务

TTS

压测结果（2023-04-24）

压测结果总结：

压测结果（2023-04-27）

压测结果总结：