A-Ops 数据库场景在线应用性能诊断案例

openEuler2023-03-17A-Ops

数据库场景下,由于操作系统某些进程操作(比如磁盘、网络等)占用I/O带宽过高,造成应用因为I/O带宽不足产生性能劣化的问题,如何快速、准确地诊断应用性能问题,并对问题进行定界定位是运维人员的重要挑战。

案例一 GaussDB应用磁盘IO类故障在线诊断

该案例通过对Gaussdb应用注入磁盘IO故障来模拟。

故障注入前

应用实时拓扑关系如下图所示,gaussdb应用包含1个master(进程id:1548)和1个slaver(进程id:1739),运行在虚拟机vm02上,gaussdb master有5个客户端TCP连接。

此时,gaussdb的应用性能如下图所示,平均600 TPS。

注入故障

在gaussdb的数据目录注入磁盘读写故障,命令如下:blade create disk burn --read --write --path /data --timeout 120

应用性能诊断

此时应用性能出现劣化,从大概600 TPS → 60 TPS,下降了近10倍,如下图所示:

故障发现与定位结果如下图所示,可以看出已产生应用性能劣化事件,原因是磁盘读写响应异常。

具体的故障传播关系如下图所示,可见应用性能劣化是因为磁盘写响应异常以及block层request时延异常,进一步的磁盘类异常是由于故障注入工具chaos(进程id:3941335)导致。

案例二 Redis应用网络时延类故障在线诊断

注入故障

通过故障注入工具ChaosBlade注入2分钟网络时延故障,具体命令:blade create network delay --time 50 --offset 50 --interface ens1 --local-port 3742 --timeout 120

故障注入期间redis sli指标出现明显劣化,大概从10ms → 80ms

应用性能诊断

故障发现与定位结果如下图所示,可以看出已产生应用性能劣化事件,原因是网络时延异常。

具体的故障传播关系如下图所示,可见应用性能劣化是因为网络时延异常导致。


【免责声明】本文仅代表作者本人观点,与本网站无关。本网站对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。本文仅供读者参考,由此产生的所有法律责任均由读者本人承担。