Prometheus监控DM数据库时如何自定义指标？

Question

在使用Prometheus监控达梦（DM）数据库时，如何自定义业务相关的监控指标（如特定SQL执行耗时、连接池使用率等）是一个常见难题。由于DM数据库官方未提供直接支持Prometheus的exporter，用户需自行开发或通过中间脚本采集指标。典型问题包括：如何将自定义SQL查询结果转化为符合Prometheus文本格式的metrics？如何保证指标采集的实时性与稳定性？以及如何设计高效的数据拉取机制避免对生产库造成性能影响？这些问题限制了企业实现精细化监控的需求。

Answer 1

一、达梦数据库与Prometheus集成监控的挑战与实现路径

在当前企业级IT运维体系中，Prometheus已成为云原生环境下事实上的监控标准。然而，当面对国产数据库如达梦（DM）时，由于其官方未提供原生支持Prometheus的exporter组件，导致用户必须通过自定义手段构建监控能力，尤其是在采集业务相关指标（如特定SQL执行耗时、连接池使用率等）方面面临显著挑战。

1. 基础认知：Prometheus监控模型与文本格式规范

Prometheus通过HTTP拉取（pull）机制获取目标暴露的metrics数据，这些数据需以特定的文本格式呈现。基本格式如下：

# HELP dm_sql_exec_duration_ms 特定SQL执行耗时（毫秒）
# TYPE dm_sql_exec_duration_ms gauge
dm_sql_exec_duration_ms{sql_id="login_query"} 45.6
dm_sql_exec_duration_ms{sql_id="order_insert"} 120.3

# HELP dm_connection_pool_usage_rate 连接池使用率
# TYPE dm_connection_pool_usage_rate gauge
dm_connection_pool_usage_rate 0.78
    

上述格式中，HELP用于描述指标含义，TYPE声明指标类型（gauge、counter等），每行metric由名称、标签和数值构成。

2. 数据采集方式选择：JDBC vs ODBC vs 脚本中间层

达梦数据库支持JDBC和ODBC接口，因此可通过Java或Python程序连接并执行自定义SQL查询。常见技术选型对比如下表所示：

方式	语言/工具	实时性	稳定性	开发复杂度	生产影响
JDBC + Java Exporter	Java	高	高	中	低
Python脚本 + Flask	Python	中	中	低	可控
Shell + 定时导出	Bash	低	低	低	高
DM内置存储过程+消息队列	PL/SQL + Kafka	高	高	高	极低

3. 自定义指标设计与SQL建模

为实现“特定SQL执行耗时”监控，可借助达梦的动态性能视图V$SESSIONS和V$SQL_HISTORY进行聚合分析。例如：

SELECT 
    SQL_TEXT AS sql_id,
    AVG(EXEC_TIME) AS avg_exec_time_ms,
    COUNT(*) AS exec_count
FROM V$SQL_HISTORY 
WHERE SQL_TEXT LIKE '%LOGIN%' OR SQL_TEXT LIKE '%ORDER%'
GROUP BY SQL_TEXT;
    

对于连接池使用率，可通过如下公式计算：

• 当前活跃连接数 / 最大连接数 × 100%
• 查询语句：SELECT COUNT(*) FROM V$SESSIONS WHERE STATUS = 'ACTIVE';
• 最大连接数可通过参数MAX_SESSIONS获取

4. 指标转换：从SQL结果到Prometheus文本格式

以下是一个Python示例，展示如何将SQL查询结果转化为Prometheus兼容格式：

import pyodbc
from flask import Flask, Response

app = Flask(__name__)

def query_dm_sql_performance():
    conn = pyodbc.connect('DRIVER={DM8 ODBC DRIVER};SERVER=localhost;UID=sysdba;PWD=xxx')
    cursor = conn.cursor()
    cursor.execute("""
        SELECT TOP 5 SQL_TEXT, AVG(EXEC_TIME) 
        FROM V$SQL_HISTORY 
        GROUP BY SQL_TEXT ORDER BY AVG(EXEC_TIME) DESC
    """)
    rows = cursor.fetchall()
    output = []
    output.append("# HELP dm_top_slow_sql_avg_duration_ms 平均执行最慢的SQL")
    output.append("# TYPE dm_top_slow_sql_avg_duration_ms gauge")
    for row in rows:
        sql_id = row[0].strip()[:50].replace(" ", "_")
        output.append(f'dm_top_slow_sql_avg_duration_ms{{sql_id="{sql_id}"}} {row[1]}')
    return "\n".join(output)

@app.route('/metrics')
def metrics():
    return Response(
        query_dm_sql_performance(),
        mimetype='text/plain'
    )
    

5. 架构设计：降低对生产库的影响

直接频繁查询性能视图可能加重数据库负载。推荐采用异步缓冲架构，流程如下：

graph TD
            A[达梦数据库] -->|定时触发| B(存储过程收集指标)
            B --> C[写入专用监控表]
            C --> D[外部Exporter轮询监控表]
            D --> E[暴露HTTP接口供Prometheus拉取]
            E --> F[Prometheus Server]
            F --> G[Grafana可视化]

该架构将高频采集压力从主库转移到轻量级查询，并可通过设置采样间隔（如每30秒一次）进一步控制IO开销。

6. 实时性与稳定性的保障策略

为确保监控系统的可靠性，应实施以下措施：

1. 使用连接池管理数据库连接，避免每次请求重建连接
2. 添加异常重试机制与超时控制
3. 在Exporter端引入缓存机制，减少重复查询
4. 通过Prometheus的scrape_timeout配置匹配实际响应时间
5. 部署健康检查端点/health用于服务探活
6. 日志记录关键错误信息，便于排查
7. 启用TLS加密传输敏感指标
8. 限制HTTP响应大小，防止OOM
9. 设置合理的max_connections阈值告警
10. 结合Alertmanager实现基于指标的自动告警

7. 高阶实践：构建可扩展的DM Exporter框架

建议将Exporter模块化设计，支持插件式指标注册机制。结构示意如下：

class MetricCollector:
    def collect(self):
        raise NotImplementedError

class SQLDelayCollector(MetricCollector):
    def collect(self):
        # 实现SQL延迟采集逻辑
        pass

class ConnectionPoolCollector(MetricCollector):
    def collect(self):
        # 实现连接池采集逻辑
        pass

# 注册机制
COLLECTORS = [SQLDelayCollector(), ConnectionPoolCollector()]
    

通过此模式，未来新增业务指标只需实现新Collector类，无需修改核心逻辑。