时间序列预测中如何处理外生变量缺失？

Question

在时间序列预测任务中，外生变量（exogenous variables）往往对模型预测效果有显著影响。然而在实际场景中，这些变量可能会出现缺失值，尤其是在实时预测或跨数据源整合时更为常见。如何有效处理外生变量缺失，是提升模型鲁棒性和泛化能力的关键问题。常见的处理方式包括：使用前向填充、插值法进行缺失补全；基于其他变量建立辅助模型进行预测填补；或在模型设计阶段引入对缺失值具有容忍能力的结构，如Transformer中的掩码机制。此外，是否应删除缺失样本、如何评估缺失机制（如随机缺失或完全缺失）也是建模过程中不可忽视的问题。本文将围绕这些关键技术问题展开讨论。

Answer 1

一、外生变量缺失问题的定义与影响

在时间序列预测任务中，外生变量（Exogenous Variables）是指那些随时间变化、但不受目标变量直接影响的变量。它们通常包含重要的上下文信息，例如天气、促销活动、节假日等。然而，在实际应用中，由于数据采集设备故障、系统延迟、数据源切换等原因，外生变量常常会出现缺失值。

缺失的外生变量不仅会导致模型输入不完整，还可能引入偏差，降低模型的泛化能力与鲁棒性。尤其是在实时预测或跨数据源整合时，缺失问题更加频繁，因此如何有效处理外生变量缺失成为关键。

二、外生变量缺失的类型与机制分析

在处理缺失值之前，首先需要明确其缺失机制。根据Rubin的分类，缺失机制可分为以下三类：

• 完全随机缺失（MCAR）：缺失与任何变量无关。
• 随机缺失（MAR）：缺失与可观测变量有关。
• 非随机缺失（MNAR）：缺失与缺失值本身有关。

识别缺失机制有助于选择合适的处理策略。例如，对于MAR，可以利用其他变量进行插值或预测填补；而对于MNAR，则可能需要更复杂的建模手段。

三、缺失处理的常见策略

针对外生变量缺失，常见的处理方法包括：

方法	描述	适用场景
前向填充（Forward Fill）	使用前一个时间点的值进行填充	数据变化缓慢、缺失时间短
线性插值（Linear Interpolation）	通过线性关系填补缺失值	数据变化趋势稳定
基于模型的预测填补	利用其他变量训练辅助模型预测缺失值	变量间存在较强相关性
掩码机制（Masking）	在模型中显式标记缺失位置，如Transformer中使用	模型支持缺失值处理

四、缺失样本是否应删除

在面对缺失值时，一个常见做法是直接删除含有缺失的样本。这种方法虽然简单，但在时间序列中可能导致信息断层，尤其是当缺失比例较高或缺失机制非随机时。

因此，建议优先采用填补策略，仅在缺失比例极高（如超过80%）且无恢复价值时才考虑删除。

五、模型设计中的缺失容忍机制

近年来，深度学习模型在处理缺失值方面展现出更强的灵活性。例如：

• Transformer中的掩码机制：通过注意力掩码忽略缺失位置，避免其对预测造成干扰。
• GRU-D、LSTM-D等结构：显式建模缺失值的时间间隔与历史均值，提升模型鲁棒性。

这些机制允许模型在不依赖完整数据的前提下进行有效训练与预测。

六、缺失处理的实践流程图

graph TD
    A[外生变量缺失检测] --> B{缺失率是否高？}
    B -->|是| C[评估缺失机制]
    B -->|否| D[使用插值或填充]
    C --> E{是否可预测？}
    E -->|是| F[构建辅助模型填补]
    E -->|否| G[考虑删除或建模掩码]
    D --> H[训练主模型]
    F --> H
    G --> H

七、代码示例：外生变量缺失处理

以下是一个使用Pandas进行简单缺失处理的Python代码示例：

import pandas as pd
import numpy as np

# 生成含缺失的示例数据
data = pd.DataFrame({
    'exog': [1, 2, np.nan, 4, np.nan, 6],
    'target': [10, 20, 30, 40, 50, 60]
})

# 前向填充
data['exog_filled'] = data['exog'].fillna(method='ffill')

# 线性插值
data['exog_interpolated'] = data['exog'].interpolate()

print(data)