带序列特征的多输出预测模型

Question

训练一个多输出回顾模型。包括15个固定特征，另外包括可使用的400个可视为时间序列的特征，对应400个输出。 请问有什么方法适合这种数据结构。
1、我可以视为表格数据，400个序列特征用其他固定特征替换
2、也可以用一个方法提取静态特征，另一个方法（如lstm）提取时间序列特征，然后做一个融合。
3、也可以用CNN或者什么方法提取400个增强特征，并分别于400个序列特征结合，再使用时间序列方法进行预测。
4、将400个时间序列特征视为400个不同的任务，每个任务都有一个输出。
注意到KAN卷积神经网络，求分享
总的来说，我想用深度学习去训练，但效果都似乎都不如XGBoost。 请问有没有合适的且比较新颖的方法，习惯pytorch框架的代码。

试了一下多任务学习效果比较好，但是加入新方法模块后显存不够

Answer 1

AIGC生成：

---

带序列特征的多输出预测模型

您的问题是关于训练一个多输出回顾模型，模型包括15个固定特征和400个可视为时间序列的特征，对应400个输出。您想知道有什么方法适合这种数据结构。

首先，需要注意的是，这种数据结构可以视为表格数据，每个样本对应15个固定特征和400个序列特征。因此，我们可以使用以下方法来解决这个问题：

1. 多输出回归：使用多输出回归模型，例如多输出神经网络（MNN）或多输出随机森林（MRF），将400个输出作为多输出目标。
2. 序列预测：将400个序列特征视为400个独立的时间序列，使用序列预测模型，例如ARIMA、LSTM或GRU，预测每个序列的未来值。
3. 特征工程：将400个序列特征转换为固定特征，例如使用PCA或t-SNE将序列特征降维到固定维度，然后使用常规机器学习算法进行预测。
4. ** attention 机制**：使用attention机制将400个序列特征关注到15个固定特征上，然后使用常规机器学习算法进行预测。
5. 深度学习：使用深度学习模型，例如LSTM或GRU，处理400个序列特征，然后使用多输出回归模型预测400个输出。

这些方法都可以解决您的问题，但是需要根据实际数据和任务的需求选择合适的方法。