在对神经网络进行超参数的调整时，调整的依据是最小化训练集的MSE还是验证集的MSE呢？

Question

在对神经网络进行超参数的调整时，调整的依据是最小化训练集的MSE还是验证集的MSE呢？如果使用的是验证集的MSE会不会被模型提前‘偷看’了数据？

Answer 1

阿里嘎多学长整理AIGC生成，因移动端显示问题导致当前答案未能完全显示，请使用PC端查看更加详细的解答过程

在对神经网络进行超参数的调整时，调整的依据是验证集的MSE

在神经网络的超参数调整中，我们通常使用验证集（Validation Set）来评估模型的性能，而不是训练集（Training Set）。这是因为训练集的性能可能会过高，因为模型已经学习了训练集中的所有数据，而验证集则可以更好地反映模型在未见过的数据上的性能。

在调整超参数时，我们通常使用验证集的MSE（Mean Squared Error）或其他评估指标来评估模型的性能。这样可以避免过拟合（Overfitting），确保模型在未见过的数据上也可以取得较好的性能。

需要注意的是，在调整超参数时，我们可以使用训练集的MSE作为一个参考，但最终的调整依据仍然是验证集的MSE。