DKVMN模型有一个静态矩阵Key,用于存储知识概念

Question

DKVMN模型有一个静态矩阵Key,用于存储知识概念。
我查看论文源码，发现这个静态矩阵初始化是随机的，而且后续过程没有对他进行更改，这不是有问题的吗

Answer 1

回复不易，麻烦关注下博主，后面还有问题直接私信我，谢谢！！！

DKVMN（Dynamic Key-Value Memory Networks）模型是一种用于知识追踪的神经网络模型，其中的Key矩阵用于存储知识概念。在一些实现中，初始化Key矩阵时使用随机值是一种常见的做法。这是因为在训练过程中，模型通过学习调整Key矩阵的权重，使其适应给定任务。随机初始化允许模型在开始训练时探索不同的知识表示。

在训练过程中，模型通过损失函数来衡量预测和实际标签之间的差异，并通过梯度下降等优化算法来更新模型参数，包括Key矩阵的权重。因此，虽然Key矩阵在初始化时是随机的，但在训练过程中，模型会逐渐学到适合任务的知识表示。

如果您在查看论文源码时发现Key矩阵在后续过程中没有被更改，有几种可能的情况：

论文描述不清晰： 有时，论文的描述可能没有详细说明某些细节，或者在实际实现中采取了一些简化。您可以仔细阅读论文中关于模型更新和训练的部分，以了解更多细节。

实际代码可能涉及到更多的细节： 有些实现可能在代码中进行了更多的处理，而这些细节在论文中可能没有明确说明。您可以查看完整的源代码，以便更全面地了解模型的实现。

模型可能的设计决策： 在某些情况下，模型的设计决策可能包括静态地初始化某些参数。这可能是由于特定任务的性质，或者为了简化模型的训练过程。