Monotonic Attention Mechanism(单调注意力机制) for the encoders and the knowledge retriever Under this framework, each encoder and the knowledgeretrieverhas akey, query, and value embedding layer that maps the input into output queries, keys, and valuesof dimensionD_{q}=D_{k}, D_{k}, andD_...
网上对这篇论文的精读和泛读总结都有,由于只想借鉴此方法的精髓用于自己的模型设计,因此不再对内容要点做总结,只结合论文代码对ATK模型做解析。 模型效果 根据论文和代码,确实能复现出和论文指标差不多的性能。 在数据集assist2009_pid上,运行效果如下图。 python main.py --dataset assist2009_pid --model akt_...
摘要 这篇文章提出了AKT模型, 使用了单调性注意力机制, 考虑过去的做题记录来决策未来的做题结果, 另外使用了Rasch 模型来正则化习题和概念的嵌入。 AKT方法 1上下文感知表示和知识检索 通过两个encoder使用单调性注意力机制,分别将原始的习题嵌入 \(\{\mathbf{x}_1,..
Context-Aware Attentive Knowledge TracingAritra GhoshNeil HeffernanAndrew S. LanKnowledge Discovery and Data Mining
Paper:Context-Aware Attentive Knowledge TracingCode:github.com/arghosh/AKT ⭐ 动机 使用单调注意力网络来计算当前问题与学习者过去回答的每个问题之间的练习。 使用Rasch 模型计算问题嵌入和交互嵌入,这些嵌入能够捕获同一知识点的问题之间的个体差异,而无需使用过多的参数。 ⭐ 模型 1【 编码器和检索器 】 问...