让我们通过推导神经网络的反向传播方程来实现我们自己的跳跃式模型(在 Python 中)。在 word2vec 的跳格架构中,输入的是中心词,预测的是上下文词。考虑一组单词 W,如果 W(i)是输入(中心单词),那么 W(i-2)、W(i-1)、W(i+1)和 W(i+2)是上下文单词,如果滑动窗口大小是2。