这个点虽然大家都知道,但在设计模型时还是很值得注意的,毕竟推荐是离应用很近的一门技术,如果只追求效果,脱离了实际就没有意义了; MLP虽然理论上是universal approximator,但用MLP来近似点积是低效的。这个点在NCF论文里也有提到一下,Rendle这篇论文进一步通过实验来证明这一点。“万能的”MLP在很多任务上都不一定...
“MLP理论上能拟合任何函数”这个说法源于DL二次兴起时代的一篇论文“Multilayer feedforward networks are universal approximators, 1989”,这篇论文从理论上证明多层感知机能以任意精度逼近任意可测函数。这也是NCF论文中用以支撑在推荐模型(特别是协同过滤)中引入神经网络的合理性的一个依据。 直觉上,将矩阵分解模型里...
MLP虽然理论上是universal approximator,但用MLP来近似点积是低效的。这个点在NCF论文里也有提到一下,Rendle这篇论文进一步通过实验来证明这一点。“万能的”MLP在很多任务上都不一定是最佳选择,这也是为什么这些年这么多的工作提出了各种各样的模型结构,某种程度上都是希望引入对问题有用的归纳偏置; 推荐在某种程度上...
A universal approximator, such as multilayer perceptron, is a tool that allows mapping of any multidimensional continuous function. The aim of this paper is to discuss a method of perceptron training that would result in its ability to map the functions constituting the solutions of partial ...
点积 vs. MLP：推荐模型到底用哪个更好？在工业场景中取决于是用来做retrieval还是ranking。如果是ranking可以把内积作为mlp的一维输入。