MLP模型的特色与优势

WWW 2022 | 弯道超车:基于纯MLP架构的序列推荐模型 -
首先，通过使用滤波器处理Transformer与RNN模型的嵌入层与编码层，我们观察到滤波器（如低通滤波器、带阻滤波器）能有效减少模型过拟合，提升推荐效果。进一步地，我们提出将滤波器替换为全MLP模型的方案，仅保留MLP层，通过滤波器处理序列，以降低噪音，有效减弱过拟合现象。在这一基础上，我们设计了FMLP-Re还有呢？
其实我没看过RSNNS中MLP的源码，不清楚是在线学习模式还是批量学习模式，，，不过你这个结果估计是在线学习才能得到的。如果算法运行无误，那么在线学习会不断调整权值，你的结果可能是因为权值调整太小导致局部收敛，你试试多尝试些初始值，也调整一下学习效率参数；如果不算法原因，，你就得看看数据原因了是什么。