如何看待国人的论文SARM作者将论文从nips撤稿

最新问答

• 米米狗狗

  研究生才开始接触深度学习相关内容，到目前为止，个人越发感到里面水太深。
  
  (1) 由于深度学习很多东西在理论上并没有系统而严谨的证明，所以很多文章，其motivation以及算法原理部分感觉都是牵强附会的“强行解释”，更多的可能是在根据实验结果反填原理(这种情况已经算不错的了T_T)。 这种情况下，大家就算对论文有疑问有不理解，往往也就过去了，因为确切的理论大家都没搞明白。
  
  (2)由于深度学习的最后表现和有关和调参有关(和各种各样的你不知道的trick有关)，所以这给了很多人注水的可能。即使你复现不了别人的论文，往往你自己就要给自己解释一番：不够啊，参数没调好啊... 所以，大部分情况下注水不会被揪出来。
  
  (3)还有很多论文的实验也越来越水。baseline是一个很大的问题，“作空间很大”；还有很多则是在选择性的实验，深度学习里面"mnist"和“cifar10”是两个快被搞烂的集了，很多水文都在这两个上面说自己的方法，但这只能说明有效果，而无法说明效果好。

  浏览 174赞 157时间 2022-06-14