如何评价深度学习文章平台Distill?

如何评价深度学习文章平台Distill?

我非常喜欢这个想法。我谈一下自己的看法。

1. 机器学习和相关领域的文章实在太多,顶级会议、期刊上的文章质量参差不齐,好坏难辨,学习难度大。现在机器学习入门简单,但是要做到research-level的“入门”是非常困难的。我的切身感受就是想换个研究方向真心不容易。

即使是Foundations and Trends in Machine Learning上面发表的文章,阅读难度依然很大。如果以后introduction性质的文章都容易阅读,有demo有代码,入门难度会低很多。

2. 机器学习文章大多不能重现,尤其是现在深度学习领域!前段时间Goodfellow给talk的时候说了这个问题,还喷了一种不好的现象:很多人把不成熟的文章放在arXiv上抢占想法,不提供代码,而且这些文章很少有能重现的。这样的文章属于浪费读者时间。

3. 机器学习领域文章可读性差,这是我的切身体会。领域内的人普遍追求文章数量,匆匆把结果发出去,对写作并不精雕细琢,这与其他学科很不一样。更过分的是,很简单的东西,非要用复杂的数学把读者搞迷糊,完全不考虑读者感受(然而Distill的编委会里就有这种人,真是讽刺……)。做理论物理的霍金写书要尽量少用公式;相比之下,做机器学习的却喜欢多用公式,毫无目的地塞公式,尤其喜欢凑出一些不能说明任何问题的理论bound。很多机器学习学者的本事就是把简单的东西用复杂的方式表述。

如果能把优秀的文章用通俗易懂的语言、公式、算法、代码总结出来,对社会的贡献远大于follow这些文章发incremental的新文章。

4. PDF文件适用于打印,但并非在线阅读的首选。PDF不支持动态图、视频这样的demo。听报告的时候,一些漂亮的demo很容易就解释清楚文章原理和贡献,而读pdf文档就困难很多。现在用Markdown、Jupyter这些工具写文章,几乎与latex一样方便。

我们生活在“多媒体”时代已经多年,然而学术期刊依然拘泥于文字和静态图的格式。Distill只是个发技术博客的平台。真心希望以后CS的学术期刊也能用这样的方式发表。