自从上周和老板谈过之后，我开始改变自己的做研究的风格。 过去的我，总是聚焦去理解论文中的细节；自己工作的时候也是类似的情况，不停思考的是，代码结构怎么样才是最好的，怎么去实现才是最高效的。 然而，这一切都不是科研工作应该有的工作方式。 这是Programmer的思维方式，而不是researcher的。
作为一个科研工作者，我们需要考虑的是当前这份研究工作能否增加人类的整体的智慧。 比如，过去我一直纠结一个损失函数，它的预期效果一直和实验结果不符合。 我纠结了这个问题很长一段时间。 然而，老板却告诉我，他根本不关心这个损失函数，因为我们的提出的想法和这个损失函数没有关系。 这个损失函数只是一个具体的实例，只是一种具体的实践，它只是「a means to the end」, 它没有那么重要。
我更应该考虑的是，这部分工作能够为人类社会提供什么新的知识。
这一周我一直遵循老板的建议，远离所有代码，远离所有具体的模型。 单纯只是思考和阅读论文，构建自己的big picture. 当我从「对人类社会」的贡献这个角度来审视科研工作的时候，我感觉一切都改变了。 原本惊为天人的工作变得很平凡，而原本觉得很无聊的分析却变得鞭辟入里。
比如，当年在国内读研的时候，当阅读到Mikolov的著名论文「Efficient estimation of word representations in vector space」，简直惊为天人。 他的工作成果给整个NLP领域开启了一个新的热点方向。 然而，现在随着阅读论文的增多和思考的深入，现在觉得他的这部分工作也不是那么的具有深刻思想性1。 其实，word embedding这个概念早在30年前(1987年)就由Hinton在「Parallel Distributed Processing」的第三章中提出了。 之后相关的研究工作一直都在进行，只是由于计算能力的问题，而无法流行起来。 而Mikolov真正的贡献不是在于提出了word embedding，而是他开发了一种极为高效的算法，能将word embedding从大语料中训练出来，这才是他工作的最大贡献。 但是，他的工作和Hinton比起来，那就差了一个档次了。
作为一个研究者，我们更需要像Hinton那样从一个更高的层次思考问题. 尽管不是每个人都能成为Hinton那样的大神，但是我们需要从更高层次上来指导我们自己的研究工作。 把自己的目光提高，不停地问自己，自己的研究工作的真正贡献在哪里。 真正的贡献不是设计一个新损失函数、一个新的正规化方式，而是一种更高层次的思想。 要成为一个科学家，首先要成为一个哲学家。 怪不得大部分学科的博士学位都是带有「哲学博士」头衔的。
更新日志
- 2018年8月11日写作并发表
-
我不是说他的工作不重要，但是我觉得缺乏了一种内在哲学性思维。 ↩