初来乍到,用语不对请包涵
背景
浑浑噩噩选了 NLP 方向,庸庸碌碌硕士毕业。进了公司根据需要做 文本摘要 方向,至今已 2 年半矣。 工作从入职到 1 年半时还算顺利,之后陷入瓶颈。 有两个点让我比较困惑: ( 1 )自认为代码能力在团队中上,但科研能力怕是最低一档没有写论文经验,没有科研经验。然而在算法团队,代码能力不是核心能力,而科研短板却比较突出;且没有很好的机会(比如有人带,有充裕时间搞研究)来有效提升科研能力 ( 2 )对 DL 在文本生成的前景有些迷茫:BERT 之后的效果是让人吃惊的,但是依然不太可控,基于统计的本质没有改变(个人观点);而学术界忙于刷分,对于真实存在的问题熟视无睹或者无能为力。个人觉得跟着这个领域还是在前沿探索的阶段,而我有些怀疑自己是否有这个能力站在该领域的浪潮之上?
近年来,DL 强化了对底层架构(如 NN 框架)、芯片的需求,而我国在这方面似乎还有些欠缺。这似乎是一个机会?但国内的环境是否成熟呢?似乎不是。
想法
程序员挺好的,我挺想长期做下去的。这就要求我得有积累,而不是重复。 个人意愿上,我有比较强地把东西做好的意愿。所以我希望可以在某个领域深耕。 目前做的工作,我觉得积累有限:没有在前沿,做得多的是系统实现、跟踪最新模型效果(这块都因为时间关系没有做好!)。我感觉再这么下去,自己可以被轻易开除。
所以萌生了转方向的想法。
主要有 2 个思路:
- 转向更可落地的 NLP 方向: 如情感分析、信息抽取等
- 往底层走,先尝试做框架,再尝试做芯片
思路 1 的话代价、难度应该小一点,毕竟现在 SOTA 模型比较通用,更多地是去熟悉任务和历史方法。问题就是自己还是在 NLP 领域内,可能最后还是没有积累啥核心竞争力
思路 2 转行难度太大了,但是自己目前内心比较想尝试。总觉得这个领域积累更加多,被替代的可能性更小。
问题
( 1 )做 NLP,有没有什么能力可以持续积累而不是随时间贬值?
( 2 )转行做框架类代码的开发,要求是什么,好不好转行? 这种东西有壁垒吗?
( 3 )芯片,几乎 0 基础可以转过去吗?可以一步步做到非常好吗?
附加问题
如果你是我,你会怎么选择未来?
