果然ddl还是第一生产力.
7月的开始我也不知道INFOCOM能不能赶上. 不过心中一口气, 一定要挺到底. 每周都有一定的进度, 虽然过程中遇到了各种各样的问题.
说实话我都不知道自己哪里来的蜜汁自信, 就真的觉得自己肯定可以赶得上. 方法没有完全实现, baseline也状况百出的情况下, 在DDL前一周还可以依然看看剧去健身, 真的很服我自己.
不过有一说一, 这个工作真的让我学到了很多. 以前一直没有机会用python, 主要是没有动力, 毕竟matlab太好用了, 也够用了. 知道这次做深度学习的东西, matlab实在是捉襟见肘, 做一个简单的模型玩玩还差不多. 让我不得不边学边查边做, 入门python和keras. 以前对于深度学习也只是粗浅的理解, 真的要实现一个复杂的网络还是挺麻烦的. 对于炼丹大法也有了初步的体会. 前几天听NTU的罗骏在一个报告上说, Deep learning is art, not science. 整个网络结构的设计和调整完全是按照自己的品味和艺术天赋决定的. 并没有一个详细的科学指引, 如何设计网络和调参. 但是作为一个cs的phd, 出去说自己不会深度学习那就真的太丢人了.
但是我花了好几天看transformer和attention也没有搞明白, 上来就是seq2seq机器翻译的例子, 真的要吐. 可能主要还是基础的问题没有理解, 直接上来搞transformer的确是有点难. 结果最后还是用了传统的encoder-decoder. 但是我还是prefer一些先给一些intuitive的讲解, 再层层深入的感觉. 希望以后自己可以写一个简单实用的深度学习小册子, 方便新手入门, 或者外行装逼用. 先挖个坑吧.
想一想15号开始写paper, 31号写完, 着实有点着急. 但是显而易见的是自己的写作水平下降了很多. 写第一篇paper的时候老师很少这样, 提出了很多问题, 而且这些问题的确是我没有意识到的. 自己写完洋洋得意, 老师一看简直就是辣鸡. 而且的确, 同样的句子老师改过之后读起来就更有”学术范”并且不是故作高深, 而自己就那么几句大白话来回颠倒. 有时候真的觉得自己肚里有100斤, 倒出来能有八两就不错了, 写着论文真的就像在”挤”. 以前看paper的时候会觉得别的paper写的好, 但并没有真的意识到好在哪里. 真的等自己去写的时候才发现, 想要从读者的角度去把自己的工作写出来真的太难了. 这个逻辑, 或者李葆春老师说的”flow”, 的确是要下功夫去琢磨和修改的. 希望下次写paper的时候能有进步!
Anyway, 紧赶慢赶, 总算是赶上了. 而且没有通宵. 这段时间周末没有休息, 家里也没有打扫, 头发也没剪, 脸上爆痘一片, 真的过的很糟糕. 月初的时候去复查了胃, 做了个呼气检查就要了1600. 虽然保险报销了9000多的手术费, 但是光这个复查和门诊的钱在社会主义内地就完全可以做手术+药了, 甚至我的一档医保报销后都用不了什么钱. 怪不得香港本地的学生都往医生上面去挤呢. 说到这里又不得不吐槽, 封关已经一年多了, 本来想赶完paper回去一趟, 但是内地又突然很多个省市爆疫, 师姐们不想回了, 作为师弟就难开口呀.
这个月有很多大事, 河南老家水灾, 那几日天天看微博大伙的救助, 十分感动. 最近郑州又爆发了疫情, 真的是难上加难. 不知道内地大家的意识怎么样, 现在香港已经一个多月没有本地新增了, 但是大家只要在户外都会老老实实戴上口罩. 估计人的防护意识低了就会加快病毒的传播. 希望这波疫情可以快快过去吧. 不然通关是真的遥遥无期了. 奥运会正如火如荼地开, 但是赶paper的时候完美错过了男女乒乓球的决赛, 遗憾呀.
不过还是有好事的, 吴某被刑拘了, 皆大欢喜. 自己终于中了一篇ubicomp, 时隔2年自己终于又有了paper, 要不是去年有一篇TMC顶着, 差一点自己的作品就断代了. 幻想过很多次paper中, 但是中了之后好像也没有什么感觉, 反而觉得压力真的越大了; 就仿佛是一周前自己提着劲每天干到12点告诉自己投出去之后要好好休息, 但是昨天投完还是1点睡的, 今天早上9点多又准时到了办公室. 很多事情并不是说一定要如何如何, 只是生活已经变成了daily routine, 能够放空的最多只是自己的心态吧, 生活已经疲惫不堪了. 每次写月志都会让自己调整调整, 但是每个月都还是这样重复得过. 不过有这么一个milestone可以让自己停一下, 反思一会, 终归是比没有好. 生活总是要收敛到自己舒适的模式, 但是总还是要有正则化和目标函数的约束才可以不至于跑偏.
8月已经到了, 2021过了三分之二, 我在写日记的时候终于不会习惯地写成2020了. 但是我自己也没有想到的是, 克服这个习惯竟然用了8个月, 而且, 好像马上就要进入2022了.