Renovamen

不管是按公历新年，还是按中国新年，在这个点说新年快乐都显得格格不入，但反正也没人看也就无所谓了。

在 gap 了一年，又上了一学期网课以后，我终于来了波士顿。

长期记录和实现看过的各种论文里的自注意力和卷积机制，咕咕咕，实现地址在： Github

自然梯度下降（Natural Gradient Decent）把参数看成一种概率分布，然后使用 KL 散度而不是欧氏距离来作为距离的度量，从而更好地描述更新后的分布和原分布有多大的不同。

Fisher 信息矩阵的数学意义和直观上的理解。

SVM（Support Vector Machine，支持向量机）是一种二类分类模型，目标是在特征空间上找到间隔最大化的超平面。

把大三的时候在实验室摸鱼看贝叶斯网络和 PC 算法时写的笔记整理到这里来，免得哪天我换电脑时把笔记搞没了。

记录一些 PyTorch 的细节。

太长不看版：顺位第一的新年愿望是能成为一个温暖的人类，如果这个愿望今年无法实现，那就先当一个正常一些的人类吧。

“虽然研究进度堪忧，但鱼还是要摸的”，在这样的理念的驱动下，菜鸡最终折腾出了一个目前看上去还算可以的方案。