Vaswani, Ashish, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N. Gomez, Łukasz Kaiser, and Illia Polosukhin. “Attention is all you need.” In Advances in neural information processing

理清机器学习中的数学概念和相关基础知识，对于理解机器学习算法的原理以及改进算法至关重要。因此本系列笔记打算针对《Mathematics for machine learning》一书，进行学习笔记整理，希望提升自己的同时，能帮助他人一起成长。

最近因为跑程序，需要用到cuda的版本为10.0，但是机器的cuda版本为10.1，所以就将其版本进行了降低。

Chen, Weiqi, Ling Chen, Yu Xie, Wei Cao, Yusong Gao, and Xiaojie Feng. “Multi-Range Attentive Bicomponent Graph Convolutional Network for Traffic Forecasting.” arXiv preprint arXiv:1911.12093 (2019).

下列命令在Ubuntu16.04 LTS 系统下测试通过。

之前写了一篇用hexo+github搭建博客的教程，大致流程为：本地博客搭建，将博客部署到github，配置域名访问。详细可参考我的博客（Hexo搭建个人博客教程）。最近因为遇到在实验室写好博客，但是想在寝室发布博客，所以涉及到多电脑同步的问题，现将解决方案记录如下。

昨天看完了《红楼梦》一书，还记得是从去年暑假开始看，差不多花了半年时间。因为之前身边有同学看，加之暑假打算看一看书，之前也没有看过，只零星看过红楼梦的电视剧，所以就选择了《红楼梦》。

新的一年，保持阅读和写作的习惯，每一个月读完一本书写一篇读书笔记(简称三一计划)。

这篇文章是关于深度学习的一篇综述文章。是由深度学习界的三位大牛（YannLeCun, Yoshua Bengio, Geoffrey Hinton）所写。在本文中，介绍了反向传播算法、卷积神经网络与循环神经网络的经典应用，给出了细致的图解和深入的分析，是深度学习中的高质量的重要文献。文中还提到了深度学习未来的发展，比如将卷积神经网络、循环神经网络与强化学习结合起来；将表示学习与复杂推理结合起来。

文章提出了一种称为注意力人流量机器（Attentive Crowd Flow Machines）的神经网络模型，该模型能够通过带注意力机制的时变数据动态表示来推断城市人流量的演变。它由两层ConvLSTM单元以及用于空间权重预测的卷积层组成。文章的创新点在于：1.引入了注意力机制 2.权重时变的融合方法。