深度学习用到哪些数学知识？难懂？

3

E星人

赞同来自 : 晨光中的金玫瑰、范大将军、萤火虫

据说，深度学习并没有涉及很深的数学知识，高数70以上，可以看懂

2

晨光中的金玫瑰

赞同来自 : 范大将军、萤火虫

图像处理，用到一个公式：内积空间

1

范大将军

赞同来自 : 萤火虫

《Deep Learning》分为三个部分：
第一部分介绍了基础的数学和机器学习知识。深度学习本身所需要的基础知识并不多，有一点线性代数和机器学习的概念就足够了。

第二部分介绍了FNN、CNN、RNN等成熟的网络模型。除了详细的模型介绍外，第6章在反向梯度一节中介绍了Theano中采用的符号微分自动求梯度方法。第7章介绍不少干货，比如正则化、Dropout、对抗训练等，第8章讲了一些优化技巧，在SGD一统江湖的今天，从实用角度上讲，大家只需要了解些参数初始化、动态学习率等策略就足够了。如果想深入了解，可以看看Batch Normalization、Curriculum Learning等最近比较热门的优化方法。第11章可以看作是实战指导，在动手写代码之前，最好先阅读下这一章。

第三部分介绍了作者比较看好的新模型：深度生成模型（Deep Generative Models），并不惜篇幅地在第13-19章进行铺垫。这部分附带了作者强烈的个人偏好。如果只是希望了解深度学习的读者，这部分可以不用看。除了第20章外，其他部分和深度学习关系不大。如果想了解这方面内容的读者，最好先阅读Michael Jordan的《An Introduction to Probabilistic Graphical Models》。Jordan的这本书写得通俗易懂，非常适合入门。

0

萤火虫

赞同来自 :

Geoffrey Hinton的Coursera神经网络课程
创建一个3D全息图，需要大量的记录入射光被物体多次反射的结果，然后将这些信息存储进一个庞大的数据库中。大脑储存信息的方式居然与全息图如此类似，大脑并非将记忆储存在一个特定的地方，而是在整个神经网络里传播。
学习这个，有助于我们学习深度学习

0

开始弯

赞同来自 :

个人推荐这几本
Linear Models and Generalizations – Least Square and Alternatives
Convex Optimization
The Elements of Statistical Learning

最后上 Statistical Learning Theory by Vapnik V.

入门deep learning其实不需要很深的数学基础，本科的线性代数应该够了。但是如果想深入研究的话，多了解一些还是有必要的。

https://www.youtube.com/playli ... V53Fu
其他的公开课大多强调深度学习在某一方面的应用，比如CV, NLP，而这个讲的更全面一些，从最基础的linear regression到state of the art的cnn，rnn，lstm都有所涉及。

来源网络

年月

5 个回复

发起人

相关问题

问题状态

年 月

深度学习用到哪些数学知识？难懂？

与内容相关的链接

5 个回复

发起人

相关问题

问题状态

年月