课程二:深度学习入门
讲师:David (数据分析工程师)
这门课主要介绍了很多神经网络的基本原理,非常非常基础的了解。
零、思维导图预览:
一、深度神经网络
1.神经元工作原理
——这是生物上的神经元,然后从中抽象出来,做成 M-P神经元模式
2.神经网络简介
——1943 M-P神经元模型
——1956 感知机
——1986 分布式表示
由 hinton(神经网络之父?)提出
——用6个神经元表示9个组合。
神经元 颜色 物件 |
红 |
黄 |
蓝 |
车 |
红车 |
黄车 |
蓝车 |
马 |
红马 |
黄马 |
蓝马 |
狗 |
红狗 |
黄狗 |
蓝狗 |
一开始是需要9个神经元来表示这些组合,后来提出分布式表示后,就可以使用6个神经元,再通过其两两组合,从何实现了9个组合,这种方法。
——1986 反向传播算法
——1994 长短记忆网络
——2006 深度神经网络
——2007 卷积神经网络
3.为什么现在深度学习这么火?
——“大”数据
目前科技发展较好,网络上有丰富的数据。
深度学习:需要大量的数据来训练他的能力。
——“深”模型
当前计算机的计算能力较强。
4.神经网络分类
——前馈神经网络
——深度神经网络(全链接式)
——优化深度神经网络
TensorFlow (较流行)、torch 、theano 、caffe 、mxnet、 pytorch
——测试:http://playground.tensorflow.org 一个用来优化深度神经网络的工具测试
——卷积神经网络
——处理图片识别的问题
——循环神经网络(RNN)
——长短记忆网络(LSTM)
——门循环网络(GRU)
——生产判别式网络
二、深度学习的应用
1. 图片识别
2. 语言识别
3. 机器翻译
4. 图片生成
三、如何学习深度学习
1.数学
——线性代数
——微积分
——凸优化计算方法
——概率论 等
2.机器学习
3.编程
——算法与数据结构
——python
4.深度学习
——相关资料推荐:
Deep Learning,lan Goodfellow , Yoshua ,Bengio , etc .
——论文网站推荐:域名:arXiv
——相关公开课推荐
cs231n & hinton