神经网络(一)

1.机器基本介绍

• 机器学习简介

是什么？ 无序数据转化为价值的方法

价值？ 数据中抽取规律，进行预测未来

• 机器学习应用

分类问题？ 图像识别、垃圾邮件

回归问题？ 股价预测、房价预测

排序问题？ 点击率预估、推荐

生成问题？ 图像生成、图像风格转换、图像文字描述生成

2.深度学习简介

• 算法集合

卷积神经网络（图像生成与分类、CV领域比较OK）

循环神经网络（不定长数据、NLP领域比较ok）

自动编码器

稀疏编码

深度信念网络

限制玻尔兹曼机

深度+强化学习=深度强化学习

3.神经网络

• 神经元（神经网络的最小单元）

基础概念：

W——权重(weight)

T ——特征(feature)

f()——激活函数(Activitaion function)

b ——偏置(bias)

案例：

X = [1, 2, 3]
W = [0.1, 0.2, 0.3]
H(a) = a/10
那么：
W * X = 1.4
H(a) = 0.14


• 逻辑回归模型

范围在0~1之间（概率刚好也是0到1之间），所以可以进行作为概率函数

如果我们多加一个神经元？

则我们获取了一个3分类的输出。

案例：
X=[1, 2, 3]
W=[[0.4, 0.6, 0.2], [0.2, 0.2, 0.1]]
那么，我们可以得到2个结果


• 目标函数

• 梯度下降

• Tensorflow

  
  
  
  
  • Google Brain第二代机器学习框架
  
  
  • 开源社区活跃
  
  
  • 可扩展性好
  
  
  • API健全，对用户友好
  
  
  
  



• 计算图模型

  
  
  
  
  • 命令式编程（立即执行，容易调试，缺点：整体优化难）
  
  
  • 声明式编程（计算图模型，便于优化，不易于中间调试）