深度学习是怎么

Fast19Samuel

深度学习是机器学习中的一个重要的方向，深度学习其实就是神经网络学习，这里“深度”就是说神经网络中众多的层。
那么深度学习是用来干嘛的呢？简单说，那就是...
0 j5 v6 O8 ?8 X3 d+ o& q1 M分类

/ x3 \$ Y7 h$ i; r3 o4 {0 d5 s关于什么是机器学习的解释，Quora上有一个买菜大妈都能看的懂的回答。翻译一下就是，吃遍南山区所有芒果的大妈，自己总结出个大颜色黄的比较好吃，所以买芒果的时候，直接挑选了这种。那什么是机器学习呢，就是你告诉机器每一个芒果的特征（颜色，大小，软硬等），并且告诉机器其输出（好不好吃），剩下的就等机器去学习出一套规则，这些芒果就是你的训练集。而当你再丢芒果进去的时候，已然熟悉基本法的机器就会直接告诉你这个芒果好不好吃，这种能自动对输入的东西进行分类的机器，就叫做分类器。) S3 g$ {2 k3 l7 b9 O
( h: U# w: H4 Q6 G8 c  _

2 W$ R7 Y! H+ O- U3 N最简单地把这两组特征向量分开的方法是什么呢？当然是在两组数据中间画一条竖直线，直线左边是-，右边是+，分类器就完成了。以后来了新的向量只要代入公式，h = ax + b ，凡是落在直线左边的都是-，落在右边的都是+。这是二维空间的分类，而当特征有很多种时，我们就要在n维空间做分类，大家可以想象一下，就是用一个n-1维超平面把n维空间一分为二，两边分属不同的两类，，这种分类器就叫做神经元，a是权值，a0是偏移。
! ?+ P' u( ]4 W8 W: }( P& y: W

上图就是一个简单神经网络的架构，网络中最左边的一层被称作输入层，其中的神经元被称为输入神经元（input neurons）。最右边的一层是输出层（output layer），包含的神经元被称为输出神经元(output neurons)。网络中间的一层被称作隐层（hidden layer），在一些网络中往往有多个隐层。我们可以看到，输入向量连到许多神经元上，这些神经元的输出又连到一堆神经元上，这一过程可以重复很多次。数值向量在不同神经元之间传导。
但是，我们刚刚分析了神经元，神经元的变换是完全的线形的，如果神经网络的每层都只是做线性变换，多层输入叠加后也还是线性变换。因为线性模型的表达能力不够，所以需要激活函数来引入非线性因素。举个栗子，常用的激活函数sigmoid
9 l1 o. P5 e7 u8 U( v2 x4 L* S
* p# {2 D' a5 [8 U  k具体步骤如下：

• 正向传递：算当前网络的预测值 （Relu是一种激活函数，Wh1、Wh2、W0是权重，b是偏移量）
• 计算loss：
  
• 预测新值：训练过所有样本后，打乱样本顺序再次训练若干次。训练完毕后，当再来新的数据input，就可以利用训练的网络来预测了。这时的output就是效果很好的预测值了。. x( A) X: [2 O6 W
  8 B5 E. y" @: R0 W( L5 d$ n. o+ }

PS 以上理论知识和公式来自斯坦福大学计算机视觉实验室推出的课程CS231n: Convolutional Neural Networks for Visual Recognition, X6 X2 N# l  \5 T8 o8 a
调戏TensoRFlow Playground; A3 O; _& q9 D8 t/ b( e
! Z  h9 J" @6 }( f' i4 D
9 {5 _7 j7 @) Y接下来，摩拳擦掌想要试一试深度学习的朋友们可以试着调戏一下TensorFlow Playground。TensorFlow游乐场是一个通过网页浏览器就可以训练的简单神经网络，并实现了可视化训练过程的工具。下图就是TensorFlow游乐场默认设置的截图
" J8 Q+ P# r% F