栗子酱

Keras != tf.keras

Keras建立在其他接口之上的高层接口

TF2中实际不需要Keras，TF2中有对Keras的实现

• datasets
• layers
• losses
• metrics
• optimizers

因之前tf.keras数据集下载中途退出而导致再次下载时失败(mac/Linux)

• fashionmnist/mnist、boston housing、cifar10/100、imdb keras也就这6个数据集啦

通常为EOSError

1

EOFError: Compressed file ended before the end-of-stream marker was reached

一般就是因为keras认为你的数据不对而报错，解决方法也非常的简单

梯度下降

Gradient

• 导数derivative:一维
• 偏微分partial derivate:多元函数中按照某一方向的导数
• 梯度gradient:是多轴组合而成的向量

gradient的方向就代表了函数值增大的方向，loss找到最小值即是向梯度相反的方向更新

小型经典数据集加载

keras.datasets 常用数据集

keras.datasets下载数据集是在google源下载，需要科学上网。已经下载过一遍的数据集第二次就不需要下载了（有需要科学上网的同学可以到About me邮件联系我）

• boston housing：波士顿房价回归模型
• mnist/fashion minst：手写数字识别
• cifar10/100：小型图片分类，cifar100是cifar10的再分类
• imdb：评语情感分类

合并与分割

concat 拼接

axis=? 合并某一个维度的数据

要求除了要拼接的维度外的所有维度都相等

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16

In [2]: a = tf.ones([4,35,8])
In [3]: b = tf.zeros([2,35,8])
In [4]: c = tf.concat([a,b],axis = 0)
TensorShape([6, 35, 8])
In [6]: b = tf.zeros([4,3,8])
In [7]: c = tf.concat([a,b],axis = 1)
TensorShape([4, 38, 8])

In [10]: a = tf.ones([4,3])
In [11]: b = tf.zeros([4,4])
In [13]: c = tf.concat([a,b],axis = 1)
<tf.Tensor: shape=(4, 7), dtype=float32, numpy=
array([[1., 1., 1., 0., 0., 0., 0.],
       [1., 1., 1., 0., 0., 0., 0.],
       [1., 1., 1., 0., 0., 0., 0.],
       [1., 1., 1., 0., 0., 0., 0.]], dtype=float32)>

stack 创建新的维度

前向传播

• out = relu{relu{relu[X@W1+b1]@W2+b2}@W3+b3}

• pred = argmax(out)

• loss=MSE(out,label)

• minimize loss 优化[W1’,b1’,W2’,b2’,W3’,b3’,]