numpy 实现神经网络系列

numpy 实现神经网络系列

仅使用 numpy 从头开始实现神经网络,包括反向传播公式推导过程; numpy 构建全连接层、卷积层、池化层、Flatten 层；以及图像分类案例及精调网络案例，欢迎关注和共同参与(持续更新中... ...)

工程地址： https://github.com/yizt/numpy_neuron_network

基础知识

0_1-全连接层、损失函数的反向传播

0_2_1-卷积层的反向传播-单通道、无 padding、步长 1

0_2_2-卷积层的反向传播-多通道、无 padding、步长 1

0_2_3-卷积层的反向传播-多通道、无 padding、步长不为 1

0_2_4-卷积层的反向传播-多通道、有 padding、步长不为 1

0_2_5-池化层的反向传播-MaxPooling、AveragePooling、GlobalAveragePooling、GlobalMaxPooling

0_3-激活函数的反向传播-ReLU、LeakyReLU、PReLU、ELU、SELU

0_4-优化方法-SGD、AdaGrad、RMSProp、Adadelta、Adam

DNN 练习

1_1_1-全连接神经网络做线性回归

1_1_2-全连接神经网络做 mnist 手写数字识别

CNN 练习

2_1-numpy 卷积层实现

2_2-numpy 池化层实现

2_3-numpy-cnn-mnist 手写数字识别

以下部分待完善：

2_4-对抗神经网络 、csdn 地址

其它

模型的保存、部署

精调网络

进阶

5-1-RNN 反向传播

5-2-LSTM 反向传播

5-3-GRU 反向传播

5-4-RNN、LSTM、GRU 实现

5-5-案例-lstm 连续文字识别