cs231n笔记 - lecture5

Convolution Neural Network

卷积神经网络和上一章讲的常规神经网络非常相似:它们都是由神经元组成,神经元中有具有学习能力的权重和偏差。每个神经元都得到一些输入数据,进行内积运算后再进行激活函数运算。整个网络依旧是一个可导的评分函数:该函数的输入是原始的图像像素,输出是不同类别的评分。在最后一层(往往是全连接层),网络依旧有一个损失函数(比如SVM或Softmax),并且在神经网络中我们实现的各种技巧和要点依旧适用于卷积神经网络。

卷积神经网络的结构基于一个假设,即输入数据是图像,基于该假设,我们就向结构中添加了一些特有的性质(卷积层)。这些特有属性使得前向传播函数实现起来更高效,并且大幅度降低了网络中参数的数量。

A bit of history

首先介绍了神经网络的历史和卷积神经网络的发明:

  1. 1957年,Frank Rosenblatt发明了Mark I 感知机