1.1.2 神经网络

由1.1.1节内容可知，深度学习是基于神经网络结构的，而神经网络结构又模仿了生物神经系统信号处理与传输过程。生物神经元结构如图1.2所示。由图1.2可知，生物神经元由树突、细胞体、轴突等部分组成。其中，树突的作用为从其他神经元接收信号并传递到细胞体，细胞体的作用为对从树突接收到的信号进行处理，轴突的作用为从细胞体接收信号并将其传输到其他神经元。通过树突与轴突，可以将来自前一个神经元的信号传输到下一个神经元。当一个神经元接收多个前神经元的信号时，这些信号会在神经元细胞体内进行累积，当累积到一定程度时，会产生新的信号向其他神经元进行传输。依靠树突与轴突，大量的神经元之间可以相互连接，从而形成结构复杂的生物神经网络系统，以完成信号处理与传输，使生物根据信息做出相应的行为。

图1.2 生物神经元结构

图1.3 深度学习神经元结构

图1.4 深度神经网络的网络结构

深度学习神经元结构如图1.3所示。其中，输入1、输入2、输入3表示神经元的输入信号，权重1、权重2、权重3表示各个输入信号的权重，求和相当于生物神经元输入信号累积的过程，非线性函数映射相当于生物神经元的信号处理。完成了非线性函数映射之后的信号如果超过了所设置的阈值，那么信号会传输给下一个神经元。

神经元与神经元之间可以进行相互连接，从而形成复杂的深度神经网络。深度神经网络的网络结构如图1.4所示。圆形节点即神经元，也称为节点或单元。整个网络结构可分为输入层、隐藏层及输出层，层与层之间通过有向箭头进行连接，代表信号的传输。其中，输入层用于接收输入数据，该层神经元的个数应与输入数据的个数保持一致。隐藏层位于输入层与输出层之间，用于处理复杂的非线性问题，可以有一个或者多个隐藏层，每个隐藏层可以有多个神经元。一般情况下，隐藏层层数越多，隐藏层中的神经元越多，隐藏层处理非线性问题的效果越好。输出层用于输出最终的预测结果，根据不同的预测结果，神经元的个数也会有所不同。当用神经网络进行分类时，输出层神经元的个数与类别的个数一致。

值得注意的是，神经网络中的神经元是按层进行排列的，也有些资料文献把神经元的层数称为神经网络的深度。最简单的神经网络是单层神经网络。单层神经网络只有输入层和输出层。