2.1 多层神经网络的概述

2.1.1 隐藏层的意义

异或（XOR）运算存在线性不可分的问题，其效果表达图如图2.1所示。单层神经网络中没有添加非线性处理的激活函数，无法处理该问题。在多层神经网络中，使用隐藏层配合激活函数，可以处理该问题及更为复杂的其他非线性问题，其中激活函数就是一种常用的处理非线性问题的方法。一般而言，多层神经网络的隐藏层越多，处理效果会越好。

图2.1 异或数据的效果表达图

图2.2所示的包含隐藏层的神经网络可以很好地解决异或问题。该神经网络由三层神经元组成，除了输入层和输出层，还包含一个隐藏层。输入层输入两个特征，隐藏层中包含三个神经元，隐藏层使用sigmoid函数（一种激活函数）对数据进行激活，激活后的数据要交给输出层进行二分类处理，输出层只有一个神经元。

图2.2 包含隐藏层的神经网络