对于全连接层,不管中间有多少层,如果没有激活函数,那么如果输出是n,则最后化简下来也就n个方程,但是我们的样本集很复杂,n个方程是不能将这些点给分开的,怎么办呢,这个时候就引入了激活函数,每一层的每一组权重在运算时都需要选择(非线性变换),如果将每一层的选择组合起来,我们会发现很多很多,而每种情况都对应一个线性方程,这个方程的数量变得很多,那么在分类时就会变得更加准确,回归也是一样的,回归时由于方程数量很多曲线机会被直线代替了,所以精度提升。