【机器学习理论】BP神经网络

机器学习–拟人

有监督的机器学习

多元线性回归 回归/预测

逻辑回归 分类

神经网络(仿生)

预测 非线性的算法，非线性的算法可以来解决更加复杂的问题 神经网络算法也是后面深度学习的时候的基础 ANN artificial neural network MLP multiple layer percepton CNN RNN

Q：神经网络需要考虑的基本要素有哪些？ A：1，激活函数的选择，对应神经元里面的逻辑，两部分，相乘相加和非线性的变化，相乘相加是固定不变的 非线性的变化可以有很多选择，根据效果来 2，网络拓扑结构，处理更加复杂的问题，就需要更多的网络层，就需要每层上面设置更多的人工神经元 3，在去求解神经网络模型的时候，w0…wn，选择什么样优化算法，SGD一样适用！

Q：激活函数有哪些？ A：1，Sigmoid函数，0到1之间 2，Tangent函数，-1到1之间 3，Relu函数，max(0,x)

Q：神经网络算法的隐藏层意义何在？ A：1，如果有隐藏层的话，就多了推理有演绎的能力 2，每多一个隐藏层，推理和演绎的过程更多，考虑的更深入 3，隐藏层的隐藏节点如果比之前的层上面的节点数要多，相当于进行了升维，考虑的因素更多，考虑的更全面 4，隐藏层的隐藏节点如果比之前的层上面的节点数要少，相当于进行了降维，去前面进行了归纳总结