详解：如何用Python实现机器学习算法（3）

详解：如何用Python实现机器学习算法（2）三、BP神经网络 全部代码下载 1、神经网络model 先介绍个三层的神经网络，如下图所示 输入层（input layer）有三个units（为补上的bias，通常设为1） 表示第j层的第i个激励，也称为为单元unit 为第j层到第j+1层映射的权重矩阵，就是每条边的权重  所以可以得到： 隐含层： 输出层， 其中，S型函数，也成为激励函数 可以看出 为3x4的矩阵，为1x4的矩阵 ==》j+1的单元数x（j层的单元数+1） 2、代价函数 假设最后输出的，即代表输出层有K个单元 ，  其中，代表第i个单元输出与逻辑回归的代价函数 差不多，就是累加上每个输出（共有K个输出） 3、正则化 L-->所有层的个数 -->第l层unit的个数 正则化后的代价函数为 共有L-1层，然后是累加对应每一层的theta矩阵，注意不包含加上偏置项对应的theta(0) 正则化后的代价函数实现代码： # 代价函数 def nnCostFunction(nn_params,input_layer_size,hidden_l