keras之权重初始化方式
在神经网络训练中，好的权重初始化会加速训练过程。
下面说一下kernel_initializer权重初始化的方法。
不同的层可能使用不同的关键字来传递初始化方法，一般来说指定初始化方法的关键字是kernel_initializer和bias_initializer
model.add(Dense(64,kernel_initializer=initializers.random_normal(stddev=0.01))) #alsoworks;willusethedefaultparameters. model.add(Dense(64,kernel_initializer='random_normal'))
几种初始化方法
keras.initializers.Zeros()#全0 keras.initializers.Ones()#全1 keras.initializers.RandomNormal(mean=0.0,stddev=0.05,seed=None))#指定均值和方差的正态分布初始化 keras.initializers.RandomUniform(minval=-0.05,maxval=0.05,seed=None)#指定下边界和上边界的均匀分布初始化 keras.initializers.TruncatedNormal(mean=0.0,stddev=0.05,seed=None)#截尾高斯分布初始化，位于均值两个标准差以外的数据将会被丢弃并重新生成，形成截尾分布
自定义初始化
defmy_init(shape,dtype=None): returnK.random_normal(shape,dtype=dtype) model.add(Dense(64,init=my_init))
补充知识：Keras中权重weight的初始化
Keras的原始构造模块是模型，最简单的模型称为序贯模型，Keras的序贯模型是神经网络层的线性管道（堆栈）。
以下代码段定义了一个包含12个人工神经元的单层网络，它预计有8个输入变量（也称为特征）：
fromkeras.modelsimportSequential model=Sequential() model.add(12,input_dim=8,kernel_initializer='random_uniform')
每个神经元可以用特定的权重进行初始化。Keras提供了几个选择，其中最常用的选择如下所示。
random_unifrom：权重被初始化为（-0.5，0.5）之间的均匀随机的微小数值，换句话说，给定区间里的任何值都可能作为权重。
random_normal：根据高斯分布初始化权重，其中均值为0，标准差为0.05。
zero：所有权重被初始化为0。
以上这篇keras之权重初始化方式就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持毛票票。