超限学习机范文

超限学习机范文 　超限学习机（ELM） xx 年，Huang 等人 [61] 提出超限学习机（ELM）。它是为了解决传统学习算法所包含的缺点，例如训练时间较长、容易受到噪声干扰与陷入局部最优解、参数

超限学习机范文 超限学习机（ELM）xx年，Huang等人[61]提出超限学习机 （ELM）。它是为了解决传统学习算法所包含的缺点，例如训练时间较 长、容易受到噪声干扰与陷入局部最优解、参数选择较为敏感等等， 才被提出来的单隐藏层前馈神经网络，具有优异的学习准确性和速度 [46]。超限学习机不需要迭代地调整神经网络权值和隐藏层节点偏 置，而是通过直接学习使用最小二乘法就能够得到。在基本训练的步 骤中缺少了迭代后，神经网络的学习速度明显变快，陷入过拟合的概 率同样减小。 假设有N个训练数据[xt],ii，?1,2,,iN，其中??1 2[,,,]TniiiinxxxxR是样本，??12[,,,]Tmii iimttttR为样本jx的期望输出向量，n和m代表对应的输入 和输出的维数。对于N个训练数据，l个隐藏层节点来说，?lN ，()gx是激活函数，常规的一般为Sigmoid型，由此得到超限 学习机神经网络输出数学模型如式（4.1）： ?????1(),1,2,,liijijiβgbjNaxt（4.1） 其中，?12[,,,]Tiiiinaaaa表示输入层节点与第i个 隐藏层节点之间的输入权值，?12[,,,]Tiiiimββββ 为输出权值，ib为隐藏层偏置。 式（4.1）可以简化为，β?HT（4.2）其中式（4.2）中， 隐藏层输出矩阵为H表示，输出权值矩阵（隐藏层与输出层间）为 β表示，期望输出矩阵为T表示[62]。