80 likes | 300 Views
Neural Network. Wang Jimin Nov 18, 2005. 神经网络 (Neural network , NNet). 是人工智能中研究比较成熟的技术。 神经网络最早是由心理学家和神经生物学家提出的,旨在寻求和测试神经的计算模拟。 神经网络是一组连接的输入 / 输出单元,其中每个连接都与一个权值相连。在学习阶段,通过不断调整神经网络的相连权值,使得能够正确预测输入样本的正确类标号。. NNet. 神经网络通常由输入层、输出层和隐藏层组成,输入层的神经元个数等于样本的特征数, 输出层就是分类判决层,它的神经元个数等于样本的类别数。
E N D
NeuralNetwork Wang Jimin Nov 18, 2005
神经网络(Neural network,NNet) • 是人工智能中研究比较成熟的技术。 • 神经网络最早是由心理学家和神经生物学家提出的,旨在寻求和测试神经的计算模拟。 • 神经网络是一组连接的输入/输出单元,其中每个连接都与一个权值相连。在学习阶段,通过不断调整神经网络的相连权值,使得能够正确预测输入样本的正确类标号。
NNet • 神经网络通常由输入层、输出层和隐藏层组成,输入层的神经元个数等于样本的特征数, • 输出层就是分类判决层,它的神经元个数等于样本的类别数。 • 特点:对噪声数据具有较高的承受能力,但训练需要花费较长的时间。
NNet • 目前最流行的神经网络学习算法是:后向传播算法(Back-propagation, BP)。 • 它通过迭代地处理一组训练样本,将每个样本的网络预测与实际知道的类标号比较,进行学习。对于每个训练样本,修改连接权值,使得网络预测与实际类之间的均方误差最小。 • 这种修改“后向”地进行,即由输出层,经由每个隐藏层,到第一个隐藏层。
BP算法基本步骤 • 1.初始化网络各层的权值及神经元阈值。(一个小的随机数) • 2.向前传播输入:对每一样本,计算隐藏层和输出层每个单元的净输入和输出。
BP算法基本步骤 • 3. 后向传播误差通过更新权值和偏置以反映网络的预测误差。
BP算法基本步骤 • 终止条件: • 更新权值较小 • 正确分类的样本百分比 • 超过预先指定的训练周期(实践中,权收敛可能需要数十万个周期)