人工神经网络(Artificial Neural Network,ANN),也简称神经网络,是众多机器学 习算法中比较接近生物神经网络特性的数学模型。人工神经网络通过模拟生物神经网络 (大脑)的结构和功能,由大量的节点(或称“神经元”,或“单元”)和之间相互联接构 成,可以用来对数据之间的复杂关系进行建模。 一、每层由单元(unit)组成
二、输入层由训练集的实例特征向量传入
三、每个结点都有权重(weight)传入下一层,一层的输出是下一层的输入。
(根据生物学上的定义,每个单元成为神经结点) 四、以上成为两层神经网络(输入层不算)
五、每一层的加权求和,到下一层结点上还需要非线性函数激活,之后作为输出
六、作为多层前馈神经网络,如果由足够多的隐藏层,和足够大的训练集,理论上可以模拟出任何方程。 反向传输算法核心(backpropagation) 特点 :
1、通过迭代来处理训练集中的实例
2、计算输入层预测值(predicted value)和真实值(target value)之间的差值error
第 1 页 共 3 页
3、反向传输(输出层->隐藏层->输入层)来最小化误差(error)来更新每个链接的权重(weight)
显然,对于神经网络而言,最重要的是能恰当配置好隐藏层和输出层神经元的权值和偏置。幸好的是,这个配置是由机器来做,而不是人类。使用神经网络的步骤一般为:
建立模型,按照业务场景建立网络结构,多少个输入神经元和输出神经元,多少层隐含层,层与层之间是全连接,还是部分连接等等。 训练模型,对于已经标记好的大量数据,将它们扔到神经网络中,神经网络通过预测输出与实际输出的差值来自动调整隐藏层和输出层神经元权值和偏置。
数据预测,对于新的数据,将他们直接扔到输入层,得到的输出就是预测输出。
机器学习的主要用途为分类,聚类,回归,关联规则等等。现有的机器学习方法有SVM,logistic回归,决策树,随机森林等方法。但是,在需要高精度,难以提取特征的无结构化数据机器学习中,深度学习几乎是唯一的选择。
但是深度学习也有它的问题,它对训练数据很敏感,它的训练目标也是最小化训练数据的训练误差,所以容易受到噪音和过拟合的影响。因此,在一些高噪音的环境下,深度学习是失效的。例如,短期日内股票交易中,股票的波动可能是完全随机性的,上涨可能跟之前的股票走向有关,还可能跟随机性因素有关。所以,通过之前走向和未来走向扔进神经网络后,神经网络无法识别出哪些是因为随机性因
第 2 页 共 3 页
素影响,哪些是真正可以使用的走向。高噪音让它无法收敛,或者只是收敛到一个过拟合的网络中。
第 3 页 共 3 页
因篇幅问题不能全部显示,请点此查看更多更全内容
Copyright © 2019- haog.cn 版权所有 赣ICP备2024042798号-2
违法及侵权请联系:TEL:199 1889 7713 E-MAIL:2724546146@qq.com
本站由北京市万商天勤律师事务所王兴未律师提供法律服务