密歇根大学利用忆阻器加快神经网络学习速度发布时间: 2018-01-07 00:16:39.0

       密歇根大学研究人员研制出一种被称为储备池计算系统的新型神经网络,该神经网络具有更好的能力,需要的训练时间比类似的神经网络更少。该系统有望用于复杂预测,如预测对话中即将出现的单词。

相比于此前用体积更大的光学器件实现,研究人员此次利用了具有空间效率的忆阻器来设计系统,这种系统与传统硅基电子器件很容易集成。记忆电阻器是一种独特的电子元件,它结合了数据存储和逻辑运算的功能,这与传统的存储器与处理器分离不同。

神经网络由节点及其之间的连接组成,用于模仿大脑的神经元和突触。在传统上,神经网络需要时间很长的有监督学习过程,通过向其提供大量问题和解决方案来教会神经网络解决一类问题。在这个迭代的过程中,不同的权重被分配给突触,直到神经网络能够以最小的错误率找到正确答案为止。

密歇根大学电子工程和计算机科学教授、研究小组组长卢伟表示:很多时候,训练一个神经网络需要耗费几天或几个月的时间,时间成本极高

然而,采用储备池计算系统可以简化训练过程,因为其最重要的组成部分,即储备池不需要进行训练。

卢伟表示:储备池计算的好处在于,当我们设计它的时候并不需要对其进行训练

该储备池只将输入数据的时间相关特性以简短的格式传送到第二个网络。第二个网络类似于基本的神经网络,只需要进行简单的训练。

通过识别手写数字,验证了储备池计算系统的有效性。该储备池的准确率达到了91.1%,超过了标准单层神经网络88%的准确率。与达到这一准确率的含有数千个节点的神经网络相比,该储备池计算系统只需要88个忆阻器。

该研究团队还展示了系统对随时间变化数据的处理,并用其模仿依赖多个此前结果的复杂函数。储备池计算系统完成这项任务几乎没有错误。

未来,卢伟设想将该神经网络系统用于语音识别。

卢伟表示:我们可以对自然语言进行预测,在话没有说完整的情况下,也可以预测接下来要说什么。

此外,该神经网络还可以用于清除噪音信号,如从遥远的无线电台传输的充满了静电干扰的无线电信号。

卢伟指出:即使输入停止,该神经网络也能预测和产生输出信号

该工作从DARPA感知和分析用稀疏自适应本地学习项目中获得690万美元的资助,该项目的目标是创建一个自组织、自适应神经网络的计算机芯片。

来源: 中国国防科技信息网

由于系统升级,评论功能临时关闭!

热点新闻
通用韩国5月关闭群山工厂 公布工人安置计划 (2018-04-19)
密歇根大学专家组访弘天生物,深化战略合作 (2018-04-19)
NACSAE/CSAE智能网联汽车论坛(多图) (2018-04-19)
加速进军自动驾驶领域 福特计划推出自动驾驶出租车服务 (2018-04-18)
美国富人纷纷涌向“贵城市” 底特律克利夫兰被打入“冷宫” (2018-04-18)
美国密歇根大学工程师成功开发太阳能成像传感器 (2018-04-17)
为密歇根创业公司引资13亿美元 文艺复兴母基金树区域投资榜样 (2018-04-17)
许多企业都在研发 电动汽车距离无线充电还远吗? (2018-04-16)
FCA北美利润率欲第四季度超福特通用 (2018-04-16)
通用汽车宣布6月本土裁员1500人 打脸特朗普“就业带回美国”口号! (2018-04-15)
密歇根前锋宣布参加NBA选秀 四强赛曾砍24+15 (2018-04-15)
福特拟加大林肯在华生产 2022年前投产5款新车 (2018-04-14)
通用总裁表示韩国通用重组谈判截止日为4月20日 (2018-04-14)
行业律师警告:过度宣传自动驾驶或面临法律诉讼 (2018-04-13)
终于等到你!法国PSA集团再次入驻美国汽车市场 (2018-04-13)
宁波均胜15.88亿美元收购日本高田 跻身全球汽配龙头企业 (2018-04-12)