北大团队重构深度储备池计算硬件,获得更大的记忆容量

Sue Xiao

1

储备池计算(Reservoir Computing)是一种低训练代价、低硬件开销的循环神经网络(RNN),在时序信息处理方面具有广泛的应用,例如波形分类、语音识别、时间序列预测等。储备池计算系统由神经元循环连接的储备池和输出层两部分组成,其中仅有输出层需要训练,从而显著降低了训练代价,而系统中的储备池可以由具有短时程特性的非线性器件来实现。当前国际上针对储备池计算系统的研究主要集中在探索使用不同类型的非线性器件(如忆阻器、自旋扭矩振荡器、纳米线网络、半导体光学放大器等)来构建单层储备池,但储备池状态数、记忆容量、复杂动力学特性等的局限从根本上制约了系统本身信息处理能力的提升。

针对这一关键问题,北京大学集成电路学院黄如院士-杨玉超教授课题组首次采用可级联短时程非线性单元构建了深度储备池(deep reservoir)计算硬件,他们研制了可级联的单层储备池硬件,通过将动态忆阻晶体管与平面器件进行串联分压,实现了电压输入、电压输出的短时程非线性单元。由于输入和输出为相同的物理量,解决了通常情况下电压输入、电流输出器件难以直接级联的问题,为构建深度储备池计算硬件奠定了器件基础。基于该类短时程非线性单元,他们进一步制备了深度储备池硬件系统,并结合分时复用的虚拟节点方法,获得了丰富的储备池状态。

实验研究结果表明,相比同等规模的单层储备池计算系统,该工作所构建的深度储备池计算硬件具有更大的记忆容量、更丰富的储备池状态数、层次化的信息处理能力,并在波形分类、电能消耗预测等任务中展示了优异的性能,证明了深度储备池计算系统在时序信息处理任务中的潜力。

该研究论文题为"Multilayer Reservoir Computing Based on Ferroelectric α-In2Se3 for Hierarchical Information Processing",已发表在《先进材》期刊上。

前瞻经济学人APP资讯组

论文原文:https://onlinelibrary.wiley.com/doi/abs/10.1002/adma.202108826

可行性研究报告

广告、内容合作请点这里:寻求合作

咨询·服务

相关阅读

精彩推荐