基于忆阻器的基于架构解决Hopfield神经架构来解决组合优化问题

2022-01-13 12:36:00满伟钧导读在过去的几年中，许多研究人员试图开发可以解决组合优化问题的忆阻优化技术，这些技术需要在一定数量的神经可能性内确定最佳项目或解决方案。过去的组合研究

在过去的几年中，许多研究人员试图开发可以解决组合优化问题的问题技术，这些技术需要在一定数量的基于架构解决可能性内确定最佳项目或解决方案。过去的忆阻优化研究已经使用基于退火技术的计算加速器解决了这些问题，这些加速器基于各种技术工具，神经包括量子，组合光学和电子设备。问题

但是基于架构解决，到目前为止开发的忆阻优化大多数方法都没有达到大规模解决组合优化问题所需的处理速度和能效。这样可以防止它们在工业环境和其他实际环境中实现。神经

作为Hewlett Packard Enterprise一部分的组合Hewlett Packard Labs(HPL)的研究人员最近开发了一种新的基于忆阻器的退火系统，该系统可以快速有效地解决组合优化问题。问题该系统在发表于《自然电子》上的论文中提出，它使用基于Hopfield 神经网络的节能型神经形态架构，该网络是John J. Hopfield于1982年首次推广的一种递归神经网络，可用于实现自动联想记忆。

“ 2008年，我们在HPL的小组发现了忆阻器(即存储电阻器)，这是一种两端设备，即使在电源关闭的情况下也可以以其电阻状态存储信息，”研究人员之一Suhas Kumar这项研究告诉TechXplore。“在2017年，我们假设嘈杂的忆阻器可用于构建Hopfield网络，该网络可用于解决NP困难的优化问题，而不是其最初的关联记忆目的。”

几年来，将基于Hopfield网络的体系结构从较差的解决方案中移出的困难阻止了这些体系结构成为主流。Kumar和他的同事们能够克服这一限制，并构建了一个基于忆阻器的芯片，该芯片是Hopfield网络的一个示例。与过去开发的其他系统相比，它们的芯片可以利用自身的噪声来解决任何组合优化问题。

“与Suhas提到的工作并行，HPL也在进行一项研究工作，以查看是否可以将硅光子用于计算而非通信，这是我加入公司以来我一直在研究的领域。”参与这项研究的另一位研究人员Vaerenbergh告诉TechXplore。“在某个时候，我们正在设计一种称为光学Ising机的基于光的加速器，该加速器非常适合解决组合优化问题。我意识到，即使物理原理截然不同，该系统也可以使用忆阻器在模拟电子产品中实现。 。”

最近发表在《自然电子》上的论文是库马尔与HPL忆阻器团队的其他研究人员以及专门研究光子学领域的Van Vaerenbergh及其同事合作的产物。结合他们的专业知识，这两个团队最终能够设计出一种新颖的忆阻器Hopfield神经网络(mem-HNN)体系结构，该体系结构可以利用任何电路中存在的噪声。

“更具体地说，我们实施了一个滞后反馈，既可以将噪声放大也可以抑制到任何预定水平，然后可以将其注入电路的所需部分，以使系统脱离次优解决方案，” Kumar说过。“基于该芯片在60个节点规模上的实验性能，我们预计其性能将比最佳CPU和GPU高出10,000倍，以解决任何给定的优化问题。”

Kumar，Van Vaerenbergh和他们的同事认为，忆阻器Hopfield网络的性能要比任何竞争的量子或桌面光学方法都要好几个数量级。有趣的是，这些台式光学方法是Van Vaerenbergh和HPL光子学团队过去进行的许多下一代光学组合优化加速器研究的起点。

研究人员通过使用他们的mem-HNN系统解决不同的不确定性多项式时间(NP)困难问题，对其进行了测试，并在一系列仿真中探索了其可扩展性。他们的结果非常有前途，表明他们的系统可能是解决大规模组合优化问题的理想解决方案。

Van Vaerenbergh说：“与Suhas和其他合作者一起研究当前的模拟电子文件，我们发现该系统的电子版本还具有非常吸引人的能效和速度指标，明显优于光学桌面系统。” “其他光子团队现在也在尝试通过实验证明集成光子学方法的效率，包括麻省理工学院的一个团队，拉萨皮恩扎大学，ISC-CNR和索邦大学的一个团队。”

Kumar，Vaerenbergh及其同事最近的工作证明，大多数研究人员在开发数字或模拟硬件平台时试图减少或消除的电子噪声实际上可对某些优化应用有用。通过成功地将此思想与非易失性忆阻器交叉开关阵列的内存中计算功能相结合，他们设计的新芯片可以帮助加快依赖组合优化算法的各个领域的计算速度。

“这项研究最有趣的结果之一是，人们数十年来一直在努力将其减小到最小，而电路噪声实际上可以用于加速解决某些类型的计算难题，而人们也一直在尝试解决这些问题。几十年来，”库马尔说。“因此，这是将通常不需要的电路方面用于解决我们非常关心的一类问题，即NP难题”的组合。”

将来，由这组研究人员开发的新型mem-HNN系统可以用于解决许多NP难题，包括天气预报，导航优化，供应链优化和基因测序任务。到目前为止，该新芯片仅在实验室中进行了演示，但是HPE可能很快会扩大其制造规模，并朝着广泛的商业化方向发展。

Van Vaerenbergh说：“我们现在也正在研究我们技术的更多实际用例，而不是到目前为止我们在工作中一直在使用的学术基准任务。” “我们的目标是能够加快解决客户关心的问题的解决方案。”