在一项有望对依赖人工智能的移动设备,无人机和机器人进行更高级编程的开发中,IBM研究人员表示,他们已经设计出一种编程方法,该方法可实现更高的准确性并减少能耗。
AI系统通常采用划分内存和处理单元的过程。这种做法意味着在两个航路点之间传输数据会浪费时间。数据传输量巨大,足以产生昂贵的能耗标签。
《自然通讯》本周报道说,IBM设计了一种方法,该方法依靠相变内存来更快,更便宜地执行代码。这是一种随机存取存储器,其中包含的元素可以在非晶态和结晶态之间快速变化,其性能优于更常用的闪存模块。也称为P-RAM或PCM。由于其非凡的性能,有人将其称为“完美的RAM”。
PCM依靠硫族化物玻璃,当电流流过时,硫属化物玻璃具有改变其状态的独特能力。惠普首先探索的相变技术的一个关键优势是,存储状态不需要连续的电源即可保持稳定。在PCM中添加数据不需要擦除周期,这是其他类型的存储器存储所特有的。另外,由于可以直接从内存执行代码,而不是将代码复制到RAM中,因此PCM的运行速度更快。
IBM认识到,在图像和语音识别,游戏和机器人技术领域中,依赖于深度神经网络的运营需求不断增长,要求更高的效率。
研究团队在公司博客上发布的解决方案的IBM团队说:“随着深度学习的不断发展和对强大处理能力的需求,拥有大型数据中心的公司将迅速意识到,建造更多的发电厂来支持所需的额外一百万倍的运营。例如,对单个图像进行分类是不经济的,也不是可持续的。”
报告指出:“很明显,我们需要通过优化微芯片和硬件来使效率更高,从而使此类设备以更少的功率运行。”
IBM将PCM与人脑进行了比较,并指出PCM“没有单独的存储和计算数据的区域,因此消耗的能量明显更少”。
PCM的一个缺点是由于读和写电导噪声导致的计算误差。IBM通过在AI 培训课程中引入这种噪音来解决该问题。
IBM的报告指出:“我们的假设是,在DNN训练期间注入与设备噪声相当的噪声会提高模型的鲁棒性。”
他们的假设是正确的。他们的模型达到了93.7%的准确度,IBM研究人员称这是同类存储器硬件所能达到的最高准确度。
IBM表示,需要做更多的工作才能获得更高的准确性。他们正在使用小型卷积神经网络和生成对抗网络进行研究,并且最近在神经科学前沿报道了他们的进展。
IBM表示:“在一个越来越多的时代过渡到基于AI的技术(包括物联网电池供电的设备和自动驾驶汽车)时,此类技术将从快速,低功耗和可靠的DNN推理引擎中受益匪浅。”报告说。