在今天发表在《科学报告》杂志上的一篇文章中,研究人员展示了如何采用一个世纪前引入的物理概念来解决这两个挑战,该物理概念描述了铁块冷却过程中磁体的形成。
通过精心的优化程序和详尽的模拟,巴伊兰大学的一组科学家证明了幂律定标的物理概念对深度学习的有用性。物理学中的这一中心概念源自多种现象,包括地震的时机和震级,互联网拓扑和社交网络,股票价格波动,语言学中的单词频率以及大脑活动中的信号幅度,这些事实也适用于AI不断发展的领域,尤其是深度学习。
“在线学习中的测试错误(每个示例仅接受一次培训)与由大量纪元组成的最新算法(每个示例都经过了多次培训)非常一致。这一结果具有重要意义暗示着需要快速做出诸如机器人控制之类的决策。”负责这项研究的Bar-Ilan物理系和Gonda(Goldshmied)多学科大脑研究中心的Ido Kanter教授说。他补充说:“幂律定标控制着不同的动态规则和网络体系结构,可以在不同的检查分类或决策问题之间进行分类和层次结构的创建。”
这项研究的合著者,博士生Shira Sardi说:“高级深度学习算法的重要组成部分之一是最近在实验神经科学和高级人工智能学习算法之间建立了新的桥梁。”我们在神经元文化上进行的新型实验表明,训练频率的增加使我们能够显着加速神经元适应过程。另一位合著者之一的博士生尤瓦尔·梅尔(Yuval Meir)表示:“这种受大脑启发的加速机制可以构建优于现有算法的高级深度学习算法。”
从物理和实验神经科学到机器学习的重建桥梁有望在有限的训练示例下促进人工智能,尤其是超快速决策的发展,从而有助于深度学习领域的理论框架的形成。