在Nature Machine Intelligence的一项新研究中，来自 HBP 合作伙伴荷兰国家数学与计算机科学研究所 (CWI) 的研究人员 Bojian Yin 和 Sander Bohté 展示了朝着可用于智能手机和 VR 等本地设备的人工智能迈出的重要一步- 类应用程序，同时保护隐私。
他们展示了类脑神经元如何与新颖的学习方法相结合，从而能够大规模训练快速且节能的尖峰神经网络。潜在的应用范围从可穿戴人工智能到语音识别和增强现实。
虽然现代人工神经网络是当前人工智能革命的支柱，但它们只是松散地受到了真实的生物神经元网络（例如我们的大脑）的启发。然而，大脑是一个更大的网络，能效更高，并且在被外部事件触发时可以超快速响应。尖峰神经网络是一种特殊类型的神经网络，它更接近于模拟生物神经元的工作：我们神经系统的神经元通过交换电脉冲进行通信，而且它们很少这样做。
在称为神经形态硬件的芯片中实现，这种尖峰神经网络有望让 AI 程序更接近用户——在他们自己的设备上。这些本地解决方案有利于隐私、鲁棒性和响应能力。应用范围从玩具和电器中的语音识别、医疗保健监控和无人机导航到本地监控。
就像标准的人工神经网络一样，脉冲神经网络需要经过训练才能很好地执行此类任务。然而，此类网络的通信方式提出了严峻的挑战。CWI 机器学习小组的 Sander Bohté 表示：“为此所需的算法需要大量计算机内存，这使我们只能为主要用于较小任务的小型网络模型进行训练。这阻碍了许多实际的 AI 应用。” 在人脑项目中，他致力于分层认知处理的架构和学习方法。
模仿学习大脑
这些算法的学习方面是一个很大的挑战，它们无法匹配我们大脑的学习能力。大脑可以很容易地立即从新的经验中学习，通过改变联系，甚至建立新的联系。大脑也需要更少的例子来学习一些东西，而且它的工作效率更高。“我们想开发一些更接近我们大脑学习方式的东西，”Bojian Yin 说。尹解释了这是如何运作的：如果你在驾驶课上犯了错误，你会立即从中吸取教训。你立即纠正你的行为，而不是一个小时后。“你可以说，在吸收新信息的同时学习。我们想通过为神经网络的每个神经元提供一些不断更新的信息来模仿这一点。这样，网络就可以了解信息如何变化和不变化。”不必记住所有以前的信息。这是与当前网络的巨大区别，后者必须适应所有以前的变化。当前的学习方式需要巨大的计算能力，因此需要大量的内存和能量。”
600万个神经元
新的在线学习算法可以直接从数据中学习，从而实现更大的尖峰神经网络。Bohté 和 Yin 与来自 TU Eindhoven 的研究人员和研究合作伙伴 Holst Center 一起在一个旨在识别和定位物体的系统中展示了这一点。Yin 展示了阿姆斯特丹一条繁忙街道的视频：底层的尖峰神经网络 SPYv4 经过训练，可以区分骑自行车的人、行人和汽车，并准确指示他们的位置。“以前，我们可以训练具有多达 10,000 个神经元的神经网络；现在，我们可以很容易地为具有超过 600 万个神经元的网络做同样的事情，”Bohté 说。“有了这个，我们可以训练像我们的 SPYv4 这样的高性能尖峰神经网络。”
这一切通向何方？通过使用基于尖峰神经网络的强大人工智能解决方案，正在开发能够以极低功耗运行这些人工智能程序的芯片，最终将出现在许多智能设备中，如助听器和增强或虚拟现实眼镜。
暂无评论内容