脑启发的电子系统可以使人工智能1000倍更节能
薄片装满了忘记了。
在UCL研究人员发现一种方法来提高脑激发的计算系统的准确性后,现在可以更加节能的人工智能现在更接近现实。
使用忆阻器创建人工神经网络的系统比传统的晶体管的AI硬件更高的节能至少1000倍,但直到现在更容易出现错误。
现有的AI是极其能量密集型的 - 训练一个AI模型可以产生284吨二氧化碳,相当于五辆汽车的终身排放。更换晶体管,该晶体管构成与忆阻器的所有数字设备,这是一个新颖的电子设备,这是2008年首次建造的,可以将其降低到一小部分二氧化碳 - 相当于下午的驱动器中产生的排放。
由于存储器比现有的计算系统更节能,因此它们可以将大量的计算能力包装到手持设备中,从而删除需要连接到因特网的需要。
Adnan Mehonic博士将晶圆充满了忘记物。
由于不断增长的数据需求以及增加数据传输容量过去一定点,这尤其重要的是,由于不断增加的数据需求以及增加数据传输能力的困难,这是尤其重要的。
在新的研究中,在Nature Communications的新研究中,UCL的工程师发现,通过在若干小组组合在一起并平均计算中,可以通过丢失函数在一起来大大提高准确性,这意味着每个网络中的缺陷都可以取消出去。
描述为“具有记忆的电阻器”,因为它们记得即使在关闭后流过它们的电荷量,也被认为是在十年前首次建造的电子设备中的革命性,以补充电子产品“缺失的链接”电阻器,电容器和电感器。它们已经在存储器设备中商业制造,但研究小组表示,他们可用于在未来三年内开发AI系统。
Memristors提供了大大提高的效率,因为它们不仅在零和零的二进制代码中运行,而且在零和同时在零和一个之间运行,意味着更多信息可以将更多信息包装在每位中。
此外,忆阻器通常被描述为神经形态(脑激发)的计算形式,因为在大脑中,处理和存储器在相同的自适应构建块中实现,与浪费大量能量中的电流计算机系统相反移动。
在该研究中,博士梅霍尔博士,博士生博士学生Dovydas Joksas(UCL电子和电气工程)和来自英国的同事和美国在几种不同类型的忆内测试中测试了新的方法,发现它提高了所有类型的准确性它们,无论材料还是特定的忆阻器技术。它还有助于一些可能影响忘记函数的不同问题。
研究人员发现,它们的方法提高了神经网络的准确性,对于典型的AI任务到与传统数字硬件运行的软件工具的可比水平。
研究主任Mehonic博士说:“我们希望可能有更多的通用方法,改善了设备级,而是系统级行为,我们相信我们发现了一个。我们的方法表明,当涉及忆内时,几个头比一个好。将神经网络安排成几个较小的网络而不是一个大网络导致总体的准确性更高。“
Dovydas Joksas进一步解释说:“我们从计算机科学借用了一种流行的技术,并在忆内读取的背景下应用它。它的工作!使用初步模拟,我们发现即使是简单的平均值也可以显着提高忆出神经网络的准确性。“
托尼·肯尼昂教授(UCL电子与电气工程)是该研究的共同作者,补充说:“我们现在相信是议事商的时间,我们已经工作了几年,在更多能源可持续的物联网设备和边缘计算时代的领导作用。”
参考:“委员会机器 - 一种普遍的方法,可处理基于Memristor的神经网络中的非理想的方法”由D. Joksas,P.Freitas,Z. Chai,Wh N NG,M. Buckwell,C. Li,WD Zhang,Q. xia ,AJ Kenyon和A. Mehonic,2020年8月26日,Nature Communications.doi:
10.1038 / s41467-020-18098-0.