随着人工智能运用需求的不断增长,研究职员一贯在研究如何在保持高性能和低本钱的同时,创建更节能的流程。常日,机器或人工智能流程在逻辑(系统内处理信息的地方)和内存(存储数据的地方)之间传输数据,须要花费大量的电力和能源。
明尼苏达大学科学与工程学院的一个研究小组展示了一种新模式,在这种模式下,数据永久不会离开内存,这种模式被称为打算随机存取内存(CRAM)。
明尼苏达大学电气与打算机工程系博士后研究员、论文第一作者吕杨说:\公众这项事情是 CRAM 的首次实验演示,数据可以完备在内存阵列内处理,而无需离开打算机存储信息的网格。\公众

定制的硬件设备操持帮助人工智能提高能效。资料来源:明尼苏达大学双城分校
国际能源机构(IEA)发布了一份环球能源利用预测预测,人工智能的能源花费可能翻一番,从 2022 年的 460 太瓦时(TWh)增至 2026 年的 1,000 太瓦时(TWh)。这大致相称于日本全国的耗电量。
据新论文的作者称,基于 CRAM 的机器学习推理加速器估计可实现 1000 次的改进。另一个例子显示,与传统方法比较,可节省 2500 和 1700 倍的能源。
\"大众这项研究已经有20多年的历史了。\"大众该论文的资深作者、明尼苏达大学麦克奈特特聘教授兼电气与打算机工程系罗伯特-F-哈特曼讲座教授王建平说:\"大众20年前,我们最初提出的将存储单元直接用于打算的观点被认为是猖獗的。\"大众
\公众自2003年以来,我们的学生团队不断发展壮大,明尼苏达大学也建立了一支真正跨学科的西席团队,从物理学、材料科学与工程、打算机科学与工程,到建模和基准测试,再到硬件创建,我们都取得了积极的成果,现在我们已经证明,这种技能是可行的,并已准备好将其运用到技能中。\"大众
磁隧道结 (MTJs) 是一种纳米构造器件,用于改进硬盘驱动器、传感器和其他微电子系统,包括磁随机存取存储器 (MRAM),MRAM 已被用于微掌握器和智好手表等嵌入式系统。
CRAM 体系构造实现了真正的内存打算,冲破了传统冯-诺依曼体系构造中作为瓶颈的打算与内存之间的壁垒,传统冯-诺依曼体系构造是存储程序打算机的理论设计,险些是所有当代打算机的根本。
\"大众作为一种能效极高的基于数字的内存打算基板,CRAM 非常灵巧,可以在内存阵列的任何位置进行打算。因此,我们可以重新配置 CRAM,使其最符合各种人工智能算法的性能需求,\"大众打算架构专家、论文共同作者、明尼苏达大学电气与打算机工程系副教授 Ulya Karpuzcu 说。\"大众与当今人工智能系统的传统构建模块比较,它更加节能。\"大众
CRAM 直接在内存单元内实行打算,有效利用了阵列构造,无需进行缓慢而耗能的数据传输。最高效的短期随机存取存储器(RAM)设备利用四五个晶体管来编码一个 1 或 0,而 MTJ(一种自旋电子设备)只需很少的能量就能实现相同的功能,速率更快,而且能适应恶劣的环境。自旋电子器件利用电子的自旋而不是电荷来存储数据,为传统的晶体管芯片供应了更高效的替代方案。
目前,该团队已操持与包括明尼苏达州在内的半导体行业领导者互助,供应大规模的演示和生产硬件,以推进人工智能功能。
编译自/ScitechDaily