斯坦福工程师创造了一种更高效、更灵活的人工智能芯片，可以将人工智能的力量带入微型边缘设备。人工智能驱动的边缘计算已经在我们的生活中无处不在。无人机、智能可穿戴设备和工业物联网传感器等设备都配备了支持人工智能的芯片，因此计算可以在数据来源的互联网“边缘”进行。这允许实时处理并保证数据隐私。

然而，这些微型边缘设备上的人工智能功能受到电池提供的能量的限制。因此，提高能源效率至关重要。在今天的人工智能芯片中，数据处理和存储同时发生——一个计算单元和一个内存单元。这些单元之间频繁的数据移动消耗了人工智能处理过程中的大部分能量，因此减少数据移动是解决能源问题的关键。

斯坦福大学的工程师设计了一种潜在的解决方案：一种新颖的电阻式随机存取存储器(RRAM)芯片，它在内存本身内进行AI处理，从而消除了计算单元和内存单元之间的分离。他们的“内存计算”(CIM)芯片，称为NeuRRAM，大约只有指尖那么大，并且在有限的电池电量下可以完成比当前芯片更多的工作。

H.-S说：“在芯片上完成这些计算，而不是向云端发送信息和从云端发送信息，可以实现更快、更安全、更便宜、更具可扩展性的AI进入未来，并让更多人获得AI能力。”PhilipWong，工程学院的WillardR.和InezKerrBell教授。

“数据移动问题类似于在通勤中花费8小时来完成两个小时的工作日，”刚从斯坦福大学毕业的WeierWan补充道，他领导了这个项目。“通过我们的芯片，我们展示了一种应对这一挑战的技术。”

他们在Nature杂志最近的一篇文章中介绍了NeuRRAM。虽然内存计算已经存在了几十年，但该芯片是第一个在硬件上实际演示广泛的AI应用程序的芯片，而不仅仅是通过模拟。

将计算能力放在设备上

为了克服数据移动瓶颈，研究人员实施了所谓的内存计算(CIM)。这种新颖的芯片架构直接在内存中执行AI计算，而不是在单独的计算单元中。NeuRRAM使用的存储技术是电阻式随机存取存储器(RRAM)。它是一种非易失性存储器——即使断电也能保留数据的存储器——已经出现在商业产品中。RRAM可以在小区域内存储大型AI模型，功耗极低，非常适合小型和低功耗边缘设备。

尽管CIM芯片的概念已经确立，并且在RRAM中实现AI计算的想法并不新鲜，“这是将大量内存直接集成到神经网络芯片上并呈现所有基准测试结果的首批实例之一通过硬件测量，”Nature论文的共同资深作者Wong说。

NeuRRAM的架构允许芯片以低功耗和紧凑的面积执行模拟内存计算。它是与加州大学圣地亚哥分校的GertCauwenberghs实验室合作设计的，该实验室开创了低功耗神经形态硬件设计的先河。该架构还支持数据流方向的可重构性，支持各种AI工作负载映射策略，并在不牺牲AI计算精度的情况下与不同类型的AI算法协同工作。

该团队测试了它如何在不同的任务中发挥作用，以显示NeuRRAM人工智能能力的准确性。他们发现MNIST数据集的字母识别准确率为99%，CIFAR-10数据集的图像分类准确率为85.7%，谷歌语音命令识别准确率为84.7%，贝叶斯算法的图像重建错误减少了70%图像恢复任务。

“效率、多功能性和准确性都是更广泛采用该技术的重要方面，”Wan说。“但要同时实现它们并不简单。共同优化从硬件到软件的整个堆栈是关键。”

“这种全栈协同设计是由具有不同专业知识的国际研究团队实现的，”Wong补充道。

推动未来的边缘计算

目前，NeuRRAM是一种物理概念验证，但在准备好转化为实际的边缘设备之前需要更多的开发。

但这种结合效率、准确性和执行不同任务的能力展示了芯片的潜力。“也许今天它被用于执行简单的人工智能任务，例如关键字定位或人体检测，但明天它可以实现完全不同的用户体验。想象一下实时视频分析与语音识别相结合的一切都在一个微型设备中，”Wan说。“为了实现这一点，我们需要继续改进设计并将RRAM扩展到更先进的技术节点。”

电气工程助理教授PriyankaRaina说：“这项工作为RRAM设备工程、内存计算的编程模型和神经网络设计的未来研究开辟了多种途径，以使该技术可扩展并可供软件开发人员使用”和该论文的合著者。

如果成功，像NeuRRAM这样的RRAM内存计算芯片具有几乎无限的潜力。它们可以嵌入农田进行实时人工智能计算，以根据当前土壤条件调整灌溉系统。或者他们可以将增强现实眼镜从功能有限的笨重头显变成更类似于托尼·斯塔克在钢铁侠和复仇者联盟电影中的屏幕(没有星际或多元宇宙威胁——人们可以希望)。

王说，如果大规模生产，这些芯片将足够便宜、适应性强、功耗低，可以用来推进已经改善我们生活的技术，比如用于家庭健康监测的医疗设备。

它们也可用于解决全球社会挑战：支持人工智能的传感器将在跟踪和应对气候变化方面发挥作用。“通过拥有这些几乎可以放置在任何地方的智能电子设备，您可以监控不断变化的世界并成为解决方案的一部分，”Wong说。“这些芯片可用于解决从气候变化到粮食安全的各种问题。”