ch
ARM 和 IBM 的研究人员开发了一种 14nm 模拟计算内存芯片，用于始终保持机器学习的低功耗。
物联网应用中这些始终在线的感知任务（称为 TinyML）需要非常高的能源效率。使用非易失性存储器 (NVM) 的模拟内存计算 (CiM) 有望实现高能效和独立的片上模型存储。
然而，模拟 CiM 引入了新的实际挑战，包括电导漂移、读/写噪声、固定模数 (ADC) 转换器增益等。必须解决这些问题，以实现可部署在模拟 CiM 上且具有可接受的精度损失的模型.
来自 ARM 和 IBM 苏黎世研究院的研究人员研究了 TinyML 模型，用于关键词发现 (KWS) 和视觉唤醒词 (VWW) 等流行的永远在线任务。模型架构专为模拟 CiM 设计，并详细介绍了全面的训练方法，以在面对模拟问题和推理时的低精度数据转换器时保持准确性。
他们基于 14nm 工艺技术开发了一种可编程的最小面积相变存储器 (PCM) 模拟 CiM 加速器，称为 AON-CiM。这具有一系列层，消除了与全流水线设计相关的复杂互连的成本。
在经过校准的模拟器以及真实硬件上评估模拟网络表明，在 24 小时 PCM 漂移（8 位）之后，精度下降限制在 0.8%/1.2%。在 14 nm AON-CiM 加速器上运行网络演示了 8.55/26.55/56.67 和 4.34/12.64/25.2 TOPS/W 用于关键字识别 (KWS) 和视觉唤醒词 (VWW) 与 8/6/4 位激活分别。
“模拟内存计算技术可能非常适合超低功耗 TinyML 感知任务，例如边缘计算应用程序中的关键字发现和视觉唤醒词，”美国 ARM 研究公司机器学习研究负责人 Paul Whatmough 说
“我们的论文与出色的 IBM Research Zurich 团队合作，深入探讨了机器学习模型和模拟硬件的协同设计，涵盖了噪声硬件的模型设计和训练，以及紧凑高效（实用）的硬件用于内存中的层串行计算。我们甚至在真实硬件上测试模型。”
存内处理将彻底改变模拟计算
在最近的一份报告中，中国阿里巴巴表示，其研究中心达摩院已通过突破性的内存处理 (PIM) 芯片打破了冯诺依曼瓶颈，该芯片在 3D 中堆叠内存和逻辑。
这其实不是大公司第一次转向垂直结构以缩短内存和计算之间的距离。几年前，IBM 发表了关于3D 堆栈存储器和字节可寻址电阻非易失性存储器 (NVM) 如何为 EE 解决 PIM 的新方法的研究。
3D 堆叠 DRAM 架构 从这个话题，我们看到了 PIM 的研究在大学和主要半导体供应商之间是如何升温的。
PIM 如何重新思考冯诺依曼架构
传统的冯诺依曼计算机体系结构使用一个子系统进行数据存储，使用另一个子系统进行计算。数据和逻辑是分开的。
要执行操作，必须通过向内存控制器发送内存请求，将数据从 DRAM 存储移动到 CPU，通过窄内存通道进行通信。但是这种从 DRAM 到 CPU 的转移可能会给系统带来主要的瓶颈问题——增加能源消耗，同时减慢多个内存请求的交换速度。这就是系统一直工作的方式，至少自从数字二进制模型被广泛采用以来。
冯诺依曼架构 存内处理式存储器（PIM）模型通过合并运算和数据这就是为什么PIM也称为反思冯·诺依曼体系结构 近数据处理。
一些研究小组和公司正在创建 PIM 架构，以使内存处理更接近现实。去年，All About Circuits 讨论了有多少公司发现 内存计算可以在速度、容量和处理方面解决 AI 内存平衡问题。这是因为，与数字芯片不同，PIM AI 芯片在模拟领域执行——Imec 和 Globalfoundries在最近的 AI 芯片中将其称为“模拟内存计算（AiMC）”。
PIM 研究使模拟计算远离数字计算
现在，圣路易斯华盛顿大学的一个研究小组，由Xuan“Silvia”Zhang领导，使用电阻代替晶体管，构建了绕过冯诺依曼架构限制的PIM电路。存储器和处理器都在电阻器中。组件的这种放置使得从模拟到数字或二进制 (1-0) 的转换变得不必要，并简化了 AI 计算所需的复杂加法和乘法。
PIM 电路不是使用晶体管来打开和关闭栅极并控制电流流动或不流动（创建 1 和 0 的序列），而是通过连接两个电流并通过调整电阻值进行乘法来执行加法。
内存计算背后的工作原理 但是，在某些时候，模拟数据必须转换为数字数据才能融入当今的数字技术。研究人员最初假设这仅需要将 ADC（模数转换）在转换层次结构中进一步向下移动。
然而，该团队发现，引入神经逼近器可以提高多个方向上单独转换的电阻列的处理效率：向下、横向或任何其他最大效率方向。
Zhang 的团队做出的最重要的发现是，可以使用单个 ADC 将 RRAM crossbar 列创建的部分和转换为数字格式，无论它们的数量是 18、64 还是 128，从而减少了外边缘的转换次数尽可能。
三星支持内存处理
华盛顿大学的研究结果提出了一个有趣的问题：模拟会推动计算的未来吗？三星最近对内存处理应用的投资可能会回答这个问题。
三星正试图通过将高带宽内存 (HBM) 和内存处理与加速器系统集成来弥合内存和逻辑之间的差距。结果是 HBM-PIM 架构适用于移动和其他商业 DRAM 模块，包括数据中心和超级计算机。
带有内置 AI 引擎的 AXDIMM 缓冲芯片 DIMM (AXDIMM) 缓冲芯片（一种可以处理多个内存列的多核处理器）中的加速是通过称为可编程计算单元 (PCU)的内置 AI 引擎实现的。据称，该设备可将系统性能提高 2.5 倍，并将能耗降低 60%。
三星已经看到这款 PCU 在图像分类、语音识别和翻译方面取得了可喜的成果。SAP HANA 还与三星合作改进内存数据库管理系统 (IMDBMS)。
PIM 是否有助于减轻边缘 AI 处理的负担？
随着越来越多的处理需求堆积在嵌入式系统上，尤其是在边缘，制造商正在寻找方法来减少从内存中获取数据的旅行时间。随着 PIM 在学术和行业领域获得越来越多的关注，内存计算可能是一种可行的解决方案——尤其是在三星和 IBM 等知名企业大力推广的情况下。
尽管如此，程序员仍面临着定义与编程模型通信的方式的挑战性任务。这些工程师和系统架构师还必须找到数据分配问题和 PIM 运行时调度的解决方案。
半导体气柜配套专业供应商-必赢bwin官方网站
