清华类脑计算成果再登Nature:张悠慧施路平团队出品,有望打破冯诺依曼瓶颈

dawanjia 0

清华类脑计算研究成果,再登Nature。新研究的关键词是:类脑计算、新计算机系统框架、通用人工智能(AGI)。它的重要性,在于有希望打破如今冯·诺依曼型计算机,对人工智能的普遍限制,完全发挥类脑算法的潜力,使AGI更具可行性。研究了些什么?这并不是清华大学类脑计算中心的相关研究成果,第一次登上Nature。去年8月,清华类脑计算中心施路平团队自行研发的类脑芯片“天机”,登上了Nature封面。

以这片类脑芯片为基础,研究团队实现了高度灵敏,并且能听懂自然语言指令的自行车。

而最新发表的研究,则是为了解决类脑计算系统的“基础设施架构”问题。在名为A system hierarchy for brain-inspired computing的论文中,施路平教授团队提出了一种全新的、突破性的类脑计算通用系统层次结构。这项研究中提出的神经形态完备性概念,这是一种更具适应性、更广泛的类脑计算完备性的定义,它降低了系统对神经形态硬件的完备性要求,提高了不同硬件和软件设计之间的兼容性。

这意味着这种专门为类脑计算任务设计的计算机结构,具备了和我们熟知的冯·诺依曼结构计算机相同的能力。即避免系统中软件和硬件之间的紧密关联,实现了高效、兼容和独立的进程。不同的编程语言可通过编译器处理变为可供机器执行的指令。这一点是十分重要关键的,因为以往,在冯·诺依曼结构计算机上,类脑计算缺乏合适的系统层次结构来支持整体开发,神经形态软件和硬件之间没有合适的接口。

一个特定的算法或类脑芯片,需要借助一系列特定的软件工具才能运行,这种方法的弊端在于,类脑计算系统(包括应用程序模型、系统软件和神经形态设备)的各个层被紧密绑定在了一起,影响了软件和硬件之间的兼容性,降低了类脑计算系统的编程灵活性和开发效率。解决这个问题的关键,是“神经形态完备性”。神经形态完备的三层结构这项研究中提出了神经形态完备性的概念。这是一种类脑计算完备性的定义,与通用的图灵完备性类似,定义通用机器和语言的要求。定义提出,如果一个类脑系统能够以规定的准确度执行一组给定的基本操作,那么它就是神经形态完备的。这与图灵完备性有所不同。

在图灵完备性中,只有当一个系统为一组给定的基本运算提供了一个精确且等价的结果时,才可以将其定义为完备。而在所提出的神经形态完备框架中的基本运算,包括两个已知的加权和运算,以及元素-整流线性运算,这使得硬件系统能够同时支持脉冲和非脉冲人工神经网络。新定义降低了系统对神经形态硬件的完备性要求,使得不同硬件和软件设计之间的兼容性更易实现。

新的层次结构的一个重要特点是,提出了完整的连续性,根据类脑系统能够执行基本操作的精度,接受不同级别的算法性能。完整的连续性还允许算法的不同实现路径在同一硬件上运行。例如,探索如何权衡算法精度与芯片尺寸,以降低功耗。为满足神经形态完备性,团队提出一种全新的系统层次结构,这一结构包括软件、硬件和编译三个层次:

其中,软件层指的是编程语言或框架以及建立在它们之上的算法或模型。在这个层次上,团队提出了一种统一的、通用的软件抽象模式——POG 图(programming operator graph)——以适应各种类脑算法和模型设计。POG 由统一的描述方法和事件驱动的并行程序执行模型组成,该模型集成了存储和处理,描述了什么是类脑程序,并定义了如何执行。由于 POG 是图灵完备的,它最大程度地支持各种应用程序、编程语言和框架。硬件方面,则包括所有类脑芯片和架构模型。团队设计了抽象神经形态体系结构(ANA)作为硬件抽象,包括一个 EPG 图(execution primitive graph),作为上层的接口来描述它可以执行的程序。EPG 具有控制、流、数据流的混合表示,满足它对不同硬件的适应性。编译层,是将程序转换为硬件支持的等效形式的中间层。为实现可行性,研究人员提出了一套被主流类脑芯片广泛支持的基本硬件执行原语(hardware execution primitives)。类脑计算领域的重要一步近年来,随着摩尔定律逐渐失效,冯·诺依曼结构带来的局限日益明显,存储墙、功耗墙、智能提升等问题,让当前计算机发展面临重大挑战。从人类大脑中汲取灵感的类脑计算或神经形态计算,是一种有潜力打破冯·诺伊曼瓶颈并推动下一波计算机工程的计算模型和架构。

标签: #清华 #类脑 #计算 #成果 #再登 #Nature #张悠慧 #施路平

  • 评论列表

留言评论