类脑认知智能引擎“智脉”:全脉冲神经网络的新一代人工智能开源平台

发布者:梁刚健发布时间:2022-12-07浏览次数:703

原文链接:https://mp.weixin.qq.com/s/97VCPJo6wkwNggJZYrFJVQ

中国科学院自动化研究所 






脑能够自组织地协同数百项认知功能,灵活适应复杂多变的环境。如何整合多尺度生物可塑性法则来构建具有生物合理性和计算高效性的神经网络模型是类脑人工智能和计算神经科学领域共同关注和面临的重要挑战。

近日,中国科学院自动化研究所类脑智能研究中心研究员曾毅团队发布了全脉冲神经网络的类脑认知智能引擎“智脉”(Brain-inspired Cognitive Engine,以下简称BrainCog),并进行全面开源开放,助力自然智能的计算本质探索和新一代人工智能的发展。



类脑认知智能引擎“智脉”

BrainCog以多尺度生物可塑性原理为基础,支持全脉冲神经网络建模,具备脑启发的人工智能模型以及脑功能和结构模拟能力,为类脑人工智能和计算神经科学的研究者提供了一套完整的、系统化的接口组件与计算平台。

据类脑认知智能引擎“智脉”开源平台负责人曾毅研究员介绍,脉冲神经网络(Spiking Neural Network, SNN)作为第三代神经网络,从编码方式、学习法则、信息传递和处理机制等多个角度模拟了生物脑,具有更强的生物可解释性,更加适合建模大脑的各项认知功能,另一方面,由于脉冲序列的稀疏表征,也使得脉冲神经网络具有潜在的低能耗特征。现有的脉冲神经网络平台有的涉及到精细的生物神经元模型,大规模神经网络模拟,神经网络动力学等较为细节的脑认知功能和结构模拟,有的关注于生物突触可塑性启发的脉冲神经网络建模,有的从深度学习领域借鉴经验来提升深度脉冲神经网络的性能。已有框架并没有能够更好地整合共性,同时具备面向人工智能的高效学习与决策,以及对脑认知功能建模和脑结构模拟的能力。

"智脉"命名类脑认知智能引擎BrainCog,一方面直观的理解是它体现了BrainCog的核心,智能的脉冲神经网络平台,但是更关键的是背后的深刻含义,BrainCog数十年间不懈探索智能的计算本质,致力于为人工智能学者和创新者提供“智能的脉络”,为未来AI打造“智慧的经脉”。

1:类脑认知智能引擎BrainCog的计算组件与应用


平台亮点


 ◆整合不同精细程度的神经元计算模型、丰富的类脑学习与可塑性法则、不同类型的神经网络连接模式与编码方式;

 ◆基于脉冲神经网络实现可以映射到28个关键功能性脑区的计算模型;

 ◆类脑学习机制:结合局部和全局可塑性实现了更具生物合理性的类脑可塑性前馈反馈融合模型。基于BrainCog实现的具有生物合理性的时间空间调节算法, 理论上与相同结构的人工神经网络相比,只用约3%的能量就能达到有相当竞争力的分类精度。基于BrainCog构建的ANN-SNN转换模型充分结合了反向传播算法与脉冲神经网络的优势,使SNN能以其他算法1/101/50的仿真时间几乎无损地完成图像分类和目标检测任务。由BrainCog支持的基于STDP算法的无监督脉冲神经网络模型,借由具有生物可解释性的优化算法和多种自适应机制,达到基于STDP无监督算法中的目前最好性能,同时实现了在极端少量样本下相同模型结构下优于ANN 4%-5%的性能。

 ◆社会认知脉冲神经网络模型赋能人形机器人通过镜像测试自我感知实验,使智能体帮助其他智能体避免潜在风险,表现出初步类道德行为。

 ◆对不同类型哺乳动物脑进行多尺度模拟,构建了包含不同类型点神经元的鼠脑模拟器、猴脑模拟器(12.1亿神经元、1.3万亿突触,1/5猴脑规模)、人脑模拟器(规模达8.6亿脉冲神经元,2.5 万亿突触,1/100人脑规模)

 ◆ 基于智脉BrainCog的创生(BORN)人工智能引擎展示基于情感识别的乐曲创作与演奏能力。


五大认知功能


据团队介绍,“智脉(BrainCog)”旨在为实现专用、通用的类脑人工智能模型提供基础支持。目前,它提供的认知功能组件可以分为五类:感知和学习、决策、运动控制、知识表征和推理、社会认知。这些组件共同形成了与哺乳动物大脑中28个脑区相对应的神经环路。同时在有监督、无监督、强化学习和各种脑启发的认知任务上得到有效验证。BrainCog课题组博士研究生申国斌介绍:“智脉(BrainCog)”允许研究者通过调用并连接基础模块,自由地设计所需要的网络以及相应的功能。





2BrainCog中整合的多项认知功能以及对应的脑区和神经环路


01 感知和学习

BrainCog支持多种有监督和无监督的训练法则,如基于突触可塑性的STDP,基于代理梯度的反向传播算法,和基于ANNSNN的转换算法。同时在小样本以及噪声环境下取得突出的适应性。该引擎还提供了仿照人类进行概念学习的多感觉融合框架。BrainCog课题组助理研究员赵东城介绍到,基于BrainCog完成的前馈连接与反馈连接结合的SNN,通过反馈连接引入全局的误差信号,提升了基于局部优化法则的脉冲神经网络在深层网络结构上的性能与稳定性,达到了与基于反向传播算法训练相抗衡的性能。申国斌介绍到:基于BrainCog中实现的具有生物合理性的时间空间调节算法,能够训练深层的SNN模型,并在MNIST,CIFAR10,ImageNet等图像分类任务上,以及DVS-CIFAR10,DVS-Gesture等事件分类任务上, 与其他的SNN相比, 有先进性能的同时,展现出明显的低能耗。博士生李杨介绍到:基BrainCog构建的ANN-SNN转换模型充分结合了反向传播算法与脉冲神经网络的优势,使SNN能以更少的能耗和更高的效率在图像分类、目标检测和语义分割等任务中完成同ANN相媲美的性能。博士生董一廷说:使用BrainCog构建的基于STDP算法的无监督脉冲神经网络模型,借由具有生物可解释性的优化算法和多种自适应机制,极大提升了网络性能与效率。实现了在少量样本下相同模型结构下优于ANN的性能。


02 决策

BrainCog 提供了多脑区协同的决策脉冲神经网络以及深度强化学习脉冲神经网络。基于BrainCog 实现的具有生物合理性的类脑决策模型在Flappy bird游戏上实现了类人的学习能力,并具备支持无人机在线决策的能力,能够实现类果蝇的线性和非线性决策以及反转学习。博士生孙胤乾介绍:基于BrainCog构建的Spiking-DQN模型实现了深度脉冲神经网路和强化学习的结合,在Atari游戏上的得分超过传统DQN模型。

03 运动控制

BrainCog初步实现了利用脉冲神经网络控制人形机器人运动。受大脑运动控制机制的启发,团队构建了包括前运动皮层(PMC),辅助运动区(SMA)、基底神经节和小脑功能的多脑区协同机器人运动脉冲神经网络模型,并应用于人形机器人弹奏钢琴,孙胤乾说。

04 知识表征和推理

BrainCog通过融合多神经可塑性和群体编码机制进行知识表征和推理。利用类脑的音乐记忆和风格创作模型实现了音符序列的知识表征和记忆,可以生成具有不同风格的乐曲, 梁倩介绍到。序列生成SNN实现了对符号序列的表征与记忆,并可根据不同的规则对符号序列进行重构。常识表征SNN将常识知识库编码进SNN,可据此网络完成概念化知识生成后续认知任务。因果推理SNN将因果图编码为脉冲神经网络,实现了演绎推理、溯因推理等认知任务,博士生方宏坚介绍。

05 社会认知

课题组副研究员赵宇轩介绍到,BrainCog实现了一种具有生物合理性的脑启发的社会认知脉冲神经网络模型。该模型使得智能体初步地具备了理解自我和他人的能力,能够通过多机器人镜像自我识别测试并且降低了智能体交互过程中的安全风险。前者是社会认知中自我感知的经典实验,后者则是社会认知中思维揣测实验的变体,博士生赵卓雅介绍。

3. 基于BrainCog的自我识别脉冲神经网络赋能机器人通过镜像测试

  

4. 智能体通过BrainCog支持的类脑思维揣测脉冲神经网络帮助其他智能体避免风险


脑模拟


课题组副研究员张倩说:BrainCog可以支持不同尺度的脑结构与认知功能模拟,从而为在局部和全脑尺度计算验证科学猜想和科学解释提供强有力的支持。

01 脑认知功能模拟

BrainCog实现了果蝇线性、非线性决策和PFC工作记忆功能的模拟。在果蝇线性和非线性决策模拟中,BrainCog验证了非线性抉择环路在两难抉择下的赢者通吃行为,得到了与果蝇生物学实验一致的结论,相应算法还应用到了无人机平台使其获得类脑决策能力。张倩副研究员和博士生杜骋骋用BrainCog实现的PFC网络,在不改变网络结构的情况下,使用人类神经元代替啮齿类动物神经元可以显著提高图像输出的准确性和完整性,这证明了生物脑结构的演化不仅仅体现在神经元和脑区尺度连接结构的演化,还体现在神经元这个基本计算单元的信息处理能力方面的优化,曾毅研究员总结到。

02 脑结构模拟

BrainCog可以模拟不同规模的生物脑结构,从微环路到皮质柱到全脑结构模拟。从解剖到成像的多尺度连接数据使鼠脑,猴脑和人脑建模更具有生物合理性,副研究员张倩、梁倩及助理研究员刘鑫介绍到。

5. 基于BrainCog的猫脑皮质柱脉冲神经网络模拟


6. 基于Allen小鼠脑模型的全脑脉冲神经网络模拟


7. 恒河猴脑全脑脉冲神经网络模拟


8. 基于BrainCog和人脑网络组图谱的人脑全脑脉冲神经网络模拟




人工智能引擎:创生



BrainCog平台提供的计算与认知组件,人工智能研究者还可以实现各种专用人工智能模型并为创建通用人工智能提供支持。 

为进一步说明和验证BrainCog支持人工智能引擎研发的能力,研究团队基于BrainCog框架开发了致力于获得通用认知能力的脉冲神经网络人工智能引擎——创生(BORN)。 

BrainCog课题组副研究员赵菲菲介绍到:“创生(BORN)的高层架构是整合时空可塑性,使人工智能具备感知与学习、决策、运动控制、工作记忆、长时记忆、注意力和意识、情感、知识表征和推理、社会认知等大脑认知功能。空间可塑性结合了微观、介观和宏观尺度的神经可塑性原理。时间可塑性考虑了处于不同时间尺度的学习、发育和演化可塑性”。赵东城说:“人脑如何选择和协调各种学习方法来解决复杂的任务对于理解人类智能和启发未来的人工智能至关重要。BORN致力于解决此类关键问题。BORN的学习框架包括多任务连续学习、小样本学习、多模态概念学习、在线学习、终身学习、示教学习、迁移学习等,并致力于在不久的将来实现不同学习模型的深度融合”。

9. 人工智能引擎“创生(BORN)”的功能框架和愿景图

为展示BORN的能力和原理,研究团队提供了一个相对复杂的依赖于情感的机器人创作和演奏应用。课题组研究工程师鲁恩萌介绍,该应用程序需要人形机器人根据情感感知来进行音乐创作和演奏,这要求BORN提供视觉情感识别、乐曲序列学习与生成、知识表征与推理、运动控制等认知功能。