原文链接：https://mp.weixin.qq.com/s/qi0GaC-iYAG0Jwfg7C9DFw
田洋 集智俱乐部
导语
我们的大脑是一个处理信息的动力学系统。数百亿个神经元时刻接受内部和外部刺激，对这些信息进行编码处理，进而形成我们对世界的认知。大脑的信息机能本质上从神经元集群活动的动力学中涌现，可是这种涌现到底是如何发生的？我们的信息大脑和物理大脑之间有什么内在联系？10月29日，清华大学的研究团队在 Physical Review Research上发表的一项最新理论研究，揭示了大脑的神经动力学与信息加工属性间的基本关系，或有助于我们理解大脑这个复杂系统中各类信息加工特性的涌现。
研究领域：神经科学，统计物理，大脑信息加工，神经动力学，集体运动，涌现
洋 | 作者
梁金 | 审校
邓一雪 | 编辑
论文题目：
Bridging the information and dynamics attributes of neural activities
论文链接：https://doi.org/10.1103/PhysRevResearch.3.043085
1. 动力学和信息：大脑的双重属性
理解大脑中信息加工机能的基础是现代物理学的前沿之一[1]。大量的研究证明大脑可以被视为一个加工信息的复杂动力学系统[2]。一方面，作为动力学系统的大脑常受外部刺激[3-5]或内部因素[6-7]驱动而远离平衡态，产生复杂的动力学过程。另一方面，如果这些动力学过程是由刺激驱动的，刺激的信息即在一定程度上被大脑编码[13]和存储[14]，进而支撑各类认知过程[15-17]，赋予了大脑作为信息加工系统的身份[18]。对大脑的这种双重属性的探索具有悠久的历史，研究者在大脑中发现了大量的动力学和信息属性间的关系[4,19–21]，证明大脑处理外界信息的认知机能（或称为信息机能）本质上依赖于其神经动力学。
虽然单独对大脑的动力学[8–12]或信息属性[13–18,25,26]的研究已经取得了诸多进展，我们依然不清楚为何大脑动力学与信息属性具有如此基础的联系。受到费米的大象“的启示[51]，学界希望避免局限于唯像模拟，而探索出一个解析的（analytic）理论以解释大脑中动力学和信息的联系（例如，见文献[20]的探索）。在探索可能的解析理论的过程中，研究者可能遇到以下困难。一方面，研究者缺乏一个对神经活动中动力学[27]和信息属性[28]的进行统一分析的理论。另一方面，不同于以概率论为基础的信息属性度量（例如互信息和 Fisher 信息[13]），对动力学属性的主流实验[38–40]和理论[12,41–50]刻画方法（例如 Lyapunov 谱[49,50]）多基于非概率的框架，这阻碍了对动力学和信息属性关系的探讨。
为了在一定程度上克服上述困难并为后续探索提供可能的方向，来自清华大学心理学系&清华大学脑与智能实验室以及清华大学类脑计算研究所的研究团队进行了一项探索性研究。该研究的部分结果2021年10月29日发表于物理期刊 Physical Review Research。研究者将探讨范围限定在了神经动力学、编码和解码三者之间（见图1）。作为相对基本的信息加工视角，编码和解码能对神经信息加工属性进行基础的刻画。
图1. 理论分析框架
2. 神经活动的随机动力学
研究者首先展示了一个基于非齐次马尔可夫链的随机动力学框架。在不借助其他假设或简化的情况下，研究者只使用（1）神经调谐特性（neural tuning properties，即神经元的选择性响应特性）以及（2）神经元动作电位在随机结构的神经群中的传输时延这两个基本的神经系统性质，构建了随机动力学框架描述受刺激驱动的神经元集群动力学（collective dynamics）。具体例子可见图2。
图2. 受刺激驱动的神经元集群动力学
在该框架的构建过程中，研究者通过将点估计等后验统计方法融入数学推导，克服了使用概率方法描述强耦合的神经元动力学的困难，避免引入神经元独立性的假设，并使得该随机动力学框架能直接基于真实实验数据进行后验估计。
为了刻画基于随机动力学框架描述的神经活动的动力学属性，研究者引入了KS 熵（Kolmogorov-Sinai entropy）的概念，并基于马尔科夫链的性质给出了KS熵的明确表达。KS 熵可以被粗略地理解为在有限次采样（或观测）的条件下，观测一个连续时间的动力系统所面临的不确定性。基于KS熵，研究者可以在任意时刻计算神经元集群动力学中任意一个神经元的动力学分量的不确定性（dynamic randomness）。图3展示了一个示例。
图3. 神经动力学的KS熵及其时空分布
将KS 熵引入动力学分析的另一个重要意义在于其对混沌现象的刻画。KS熵与另一个更常见的动力学刻画方法——Lyapunov谱（Lyapunov spectra）——之间存在着深刻的数学联系。具体而言，KS熵是Lyapunov谱中所有非负的Lyapunov指数之和的下界。同时，Lyapunov谱刻画了动力系统的相空间中相邻轨道的收敛和发散性质。当存在非负的Lyapunov指数时，动力系统在该指数对应的相空间方向上是混沌的。这意味着，通过验证KS熵是否非零，研究者能够判定动力系统是否存在混沌现象。KS熵越大，则可以认为混沌的程度越大。
3. 随机动力学的信息属性
同时，研究者刻画了神经元集群动力学的信息编码和解码属性（见图4）。在一定程度上，可以将信息编码理解为给定刺激后，基于神经活动来表征该刺激信息的过程；可以将信息解码理解为给定神经活动后，逆推诱发神经活动的刺激信息的过程。一般情况下，信息编码是所有神经信息加工的起点，而信息解码则是研究者间接分析神经信息编码的方法。
图4. 基于信息编码和解码对信息加工的分析框架
在神经科学和物理学中，学界一般使用互信息（mutual information）等相关概念刻画信息编码，并使用Fisher信息（Fisher information）刻画信息解码。一般而言，互信息可以理解为对神经活动可以编码的刺激信息量的度量，Fisher信息可以理解为对基于神经活动可以解码的刺激信息量的度量。研究者基于随机动力学框架给出了上述概念的时变（time-dependent）度量方法。
4. 动力学和信息属性的基本关系
基于上述工作，研究者实现了一个以随机动力学框架为桥梁，能够对动力学（KS熵）和信息（编码和解码）属性进行统一分析的理论。由于随机动力学本身支持对两类属性解析的计算，而无需进行数值模拟或逼近，研究者得以对两类属性间的联系进行解析的探索。在该工作中，研究者展示了4个主要的发现。 研究者首先分析了与信息加工相关的神经动力学自身的特性，得到了发现1和2。相关数据可见图3和图5。
发现1
通过理论分析和数据分析，研究者发现了神经动力学的短期变化和长期变化的随机性存在稳定的差异。神经动力学的短期变化的变化幅度较小，但动力学随机性较大；长期变化的变化幅度较大，但动力学随机性较小；
发现2
同时，研究者发现了混沌现象在神经群中空间分布的不均匀性。如果研究者不控制神经元活动强度的空间分布不均匀性，会发现神经元活动混沌程度随活动强度一样，从“浅层“向“深层“的神经元递减（此处，“层“仅是形象的说法，真实的微观尺度的神经群中不存在严格的分层结构，读者可以自行将“浅层“和“深层“替换为“上游“和“下游“进行理解）。当研究者对神经元活动强度进行标准化后（排除活动强度的空间分布不均对于混沌现象的影响），会发现相对“浅层“的神经元活动更具有规律性，而相对“深层“的神经元活动的混沌程度更高。
图5. KS熵及混沌现象在神经群中的空间分布
而后，研究者对动力学属性与信息编码和解码的关系进行了探索，得到了发现3和4。具体数据可见图 6。
发现3
研究者发现特定的神经动力学可能导致信息编码和解码之间互相制约的关系。具体而言，当神经动力学的随机性（或混沌程度）较低时，信息编码和解码的效率以及质量会随着动力学随机性上升而上升。但是，当神经动力学的随机性超过特定阈值后，信息编码和解码的效率及质量就不再同向变化，前者依然随着动力学随机性上升而上升，后者则随动力学随机性的上升而下降。这意味着，对于动力学随机性相对大的神经元群，其编码和解码的性质之间存在权衡。研究者随后对这一现象给出了理论证明。
发现4
研究者还发现了神经动力学与神经元对外界刺激的表征（neural representation）之间的关系。具体而言，相对“浅层“的神经元具备更稳定的动力学特性，它们更多负责对刺激分布的局部信息进行特异化编码和表征，而相对“深层“的神经元的动力学随机性更大，它们更多负责对刺激分布的全局信息进行非特异化（non-specific）编码和表征。
图6. 神经活动的动力学属性对编码、解码及刺激表征的影响
5. 总结与讨论
在该研究中，研究者推导了刺激驱动的神经元集群动力学的随机动力学描述。基于随机动力学，研究者一方面借助KS熵和Lyapunov谱的数学关系对神经动力学的动力学不确定性和混沌进行刻画，另一方面直接基于概率框架给出了信息编码和解码属性的时变度量方法。结合理论推导和实验数据，研究者解析地探索神经活动的动力学和信息属性间的关系，并发现了4个基本性质。
发现1或对神经信号记录（neural signal recording）的研究具有一定启示。研究者已经发现时间采样率低的信号记录技术（例如fMRI）不能直接反映潜在的刺激驱动的神经活动[53]。在被这些低时间采样率的技术记录之前，短期的神经活动变化需要累积至其变化足够强烈和鲁棒[53]，这伴随着神经活动信息的大量丢失[53-56]。对于这个问题，一种传统的解决思路是尽可能开发高时间分辨率的记录技术（例如多光子显微镜[67–69]）。虽然发现1部分地支持这一思路，该发现也指出了获得鲁棒的神经活动信号趋势和对神经活动信息的保持是不可兼得的。一个高时间分辨率的记录技术能够尽可能降低对神经活动信息的丢失，但其记录的神经活动短期变化相较于低时间分辨率的技术，具有极高的动力学随机性及较弱的鲁棒性。所以，单纯提高记录技术的时间分辨率并不能彻底解决这个问题。
在对发现2的分析中，如果研究者选择不消除神经活动强度在空间分布上的不均匀性，会观测到神经元活动的混沌程度与神经元活动强度一样，随着神经元活动在神经群内的传播过程而逐渐递减。Diesmann曾经发现神经元活动在传播过程中存在一个吸引子[59]。在新近研究中[60]，该吸引子被证实为是一个线性吸引子（line attractor）。这些研究表明神经动力学可变性会在足够长的传播过程中逐渐消失。研究者在更广义的随机图结构中证实了该现象（参考发现2）。而当研究者选择对神经活动强度进行标准化后，发现刺激驱动的神经动力学在越“浅层”的神经元上越稳定，在越“深层“的神经元上越混沌。这一现象与关于刺激驱动对混沌现象的抑制能力（stimulus drives suppress chaos）的著名发现[61]是一致的。研究者发现输入驱动和刺激诱发神经元协同的确能抑制混沌。随着神经元活动的传播，这种刺激与神经元间的协同逐渐减弱，并逐渐被网络动力学的混沌所掩盖。当然，这并不意味着神经元对于刺激的响应彻底变成了混沌而不可靠的。在真实的神经元群中，由神经元调谐特性（neural tuning properties）主导的规律性与由网络动力学主导的混沌是共存的。虽然神经元活动的规律性（regularity）经常被混沌打破，但神经元活动的混沌程度并不会持续地保持或上升[例如，见图 3（b）]。这些观测结果与已有研究对刺激驱动的神经活动的混沌程度与可靠性的关系的探索结果一致[62,63]。
发现3或许对认知功能的神经或皮层基础定位的研究[15,64,65]有潜在的启示。这些研究多侧重分析特定神经群、神经环路或皮层的信息加工特性。其分析首先以特定信号记录技术（例如，多光子显微镜[66,67]、多电极记录[68,69]和fMRI）对神经活动进行记录，再从信息编码[13,70]或解码[71–73]的角度对神经活动进行分析。研究者指出了这类研究存在的潜在风险——从编码或解码角度对信息加工效率进行直接或间接的度量可能会得到不一致甚至相反的结果（参考发现3）。例如，一方面，如果研究者从解码的角度进行间接分析，那在编码过程中真正高效的神经元或皮层可能因其较低的解码效率而被忽略。另一方面，在解码过程中相对高效的神经元或皮层常有许多不能被刺激解释的神经活动，这给分析带来了极大的噪音。这些潜在的风险或许会导致功能研究中的假阴性问题和可重复性问题[74]。
此外，该研究揭示了（1）在神经信号记录过程中得到鲁棒的信号趋势和保持神经活动信息间的矛盾以及（2）在记录的神经信号中编码和解码属性可能存在的制约关系（参考发现1和3）。虽然具有高时间分辨率的记录技术能够捕捉高频的神经活动变化，短期神经活动变化的高动力学随机性通常会阻碍研究者得到鲁棒的神经信号并且可能导致编码、解码分析结果的不一致。时间分辨率较低的记录技术不能捕捉高频的神经活动，但其能够记录动力学随机性相对较小的神经活动并在一定程度上避免编码、解码分析结果的分歧。所以，一个多时间分辨率的（multitemporal-resolution recording）神经信号记录体系[75–77]或许能兼具高时间分辨率和低时间分辨率的记录技术的优点，并在一定程度上克服两者的缺陷。
发现4或许对认知神经科学具有一定启示。研究者指出了“浅层“的神经元活动与刺激分布的局部信息更相关，而“深层“的神经元活动与对刺激分布全局信息的加工更相关（参考发现2和4）。在某种程度上，对于刺激分布全局信息的加工可以被理解为神经元在刺激响应过程中所具备的泛化能力。这种自发涌现的差异性指出了“浅层“神经元负责编码局部刺激信息，而“深层“神经元负责编码全局刺激信息的可能。这种自发形成的神经元间的分工体系或许在自下而上的（bottom-up）信息加工过程中具有重要的意义。
