原文链接：https://mp.weixin.qq.com/s/ZlC1-hAK4ww8muWJiK6Zxg
原创 剑桥大学
剑桥大学的科学家们已经证明，对人工智能系统施加物理约束——就像人脑必须在物理和生物约束下发育和运行一样——允许它发展复杂生物大脑的特征，以解决任务。
当大脑等神经系统自我组织并建立联系时，它们必须平衡相互竞争的需求。例如，需要能量和资源来发展和维持物理空间中的网络，同时优化网络以进行信息处理。这种权衡塑造了物种内部和跨物种的所有大脑，这可能有助于解释为什么许多大脑都集中在类似的组织方案上。
剑桥大学医学研究委员会认知与脑科学部门 (MRC CBSU) 的盖茨学者贾沙·阿赫特伯格 (Jascha Achterberg) 表示：“大脑不仅擅长解决复杂的问题，而且只需要很少的能量就能完成这一任务。我们的新工作表明，考虑大脑解决问题的能力及其花费尽可能少的资源的目标，可以帮助我们理解为什么大脑看起来像这样。”
主要联合作者、同样来自 MRC CBSU 的 Danyal Akarca 博士补充道：“这源于一个广泛的原则，即生物系统通常会进化以充分利用它们所拥有的能量资源。【译者注：参阅 道生万物的现代物理学解读，“世界演化出高效利用能量的机制，自由能喂食生命体，生命体消耗“负熵”不断进化，推动能量更高效利用”】它们得出的解决方案通常非常优雅，反映了施加在它们身上的各种力量之间的权衡。”
任务结构和 sRNN
在《自然机器智能》杂志上发表的一项研究中，Achterberg、Akarca 及其同事创建了一个人工系统，旨在对非常简化的大脑版本进行建模，并应用物理约束。他们发现他们的系统继而发展出某些与人脑相似的关键特征和策略。
该系统使用计算节点，而不是真正的神经元。神经元和节点在功能上相似，因为每个神经元都接受输入，对其进行转换并产生输出，并且单个节点或神经元可能连接到多个其他节点或神经元，所有输入信息都需要计算。
然而，在他们的系统中，研究人员对系统应用了“物理”约束。每个节点在虚拟空间中都有一个特定的位置，两个节点距离越远，它们之间的通信就越困难。这类似于人脑神经元的组织方式。
研究人员给系统提供了一个简单的任务去完成——在本例中，这是一个迷宫导航任务的简化版本，通常在研究大脑时给予老鼠和猕猴等动物，系统必须结合多条信息来决定最短的到达终点的路线。
团队选择这个特定任务的原因之一是，为了完成它，系统需要维护许多元素——开始位置、结束位置和中间步骤——一旦它学会了可靠地完成任务，就可以在试验的不同时刻观察哪些节点是重要的。例如，一个特定的节点集群可以对完成位置进行编码，而其他节点对可用路线进行编码，并且可以跟踪哪些节点在任务的不同阶段处于活动状态。
验证 sRNN 的训练
最初，系统不知道如何完成任务并且会出错。但当它得到反馈时，它会逐渐学会更好地完成任务。它通过改变节点之间的连接强度来学习，类似于我们学习时脑细胞之间的连接强度如何变化。然后系统一遍又一遍地重复该任务，直到最终学会正确执行该任务。
然而，在他们的系统中，物理约束意味着两个节点距离越远，在两个节点之间建立响应反馈的连接就越困难。在人脑中，跨越较长物理距离的连接的形成和维护成本很高。
当系统被要求在这些约束下执行任务时，它使用了一些与真实人脑相同的技巧来解决任务。例如，为了克服这些限制，人工系统开始发展出集线器——高度连接的节点，充当网络传递信息的渠道。
然而，更令人惊讶的是，各个节点本身的响应模式开始发生变化：换句话说，不是拥有一个系统，其中每个节点都为迷宫任务的一个特定属性（例如目标位置或下一个选择）进行编码，而是节点发展出了“灵活的编码方案”。这意味着在时间节点的不同时刻，节点可能会因迷宫的混合属性而触发。例如，同一节点可能能够对迷宫的多个位置进行编码，而不需要专门的节点来对特定位置进行编码。这是在复杂生物体的大脑中看到的另一个特征。
剑桥大学精神病学系的合著者，邓肯·阿斯特尔教授说：“这种简单的约束——连接相距较远的节点更困难——迫使人工系统产生一些相当复杂的特征。有趣的是，它们是生物系统所共有的特征，一如人类的大脑。我认为这告诉我们一些关于为什么我们的大脑是这样组织的基本知识。”
SRNN 呈现出类似大脑的结构拓扑结构
了解人脑
该团队希望他们的人工智能系统能够开始揭示这些限制如何影响人们大脑之间的差异，并有助于[理解]从那些经历认知或心理健康困难的人身上所看到的差异。
共同作者MRC CBSU 教授约翰·邓肯 (John Duncan) 表示：“这些人造大脑为我们提供了一种方法，让我们能够理解在真实大脑中记录真实神经元活动时所看到的丰富而令人眼花缭乱的数据。”
Achterberg 补充道：“人造‘大脑’让我们能够提出在实际生物系统中不可能看到的问题。我们可以训练系统执行任务，然后用我们施加的约束进行实验，看看它是否能够实现。”开始看起来更像特定个体的大脑。”
对设计未来人工智能系统的影响
这些发现可能也会引起人工智能界的兴趣，因为它们可以帮助开发更高效的系统，特别是在可能存在物理限制的情况下【译者注：参考 GPT4技术原理四：重整化群流作为最优输运，“世界的不断演进，都是冥冥中遵循最小化各种代价或成本的方式进行，最优输运某种意义上是自然演化的必然方向和准则”】。
阿卡卡博士说：“人工智能研究人员不断尝试研究如何制造复杂的神经系统，能够以灵活、高效的方式进行编码和执行。为了实现这一目标，我们认为神经生物学会给我们很多启发。”例如，我们创建的系统的总体“配线”成本比典型的人工智能系统低得多。”
函数聚类与空间编码分布
许多现代人工智能解决方案涉及使用仅表面上类似于大脑的架构。研究人员表示，他们的工作表明，人工智能正在解决的问题类型将决定哪种架构最强大。
Achterberg 说：“如果你想构建一个人工智能系统来解决与人类类似的问题，那么最终该系统将比运行在大型计算集群上的系统更接近真实的大脑，这些计算集群专门从事与人类截然不同的任务。“我们在人工‘大脑’中看到的架构和结构之所以存在，是因为它有利于处理它所面临的特定的类似大脑的挑战。”【译者注：大脑神经结构是适配外界任务而形成的，最小化解决任务的成本或者能量消耗。脑子越用越灵活的科学证明。】
这意味着必须用有限的能量资源处理大量不断变化的信息的机器人可以从与我们相似的大脑结构中受益。
参数空间收敛于类脑拓扑结构和函数
阿赫特伯格补充道：“部署在现实物理世界中的机器人大脑可能看起来更像我们的大脑，因为它们可能面临与我们相同的挑战。”
“他们需要不断处理通过传感器传入的新信息，同时控制自己的身体在空间中向目标移动。许多系统需要在有限的电能供应下运行所有计算，因此，要平衡这些能量限制与它需要处理的信息量，可能需要与我们相似的大脑结构。”【译者注：参阅 GPT4技术原理五：大模型数理认知框架，“预训练以重整化群流的方式进行，在不同尺度上提炼语料数据中的信息概率分布；重整化群流的每一步流动（自回归预测逼近训练语料概率分布），都沿着最优输运的成本最低方向进行；采样不断进行，基于内部概率化了的世界模型（预训练获得的先验），针对感官输入（提示），做变分推断，最小化自由能，获取最佳采样分布q*，作为对导致感官输入的外部后验的预测。”】
更多信息： 空间嵌入的循环神经网络揭示了结构和功能神经科学发现之间的广泛联系，《自然机器智能》（2023）。DOI：10.1038/s42256-023-00748-9
