机器记忆智能——受人类记忆机制启发

郑庆华 ,  刘欢 ,  章小清 ,  闫彩霞 ,  曹相湧 ,  龚铁梁 ,  刘永进 ,  师斌 ,  彭祯 ,  范晓岑 ,  Ying Cai ,  刘均

工程（英文） ›› 2025, Vol. 55 ›› Issue (12) : 24 -35.

PDF (3293KB)
工程（英文） ›› 2025, Vol. 55 ›› Issue (12) : 24 -35. DOI: 10.1016/j.eng.2025.01.012
研究论文

机器记忆智能——受人类记忆机制启发

作者信息 +

Machine Memory Intelligence: Inspired by Human Memory Mechanisms

Author information +
文章历史 +
PDF (3372K)

摘要

以ChatGPT为代表的大模型已经达到了当代人工智能的顶峰。然而，它们存在三个固有的缺陷：训练数据和计算能力消耗过大、易发生灾难性遗忘，以及黑盒模型在逻辑推理能力方面存在不足。为了应对这些挑战，本研究从人类记忆机制中汲取灵感，引入了“机器记忆”的概念，其定义为通过将外部信息编码成机器可表征和可计算的格式而形成的存储结构。围绕“机器记忆”，本文提出了全新的“机器记忆智能”（M2I）框架，该框架包含“表征-学习-推理”模块及循环。本文探讨了机器记忆智能四个核心方面的关键问题和最新进展，包括神经机制、联想表征、持续学习以及机器记忆中的协同推理。机器记忆智能旨在将机器智能从以数据为中心的神经网络的限制中解放出来，从根本上突破现有大模型的局限性，从而推动人工智能从弱到强的质的飞跃。

Abstract

Large models, exemplified by ChatGPT, have reached the pinnacle of contemporary artificial intelligence (AI). However, they are plagued by three inherent drawbacks: excessive training data and computing power consumption, susceptibility to catastrophic forgetting, and a deficiency in logical reasoning capabilities within black-box models. To address these challenges, we draw insights from human memory mechanisms to introduce “machine memory,” which we define as a storage structure formed by encoding external information into a machine-representable and computable format. Centered on machine memory, we propose the brand-new machine memory intelligence (M2I) framework, which encompasses representation, learning, and reasoning modules and loops. We explore the key issues and recent advances in the four core aspects of M2I, including neural mechanisms, associative representation, continual learning, and collaborative reasoning within machine memory. M2I aims to liberate machine intelligence from the confines of data-centric neural networks and fundamentally break through the limitations of existing large models, driving a qualitative leap from weak to strong AI.

关键词

机器记忆智能 / 神经机制 / 联想征 / 持续学习 / 协同推理

Key words

Machine memory intelligence / Neural mechanism / Associative representation / Continual learning / Collaborative reasoning

引用本文

引用格式 ▾
郑庆华,刘欢,章小清,闫彩霞,曹相湧,龚铁梁,刘永进,师斌,彭祯,范晓岑,Ying Cai,刘均. 机器记忆智能——受人类记忆机制启发[J]. 工程（英文）, 2025, 55(12): 24-35 DOI:10.1016/j.eng.2025.01.012

登录浏览全文

4963

注册一个新账户 忘记密码

1 引言

人工智能正在经历由弱变强的快速发展阶段。深度学习算法的突破及数据与计算能力的扩展，使得大语言模型的性能在各个领域达到甚至超越人类的水平。然而，这些模型也存在明显的缺点，比如过度需求数据盒计算能力、易发生灾难性遗忘，以及黑盒模型在逻辑推理能力方面存在不足。为了真正实现机器智能，探索与当前深度网络范式不同的新的可持续方法至关重要。

1.1 大模型和它固有的缺陷

以ChatGPT为代表的大型模型采用“大数据、大规模算力和强大算法”的技术路线。这极大地推动了语言理解、意图识别和内容生成等领域的发展，达到了当代人工智能的顶峰。然而，大模型存在三个固有的缺陷。第一，它们过度消耗数据和计算能力，导致能源消耗巨大。例如，仅训练GPT-3需要128.7万千瓦时的电力[1]，ChatGPT在问题解决阶段每天消耗56万千瓦时的电力[2]。第二，它们容易受到灾难性遗忘的影响。当大型模型学习新任务时，它们往往会迅速忘记之前学到的知识，导致在早期任务上的性能大幅下降[3]。第三，它们是黑箱模型，在逻辑推理能力上存在不足。例如，图灵奖得主杨·勒丘恩认为，现有的自回归大模型很难执行推理和规划任务。

上述局限性的根本原因可归结于三方面：人工神经网络的框架、大模型的训练机制和数据驱动的推理模型。首先，人工神经网络的框架和问题的底层机制缺乏一致性，导致其适应性和可解释性较差。其次，在训练阶段，反向传播算法会基于全局的误差迭代地更新所有参数。这一过程消耗大量训练数据和计算能力，还可能导致早期知识的遗忘。再次，在推理阶段，前向传播机制会让所有的参数参与计算，这也消耗了大量计算能力。

1.2 人脑记忆机制的启发

在人工智能的70年发展历程中，脑科学和认知科学的研究一直是其进步的动力。研究表明，记忆在人脑智能中起到基础性作用[4‒6]。具体而言，记忆对大脑的智力活动（如学习、抽象、联想和推理）的影响贯穿于编码、存储和提取三个主要阶段。

人类大脑独特的记忆机制为克服传统人工智能网络的固有缺陷提供了重要启示。首先，记忆激活机制可以从长期记忆中提取少量记忆到工作记忆中用于推理。尽管人类大脑包含大约1011个神经元和1015个突触，但其能量消耗仅为20~23 W，而同等规模的大模型的能量消耗比人脑高5个数量级[7]。其次，人类大脑的突触可塑性[8]是学习和记忆形成的基础。这种可塑性具有局部性、自主性和无监督性等特征，避免了出现大模型中的灾难性遗忘问题，即在大模型中，所有参数都会被更新所导致的“学习新知识，忘记旧知识”。最后，大脑记忆的双系统协作机制[9]是人类复杂推理的基础。这一机制有望增强大规模人工智能系统中黑箱模型较弱的逻辑推理能力。

1.3 机器记忆智能

受到人脑记忆机制的启发，本研究提出了“机器记忆”这一基本概念，将其定义为一个通过将外部信息编码为机器可表征且可计算的格式形成的多层分布式网络存储结构。这一结构支持动态更新和重组、时间-空间联想、抽象-具体联想和模糊哈希访问。围绕“机器记忆”，本研究提出了名为M2I的“机器记忆智能”框架，如图1所示。M2I利用表征、学习和推理模块，结合类脑机制，形成两个交互循环，以实现机器记忆的联想表征、持续学习和协同推理。利用这种架构，M2I可以从根本上突破现有大模型固有的暴力计算、灾难性遗忘和逻辑推理能力不足等难题。本文在表1中总结了机器记忆智能和大模型在表征、学习和推理方面的能力对比。

M2I包含三大模块。

• 表征模块。该模块负责对学习模块中编码的不同种类的知识或者信息进行结构化表征，从而实现层级化的分类组织和存储。受人脑的联想机制和各种记忆结构的独特表征方法的启发，表征模块应该融入联想学习的关键特征。这些关键特征包括支持时间-空间联想、抽象-具体联想和模糊哈希访问等的能力。同时，它还为异构知识或知识编码后处理提供基本操作，如抽象、联想、更新和访问。

• 学习模块。该模块旨在从外部场景和数据库中提取新知识，对这些知识进行编码，并形成构成机器记忆的基本单元。通过模拟人类大脑学习过程的双重性质及其记忆回放机制，学习模块整合了局部和全局学习策略。这种整合实现了持续学习，并使系统具备自主重构和巩固机器记忆的能力。

• 推理模块。该模块会根据待解决的任务和当前场景，迭代地激活并检索相关的机器记忆，并协同不同的推理模式以获取解决方案。借鉴人类大脑的双加工理论和奖励机制，该推理模块旨在整合直觉推理和逻辑推理两种模式，促进协作式问题解决。此外，该模块能够将冗余的系统II过程迁移至系统I，从而促进直觉推理，并提高推理过程的速度和能效。

学习模块和表征模块之间的交互形成了一个学习循环。在这里，学习模块与局部和全局学习机制协同工作，将外部场景和数据集编码为机器记忆的基本单元，然后由表征模块将这些基本单元表征为机器记忆的时间-空间联想以及抽象-具体联想。同时，学习模块还需要读取（或检索）现有的机器记忆，在局部学习、全局学习和回放过程中进行协作，从而形成一个循环。

推理模块与表征模块交互形成推理环路。推理模块从待解任务与外部场景中提取关键信息并编码，依托该信息激活表征模块内的机器存储；随后调用调取的存储内容，支撑直觉推理与逻辑推理。上述过程迭代运行，构成闭环。

M2I聚焦于4个方向：①何种神经机制支持机器记忆？②如何实现机器记忆的联想表征？③如何在低功耗条件下进行持续学习？④如何实现推理中直觉与逻辑的双系统协作？以下第2至第5节将系统阐述这四个领域中的关键问题及重大进展。总之，M2I将采用一种全新的技术方法，这种方法有望彻底克服当前大模型的固有瓶颈。

2 受大脑记忆启发的机器模型的相关工作

本节将回顾从人脑记忆机制得到启发的机器模型的最新进展。

首先，脉冲神经网络（SNNs）代表了人工神经网络的前沿，采用了受大脑启发的信息处理方法[10]。在生物大脑中，神经元通过电脉冲跨突触传递信息，以稀疏且异步的方式运作。脉冲神经网络模拟了这种功能，其神经元通过被称为“脉冲”的时间事件交换信息，并遵循整合发放（IF）动力学原理。脉冲时序依赖可塑性（STDP）是一种局部衍生的学习规则，已被提出用于训练脉冲神经网络。作为一种突触可塑性机制，STDP会根据神经元之间脉冲的精确时间来微调突触权重。这种时间调制使神经网络能够基于输入脉冲的序列进行学习和适应，这与生物神经系统中观察到的学习和记忆过程相似。

其次，在受大脑记忆启发的模型中，回放一直是人工智能与神经科学之间的关键连接点。大脑中的回放被视为一种排练，或是被视为从转换模型中进行采样，并且常被用于解决深度学习模型的持续学习问题[11]。一个直接的思路是通过存储少量旧的训练样本或训练生成模型来近似并恢复旧的数据分布。典型的子方向[12]包括经验回放（在记忆缓冲区中保存少量旧的训练样本）、生成回放（训练生成模型以提供生成的样本）以及特征回放（通过保存原型、保存统计信息或训练生成模型来恢复旧特征的分布）。

除了回放机制外，生物大脑的主动遗忘机制也被用于在持续学习中克服灾难性遗忘。具体而言，通过模拟一个强大的利用多个学习模块主动调节遗忘过程的果蝇学习系统，Wang等[13]提出了一种通用方法，通过适当地减弱参数分布中的旧记忆来提高学习可塑性，并相应地协调多学习器架构以确保解决方案的兼容性。此外，Kurth-Nelson等[14]提出，大脑中的回放具有更普遍的功能：通过组合计算获取新知识。因此，他们认为，作为嵌入包括大脑皮层（其在许多方面的表现类似于深度神经网络）在内的更大脑系统中的组合计算，回放应当与将组合计算和深度学习相结合的机器学习技术相对应。此外，回放机制还可与注意力机制相结合，在回放过程中，通过新生成的组合来调整注意力分配网络的权重，从而实现结构化推理。

再次，海马体对人类记忆的形成至关重要，近期的研究探索了海马体与前景广阔的新型神经网络架构之间的关系。例如，Whittington等[15]从数学上将 Transformer架构的表征方法与人类海马体的表征方法联系起来并进行比较，为解释Transformer的生物学合理性提供了新视角。受此类研究结果的启发，Kim等[16]提出了一种模拟NMDAR动态变化的新非线性激活函数。类NMDAR非线性特性会将Transformer中的短期工作记忆转变为长期参考记忆，从而强化一个与哺乳动物大脑中的记忆巩固类似的过程。

最近，Jiang等[17]提出应关注人工智能模型的自我进化。与使用大规模数据训练模型相比，自我进化可能仅需使用有限的数据或交互。受人类大脑皮层柱状结构的启发，他们推测，人工智能模型或许能通过与环境的迭代交互，发展出新兴的认知能力，并构建内部表征模型。为实现这一点，Jiang等[17]提出模型必须配备长期记忆（LTM），用于存储和管理经过处理的现实世界交互数据。长期记忆不仅能在统计模型中实现长尾个体数据的表征，还能通过支持在不同环境和智能体中的多样化体验，促进自我进化。

3 机器记忆的神经机制

揭示和阐释人类学习和记忆的原理，有助于机器记忆智能的发展。本节将详细阐述大脑智能的神经元和神经网络的预配置、学习与记忆的神经元及神经回路可塑性和大脑智能生成语法这几个方面的关键问题发展进程。

3.1 关键问题

• 大脑智能的神经元和神经网络的预配置。现在人们公认的是，人类智能源于接受外界刺激，并进一步处理这些输入信号以便进行学习和记忆。在人类大脑发育过程中，神经外胚层细胞会形成不同区域的神经祖细胞，这些细胞随后分化为特定的神经元亚型，构建起感知和处理外部信号的基本框架。充分阐明神经元和神经网络是如何被预配置的，以及人类大脑在胚胎发育过程中是如何逐步构建成具有神经生物学和神经心理学响应能力的神经元集合，对于构建机器记忆智能的功能模块至关重要。

• 大脑学习与记忆的神经元及神经回路可塑性。人类大脑神经生物学或神经心理学功能的能力与表现，归因于由神经元和突触形成的神经网络的时空激活。神经元或神经回路层面的可塑性是与经验相关的适应性过程的原因，因此学习和记忆随之产生或进化。在特定的学习和记忆范式中，追踪参与的神经元或神经回路，并揭示它们的细胞和分子适应性，是阐明大脑智能的关键。

• 大脑智能生成语法。新发育的大脑就像一块预先配置好的白板。即时的经验接触会依次激活或抑制一组神经元，这些神经元在内部生成外部刺激的表征。重复的、相似的或相关的经验接触可能会导致这些神经元集合的重放，从而强化或修正这些内部生成的表征。内部生成的表征库会根据新的刺激被筛选出来，并用于形成和表达外部世界的新表征。本研究假设，凭借能够生成智能的预先配置的神经元和神经网络，存在一种生成语法，可在细胞或回路层面写入、擦除和读取外部经验。

3.2 主要进展

在胚胎发育过程中，多能性外胚层细胞会默认分化为神经外胚层细胞，这些细胞排列成单层的神经板。随后，神经板向上弯曲，其左右边缘在背侧中线处融合，形成神经管[18]。正是在神经管形成期间，通过形态发生素的模式调控，神经外胚层细胞逐渐获得区域特性，如前脑背侧区域的皮质和海马神经祖细胞，以及外侧、内侧和尾侧神经节隆起和前脑腹侧的视前区神经祖细胞[19]。背侧前脑的神经祖细胞主要分化为谷氨酸能兴奋性神经元，而腹侧前脑的神经祖细胞则主要分化为GABA能抑制性神经元或胆碱能神经元[20‒21]。神经元可以迁移或投射到局部或远端脑区，并在那里通过突触形成预先配置的神经网络。新发育的神经元集群和神经网络就像一块预先配置的白板，预先设定好用于感知和处理特定的外部刺激，并有目的地接收、记录和重新处理来自外部世界的信息（图2）。

由于单细胞转录组分析技术的快速发展，模型生物以及人类在发育过程中大多数脑区的神经元身份、它们的分子特征和发育轨迹都已被详细描绘[22]。人类多能干细胞，包括人类胚胎干细胞和人类诱导多能干细胞，在培养中也有潜力分化为不同脑区的神经祖细胞，进而形成神经元[23‒24]。体外生成的神经元和神经网络或许还能作为预先配置好的白板，用于感知和处理刺激，因此可作为研究或模拟智能产生的一种前所未有的模型。

在学习过程中，刺激由初级神经元感知，这些神经元通过动作电位介导的突触激活或抑制将信号传递给下游神经元[25]。同时，多种信号也可以通过多个输入神经元汇聚并整合到一个下游神经元上，这也属于另一种学习类型[26]。在记忆过程中，带有注意力的信号会在神经元或神经回路层面被处理为内部生成的表征[27]。

学习和记忆行为研究用于在动物模型中表征学习和习得状态。近年来的钙成像[28]、即刻早期基因报告[29]、活体电生理记录[30]技术，能够绘制参与某一行为事件的神经元和神经回路。高分辨率成像技术现在被用于研究学习过程中的突触适应，如新生成或衰退的突触，以及突触后膜上神经递质受体数量的动态变化[31]。本研究最近开发了一种基因核膜标记结合单核测序的策略，该策略可用于捕获功能相关的神经元，并剖析学习和记忆背后的分子机制[32]。投射特异性化学遗传学和光遗传学操作现在被广泛应用于揭示在包括学习和记忆在内的行为的获得、巩固和提取过程中的功能性投射[33]。

大脑智能的形成在某种程度上类似于语言能力的产生，其中，字母类似于大脑中的神经元，而依次被激活的神经元集合则类似于词汇表。然而，最具挑战性的是大脑如何从这些词汇库中总结和提取特定含义，如何用一种假定的语言语法来组织句子，以及研究人员如何获得强大的语言能力来表达新的句子以反映新的语境。在这方面，神经生物学家、神经心理学家和机器智能领域的科学家的共同努力或许能为解码这种通用生成语法铺平道路，而这可能会被应用于揭示大脑智能以及构建下一代机器智能。

4 机器记忆的联想表征

机器记忆的表征是一种基础结构，它使人工智能系统能够有效地编码、存储和检索信息。该领域的主要挑战和重要进展可总结如下。

4.1 关键问题

• 机器记忆的抽象-具体联想问题。记忆重构理论认为，记忆并非过去感官体验的简单复制，而是基于语义内容的重构。事实上，神经科学研究发现，啮齿类动物和人类体内都存在“抽象-具体”联合表征机制。值得注意的是，人脑外侧内嗅皮层中的扇形细胞能够在实体之间建立关联，从而形成联想记忆。因此，在机器感知中，利用这种表征机制对视觉、语言等多种形式的感官信息以及语义抽象进行关联编码，是一项重大挑战。这一努力旨在提高机器记忆联想表征中激活方式的可塑性和灵活性。

• 机器记忆的动态时间-空间联想问题。神经科学研究表明，人类记忆存储具有碎片化和动态性的特点。从空间上看，记忆被分解为不同的组成部分，并分配到不同的大脑区域。从时间上看，各种大脑系统之间相互作用的复杂性导致记忆片段随着时间动态更新。这种跨时空的动态关联是人类大脑中记忆构建和巩固的基础。尽管如此，当前的机器学习模型将记忆信息表征为特定参数化知识，缺乏明确的时空编码以及与记忆内容相关的联想机制能力。因此，在机器记忆中复制人类大脑的记忆重建机制，以开发一种沿空间和时间维度进化并产生关联的拓扑结构，是一项艰巨的挑战。

• 机器记忆的高效哈希访问问题。大脑采用分布式存储的概念来维护庞大的记忆库，并通过高效的模糊哈希访问机制，利用特定线索或关键信息迅速定位所需记忆。然而，当前的机器学习模型在面对大量记忆信息时，存在访问效率低下的问题，难以快速检索和识别与给定提示相关的记忆。因此，模拟大脑高性能的哈希访问机制，构建对机器局部内存敏感的分布式哈希存储结构和映射机制，是一项重大挑战。

4.2 主要进展

本文将从三个方面回顾机器记忆联想表征的研究进展：记忆的抽象-具体联想、记忆的时间-空间联想以及高效的记忆访问。

在记忆的抽象-具体联想领域，伦敦大学学院认知神经科学研究所的研究人员结合强化学习算法和脑成像技术的使用，展示了一种基于感官特征评估的抽象机制[34]。普林斯顿大学普林斯顿神经科学研究所的David W. Tank教授研究了海马体中作为抽象知识形成基础的神经编码机制[35]。该研究揭示了空间信息和非空间信息是如何整合起来，形成一个用于存储和检索复杂概念的几何框架的。复旦大学和约克大学的合作团队揭示了有助于语义记忆和情景记忆检索的共同神经回路，从而使大脑能够灵活提取具有不同功能的长期记忆[36]。伦敦大学学院的Neil Burgess教授提出了一个生成模型，该模型捕捉了记忆中的抽象-具体联想（图3），阐释了记忆是如何通过抽象概念和具体实例之间的相互作用动态形成并具体化的[37]。

在时间-空间记忆联想方面，牛津大学的研究人员构建了Tolman-Eichenbaum Machine（TEM），这是一种理论模型，通过海马结构内的泛化过程将空间记忆和关系记忆统一起来[38]。北京大学与中国科学院脑科学与智能技术卓越创新中心的合作研究发现，在序列记忆维持过程中，神经活动状态空间由相互正交的序列子空间构成，这揭示了大脑序列记忆的编码机制[39]。Casanueva-Morato等[40]基于海马体的CA3区域开发了一种受生物启发的脉冲内容可寻址记忆模型，该模型具备学习、遗忘和回忆记忆的能力。

关于记忆访问机制，Dasgupta等[41]受果蝇嗅觉细胞工作机制的启发，提出了一种高效的基于哈希的相似性搜索算法，该算法的输入为气味，输出为该气味的标签（称为哈希）。这项工作为机器中记忆的高效访问提供了新视角。加州大学圣地亚哥分校的Tajana Simunic教授提出了一种基于超维计算的全二进制类脑分类器，用于实现高能效、高精度的分类[42]。Luo等[43]揭示了学习过程中海马体与大脑皮层之间的交互机制，发现了一种将分布式存储与多感官感知相结合的高效编码方法。受大脑神经元工作原理的启发，研究人员研发出一种能够即时学习和记忆的纳米线网络，这标志着在开发高效、节能的机器智能方面迈出了关键一步[44]。

这些研究不仅加深了对记忆编码机制的理解，还为未来机器记忆表示和学习方面的研究提供了理论支持。

4.3 讨论

4.3.1 哪项人类大脑记忆研究启发了机器记忆的联想表征？

从信息论的角度来看，人类记忆是对外部输入信息进行编码、存储和检索的过程。加拿大认知心理学家、美国国家科学院院士Endel Tulving提出了记忆功能的信息加工系统（SPI）理论[45‒46]。该理论认为，记忆系统由多个执行特定功能的记忆模块组成，如感知输入系统、工作记忆系统、语言处理系统、概念系统和长时记忆系统。这些模块之间的关系具有串行信息编码、并行信息存储和独立信息提取的特点（例如，在回忆某一事件时，人类可以根据需要独立提取相关的视觉、听觉、情感等各类信息）。

受此启发，本研究旨在探索机器记忆的关联协作表征机制，重点研究结合抽象与泛化、动态时间-空间联想以及高效模糊哈希检索的分布式机器记忆表征。本研究致力于实现一种支持多级抽象、时空联想和高效检索的分布式机器记忆表征。

4.3.2 M2I模型是如何实现机器记忆的联想表征的？

全脑映射理论[47‒48]表明，大脑利用分布式存储原则来保存海量记忆。也就是说，储存在大脑中的记忆并非集中在某个特定区域，而是以分散的方式存储在整个大脑的神经回路中。因此，本研究打算为机器记忆构建一个由多级存储节点组成的分布式哈希存储结构，并为分布式存储节点设计一个一致性哈希映射函数，为记忆的高效稳定检索奠定基础。

此外，借鉴人脑的记忆检索机制[49]，本研究旨在为机器记忆构建一种高效的模糊哈希机制，实现相似但不同记忆的快速关联与检索，确保记忆检索的效率、容错性和鲁棒性。这种方法为解决大型模型过度消耗数据和计算资源的缺点提供了思路。

受人类记忆重构机制[50]的启发，本研究构建了分布式多通道机器记忆语义网络，并研究了抽象-具体机器记忆的生成性自联想连接。在此基础上，本研究旨在建立一种将线索与内容解耦的机器记忆存储机制，并构建跨时空的机器记忆显式编码与关联机制。这种机制颠覆了基于隐式参数化知识的传统机器学习模型结构，能够提取特定内容或相关知识。它有助于弥补传统黑箱模型在逻辑推理能力方面的不足。

5 机器记忆的持续学习

机器记忆的持续学习致力于解决灾难性遗忘现象。它超越了传统的持续学习框架，融入了仿生学原理，以模拟人类大脑卓越的终身学习和适应能力。这种方法的架构基础建立在实现突触可塑性和记忆稳定性之间的平衡之上，从而在获取扎实知识的同时，保留先前编码的信息。该领域的关键挑战和基本过程可以通过神经科学原理和计算需求的视角进行系统分类和分析，如下所述。

5.1 关键问题

• 机器记忆控制中的自适应调节。人类大脑记忆学习模式的自适应调节机制构成了记忆学习的基础。神经科学研究表明，人类大脑记忆中的不同学习模式可能在各类场景需求和记忆目标方面表现出色。同时，记忆学习过程通常涉及多种学习模式的协同作用。因此，机器记忆控制设计中的一项重大挑战在于如何从人类大脑记忆学习模式的自适应调节机制中汲取灵感并进行模拟。目标是针对不同场景自动选择合适的单一或组合学习模式，从而提高机器记忆学习的效率。

• 机器记忆中的协作联想持续学习。人类的持续学习能力是巩固现有知识和吸收新信息的基础。然而，当前的持续学习模型往往存在计算成本高、知识迁移困难等缺点，使其在处理复杂、动态的大数据场景时效率低下。因此，一个重大的挑战在于如何从人类大脑的Hebbian学习特性中汲取灵感，建立一种整合“局部+全局”学习的协作机制，以及一种联想重放学习机制。

• 机器记忆的更新与重组。记忆的更新与重组使大脑能够快速适应动态变化的场景。然而，现有的机器学习模型缺乏有效的更新和重组机制，这使得它们难以迅速适应复杂且动态的场景。因此，一个需要解决的重大挑战是如何从贝叶斯大脑理论和与睡眠相关的神经科学研究中汲取灵感，将贝叶斯原理和记忆重放机制有机地融入机器记忆更新与重组的方法中。

5.2 主要进展

基于回放的方法是受神经科学启发的持续学习方法中的一种基本范式，它作为一种关键机制，用于减轻神经网络中的灾难性遗忘并促进知识保留。本节主要侧重于从经验回放和生成式回放的角度回顾受神经科学启发的持续学习领域的最新进展。

经验回放通常包括将一部分旧的训练样本存储在记忆缓冲区中，并在学习过程中有策略地利用它们。人们在经验回放方法上付出了大量努力，主要集中在两个方面：构建高效的记忆缓冲区和有效利用存储的信息。例如，Rolnick等[51]探索了一种简单的解决方案，即使用经验回放缓冲区存储所有过去的事件，并通过行为克隆采用在线和离线策略学习相结合的方式。Rostami等[52]受互补学习系统理论的启发，通过学习一个生成模型设计了一种新模型，该生成模型通过一个判别性嵌入空间将当前任务与过去学习过的任务联系起来。Wang等[53]提出了带数据压缩的记忆回放（MRDC），以降低旧训练样本的存储成本，从而增加记忆缓冲区中存储的样本数量。Wang等[54]提出了一种受大脑启发的深度检索与想象（DRI）框架，该框架设计了一个生成模型来生成虚构数据，并利用知识蒸馏来检索过去的经验。Boschini等[55]提出了一种简单有效的方法，将复述与知识蒸馏相结合，这种方法可以使基于深度学习的模型修改其回放记忆，以接纳关于过去数据的新信息，并为学习尚未见过的类别铺平道路。Wang等[56]提出了一种通用方法，通过模拟一个强大的果蝇学习系统（该系统通过多个学习模块主动调节遗忘），在参数分布中适当地弱化旧记忆，以提高学习可塑性，如图4所示。

生成式回放通常需要训练一个额外的生成模型来回放生成的数据，即恢复旧的数据分布。最近已经提出了许多方法来实现生成式回放方法。例如，Shin等[57]提出了一个初步框架，将来自旧生成模型的生成数据回放整合到每个生成任务的学习过程中，这种方法能够实现对先前获取知识的继承。Wu等[58]对其方法进行了扩展，利用回放对齐来确保在旧生成模型和新生成模型中，用相同随机噪声采样的生成数据具有一致性，这一过程类似于在加强连贯性时的函数正则化。Rostami等[59]开发了一个计算模型，该模型能够利用少量标记样本，有效地将其先前学到的概念扩展到新领域。Van de Ven等[60]提出了一种新的、受大脑启发的回放变体，在这种变体中，回放的是内部或隐藏表示，这些表示是由网络自身的、受上下文调节的反馈连接生成的，无需存储数据。Wang等[61]应用生成对抗网络（GAN）的三重网络架构，受大脑记忆系统组织原则的启发，对海马体、前额叶皮层和感觉皮层之间的相互作用进行建模。

5.3 讨论

5.3.1 人类大脑记忆研究中的哪些内容为机器记忆的持续学习提供了灵感？

机器记忆的持续学习从生物神经网络的适应性本质中汲取灵感。这些网络具备根据不断变化的输入动态调整突触可塑性的能力。这种适应性包括：①保留已习得的突触变化以对抗干扰，这构成了权重正则化概念的基础，用于有选择地控制参数调整[62‒63]；②扩展或修剪功能连接以容纳新的记忆，遵循先扩展然后重新规范化记忆空间的范式[64‒65]；③基于活动和持续性来调节突触可塑性，类似于元可塑性或适应性的适应性，与元学习原理相符[66‒67]；④利用抑制性突触来抑制受刺激神经元的活动，这与参数分配中二进制掩码的作用相似[68‒69]。此外，Hebbian学习理论[70]也启发本研究设计机器记忆模型的参数更新机制，即仅更新局部参数，因此本研究的模型能够缓解灾难性遗忘问题。

5.3.2 M2I模型是如何实现机器记忆的持续学习的？

机器记忆通过三种相互关联、受大脑启发的机制来解决灾难性遗忘问题，这些机制协同工作，在保持知识稳定性的同时实现持续学习。

其核心是自适应调节机制[71]，该机制模仿人类大脑的记忆学习模式，通过动态选择和协调多种学习模式，针对不同场景自动优化学习过程，同时高效分配计算资源。这种自适应控制与协同联想学习系统无缝集成，该系统采用Hebbian学习原理[70]，结合局部和全局学习方法，以维持特定任务性能和整体知识连贯性。局部学习部分专注于特定任务的更新，而全局学习则保留更广泛的知识结构，联想重放机制加强关键连接，并促进不同领域间的高效知识转移。

机器记忆的核心是一个协同联想持续学习系统，该系统从人类大脑的Hebbian学习原理[72]中汲取灵感。M2I结合了“局部+全局”学习方法和联想重放学习机制。局部学习部分专注于特定任务的更新，而全局学习则保留更广泛的知识结构。关键是，联想重放机制加强了关键连接，并促进了不同领域间的高效知识转移。这种协同联想方法克服了当前持续学习模型的局限性，如计算成本高和知识转移困难等，使其能够高效处理复杂、动态的大数据场景。

M2I的协同联想持续学习通过受贝叶斯大脑理论[72]及与睡眠相关的神经科学研究[73]启发的记忆更新和重组机制得到进一步增强。这种机制通过概率性知识更新和选择性记忆重放，能够快速适应动态场景。通过融入贝叶斯原理和记忆重放机制，该系统可以在保留基本知识结构的同时，高效更新和重组存储的信息，与传统的持续学习方法相比，显著降低了计算开销。这种机制连同受生物启发的学习过程的实施以及先进的资源优化技术，确保了现有知识的稳健保存，同时促进了新信息的整合。

6 机器记忆的协同推理

基于高效的联想表征和机器记忆的持续学习，围绕待解决的任务或问题进行可解释的推理，以及整合和更新记忆，是机器记忆智能的核心。该领域的关键挑战和主要进展可总结如下。

6.1 关键问题

• 复杂场景与任务的多类型机器记忆激活。在人类大脑的记忆提取过程中，工作记忆会有选择地关注特定场景和任务中的重要信息，同时主动抑制无关刺激。随后，海马体和前额叶皮层等脑区的多种类型记忆会根据内容相关性被激活。因此，设计高效的机器记忆激活机制的关键在于两个方面：首先，解决场景和任务的信息净化与过滤问题，以增强不同场景和任务下潜在关系元素的表征，从而实现场景和任务信息的高度可扩展编码；其次，解决多种类型记忆的高效且全面激活问题，以避免因场景语义的模糊性和复杂性而产生的庞大搜索空间，从而在提高检索效率的同时降低资源消耗。

• 不同类型记忆之间的协同推理。尽管现有的大型语言模型能够对文本、图像和3D等多种模态进行推理，但它们在推理过程中仍缺乏可解释性。人脑中的“直觉+推理”双过程协同推理机制，为解决现有大型语言模型推理效率低和可解释性差的问题提供了具有前景的思路。要将这一机制融入机器记忆模型，主要挑战在于构建生成式直觉推理系统I和迭代式逻辑推理系统II，设计针对复杂推理任务的路径选择机制，以及制定解决不同类型记忆之间冲突的机制。

• 不同类型记忆的巩固与迁移机制设计。为了应对现实场景中的复杂动态任务，现有的大型语言模型需要针对特定任务进行微调并进行推理适配，这导致了较高的能耗。受人脑学习和记忆的奖励机制启发，在记忆之间构建新的关联并对其进行巩固，以实现系统I中的快速直觉推理，能够极大地提高推理速度并降低机器推理的能耗。因此，挑战在于如何对复杂推理任务实施稀疏奖励建模，促进记忆巩固，建立记忆间关联的生成与迁移机制，以及将高能耗的逻辑推理结果迁移到系统I以实现快速的直觉推理。

6.2 主要进展

为了获得智能概念中固有的复杂推理能力，人工智能界目前正致力于开发各种方法来解决这一重大局限性。尽管一些专家，如Bengio和Marcus，认为融合路线最具前景[74]，并提出了所谓的神经符号人工智能方法[75]，但关于人类认知和决策推理的理论研究仍显不足，而这类研究有助于理解人类是如何进化以获得高级能力的，并为人工智能的未来发展提出关键的基础性研究问题。目前，Kahneman的快思考与慢思考理论[76]（又称双过程理论）已成为广受认可的原则，并正迅速融入人工智能领域。本节将简要回顾这一领域相关工作的进展。

在进一步深入之前，本节先介绍一个著名的成功案例，以说明具备复杂类人推理能力的智能体可能拥有何等强大的力量。2016年，AlphaGo在策略游戏围棋中击败人类，震惊了世界[77]。人们普遍认为，它的巨大成功源于采用了双过程认知系统[78]。具体来说，AlphaGo及其众多变体都采用了一种协作框架，将快速的深度神经网络与较慢的树搜索方法相结合[77,79‒80]。树搜索模型会根据当前状态推导出所有可能的行动结果，并选择最优方案，而深度神经网络则会根据所选和所执行行动的反馈，为特定的棋盘布局赋予一个策略值[81]。作为系统I，深度神经网络扮演着预注意力阶段的角色，通过建立快速关联，为以树搜索为支撑的系统II选择相关的表征。尽管这两个系统都可以独立运行，但只有当它们协同作用时，才能达到超越人类水平的最佳性能。

近年来，双加工理论与人工智能的融合日益加深，尤其在自然语言处理领域。例如，CogKR [82]采用了如图5所示的典型双系统架构，该架构通过迭代协调扩展模块和推理模块，以子图而非单个路径的形式执行多跳知识图谱推理。Hua和Zhang [83]构建了一种双系统架构，在表示学习模型（系统I）的基础上利用神经逻辑推理（系统II）。CogER [84]是一种用于可解释推荐的认知感知知识图谱推理模型，其中，系统I生成对下一个实体的直观估计，系统II进行显式推理以选择最有前景的实体。受现代大型语言模型（LLMs）前所未有的卓越成就的启发，人们对探索其在复杂推理方面的能力越来越感兴趣[85]。Statler [86]为大型语言模型配备了一种持久的、类记忆的世界状态表示。通过维持世界状态，大型语言模型能够在较长时间内获取与上下文相关的信息，从而极大地增强其推理能力。MoT [87]是一种“思维记忆”框架，在该框架中，大型语言模型通过预思考将高可信度的想法保存为外部记忆，然后召回相关记忆以辅助其推理。尽管取得了一些实证上的成功，但高级人工智能中的协同推理研究仍处于初始阶段。

6.3 讨论

6.3.1 哪项人类大脑记忆研究为机器记忆的协同推理提供了启发？

如前所述，深度学习的数据驱动推理方法会涉及计算中的所有参数，这对资源的消耗极大。此外，它主要从数据中学习相关性，在内容中立性和可解释性方面存在明显局限。然而，当本研究回顾早期的符号推理方法时，发现它们在这些方面表现出色。尽管如此，符号推理也存在局限性：①它往往难以处理不确定性和模糊性，难以适应新数据或未知场景，导致泛化能力较弱；②很难表示涉及文本、图像、音视频内容等高维数据的知识。事实上，这正是本研究方法背后的动机。

根据认知神经科学中的双过程理论[81]，人类大脑拥有两种截然不同的信息处理机制。系统I依赖经验和直觉，能快速进行联想和模式匹配，类似于深度学习。另外，系统II运行缓慢且需要有意识地进行，需要更多的认知负荷和注意力，适用于分析、推理和解决复杂问题，类似于符号推理。从人类大脑的双系统机制中汲取灵感，将深度学习的参数化知识（记忆）与早期知识工程中的符号知识（记忆）相结合，有望解决上述问题。

6.3.2 M2I模型是如何实现机器记忆的协同推理的？

诚然，已有大量研究专注于个体推理模块的设计。其中，各类知识图谱推理模型[88]是典型代表。然而，绝大多数现有技术，无论是基于嵌入的[89‒91]、基于路径的[92‒94]，还是基于规则的[95‒97]，都仅涉及单个模型针对一些相对简单任务（如头部推理和关系推断）的学习与推理过程。相比之下，本文所阐述的协同推理概念包含多种与机器记忆相关的机制，并且面向更复杂的推理场景，如高等代数和复杂任务规划。为此，本研究计划借鉴认知科学中的双过程理论以及大脑记忆的神经生物学基础，构建一个包含用于快速直觉推理的系统I和用于理性逻辑推理的系统II的推理模块。

该模块能够基于外部场景和待解决的任务，检索不同类型的与任务相关的机器记忆，如抽象语义和时空联想，这些都是由表示模块以分层和分类的形式组织及存储的各种知识。基于检索到的记忆，推理模块整合基于生成式的系统I和基于迭代式的系统II这两种推理模式进行协同工作，在此过程中，新的相关记忆将被提取作为补充，以促进长链推理。在协同工作过程中，推理路径的动态选择确保在每个推理阶段都能选出最合适的系统，而冲突解决机制旨在解决多种检索到的记忆之间的冲突，以维持推理的合理性和正确性。此外，该模块还应实现记忆之间关联的形成、记忆的巩固（强化正确记忆并纠正错误记忆），以及将记忆从系统II迁移到系统I，从而实现快速直觉推理（当遇到相同问题时），显著提高推理速度和能量效率。

尽管已有一些研究为不同任务（如知识图谱推理、多跳问答和持续学习下的分类）探索协同推理模型[82,98‒99]，但它们几乎只关注两个功能独立的系统之间的迭代交互，忽略了对记忆巩固及其在系统间转移机制的考虑，而这正是人类大脑高效推理的关键。与现有研究不同，本研究倡导的协同推理有望从根本上克服黑盒模型逻辑推理能力薄弱的固有缺陷，实现像人类一样具有可追溯结果和可解释过程的高级推理。

这种类人脑的协同推理将极大地推动各领域高级人工智能的发展。例如，在医疗领域，给定一系列医疗记录，如患者的体温单、化验报告、医学影像检查结果等，基于机器记忆的推理模块应能自动为患者得出专业的诊断意见，包括可追溯、可解释的诊断依据和处方。每次诊断的经验都将形成特定的机器记忆，以提高下一次推理的准确性和效率。同时，这些记忆将与现有的相关记忆形成各种关联，包括补充、强化和弱化。多种记忆的有机整合可能会产生新的见解，帮助人类发现未知疾病。

7 总结和未来工作

大型语言模型和多模态模型，如ChatGPT和SORA，因其在理解、生成和交互方面的强大能力，以及在跨领域应用中的潜力，引起了学术界和工业界的广泛关注。这些模型代表了当前人工智能研究的一个关键方向。然而，它们对数据驱动的神经网络框架的依赖不可避免地带来了固有的局限性，包括训练数据和计算能力的过度消耗、灾难性遗忘、逻辑推理能力薄弱以及缺乏可解释性。

人类大脑的记忆机制在人类智能中起着至关重要的作用。具体来说，大脑的突触可塑性、多层次整合和联想激活机制赋予了它高度的神经可塑性，避免了灾难性遗忘，并使其能够以低功耗执行复杂的推理和规划任务。受人类大脑记忆机制的启发，本文介绍了“机器记忆”这一跨学科研究方向，该方向融合了人工智能、神经科学和认知科学。本文指出了该领域的一系列挑战，包括机器记忆的神经机制、联想表征、持续学习和协同推理。机器记忆方向的研究旨在解决实现机器智能对传统人工神经网络的路径依赖，从而克服当前大型语言模型和多模态模型所固有的蛮力计算、灾难性遗忘和逻辑推理能力薄弱等问题。此外，利用机器记忆智能有助于验证脑科学中的理论和假设，特别是与人类大脑记忆相关的理论和假设，从而促进人工智能与脑科学的深度融合、交叉验证和协同发展。

参考文献

原文顺序 | 出版日期 | 本文引用
[1]

Luccioni AS, Viguier S, Ligozat AL. Estimating the carbon footprint of BLOOM, a 176B parameter language model. J Mach Learn Res 2023;24(253):1‒15.
[2]

De Vries A. The growing energy footprint of artificial intelligence. Joule 2023;7(10):2191‒4. . 10.1016/j.joule.2023.09.004
[3]

Kotha S, Springer JM, Raghunathan A. Understanding catastrophic forgetting in language models via implicit inference. 2023. arXiv:
[4]

Nȩcka E. Cognitive analysis of intelligence: the significance of working memory processes. Pers Individ Dif 1992;13(9):1031‒46. . 10.1016/0191-8869(92)90136-d
[5]

Yoo J, Wood F. BayespCN: a continually learnable predictive coding associative memory. In: Proceedings of the 36th International Conference on Neural Information Processing Systems; 2022 Nov 28‒Dec 9; New Orleans, LA, USA. Red Hook: Curran Associates Inc.; 2022. p. 29903‒14. . 10.52202/068431-2168
[6]

Anderson JR. Learning and memory: an integrated approach. Hoboken: John Wiley & Sons Inc.; 2000.
[7]

Mehonic A, Kenyon AJ. Brain-inspired computing needs a master plan. Nature 2022;604(7905):255‒60. . 10.1038/s41586-021-04362-w
[8]

Goto A, Bota A, Miya K, Wang J, Tsukamoto S, Jiang X, et al. Stepwise synaptic plasticity events drive the early phase of memory consolidation. Science 2021;374(6569):857‒63. . 10.1126/science.abj9195
[9]

Evans JSB. Dual-process theories of reasoning: contemporary issues and developmental applications. Dev Rev 2011;31(2‒3):86‒102.
[10]

Dampfhoffer M, Mesquida T, Valentian A. Backpropagation-based learning techniques for deep spiking neural networks: a survey. IEEE Trans Neural Netw Learn Syst 2024;35(9):11906‒21. . 10.1109/tnnls.2023.3263008
[11]

Ostapenko O, Lesort T, Rodriguez P, Arefin MR, Douillard A, Rish I, et al. Continual learning with foundation models: an empirical study of latent replay. In: Proceedings of the Conference on Lifelong Learning Agents; 2022 Aug 22‒24; Montréal, QC, Canada. PMLR; 2022, p. 60‒91.
[12]

Wang L, Zhang X, Su H. A comprehensive survey of continual learning: theory, method and application. IEEE Trans Pattern Anal Mach Intell 2024;46:5362‒83. . 10.1109/tpami.2024.3367329
[13]

Wang L, Zhang X, Li Q. Incorporating neuro-inspired adaptability for continual learning in artificial intelligence. Nat Mach Intell 2023;5(12):1356‒68. . 10.1038/s42256-023-00747-w
[14]

Kurth-Nelson Z, Behrens T, Wayne G. Replay and compositional computation. Neuron 2023;111(4):454‒69. . 10.1016/j.neuron.2022.12.028
[15]

Whittington JCR, Warren J, Behrens TEJ. Relating transformers to models and neural representations arXiv:2112.04035. of the hippocampal formation. 2021.
[16]

Kim DK, Kwon J, Cha M. Transformer as a hippocampal memory consolidation model based on NMDAR-inspired nonlinearity. In: Proceedings of the 37th International Conference on Neural Information Processing Systems; 2023 Dec 10‒16; OrleansNew, LA, USA. Red Hook: Curran Associates Inc.; 2024. p. 14637‒64. . 10.52202/075280-0644
[17]

Jiang X, Li F, Zhao H, Wang J, Shao J, Xu SH, et al. Long term memory: the foundation of AI self-evolution. 2024. arXiv:
[18]

Sadler T, Greenberg D, Coughlin P, Lessard J. Actin distribution patterns in the mouse neural tube during neurulation. Science 1982;215(4529):172‒4. . 10.1126/science.7031898
[19]

Chi L, Fan B, Feng D, Chen Z, Liu Z, Hui Y, et al. The dorsoventral patterning of human forebrain follows an activation/transformation model. Cereb Cortex 2017;27(5):2941‒54.
[20]

Lake BB, Ai R, Kaeser GE, Salathia NS, Yung YC, Liu R, et al. Neuronal subtypes and diversity revealed by single-nucleus RNA sequencing of the human brain. Science 2016;352(6293):1586‒90. . 10.1126/science.aaf1204
[21]

Mi D, Li Z, Lim L, Li M, Moissidis M, Yang Y, et al. Early emergence of cortical interneuron diversity in the mouse embryo. Science 2018;360(6384):81‒5. . 10.1126/science.aar6821
[22]

Ma L, Du Y, Hui Y, Li N, Fan B, Zhang X, et al. Developmental programming and lineage branching of early human telencephalon. EMBO J 2021;40(21): e107277. . 10.15252/embj.2020107277
[23]

Tao Y, Zhang SC. Neural subtype specification from human pluripotent stem cells. Cell Stem Cell 2016;19(5):573‒86. . 10.1016/j.stem.2016.10.015
[24]

Zhang X, Huang CT, Chen J, Pankratz MT, Xi J, Li J, et al. Pax6 is a human neuroectoderm cell fate determinant. Cell Stem Cell 2010;7(1):90‒100. . 10.1016/j.stem.2010.04.017
[25]

Yamada T, Yang Y, Valnegri P, Juric I, Abnousi A, Markwalter KH, et al. Sensory experience remodels genome architecture in neural circuit to drive motor learning. Nature 2019;569(7758):708‒13. . 10.1038/s41586-019-1190-7
[26]

Yadav N, Noble C, Niemeyer JE, Terceros A, Victor J, Liston C, et al. Prefrontal feature representations drive memory recall. Nature 2022;608(7921):153‒60. . 10.1038/s41586-022-04936-2
[27]

Bradley C, Nydam AS, Dux PE, Mattingley JB. State-dependent effects of neural stimulation on brain function and cognition. Nat Rev Neurosci 2022;23(8):459‒75. . 10.1038/s41583-022-00598-1
[28]

Dana H, Sun Y, Mohar B, Hulse BK, Kerlin AM, Hasseman JP, et al. High performance calcium sensors for imaging activity in neuronal populations and microcompartments. Nat Methods 2019;16(7):649‒57. . 10.1038/s41592-019-0435-6
[29]

Kitamura T, Ogawa SK, Roy DS, Okuyama T, Morrissey MD, Smith LM, et al. Engrams and circuits crucial for systems consolidation of a memory. Science 2017;356(6333):73‒8. . 10.1126/science.aam6808
[30]

Zhou Y, Zhu H, Liu Z, Chen X, Su X, Ma C, et al. A ventral CA1 to nucleus accumbens core engram circuit mediates conditioned place preference for cocaine. Nat Neurosci 2019;22(12):1986‒99. . 10.1038/s41593-019-0524-y
[31]

Michalska JM, Lyudchik J, Velicky P, Štefanič ková H, Watson JF, Cenameri A, et al. Imaging brain tissue architecture across millimeter to nanometer scales. Nat Biotechnol 2024;42(7):1051‒64. . 10.1038/s41587-023-01911-8
[32]

Chen X, Du Y, Broussard GJ, Kislin M, Yuede CM, Zhang S, et al. Transcriptomic mapping uncovers Purkinje neuron plasticity driving learning. Nature 2022;605(7911):722‒7. . 10.1038/s41586-022-04711-3
[33]

Fan X, Song J, Ma C, Lv Y, Wang F, Ma L,et al. Noradrenergic signaling mediates cortical early tagging and storage of remote memory. Nat Commun 2022;13:7623. . 10.1038/s41467-022-35342-x
[34]

Cortese A, Yamamoto A, Hashemzadeh M, Sepulveda P, Kawato M, De Martino B, et al. Value signals guide abstraction during learning. eLife 2021;10:e68943. . 10.7554/elife.68943
[35]

Nieh EH, Schottdorf M, Freeman NW, Low RJ, Lewallen S, Koay SA, et al. Geometry of abstract learned knowledge in the hippocampus. Nature 2021;595(7865):80‒4. . 10.1038/s41586-021-03652-7
[36]

Vatansever D, Smallwood J, Jefferies E. Varying demands for cognitive control reveals shared neural processes supporting semantic and episodic memory retrieval. Nat Commun 2021;12:2134. . 10.1038/s41467-021-22443-2
[37]

Spens E, Burgess N. A generative model of memory construction and consolidation. Nat Hum Behav 2024;8(3):526‒43. . 10.1038/s41562-023-01799-z
[38]

Whittington JC, Muller TH, Mark S, Chen G, Barry C, Burgess N, et al. The Tolman‒Eichenbaum machine: unifying space and relational memory through generalization in the hippocampal formation. Cell 2020;183(5):1249‒63. . 10.1016/j.cell.2020.10.024
[39]

Xie Y, Hu P, Li J, Chen J, Song W, Wang XJ, et al. Geometry of sequence working memory in macaque prefrontal cortex. Science 2022;375(6581):632‒9. . 10.1126/science.abm0204
[40]

Casanueva-Morato D, Ayuso-Martinez A, Dominguez-Morales JP, Jimenez Fernandez A, Jimenez-Moreno G. Bio-inspired computational memory model of the hippocampus: an approach to a neuromorphic spike-based content addressable memory. Neural Netw 2024;178:106474. . 10.1016/j.neunet.2024.106474
[41]

Dasgupta S, Stevens CF, Navlakha S. A neural algorithm for a fundamental computing problem. Science 2017;358(6364):793‒6. . 10.1126/science.aam9868
[42]

Imani M, Morris J, Messerly J, Shu H, Deng Y, Rosing T, et al. BRIC: locality-based encoding for energy-efficient brain-inspired hyperdimensional computing. In: Proceedings of the 56th Annual Design Automation Conference; 2019 Jun 2‒6; VegasLas, NV, USA. New York City: Association for Computing Machinery (ACM); 2019. p. 1‒6. . 10.1145/3316781.3317785
[43]

Luo W, Yun D, Hu Y, Tian M, Yang J, Xu Y, et al. Acquiring new memories in neocortex of hippocampal-lesioned mice. Nat Commun 2022;13:1601. . 10.1038/s41467-022-29208-5
[44]

Zhu R, Lilak S, Loeffler A, Lizier J, Stieg A, Gimzewski J, et al. Online dynamical learning and sequence memory with neuromorphic nanowire networks. Nat Commun 2023;14:6697. . 10.1038/s41467-023-42470-5
[45]

Tulving E. Organization of memory. In: Gazzaniga MS, editor. The cognitive neurosciences. Cambridge: The MIT Press; 1995. p. 839‒53.
[46]

Wu C, Huang S, Yuan Q. Seven important theories in information system empirical research: a systematic review and future directions. Data Inf Manag 2022;6(1):100006. . 10.1016/j.dim.2022.100006
[47]

Li Z, Shang Z, Liu J, Zhen H, Zhu E, Zhong S, et al. D-LMBmap: a fully automated deep-learning pipeline for whole-brain profiling of neural circuitry. Nat Methods 2023;20(10):1593‒604. . 10.1038/s41592-023-01998-6
[48]

Patow G, Martin I, Sanz PY. Whole-brain modelling: an essential tool for understanding brain dynamics. Nat Rev Methods Primers 2024;4:53. . 10.1038/s43586-024-00336-0
[49]

Frankland PW, Josselyn SA, Köhler S. The neurobiological foundation of memory retrieval. Nat Neurosci 2019;22(10):1576‒85. . 10.1038/s41593-019-0493-1
[50]

Xue G. From remembering to reconstruction: the transformative neural representation of episodic memory. Prog Neurobiol 2022;219:102351. . 10.1016/j.pneurobio.2022.102351
[51]

Rolnick D, Ahuja A, Schwarz J, Lillicrap T, Wayne G. Experience replay for continual learning. In: Proceedings of the 33rd International Conference on Neural Information Processing Systems; 2019 Dec 8‒14; Vancouver, BC, Canada. Red Hook: Curran Associates Inc.; 2019. p. 350‒60.
[52]

Rostami M, Kolouri S, Pilly PK. Complementary learning for overcoming catastrophic forgetting using experience replay. 2019. arXiv:10.24963/ijcai.2019/463
[53]

Wang L, Zhang X, Yang K, Yu L, Li C, Hong L, et al. Memory replay with data compression for continual learning. 2022. arXiv:
[54]

Wang Z, Liu L, Duan Y, Tao D. Continual learning through retrieval and imagination. In: Proceedings of the 36th AAAI/ACM Conference on Artificial Intelligence; 2022 Feb 22‒Mar 1; online. Washington, DC: AAAI Press; 2022. p. 8594‒602. . 10.1609/aaai.v36i8.20837
[55]

Boschini M, Bonicelli L, Buzzega P, Porrello A, Calderara S, et al. Class-incremental continual learning into the eXtended DER-verse. IEEE Trans Pattern Anal Mach Intell 2022;45(5):5497‒512. . 10.1109/tpami.2022.3206549
[56]

Wang L, Zhang X, Li Q, Zhang M, Su H,ZhuJ,etal. Incorporating neuro-inspired adaptability for continual learning in artificial intelligence. Nat Mach Intell 2023;5(12):1356‒68. . 10.1038/s42256-023-00747-w
[57]

Shin H, Lee JK, Kim J, Kim J. Continual learning with deep generative replay. In: Proceedings of the 31st International Conference on Neural Information Processing Systems; 2017 Dec 4‒9; LongBeach, CA, USA. Red Hook: Curran Associates Inc.; 2017. p. 2994‒3003.
[58]

Wu C, Herranz L, Liu X, van de Weijer J, Raducanu B. Memory replay GANs: learning to generate new categories without forgetting. In: Proceedings of the 32nd International Conference on Neural Information Processing Systems; 2018 Dec 3‒8; Montréal, QC, Canada. Red Hook: Curran Associates Inc.; 2018. p. 5966‒76.
[59]

Rostami M, Kolouri S, Pilly P, McClelland J. Generative continual concept learning. In: Proceedings of the AAAI Conference on Artificial Intelligence; 2020 Feb 7‒12; New York City, NY, USA. Washington, DC: AAAI Press; 2020. p. 5545‒52. . 10.1609/aaai.v34i04.6006
[60]

Van de Ven GM, Siegelmann HT, Tolias AS. Brain-inspired replay for continual learning with artificial neural networks. Nat Commun 2020;11:4069. . 10.1038/s41467-020-17866-2
[61]

Wang L, Lei B, Li Q, Su H, Zhu J, Zhong Y, et al. Triple-memory networks: a brain-inspired method for continual learning. IEEE Trans Neural Netw Learn Syst 2021;33(5):1925‒34. . 10.1109/tnnls.2021.3111019
[62]

Hayashi-Takagi A, Yagishita S, Nakamura M. Labelling and optical erasure of synaptic memory traces in the motor cortex. Nature 2015;525(7569):333‒8. . 10.1038/nature15257
[63]

Aljundi R, Babiloni F, Elhoseiny M. Memory aware synapses: learning what (not) to forget. In: Proceedings of the 15th European Conference on Computer Vision (ECCV); 2018 Sep 8‒14; Munich, Germany. Berlin: Springer; 2018. p. 139‒54. . 10.1007/978-3-030-01219-9_9
[64]

Bailey CH, Kandel ER, Harris KM. Structural components of synaptic plasticity and memory consolidation. Cold Spring Harb Perspect Biol 2015;7(7): a021758. . 10.1101/cshperspect.a021758
[65]

Schwarz J, Czarnecki W, Luketina J. Progress & compress: a scalable framework for continual learning. In: Proceedings of the 35th International Conference on Machine Learning (PMLR 2018); 2018 Jul 10‒15; Stockholm, Sweden. PMLR; 2018. p. 4528‒37.
[66]

Abraham WC. Metaplasticity: tuning synapses and networks for plasticity. Nat Rev Neurosci 2008;9(5):387. . 10.1038/nrn2356
[67]

Finn C, Abbeel P, Levine S. Model-agnostic meta-learning for fast adaptation of deep networks. In: Proceedings of the 34th International Conference on Machine Learning; 2017 Aug 6‒11; Sydney, NSW, Australia. New York City: JMLR; 2017. p. 1126‒35.
[68]

Arevian AC, Kapoor V, Urban NN. Activity-dependent gating of lateral inhibition in the mouse olfactory bulb. Nat Neurosci 2008;11:80‒7. . 10.1038/nn2030
[69]

Serra J, Suris D, Miron M. Overcoming catastrophic forgetting with hard attention to the task. In: Proceedings of the 35th International Conference on Machine Learning (ICML-2018); 2018 Jul 10‒15; Stockholm, Sweden. PMLR; 2018. p. 4548‒57.
[70]

Caporale N, Dan Y. Spike timing-dependent plasticity: a Hebbian learning rule. Annu Rev Neurosci 2008;31(1):25‒46. . 10.1146/annurev.neuro.31.060407.125639
[71]

Bluestone JA, Abbas AK. Natural versus adaptive regulatory T cells. Nat Rev Immunol 2003;3(3):253‒7. . 10.1038/nri1032
[72]

Lange RD, Shivkumar S, Chattoraj A. Bayesian encoding and decoding as distinct perspectives on neural coding. Nat Neurosci 2023;26(12):2063‒72. . 10.1038/s41593-023-01458-6
[73]

Grandner MA, Fernandez FX. The translational neuroscience of sleep: a contextual framework. Science 2021;374(6567):568‒73. . 10.1126/science.abj8188
[74]

Booch G, Fabiano F, Horesh L, Kate K, Lenchner J, Linck N, et al. Thinking fast and slow in AI. In: Proceedings of the AAAI Conference on Artificial Intelligence; 2021 Feb 29; online. Washington, DC: AAAI Press; 2021. p. 150426.
[75]

Besold TR, d’Avila Garcez A, Bader S, Bowman H, Domingos P, Hitzler P, et al. Neural-symbolic learning and reasoning: a survey and interpretation. In: Hitzler P, Sarker MK, editors. Neuro-symbolic artificial intelligence: the state of the art. Amsterdam: IOS Press; 2021. p. 1‒51. . 10.3233/faia210348
[76]

Kahneman D. Thinking fast and slow. New York City: Farrar, Strauss and Giroux; 2011.
[77]

Silver D, Huang A, Maddison CJ, Guez A, Sifre L, Van Den Driessche G, et al. Mastering the game of go with deep neural networks and tree search. Nature 2016;529(7587):484‒9. . 10.1038/nature16961
[78]

Anthony T, Tian Z, Barber D. Thinking fast and slow with deep learning and tree search. In: Proceedings of the 31st International Conference on Neural Information Processing Systems; 2017 Dec 4‒ 9; Long Beach, CA, USA. Red Hook: Curran Associates Inc.; 2017.
[79]

Silver D, Hubert T, Schrittwieser J, Antonoglou I, Lai M, Guez A, et al. A general reinforcement learning algorithm that masters chess, shogi, and Go through self-play. Science 2018;362(6419):1140‒4. . 10.1126/science.aar6404
[80]

Schrittwieser J, Antonoglou I, Hubert T, Simonyan K, Sifre L, Schmitt S, et al. Mastering Atari, Go, chess and shogi by planning with a learned model. Nature 2020;588(7839):604‒9. . 10.1038/s41586-020-03051-4
[81]

Kelly M, Barron AB. The best of both worlds: dual systems of reasoning in animals and AI. Cognition 2022;225:105118. . 10.1016/j.cognition.2022.105118
[82]

Du Z, Zhou C, Yao J, Tu T, Cheng L, Yang H, et al. CogKR: cognitive graph for multi-hop knowledge reasoning. IEEE Trans Knowl Data Eng 2021;35(2):1283‒95.
[83]

Hua W, Zhang Y. System 1+ system 2 = better world: neural-symbolic chain of logic reasoning. In: Proceedings of the Association for Computational Linguistics: EMNLP; 2022 Dec 7‒11; Abu, Dhabi. Stroudsburg: Association for Computational Linguistics (ACL); 2022. p. 601‒12. . 10.18653/v1/2022.findings-emnlp.42
[84]

Bing Q, Zhu Q, Dou Z. Cognition‒aware knowledge graph reasoning for explainable recommendation. In: Proceedings of the 16th ACM International Conference on Web Search and Data Mining; 2023 Feb 27‒Mar 3; New York City, NY, USA. New York City: Association for Computing Machinery (ACM); 2023. p. 402‒10. . 10.1145/3539597.3570391
[85]

Sun J, Zheng C, Xie E, Liu Z, Chu R, Qiu J, et al. A survey of reasoning with foundation models. 2023. arXiv:
[86]

Yoneda T, Fang J, Li P, Zhang H, Jiang T, Lin S, et al. Statler: state-maintaining language models for embodied reasoning. In: Proceedings of the 2024 IEEE International Conference on Robotics and Automation (ICRA); 2024 May 13‒17, Yokohama, Japan. New Yor City: IEEE; 2024. p. 15083‒91. . 10.1109/icra57147.2024.10610634
[87]

Li X, Qiu X. MoT: memory-of-thought enables ChatGPT to self-improve. 2023. arXiv:10.18653/v1/2023.emnlp-main.392
[88]

Liang K, Meng L, Liu M. A survey of knowledge graph reasoning on graph types: static, dynamic, and multi-modal. IEEE Trans Pattern Anal Mach Intell 2024;46(12):9456‒78. . 10.1109/tpami.2024.3417451
[89]

Yang B, Yih SW, He X. Embedding entities and relations for learning and inference in knowledge bases. In: Proceedings of the 3rd International Conference on Learning Representations (ICLR 2015); 2015 May 7‒9; San Diego, CA, USA. Trier: dblp; 2015.
[90]

Balaževic I, Allen C, Hospedales T. Multi-relational Poincaré graph embeddings. In: Proceedings of the 33rd Conference on Neural Information Processing Systems; 2019 Dec 8‒14; Vancouver, BC, Canada. Red Hook: Curran Associates Inc.; 2019. p. 4465‒75. . 10.1007/978-3-030-30493-5_52
[91]

Mai S, Zheng S, Yang Y. Communicative message passing for inductive relation reasoning. In: Proceedings of the 35th AAAI Conference on Artificial Intelligence (AAAI-21); 2021 Feb 2‒9; online. Washington, DC: AAAI Press; 2021. p. 4294‒302. . 10.1609/aaai.v35i5.16554
[92]

Das R, Neelakantan A, Belanger D. Chains of reasoning over entities, relations, and text using recurrent neural networks. In: Proceedings of the 15th Conference of the European Chapter of the Association for Computational Linguistics; 2017 Apr 3‒7; Valencia, Spain. Stroudsburg: Association for Computational Linguistics (ACL); 2017. p.132‒41. . 10.18653/v1/e17-1013
[93]

Xiong W, Hoang T, Wang WY. DeepPath: a reinforcement learning method for knowledge graph reasoning. In: Proceedings of the 2017 Conference on Empirical Methods in Natural Language Processing; 2017 Sep 9‒11; Copenhagen, Denmark. Stroudsburg: Association for Computational Linguistics (ACL); 2017. p. 564‒73. . 10.18653/v1/d17-1060
[94]

Lin XV, Socher R, Xiong C. Multi-hop knowledge graph reasoning with reward shaping. In: Proceedings of the 2018 Conference on Empirical Methods in Natural Language Processing; 2018 Oct 31‒Nov 4; Brussels, Belgium. Stroudsburg: Association for Computational Linguistics (ACL); 2018. p. 3243‒53. . 10.18653/v1/d18-1362
[95]

Yang F, Yang Z, Cohen WW. Differentiable learning of logical rules for knowledge base reasoning. In: Proceedings of the 31st International Conference on Neural Information Processing Systems; 2017 Dec 4‒9; LongBeach, CA, USA. Red Hook: Curran Associates Inc.; 2017. p. 2316‒25. . 10.48550/arXiv.1702.08367
[96]

Sadeghian A, Armandpour M, Ding P. DRUM: end-to-end differentiable rule mining on knowledge graphs. In: Proceedings of the 33rd International Conference on Neural Information Processing Systems; 2019 Dec 8‒14; Vancouver, BC, Canada. Red Hook: Curran Associates Inc.; 2019. p. 15347‒57.
[97]

Qu M, Tang J. Probabilistic logic neural networks for reasoning. In: Proceedings of the 33rd International Conference on Neural Information Processing Systems; 2019 Dec 8‒14; Vancouver, BC, Canada. Red Hook: Curran Associates Inc.; 2019. p. 7712‒22.
[98]

Ding M, Zhou C, Chen Q. Cognitive graph for multi-hop reading comprehension at scale. In: Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics; 2019 Jul 28‒Aug 2; Florence, Italy. Stroudsburg: Association for Computational Linguistics (ACL); 2019. p. 2694‒703. . 10.18653/v1/p19-1259
[99]

Qi B, Chen X, Gao J. Interactive continual learning: fast and slow thinking. In: Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition; 2024 Jun 16‒22; Seattle, WA, USA. New Yor City: IEEE; 2024. p. 12882‒92. . 10.1109/cvpr52733.2024.01224

AI Summary AI Mindmap
PDF (3293KB)

12904

访问

0

被引

详细
导航
相关文章

AI思维导图

/

〈 〉