NOTE

Memory

对比模型内部知识、短期上下文与外部长期记忆,梳理记忆管理和检索机制。

AI更新于 约 1 分钟读完

Memory

分类

  • 内部知识
    • 模型参数中学习到的知识
  • 短期记忆
    • 当前输入上下文
  • 长期记忆
    • 外部持久化存储的信息

为什么需要

  • 上下文窗口有限
  • 需要保留任务历史与状态
  • 需要跨会话利用信息

是什么

  • 保存、检索和利用信息的机制

记忆管理

  • 信息保存与更新
    • 压缩与去重
    • 信息淘汰
    • 冲突处理

记忆检索

  • 普通数据库检索
  • RAG检索

讨论

使用 GitHub 账号参与讨论,评论会保存在 GitHub Issues 中。在 GitHub 查看