AI
16 篇笔记
- Memory
对比模型内部知识、短期上下文与外部长期记忆,梳理记忆管理和检索机制。
- 评估
围绕 AI 系统的评价标准、评估方法、模型选择与决策,组织一套可落地的评估思路。
- 数据集工程(Dataset Engineering)
从数据需求、采集、合成、清洗、验证到质量控制,系统整理数据集工程的全过程。
- AI工程架构与用户反馈
将网关、上下文工程、安全防护、缓存、Agent 与可观测性纳入统一架构,并讨论用户反馈闭环。
- 推理优化(Inference Optimization)
从延迟、吞吐量、显存和成本等指标入手,梳理模型、推理引擎与服务层的优化方法。
- AI 技术体系
以算力基础设施、模型、应用平台和 AI 应用四层结构,建立 AI 技术体系的整体视图。