AI工程

AI工程是什么

• 在基础模型上构建应用
• 工程（Engineering）的本质，就是运用已有的科学知识、技术和方法，在现实约束下，系统性地解决问题，并交付可验证、可运行、可维护的结果。

为什么会出现AI工程

• 模型规模不断扩大 / ↓ / 模型通用能力不断提高 / ↓ / 预训练成本越来越高 / ↓ / 大量开发者无法独立训练大模型 / ↓ / 模型提供商通过 API / 开放权重提供模型 / ↓ / 应用开发者可以复用已有模型 / ↓ / AI Engineering 兴起
  • 以前
    • 收集数据 → 训练模型 → 部署模型 → 构建应用
  • 现在
    • 明确需求 → 选择现有模型 → 构建应用 → 评估和优化

AI应用场景

• 编程
• 聊天机器人
• 信息聚合
• 工作流自动化
• 图像和视频制作
• 写作
• 教育

技术栈

• 应用层
  • Prompt Engineering（提示工程）
  • Context Engineering（上下文工程）
  • RAG（检索增强生成）
  • Agent（智能体）
  • Evaluation（评估）
  • User Interface（用户界面）
• 模型层
  • Model Architecture（模型架构）
  • Pre-training（预训练）
  • Fine-tuning（微调）
  • Dataset Engineering（数据集工程）
  • Inference Optimization（推理优化）
• 基础设施层
  • GPU Computing（GPU计算）
  • Distributed Training Infrastructure（分布式训练基础设施）
  • Model Serving（模型服务）
  • Resource Scheduling（资源调度）
  • Monitoring（监控）