哈佛大学的研究生课：CS2680: Modern AI Systems — Agents and System Optimizations（现代人工智能系统：智能体与系统优化）

cs2680.seas.harvard.edu/

课程分为两大部分，目前第一部分的课件已公布。第一部分关注 AI Agent 的设计与应用，涵盖 Claude Code 等编程智能体的使用、Agent 工作循环、上下文管理、工具调用、多智能体协作、记忆机制、可靠性评估及成本优化；第二部分深入 大语言模型推理服务与系统优化，包括模型部署、请求批处理与调度、KV Cache、Prefix Caching、量化、推测解码、GPU 优化以及负载均衡等关键技术。课程强调动手实践，学生将通过五次递进式编程作业，从分析现有 Agent、独立构建 Agent，到部署开源大模型并进行端到端性能优化，最终完成一个综合项目。