【课程背景】

2023年以来，大语言模型（LLM）从技术突破迅速走向产业落地，企业对于“能落地、可生产、懂业务”的LLM应用开发人才的需求呈爆发式增长。然而，现实中的LLM应用开发远不止调用API——从提示词工程、检索增强生成（RAG），到自主智能体、参数高效微调（PEFT），再到生产级的部署、监控与多模态融合，每一环节都充满工程挑战与架构抉择。

当前市面上多数课程要么停留在基础调用，要么过度偏重理论，缺乏一套覆盖全栈链路、工程实践与架构思维的系统性培养方案。本课程体系应运而生，旨在帮助有经验的软件工程师和AI从业者，跨越“Dem 到生产”的鸿沟，成为能够独立设计、开发、优化和运维生产级LLM应用的全栈架构师。

【课程收益】

完成本课程体系后，学员将获得以下核心能力：

1.掌握六大核心领域的完整知识体系

提示词工程：从科学评估到生产化模板管理。

RAG应用：从数据处理到混合检索、评估与前沿架构（Graph RAG、Agentic RAG）。

AI智能体：从确定性链式编排到多智能体协作（CrewAI），并实现记忆、规划与自定义工具。

参数高效微调：使用L RA等PEFT技术，在云端完成指令微调并部署。

LLM ps：容器化部署、高性能推理（vLLM）、全链路可观测性（LangSmith）及CI/CD流水线。

多模态应用：集成VLM、图像生成、语音识别/合成及数字人API，构建跨媒体工作流。

2.具备生产级项目落地能力

每个课程均配备完整的毕业项目（如多功能AI助手、行业知识库问答、自动化工作流助理、专属微调模型、LLM ps仪表盘、交互式数字人客服），学员将积累可写入简历的实战作品。

3.建立科学的评估与优化方法论

学会使用LLM-as-a-Judge、RAGAs、TruLens等框架量化评估提示词、RAG、智能体及微调效果，并建立自动化评估流水线。

4.理解LLM应用的经济学与架构选型

掌握模型路由、缓存策略、成本-延迟-能力的权衡，以及何时使用提示词、RAG、微调或智能体的战略决策框架。

5.构建安全、合规、负责任的AI应用

深入理解提示注入防御、护栏框架、数据隐私、版权合规及负责任的AI原则，并将其融入设计全流程。

【课程特色】

双轨驱动：理论深度与代码实战并行

启发式互动课堂：拒绝单向灌输

贯通式毕业课题：从零构建一个全栈LLM应用

工程化思维贯穿始终

持续迭代的配套资源

【课程对象】

- 有1-3年及以上经验的软件工程师（特别是Pyth n后端开发者），希望系统性地转型为LLM应用开发工程师或AI应用架构师。

- 希望将LLM技术应用到自己工作流中的数据科学家、AI工程师。

- 具备一定技术背景，希望深入理解LLM应用开发全貌的产品经理或技术管理者。

【课程大纲】

《课程一：提示词工程》

模块一：提示词工程基础与顶层设计

第一课：LLM应用的顶层设计 —— 模型选型、经济学与战略定位

模型选型框架：能力-成本-延迟的权衡；API vs. 开源的决策矩阵（含数据隐私、运维考量）。

经济学分析：如何估算T ken成本，理解“模型路由”的战略价值。

战略定位：提示词、RAG、Agent、微调在解决问题中的优先级。

第二课：LLM的“第一性原理”

直观理解Transf rmer、Attenti n与T kenizati n。

实践：对比结构化提示与模糊提示的输出质量。

第三课：结构化提示的黄金法则 —— CRITICAL框架

实践：使用CRITICAL框架重构一个混乱的需求。

模块二：核心提示技巧快速上手

第四课：零样本 (Zer -sh t) 与少样本 (Few-sh t) 提示

第五课：驯服输出的魔术 —— 格式控制与结构化数据提取

模块三：精通高级推理与复杂任务拆解

第六课：思维的链条 —— Chain f Th ught (C T)

第七课：从“思考”到“决策” —— ReAct框架的提示模式

第八课：超越单一路径 —— 自我一致性 (Self-C nsistency) 与思想树 (T T)

模块四：驾驭AI的“心智”：克服模型的认知偏差

第九课：戳破“讨好型人格” —— 如何让AI对你“说不”

第十课：打破“回音壁效应” —— 精准控制模型的风格与偏见

模块五：提示词的工程化与生产实践

第十一课：动态与复用 —— 提示模板 (Pr mpt Templates) 进阶

第十二课：科学迭代 —— 提示词的A/B测试与评估 (LLM-as-a-Judge)

第十三课：安全第一 —— 提示词的攻防、伦理与责任

毕业项目：构建一个高鲁棒性的多功能AI助手

项目要求：综合运用课程技巧，设计提示链，建立评估集，并撰写“提示词设计文档”。

UX：(推荐) 使用Streamlit或Gradi 为助手创建一个简单的Web界面，向用户清晰地展示AI的思考步骤和信息来源。

《课程二：构建生产级RAG应用实战》

模块一：RAG基础与核心概念

第一课：为什么需要RAG？—— LLM的局限与未来

第二课：RAG系统全景图——端到端架构解析

模块二：第一个RAG应用：从0到1快速上手

第三课：工具链介绍与环境搭建

第四课：实战：构建一个简单的文档问答机器人

模块三：精通数据处理与索引管道

第五课：数据加载与预处理的艺术（含PII脱敏）

第六课：高级文本切分策略（Advanced Chunking）

第七课：嵌入模型与向量数据库深度解析

模块四：极致优化：检索与排序的高级技术

第八课：查询理解与改写（Query Transf rmati n）

第九课：混合检索与重排序（Hybrid Search & Re-ranking）

模块五：评估、调试与生产化

第十课：科学评估你的RAG系统 (RAGAs, TruLens)

第十一课：生产化考量：成本、延迟、可扩展性与安全

模块六：前沿架构与未来展望

第十二课：超越基础RAG：前沿架构探索（Agentic RAG, Graph RAG & SQL RAG）

毕业项目：构建一个完整的行业知识库问答系统

项目要求：独立完成数据处理，实现高级检索RAG管道，并建立评估流程。

UX：(推荐) 实现答案的流式输出（Streaming），并设计用户反馈按钮。

《课程三：AI智能体实战：从“链式编排”到“自主助理”》

模块一：AI行动的基础：从“编排”到“自主”

第一课：AI的下一步进化 —— 从“对话”到“行动”。

第二课：架构模式辨析：确定性的“链式编排” vs. 动态的“自主智能体”

模块二：链式编排实战：构建确定性工作流

第三课：工具链介绍与环境搭建。

第四课：实战：构建一个多步骤的“报告生成链”

模块三：自主智能体：从0到1快速上手

第五课：智能体系统全景图 —— 自主决策的循环 (ReAct)

第六课：实战：构建一个具备网络搜索能力的AI研究助理（单智能体）。

模块四：精通智能体的核心能力

第七课：智能体的“大脑”：高级规划与推理技巧

第八课：智能体的“记忆”：实现长期与短期记忆

第九课：智能体的“双手”：自定义工具的艺术（含Text-t -SQL）

模块五：团队协作：多智能体系统实战 (CrewAI)

第十课：从“单兵作战”到“团队协作”

第十一课：实战：使用CrewAI构建自动化市场分析报告团队

模块六：评估、调试与生产化

第十二课：科学调试与评估你的智能体 (LangSmith)

第十三课：生产化考量：成本、延迟、安全性与伦理（含护栏设计）

毕业项目：构建一个完整的自动化工作流助理

项目要求：包含多个协作智能体和至少一个自定义工具，并建立评估流程。

UX：(推荐) 实时可视化展示智能体的思考过程（Intermediate Steps）和执行状态。

《课程四：掌握生产级LLM参数高效微调（PEFT）实战》

模块一：微调基础与核心概念

第一课：为什么要微调？—— 当RAG和提示工程还不够时

第二课：揭开微调的神秘面纱 —— PEFT与L RA技术详解

模块二：第一个微调项目：云端快速上手

第三课：搭建云端“炼丹炉”与工具链

第四课：实战：30分钟打造一个“古诗词”对话模型

模块三：精通微调的生命线 —— 数据工程

第五课：数据决定上限：数据集的搜集、清洗与伦理考量（含偏见减轻）

第六课：格式的艺术：构建高质量指令数据集 (Alpaca格式)

模块四：极致优化：训练过程与模型评估

第七课：模型选型与超参数调试

第八课：科学评估你的微调模型 (定性 vs. 定量, LLM-as-a-Judge)

模块五：从训练到应用：部署与持续迭代

第九课：模型合并与部署

第十课：微调的持续生命周期

毕业项目：打造一个行业专属问答专家

项目要求：独立构建高质量微调数据集，完成模型微调，并撰写详尽的评估报告。

UX：(推荐) 创建一个比较界面，让用户可以同时与基础模型和微调后的模型对话。

《课程五：部署、监控与优化生产级LLM应用》

模块一：LLM ps基础与核心概念

第一课：从“代码能跑”到“产品可靠” —— 为什么需要LLM ps？

第二课：LLM ps的技术栈与工具链巡礼

模块二：从笔记本到生产：部署与服务化

第三课：第一个LLM API：使用FastAPI封装你的应用

第四课：性能革命：使用vLLM实现高吞吐量推理

第五课：走向云端：容器化与部署 (D cker)

模块三：洞察“黑盒”：可观测性与监控

第六课：点亮AI的“飞行记录仪” —— 使用LangSmith进行全链路追踪

第七课：建立反馈闭环：日志、用户反馈与数据标注

模块四：持续进化：自动化评估与CI/CD

第八课：告别“凭感觉”—— 建立自动化评估流水线

第九课：将“提示词”纳入版本控制 —— CI/CD f r Pr mpts (GitHub Acti ns)

模块五：精打细算：性能、成本、安全与合规

第十课：省钱提速的艺术 —— 缓存与模型路由

第十一课：构建AI的“护城河” —— 安全、合规与负责任的AI

安全技术：提示注入防御、护栏框架（Guardrails）。

法律合规与数据治理：数据主权与隐私法规、知识产权与版权、开源许可协议。

负责任的AI（RAI）原则：作为设计护栏和合规策略的指导思想。

毕业项目：为复杂的AI智能体构建完整的LLM ps流水线

项目要求：将AI智能体应用进行高性能部署、监控、自动化评估，并增加优化措施和安全合规护栏。

UX：(推荐) 创建一个简单的运维仪表盘（Dashb ard），可视化展示关键LLM ps指标。

《课程六：多模态AI应用开发实战》

模块一：AI的“眼睛”：视觉语言模型（VLM）与应用

第一课：超越文本：VLM的核心能力与API（含伦理挑战）

第二课：实战：构建“看图说话”的自动化工具（图表分析器, UI转代码）

模块二：AI的“画笔”：程序化内容生成

第三课：生成式视觉API：从DALL-E 3到Stable Diffusi n API

第四课：实战：构建自动化视觉内容工作流（社交媒体内容生成器）

模块三：AI的“耳朵”与“嘴巴”

第五课：语音转文本（ASR）：使用Whisper API解锁音频数据

第六课：文本转语音（TTS）：让你的应用开口说话

第七课（高级）：集成数字人API——打造你的AI虚拟化身（含Deepfake风险探讨）

毕业项目：构建一个完整的跨模态智能应用

旗舰项目选项：交互式数字人客服助理

UX：重点关注并解决端到端的延迟问题，优化用户的等待体验。

杨文清

大数据&云计算资深实战派专家 杨文清

【专业资质】

20年企业应用与研发经验

拥有2项人工智能相关国家发明专利

中国联通集团深度培训资深讲师

AWS 云计算认证专家

曾任 IBM中国华南区高级咨询顾问

曾任华为Cloud BU高级架构师

曾任广州云宏研发总监

曾任广州智数x-Lab实验室首席科学家

武汉大学计算机科学专业硕士，22年企业应用与研发经验，曾就职于IBM、华为等大型企业，十年华为工作经验，任职华为高级架构师。

并先后担任过知名互联网公司研发总监和智数xLab实验室首席数据科学家。亚马逊云计算认证专家、VMware国际认证讲师。

中国联通集团引擎计划深度培训资深讲师（主讲Docker&K8S、Hadoop、Spark、机器学习、深度学习），对云计算、大数据有深刻的理解，主导过多项国家级大数据项目，并拥有人工智能方面的若干项国家专利。

【实战经验】

IBM中国华南区高级咨询顾问，期间曾参与公安、金融、通信、制造等行业云计算产品方案研发，为多个大型企业提供IT基础建设咨询。

华为Cloud BU高级架构师，聚焦于是云服务产业端到端管理的经营单元，负责构建云服务竞争力，对云服务的客户满意度和商业成功负责。

广州云宏研发总监，带领团队研发了WinCloud云计算管理平台、CnWare云计算操作系统，产品覆盖运营商、公安、金融、政府机关、教育、医疗等多个领域，虚拟机数量超过50万。受到国家、省市领导和专家的肯定和好评。

【项目实战经验】

国产云操作系统 (CnWare) 研发总监

云宏：参与主导公司核心产品WinCloud云管理平台建设，是当前市场上唯一可以同时管理小型机虚拟化、x86虚拟化和arm架构虚拟化的云管理平台；CnWare是唯一的国产云操作系统，对标VmWare，内容包括虚拟化管理中心、虚拟化中间件和虚拟化引擎3部分，实现了全生态全流程的虚拟化覆盖。该产品在中国电信集团采购入围时获得总分第一的成绩。

构建智慧水务AI预警平台 实验室首席科学家

智数信息：任职xLab实验室首席科学家，负责公司前瞻性技术的基础研究，并实现新技术在项目中的落地。期间将以太坊区块链技术应用到了现有的食品溯源系统；协助研发团队在智慧城市管理项目实现了物联网数据的全自动处理过程；协助研发团队将自动化运营引入到港珠澳大桥综合管理系统。作为公司首席科学家，对基础研究的标准化（选型、可行性、研究、应用）过程制定了完整的过程管理。

港珠澳大桥综合业务管理系统 首席架构师

构建综合业务管理平台，为大桥的物流、应急管理、通关提供坚实的数据支撑，提升信息化效率。

宝安智慧水务 研发总监|架构师

实现了物联网数据的全自动处理、自定义指标预警、自助式数据可视化分析，用于企业污水排放监控 。

财政信息一体化 后端架构师

建设大数据平台与业务系统，实现数据整合、可视化、异常数据监控与财政指标智能预测 。

电信经营分析系统 项目经理 / 主导设计

用数据仓库技术与可视化，对电信企业的内部和外部数据进行综合分析处理，生成运营指标 。

【擅长领域】

核心技术/技术管理/架构能力；热衷于技术驱动业务，致力于将新技术转化为高效的生产力。

【讲师优势】

拥有超过20年一线实战经验的复合型技术专家与资深讲师。兼具华为与IBM的顶级企业架构视野，以及将前沿技术从0到1成功产品化的落地能力。

多年来始终坚持在技术一线参与核心研发工作。 对技术在真实业务场景中的痛点、难点和选型权衡有极为深刻的理解，确保了其教学内容与业界最新实践紧密结合，直击问题本质。

【主讲项目/课程(部分)】可根据企业需求组合成不同深度的技术训练营。

《数据科学基础》

《Python编程：从入门到数据处理》

《数据分析思维》

《数据可视化技术与分析报告撰写》

《机器学习核心》

《机器学习经典算法与理论》

《集成学习实战：深入解析XGBoost等模型》

《基于Spark的海量数据分析与机器学习》

《深度学习进阶》

《深度学习框架PyTorch：入门与应用》

《卷积神经网络(CNN)与循环神经网络(LSTM)实战》

《LLM基础：注意力机制(Transform)实战》

《AI技术工程化》

《AI应用基础：提示词工程》

《RAG（检索增强生成）开发实战》

《AI Agent（智能体）开发实战》

《AI 行业应用案例分析》

【授课风格】

1.实战派落地教学，拒绝空谈赋能​

课程内容紧密结合主导的大型项目真实经验，案例翔实，以真实场景、真实案例、真实打法为核心支撑，全干货、全落地，拒绝空谈理论。

2.架构师全局视野，搭建体系能力​

跳出单一操作教学，深度拆解业务底层逻辑与运营架构，溯源打法设计原理，助力学员构建系统化、可迭代的完整业务体系。

3.通透化授学思维，实现举一反三​

依托全域实战经验拆解核心本质，沉淀通用方法论，助力学员举一反三、灵活复用、全域落地。真正实现学一项、通一类、用全域。

【服务客户(部分)】

运营商：联通集团总部、中国电信河南有限公司、中国电信山东有限公司、中国电信江苏有限公司、中国电信重庆有限公司、中国联通广东有限公司、中国联通福建有限公司、中国联通广西有限公司、中国联通上海有限公司、中国联通陕西有限公司、中国联通河北有限公司、中国联通云南有限公司、中国联通重庆有限公司、中国联通四川有限公司、中国联通青海有限公司、中国移动江苏有限公司、中国移动云南有限公司、中国移动浙江有限公司、中国移动河南有限公司、中国移动四川有限公司、中国移动吉林有限公司、中国移动湖北有限公司、中国移动安徽有限公司等

IT公司：华为、腾讯云、IBM、DELL、航天科工、中国航天、TaTa集团、中科曙光、龙芯中科、航天云网、航天科工、联想集团、腾讯云、蓝盾、浩云科技、润乾等

能源：国家电网（湖北省、浙江省、成都等）、南方电网、广东能源集团、江苏核电、国家电投、国网电科院、国能集团长源电力、中煤电力等

银行：中国银行广州分行、招商银行武汉分行、中国银行江苏分行、农业银行荆州分行、交通银行贵州分行、交通银行武汉分行、建设银行广州分行、中国邮政储蓄银行长沙分行、中国邮政储蓄银行南昌分行、平安银行杭州分行、广发银行广州分行、兴业银行、北京银行、工商银行、工银投资、宁波银行等