课程简介
建立大模型应用开发的技术认知体系，熟练掌握核心API调用与工程化封装，并成功开发并部署一个具备日志、配置、错误处理等基础工程能力的Demo应用。
目标收益
培训对象
课程大纲
|
09:00-10:00 模块一：大模型技术原理与能力边界剖析 |
1. 技术演进：从Transformer架构的Self-Attention机制，到GPT-4的MoE（Mixture of Experts）架构，深入理解大模型性能飞跃的核心技术驱动力。 2. 能力与幻觉：深入探讨In-Context Learning, Chain-of-Thought的原理，以及产生“幻觉”（Hallucination）的根本原因与应对策略。 3. 技术选型框架：提供一个企业级技术选型决策矩阵，从性能、成本、生态、合规、部署难度等维度，对DeepSeek, GPT系列, Llama系列等主流模型进行量化评估。 |
|
10:00-11:30 模块二：生产级开发框架与工具链 |
1. 框架选型：LangChain vs. LlamaIndex vs. 原生SDK，分析不同框架的优劣势与适用场景，并给出兴业银行内部的推荐选型标准。 2. 向量数据库核心技术：深入Milvus/Chroma的索引类型（如HNSW, IVF-FLAT）与距离度量（如余弦相似度, L2距离），理解其对检索性能与成本的影响。 3. LLMOps生态：介绍LangSmith, Arize AI, OpenCost等工具在模型调试、性能监控、成本分析中的核心作用，构建LLMOps的全局视野。 |
|
11:30-12:00 模块三：开发环境与工程化起步 |
1. 环境隔离与依赖管理：使用Poetry/Conda进行项目依赖管理，确保开发、测试、生产环境的一致性。 2. API安全最佳实践：学习使用环境变量、密钥管理服务（KMS）等方式管理API Key，杜绝硬编码风险。 3. 首次调用封装：完成第一个DeepSeek API调用，并将其封装为可配置、带日志、有异常处理的Python函数。 |
|
14:00-15:30 模块四：核心API实战与工程化封装 |
1. API详解：深入学习Completion, Chat, Embeddings等核心API的流式输出（Streaming）、函数调用（Function Calling）等高级用法。 2. 生产级SDK封装：设计一个健壮的API调用客户端，实现自动重试、超时控制、并发请求限制（QPS Limiter）、Token使用统计与成本预估。 3. 代码练习：分组编写并测试该客户端，要求通过单元测试。 |
|
15:30-17:00 模块五：构建你的第一个LLM应用 |
1. 项目启动：实战项目——构建一个基于FastAPI的“智能投研纪要分析”API服务。 2. 快速原型：使用LangChain整合API调用，实现对一篇投研纪要的摘要、观点提取、风险提示等功能。 3. 容器化部署：编写Dockerfile，将应用打包为Docker镜像，并使用Docker Compose在本地一键部署与运行。 |
|
09:00-10:00 模块一：大模型技术原理与能力边界剖析 1. 技术演进：从Transformer架构的Self-Attention机制，到GPT-4的MoE（Mixture of Experts）架构，深入理解大模型性能飞跃的核心技术驱动力。 2. 能力与幻觉：深入探讨In-Context Learning, Chain-of-Thought的原理，以及产生“幻觉”（Hallucination）的根本原因与应对策略。 3. 技术选型框架：提供一个企业级技术选型决策矩阵，从性能、成本、生态、合规、部署难度等维度，对DeepSeek, GPT系列, Llama系列等主流模型进行量化评估。 |
|
10:00-11:30 模块二：生产级开发框架与工具链 1. 框架选型：LangChain vs. LlamaIndex vs. 原生SDK，分析不同框架的优劣势与适用场景，并给出兴业银行内部的推荐选型标准。 2. 向量数据库核心技术：深入Milvus/Chroma的索引类型（如HNSW, IVF-FLAT）与距离度量（如余弦相似度, L2距离），理解其对检索性能与成本的影响。 3. LLMOps生态：介绍LangSmith, Arize AI, OpenCost等工具在模型调试、性能监控、成本分析中的核心作用，构建LLMOps的全局视野。 |
|
11:30-12:00 模块三：开发环境与工程化起步 1. 环境隔离与依赖管理：使用Poetry/Conda进行项目依赖管理，确保开发、测试、生产环境的一致性。 2. API安全最佳实践：学习使用环境变量、密钥管理服务（KMS）等方式管理API Key，杜绝硬编码风险。 3. 首次调用封装：完成第一个DeepSeek API调用，并将其封装为可配置、带日志、有异常处理的Python函数。 |
|
14:00-15:30 模块四：核心API实战与工程化封装 1. API详解：深入学习Completion, Chat, Embeddings等核心API的流式输出（Streaming）、函数调用（Function Calling）等高级用法。 2. 生产级SDK封装：设计一个健壮的API调用客户端，实现自动重试、超时控制、并发请求限制（QPS Limiter）、Token使用统计与成本预估。 3. 代码练习：分组编写并测试该客户端，要求通过单元测试。 |
|
15:30-17:00 模块五：构建你的第一个LLM应用 1. 项目启动：实战项目——构建一个基于FastAPI的“智能投研纪要分析”API服务。 2. 快速原型：使用LangChain整合API调用，实现对一篇投研纪要的摘要、观点提取、风险提示等功能。 3. 容器化部署：编写Dockerfile，将应用打包为Docker镜像，并使用Docker Compose在本地一键部署与运行。 |
近期公开课推荐
