课程简介
结合开源离线大模型和智能体，全面讲述并带领学员搭建大模型和AI智能体应用，结合企业实际，助力提升运营效率、优化客户服务、挖掘数据价值并开拓新的业务增长点。
目标收益
1.理解大模型核心原理，数据预处理，模型训练和优化策略
2.掌握设计有效提示词，以及提示词工程优化实践
3.掌握OLlama搭建方法，以及3种调用大模型方式
4.掌握常用大模型推理参数微调方法
5.基于dify掌握agent架构与部署
6.掌握搭建本地私有化知识库，利用RAG技术提升大模型结果准确性
7.掌握Agent与LLM集成，设计pipeline
培训对象
课程大纲
| 大语言模型核心技术与应用 ~ 3小时 |
一、AI大模型与应用典型问题分析 1.问题分析 2.讨论 二、大模型在各领域的发展与应用 1.AI在各行业的落地应用 2.个性化推荐系统 3.商品自动识别搜索 4.智能客服与AI助理 5.数据分析与市场订单趋势预测 6.商品描述与广告自动化生成 7.价格优化与动态定价策略 8.客户反馈分析 9.风险评估与预防欺诈 三、大语言模型技术 1.AI技术概览 2.AI技术的四要素 3.AI模型的研发流程 4.深度学习与神经网络 5.大语言模型的定义和特点 6.大语言模型技术演变简史 7.大语言模型训练方法和优化技术 8.大模型面临的挑战 四、大语言模型Transformer核心技术 1.Transformer核心原理 2.Self-Attention 3.多头注意力机制 4.位置前馈网络 5.残差连接和层归一化 6.位置编码 7.解码器 8.Mask（掩码） 9.最后的线性层和 Softmax 层 10.正则化操作 11.模型参数量 |
| 大模型优化与部署 ~ 3小时 |
一、大模型结果优化策略 1.温度微调 2.使用top-k/top-p采样 3.增加上下文信息 4.模型后处理 5.大模型微调 6.多模型融合 7.【案例】生产环境数据抽检评测 8.【案例】badcase分析与优化推荐 二、主流大模型介绍 1.ChatGPT 2.Llama 3.Qwen 4.Llava 5.deepseek 三、数据预处理 1.数据的重要性 2.数据质量 3.小模型+大数据 4.大模型+小数据 5.数据清洗 6.【案例】数据预处理案例 四、OLlama部署应用 1.OLlama简介 2.模型参数 3.网络安全隔离 4.部署OLlama环境 5.OLlama常用操作命令 6.离线模型CLI接口 7.模型API接口 8.API调用方式 9.UI调试界面 10.模型微调 11.【案例】实现离线大模型人机对话 五、上机实践 1.OLlama部署 2.Qwen2.5模型部署 3.常用命令操作 4.3种方式调用大模型练习 5.【案例】大模型进行图像理解 |
| 提示词工程与实践 ~ 3小时 |
一、提示词工程 1.什么是提示词工程？ 2.提示词原理 3.如何设计有效提示词 4.提示词的基本结构 4.1.指令 4.2.上下文 4.3.输入数据 4.4.输出格式 4.5.示例 5.提示词优化方案 6.【案例】提示词返回精准答案 二、提示词库与脚本调用大模型 1.维护提示词库 2.关键词匹配 3.开发脚本调用大模型 4.【案例】一键式调用大模型 三、上机实践 1.提示词优化练习 2.运行一键式调用大模型 |
| Agent技术与应用 ~ 3小时 |
一、Agent概念与典型架构 1.AI Agent 概述 2.感知层 3.决策层 4.执行层 5.学习与记忆层 6.安全与伦理层 二、Agent开发框架和发展 1.AI Agent 开发框架概述 2.典型框架介绍 3.深度学习在 AI Agent 中的应用 4.多Agent系统 三、Agent与LLM集成 1.集成pipeline设计 2.自然语言输入处理 3.基于自然语言的决策 4.执行模块实现 5.自然语言输出生成 6.动作执行与控制 7.模型优化与调参 四、业界的典型案例介绍 1.对话系统 2.任务执行系统 3.智能客服系统 4.文本生成系统 5.编程助手 |
| 智能体Dify部署与主要功能详解 ~ 3小时 |
一、Dify概述与主要功能 1.Dify平台概述 2.Dify的核心功能与优势 3.Dify与其他平台对比 4.低代码/无代码开发模式 5.模块化设计与丰富的功能组件 6.Prompt工程与模型微调 7.工作流与自动化任务 8.多模态应用开发 二、上机实践 1.部署Dify环境 2.启动Dify 3.从应用模版创建 4.创建Agent 5.选择大模型 6.创建聊天助手 7.创建工作流 8.【案例】AI语音识别集成至Dify 9.【案例】AI情绪识别 10.【案例】Agent实现代码自动化生成 11.【案例】Agent实现代码自动化评审 |
| RAG与Agent应用实践 ~ 3小时 |
一、RAG概述 1.什么是RAG 2.RAG 架构 3.检索模块 4.生成模块 5.融合模块 二、构建本地知识库 1.什么是知识库 2.向量数据库 3.使用Embedding模型将文本转换为数值向量 4.导入文本 5.连接外部知识库 6.调试与优化RAG效果 三、上机实践 1.导入本地知识库 2.创建AI agent 3.【案例】利用RAG实现智能客服 |
|
大语言模型核心技术与应用 ~ 3小时 一、AI大模型与应用典型问题分析 1.问题分析 2.讨论 二、大模型在各领域的发展与应用 1.AI在各行业的落地应用 2.个性化推荐系统 3.商品自动识别搜索 4.智能客服与AI助理 5.数据分析与市场订单趋势预测 6.商品描述与广告自动化生成 7.价格优化与动态定价策略 8.客户反馈分析 9.风险评估与预防欺诈 三、大语言模型技术 1.AI技术概览 2.AI技术的四要素 3.AI模型的研发流程 4.深度学习与神经网络 5.大语言模型的定义和特点 6.大语言模型技术演变简史 7.大语言模型训练方法和优化技术 8.大模型面临的挑战 四、大语言模型Transformer核心技术 1.Transformer核心原理 2.Self-Attention 3.多头注意力机制 4.位置前馈网络 5.残差连接和层归一化 6.位置编码 7.解码器 8.Mask（掩码） 9.最后的线性层和 Softmax 层 10.正则化操作 11.模型参数量 |
|
大模型优化与部署 ~ 3小时 一、大模型结果优化策略 1.温度微调 2.使用top-k/top-p采样 3.增加上下文信息 4.模型后处理 5.大模型微调 6.多模型融合 7.【案例】生产环境数据抽检评测 8.【案例】badcase分析与优化推荐 二、主流大模型介绍 1.ChatGPT 2.Llama 3.Qwen 4.Llava 5.deepseek 三、数据预处理 1.数据的重要性 2.数据质量 3.小模型+大数据 4.大模型+小数据 5.数据清洗 6.【案例】数据预处理案例 四、OLlama部署应用 1.OLlama简介 2.模型参数 3.网络安全隔离 4.部署OLlama环境 5.OLlama常用操作命令 6.离线模型CLI接口 7.模型API接口 8.API调用方式 9.UI调试界面 10.模型微调 11.【案例】实现离线大模型人机对话 五、上机实践 1.OLlama部署 2.Qwen2.5模型部署 3.常用命令操作 4.3种方式调用大模型练习 5.【案例】大模型进行图像理解 |
|
提示词工程与实践 ~ 3小时 一、提示词工程 1.什么是提示词工程？ 2.提示词原理 3.如何设计有效提示词 4.提示词的基本结构 4.1.指令 4.2.上下文 4.3.输入数据 4.4.输出格式 4.5.示例 5.提示词优化方案 6.【案例】提示词返回精准答案 二、提示词库与脚本调用大模型 1.维护提示词库 2.关键词匹配 3.开发脚本调用大模型 4.【案例】一键式调用大模型 三、上机实践 1.提示词优化练习 2.运行一键式调用大模型 |
|
Agent技术与应用 ~ 3小时 一、Agent概念与典型架构 1.AI Agent 概述 2.感知层 3.决策层 4.执行层 5.学习与记忆层 6.安全与伦理层 二、Agent开发框架和发展 1.AI Agent 开发框架概述 2.典型框架介绍 3.深度学习在 AI Agent 中的应用 4.多Agent系统 三、Agent与LLM集成 1.集成pipeline设计 2.自然语言输入处理 3.基于自然语言的决策 4.执行模块实现 5.自然语言输出生成 6.动作执行与控制 7.模型优化与调参 四、业界的典型案例介绍 1.对话系统 2.任务执行系统 3.智能客服系统 4.文本生成系统 5.编程助手 |
|
智能体Dify部署与主要功能详解 ~ 3小时 一、Dify概述与主要功能 1.Dify平台概述 2.Dify的核心功能与优势 3.Dify与其他平台对比 4.低代码/无代码开发模式 5.模块化设计与丰富的功能组件 6.Prompt工程与模型微调 7.工作流与自动化任务 8.多模态应用开发 二、上机实践 1.部署Dify环境 2.启动Dify 3.从应用模版创建 4.创建Agent 5.选择大模型 6.创建聊天助手 7.创建工作流 8.【案例】AI语音识别集成至Dify 9.【案例】AI情绪识别 10.【案例】Agent实现代码自动化生成 11.【案例】Agent实现代码自动化评审 |
|
RAG与Agent应用实践 ~ 3小时 一、RAG概述 1.什么是RAG 2.RAG 架构 3.检索模块 4.生成模块 5.融合模块 二、构建本地知识库 1.什么是知识库 2.向量数据库 3.使用Embedding模型将文本转换为数值向量 4.导入文本 5.连接外部知识库 6.调试与优化RAG效果 三、上机实践 1.导入本地知识库 2.创建AI agent 3.【案例】利用RAG实现智能客服 |
近期公开课推荐
