课程简介
在人工智能技术高速发展的今天，大模型已成为推动产业变革的核心引擎，但其安全风险也日益凸显。本课程聚焦大模型全生命周期的安全威胁与防御体系，结合前沿技术动态、真实案例与全球治理政策，为学员提供系统性攻防知识框架，助力掌握AI安全领域的核心竞争力。
目标收益
对个人：
1.从技术到合规，系统性守护大模型全流程安全；
2.用真实案例经验，快速定位并解决高危漏洞；
3.以权威评估方法，验证模型安全性与可靠性；
4.站在行业前沿，应对AI安全领域快速迭代的挑战
对企业：
1.降低企业合规风险
2.预防高成本安全事故
3.提升团队技术防御能力
4.增强客户信任与品牌安全
5.优化技术资源投入效率
6.应对行业监管与竞争压力
培训对象
AI研发工程师、安全运维人员、企业技术决策者、政策研究人员，以及希望深入理解大模型安全风险与防御策略的专业人士。
课程大纲
| AI安全全景与威胁建模 |
1.AI技术发展与安全治理挑战 2.AI安全治理的核心概念与边界 3.全球AI法律法规框架解读 4.AI系统架构与攻击面分析 案例：ChatGPT插件漏洞、Copilot数据泄露事件等 |
| 数据安全与隐私保护 |
1.训练数据与模型安全 2.RAG与向量数据库安全 3.数据加密和匿名化技术 |
| 对抗性攻击与防御 |
1.梯度攻击与黑盒攻击 2.提示词注入攻击 3.高级对抗性提示工程技术 4.防御策略与缓解措施 5.多模态攻击 实操：Prompt 注入攻防演练 |
| 模型自身安全 |
1.模型投毒与后门攻击 2.成员推理攻击 3.系统提示词泄露 4.资源消耗攻击 5.微调导致的对齐失效 6.AI欺骗与目标偏移风险 实操：成员推理实践、系统提示词泄露实践 |
| 大模型和智能体的供应链风险 |
1.AI供应链与传统软件供应链的差异 2.智能体供应链风险分层模型 3.外部智能体典型引入业务场景拆解 4.AI物料清单(AI-BOM) 5.智能体安全风险等级划分与评级 6.护栏工程：从原则到运行时架构 实操：护栏工具配置 |
| 智能体协同安全 |
1.智能体协议与生态安全 2.多智能体间的信任边界与身份认证 3.群体决策中的连锁风险传导 |
| 智能体使用过程中的安全风险 |
1.工具调用越权、滥用风险治理 2.开发人员智能体标准化使用规范 -输入内容合规规范 -输出内容审核规范 3.智能体使用边界与权限约束 4."影子AI"（Shadow AI）治理 实操：输入风险识别实战 |
| 外部智能体的准入控制和运行监控 |
1.外部智能体准入评估 2.全链路安全合规评估 3.安全防护护栏配置 4.典型安全异常检测场景识别 5.安全事件标准化应急响应 6.外部智能体安全准入标准清单模板讲解与套用 |
| 自研智能体安全管控 |
1.自研智能体全生命周期安全管控框架 2.安全架构设计要点 3.开发阶段的安全与数据管控 4.智能体测试体系与安全测试重点 5.上线前安全门禁校验机制 6.运行阶段的监控、审计与持续治理 7.安全测试与红队验证 实操：威胁建模表、安全检查表 |
|
AI安全全景与威胁建模 1.AI技术发展与安全治理挑战 2.AI安全治理的核心概念与边界 3.全球AI法律法规框架解读 4.AI系统架构与攻击面分析 案例：ChatGPT插件漏洞、Copilot数据泄露事件等 |
|
数据安全与隐私保护 1.训练数据与模型安全 2.RAG与向量数据库安全 3.数据加密和匿名化技术 |
|
对抗性攻击与防御 1.梯度攻击与黑盒攻击 2.提示词注入攻击 3.高级对抗性提示工程技术 4.防御策略与缓解措施 5.多模态攻击 实操：Prompt 注入攻防演练 |
|
模型自身安全 1.模型投毒与后门攻击 2.成员推理攻击 3.系统提示词泄露 4.资源消耗攻击 5.微调导致的对齐失效 6.AI欺骗与目标偏移风险 实操：成员推理实践、系统提示词泄露实践 |
|
大模型和智能体的供应链风险 1.AI供应链与传统软件供应链的差异 2.智能体供应链风险分层模型 3.外部智能体典型引入业务场景拆解 4.AI物料清单(AI-BOM) 5.智能体安全风险等级划分与评级 6.护栏工程：从原则到运行时架构 实操：护栏工具配置 |
|
智能体协同安全 1.智能体协议与生态安全 2.多智能体间的信任边界与身份认证 3.群体决策中的连锁风险传导 |
|
智能体使用过程中的安全风险 1.工具调用越权、滥用风险治理 2.开发人员智能体标准化使用规范 -输入内容合规规范 -输出内容审核规范 3.智能体使用边界与权限约束 4."影子AI"（Shadow AI）治理 实操：输入风险识别实战 |
|
外部智能体的准入控制和运行监控 1.外部智能体准入评估 2.全链路安全合规评估 3.安全防护护栏配置 4.典型安全异常检测场景识别 5.安全事件标准化应急响应 6.外部智能体安全准入标准清单模板讲解与套用 |
|
自研智能体安全管控 1.自研智能体全生命周期安全管控框架 2.安全架构设计要点 3.开发阶段的安全与数据管控 4.智能体测试体系与安全测试重点 5.上线前安全门禁校验机制 6.运行阶段的监控、审计与持续治理 7.安全测试与红队验证 实操：威胁建模表、安全检查表 |
近期公开课推荐
