課程簡介
理解 DeepSeek 大模型 (假設(shè)) 的特點、優(yōu)勢和局限性。
掌握基于 DeepSeek 構(gòu)建各種 AI 應用的Prompt Engineering 技巧。
學習如何對 DeepSeek 大模型進行微調(diào) (Fine-tuning)，以適應特定業(yè)務場景。
掌握將 DeepSeek 大模型集成到現(xiàn)有系統(tǒng)中的方法。
了解如何評估和優(yōu)化基于 DeepSeek 構(gòu)建的應用的性能和效果。
能夠構(gòu)建基于 DeepSeek 的企業(yè)級 AI 應用原型系統(tǒng)。
了解基于LLM的企業(yè)應用合規(guī)性和安全實踐。
目標收益
培訓對象
機器學習工程師、AI 開發(fā)者、數(shù)據(jù)科學家、業(yè)務分析師、產(chǎn)品經(jīng)理，以及希望利用大模型構(gòu)建創(chuàng)新應用的企業(yè)技術(shù)人員。
課程大綱
|
第一天：DeepSeek 大模型概覽與Prompt Engineering 模塊 1：DeepSeek 大模型概覽 (上午) |
DeepSeek 大模型的架構(gòu)特點 (Transformer-based, etc.) DeepSeek 大模型的能力范圍 (文本生成, 語言理解, 代碼生成, etc.) DeepSeek 大模型的優(yōu)勢與局限性 (推理速度, 上下文長度, 領(lǐng)域知識, etc.) DeepSeek 大模型的部署方式 (API, 模型下載, etc.) 和成本考量 與其它主流大模型的對比分析 (GPT-3/4, PaLM, LLaMA, etc.) |
| 模塊 2：Prompt Engineering 基礎(chǔ) (上午) |
什么是 Prompt Engineering? 核心原則和目標 Prompt 的構(gòu)成要素: 指令, 上下文, 輸入, 輸出指示器 Prompt Engineering 的常用技巧: 零樣本 (Zero-shot) / 小樣本 (Few-shot) 學習 思維鏈 (Chain-of-Thought) Prompting 角色扮演 (Role-Playing) Prompting 提示模版設(shè)計與管理 |
| 模塊 3：Prompt Engineering 實戰(zhàn) (下午) |
針對不同任務設(shè)計 Prompt: 文本摘要 (Summarization) 內(nèi)容生成 (Content Generation) 問題回答 (Question Answering) 文本翻譯 (Translation) 代碼生成 (Code Generation) Prompt 優(yōu)化與評估: 使用評估指標 (BLEU, ROUGE, etc.) 評估 Prompt 效果 A/B 測試不同 Prompt 變體 Prompt 注入攻擊防范 |
| 模塊 4：DeepSeek 大模型 API 使用 (假設(shè)) (下午) |
DeepSeek API 認證與授權(quán) API 請求參數(shù)詳解 (溫度, Top-P, 長度限制, etc.) API 調(diào)用錯誤處理與重試機制 API 使用最佳實踐 (批量處理, 異步調(diào)用, etc.) 動手實踐：通過 DeepSeek API 實現(xiàn)文本摘要、翻譯等功能 |
|
第二天：DeepSeek 大模型微調(diào) (Fine-tuning) 模塊 5：微調(diào) (Fine-tuning) 基礎(chǔ) (上午) |
什么是微調(diào)? 為什么要微調(diào)? 微調(diào)的優(yōu)勢與局限性 微調(diào)的數(shù)據(jù)準備: 數(shù)據(jù)收集, 清洗, 標注 微調(diào)的策略： 完全微調(diào) (Full Fine-tuning) 參數(shù)高效微調(diào) (Parameter-Efficient Fine-tuning) LoRA (Low-Rank Adaptation) Prefix-Tuning 選擇合適的微調(diào)策略 |
| 模塊 6：DeepSeek 大模型微調(diào)實戰(zhàn) (假設(shè)) (上午) |
選擇微調(diào)框架: Hugging Face Transformers, etc. 準備微調(diào)數(shù)據(jù)集 配置微調(diào)參數(shù): 學習率, Batch Size, Epochs 啟動微調(diào)過程 監(jiān)控微調(diào)過程: Loss 曲線, 評估指標 動手實踐：使用 Hugging Face Transformers 對 DeepSeek 大模型進行微調(diào) |
| 模塊 7：微調(diào)模型評估與部署 (下午) |
微調(diào)模型評估指標: 根據(jù)任務類型選擇合適的評估指標 微調(diào)模型評估方法: 交叉驗證, Holdout驗證 微調(diào)模型部署: API 部署: 使用 Flask, FastAPI 等框架 模型 Serving: 使用 TensorFlow Serving, TorchServe 等工具 模型監(jiān)控與維護 |
| 模塊 8：使用 Vector Database 增強 DeepSeek 應用 (下午) |
向量數(shù)據(jù)庫原理與 DeepSeek 模型嵌入 將非結(jié)構(gòu)化數(shù)據(jù)向量化并儲存在數(shù)據(jù)庫中 使用向量數(shù)據(jù)庫做語義檢索 將檢索到的上下文信息與 Prompt 結(jié)合，提升 LLM 效果 |
|
第三天：企業(yè)應用案例與最佳實踐 模塊 9：基于 DeepSeek 的企業(yè)應用案例 (上午) |
智能客服: 構(gòu)建自動回復客戶咨詢的聊天機器人 知識圖譜構(gòu)建: 從海量文本中提取知識并構(gòu)建知識圖譜 內(nèi)容生成: 自動生成營銷文案, 新聞稿, 技術(shù)文檔 代碼生成: 輔助程序員編寫代碼, 自動生成測試用例 行業(yè)應用： 金融風控: 欺詐檢測, 信用評估 醫(yī)療診斷: 輔助醫(yī)生進行疾病診斷 智能制造: 預測性維護, 質(zhì)量檢測 案例分析：分析優(yōu)秀案例的技術(shù)架構(gòu)、實現(xiàn)步驟和關(guān)鍵挑戰(zhàn) |
| 模塊 10：將 DeepSeek 集成到現(xiàn)有系統(tǒng) (上午) |
API 集成: 使用 API 網(wǎng)關(guān)統(tǒng)一管理 API 消息隊列集成: 使用 Kafka, RabbitMQ 等消息隊列進行異步處理 數(shù)據(jù)庫集成: 將 DeepSeek 生成的數(shù)據(jù)存儲到數(shù)據(jù)庫中 用戶界面集成: 在 Web 頁面, 移動 App 中展示 DeepSeek 的結(jié)果 動手實踐：設(shè)計將 DeepSeek 集成到現(xiàn)有系統(tǒng)的方案 |
| 模塊 11：DeepSeek 應用性能與成本優(yōu)化 (下午) |
性能優(yōu)化: Prompt 優(yōu)化 模型量化, 剪枝 使用 GPU 加速推理 成本優(yōu)化: 選擇合適的 API 計費方案 緩存 API 結(jié)果 控制 API 調(diào)用頻率 動手實踐：使用性能分析工具評估 DeepSeek 應用的性能瓶頸，并提出優(yōu)化方案 |
| 模塊 12：LLM 應用合規(guī)性和安全 (下午) |
LLM應用中的偏見問題與緩解方法 數(shù)據(jù)隱私保護措施：匿名化，差分隱私等 LLM應用的安全風險：提示注入、對抗性攻擊等 Responsible AI 原則與實踐 可信賴AI框架：歐盟AI法案等 動手實踐：分析LLM 生成內(nèi)容的偏見并設(shè)計緩解方案 |
| 工具與技術(shù): |
DeepSeek 大模型 API (假設(shè)) Hugging Face Transformers Python 云平臺 (AWS, Azure, Google Cloud) 向量數(shù)據(jù)庫 Flask, FastAPI Kafka, RabbitMQ TensorBoard |
|
第一天：DeepSeek 大模型概覽與Prompt Engineering 模塊 1：DeepSeek 大模型概覽 (上午) DeepSeek 大模型的架構(gòu)特點 (Transformer-based, etc.) DeepSeek 大模型的能力范圍 (文本生成, 語言理解, 代碼生成, etc.) DeepSeek 大模型的優(yōu)勢與局限性 (推理速度, 上下文長度, 領(lǐng)域知識, etc.) DeepSeek 大模型的部署方式 (API, 模型下載, etc.) 和成本考量 與其它主流大模型的對比分析 (GPT-3/4, PaLM, LLaMA, etc.) |
|
模塊 2：Prompt Engineering 基礎(chǔ) (上午) 什么是 Prompt Engineering? 核心原則和目標 Prompt 的構(gòu)成要素: 指令, 上下文, 輸入, 輸出指示器 Prompt Engineering 的常用技巧: 零樣本 (Zero-shot) / 小樣本 (Few-shot) 學習 思維鏈 (Chain-of-Thought) Prompting 角色扮演 (Role-Playing) Prompting 提示模版設(shè)計與管理 |
|
模塊 3：Prompt Engineering 實戰(zhàn) (下午) 針對不同任務設(shè)計 Prompt: 文本摘要 (Summarization) 內(nèi)容生成 (Content Generation) 問題回答 (Question Answering) 文本翻譯 (Translation) 代碼生成 (Code Generation) Prompt 優(yōu)化與評估: 使用評估指標 (BLEU, ROUGE, etc.) 評估 Prompt 效果 A/B 測試不同 Prompt 變體 Prompt 注入攻擊防范 |
|
模塊 4：DeepSeek 大模型 API 使用 (假設(shè)) (下午) DeepSeek API 認證與授權(quán) API 請求參數(shù)詳解 (溫度, Top-P, 長度限制, etc.) API 調(diào)用錯誤處理與重試機制 API 使用最佳實踐 (批量處理, 異步調(diào)用, etc.) 動手實踐：通過 DeepSeek API 實現(xiàn)文本摘要、翻譯等功能 |
|
第二天：DeepSeek 大模型微調(diào) (Fine-tuning) 模塊 5：微調(diào) (Fine-tuning) 基礎(chǔ) (上午) 什么是微調(diào)? 為什么要微調(diào)? 微調(diào)的優(yōu)勢與局限性 微調(diào)的數(shù)據(jù)準備: 數(shù)據(jù)收集, 清洗, 標注 微調(diào)的策略： 完全微調(diào) (Full Fine-tuning) 參數(shù)高效微調(diào) (Parameter-Efficient Fine-tuning) LoRA (Low-Rank Adaptation) Prefix-Tuning 選擇合適的微調(diào)策略 |
|
模塊 6：DeepSeek 大模型微調(diào)實戰(zhàn) (假設(shè)) (上午) 選擇微調(diào)框架: Hugging Face Transformers, etc. 準備微調(diào)數(shù)據(jù)集 配置微調(diào)參數(shù): 學習率, Batch Size, Epochs 啟動微調(diào)過程 監(jiān)控微調(diào)過程: Loss 曲線, 評估指標 動手實踐：使用 Hugging Face Transformers 對 DeepSeek 大模型進行微調(diào) |
|
模塊 7：微調(diào)模型評估與部署 (下午) 微調(diào)模型評估指標: 根據(jù)任務類型選擇合適的評估指標 微調(diào)模型評估方法: 交叉驗證, Holdout驗證 微調(diào)模型部署: API 部署: 使用 Flask, FastAPI 等框架 模型 Serving: 使用 TensorFlow Serving, TorchServe 等工具 模型監(jiān)控與維護 |
|
模塊 8：使用 Vector Database 增強 DeepSeek 應用 (下午) 向量數(shù)據(jù)庫原理與 DeepSeek 模型嵌入 將非結(jié)構(gòu)化數(shù)據(jù)向量化并儲存在數(shù)據(jù)庫中 使用向量數(shù)據(jù)庫做語義檢索 將檢索到的上下文信息與 Prompt 結(jié)合，提升 LLM 效果 |
|
第三天：企業(yè)應用案例與最佳實踐 模塊 9：基于 DeepSeek 的企業(yè)應用案例 (上午) 智能客服: 構(gòu)建自動回復客戶咨詢的聊天機器人 知識圖譜構(gòu)建: 從海量文本中提取知識并構(gòu)建知識圖譜 內(nèi)容生成: 自動生成營銷文案, 新聞稿, 技術(shù)文檔 代碼生成: 輔助程序員編寫代碼, 自動生成測試用例 行業(yè)應用： 金融風控: 欺詐檢測, 信用評估 醫(yī)療診斷: 輔助醫(yī)生進行疾病診斷 智能制造: 預測性維護, 質(zhì)量檢測 案例分析：分析優(yōu)秀案例的技術(shù)架構(gòu)、實現(xiàn)步驟和關(guān)鍵挑戰(zhàn) |
|
模塊 10：將 DeepSeek 集成到現(xiàn)有系統(tǒng) (上午) API 集成: 使用 API 網(wǎng)關(guān)統(tǒng)一管理 API 消息隊列集成: 使用 Kafka, RabbitMQ 等消息隊列進行異步處理 數(shù)據(jù)庫集成: 將 DeepSeek 生成的數(shù)據(jù)存儲到數(shù)據(jù)庫中 用戶界面集成: 在 Web 頁面, 移動 App 中展示 DeepSeek 的結(jié)果 動手實踐：設(shè)計將 DeepSeek 集成到現(xiàn)有系統(tǒng)的方案 |
|
模塊 11：DeepSeek 應用性能與成本優(yōu)化 (下午) 性能優(yōu)化: Prompt 優(yōu)化 模型量化, 剪枝 使用 GPU 加速推理 成本優(yōu)化: 選擇合適的 API 計費方案 緩存 API 結(jié)果 控制 API 調(diào)用頻率 動手實踐：使用性能分析工具評估 DeepSeek 應用的性能瓶頸，并提出優(yōu)化方案 |
|
模塊 12：LLM 應用合規(guī)性和安全 (下午) LLM應用中的偏見問題與緩解方法 數(shù)據(jù)隱私保護措施：匿名化，差分隱私等 LLM應用的安全風險：提示注入、對抗性攻擊等 Responsible AI 原則與實踐 可信賴AI框架：歐盟AI法案等 動手實踐：分析LLM 生成內(nèi)容的偏見并設(shè)計緩解方案 |
|
工具與技術(shù): DeepSeek 大模型 API (假設(shè)) Hugging Face Transformers Python 云平臺 (AWS, Azure, Google Cloud) 向量數(shù)據(jù)庫 Flask, FastAPI Kafka, RabbitMQ TensorBoard |
近期公開課推薦
