課程簡介
結(jié)合開源離線大模型和智能體，全面講述并帶領(lǐng)學員搭建大模型和AI智能體應(yīng)用，結(jié)合企業(yè)實際，助力提升運營效率、優(yōu)化客戶服務(wù)、挖掘數(shù)據(jù)價值并開拓新的業(yè)務(wù)增長點。
目標收益
1.理解大模型核心原理，數(shù)據(jù)預(yù)處理，模型訓練和優(yōu)化策略
2.掌握設(shè)計有效提示詞，以及提示詞工程優(yōu)化實踐
3.掌握OLlama搭建方法，以及3種調(diào)用大模型方式
4.掌握常用大模型推理參數(shù)微調(diào)方法
5.基于dify掌握agent架構(gòu)與部署
6.掌握搭建本地私有化知識庫，利用RAG技術(shù)提升大模型結(jié)果準確性
7.掌握Agent與LLM集成，設(shè)計pipeline
培訓對象
課程大綱
| 大語言模型核心技術(shù)與應(yīng)用 ~ 3小時 |
一、AI大模型與應(yīng)用典型問題分析 1.問題分析 2.討論 二、大模型在各領(lǐng)域的發(fā)展與應(yīng)用 1.AI在各行業(yè)的落地應(yīng)用 2.個性化推薦系統(tǒng) 3.商品自動識別搜索 4.智能客服與AI助理 5.數(shù)據(jù)分析與市場訂單趨勢預(yù)測 6.商品描述與廣告自動化生成 7.價格優(yōu)化與動態(tài)定價策略 8.客戶反饋分析 9.風險評估與預(yù)防欺詐 三、大語言模型技術(shù) 1.AI技術(shù)概覽 2.AI技術(shù)的四要素 3.AI模型的研發(fā)流程 4.深度學習與神經(jīng)網(wǎng)絡(luò) 5.大語言模型的定義和特點 6.大語言模型技術(shù)演變簡史 7.大語言模型訓練方法和優(yōu)化技術(shù) 8.大模型面臨的挑戰(zhàn) 四、大語言模型Transformer核心技術(shù) 1.Transformer核心原理 2.Self-Attention 3.多頭注意力機制 4.位置前饋網(wǎng)絡(luò) 5.殘差連接和層歸一化 6.位置編碼 7.解碼器 8.Mask（掩碼） 9.最后的線性層和 Softmax 層 10.正則化操作 11.模型參數(shù)量 |
| 大模型優(yōu)化與部署 ~ 3小時 |
一、大模型結(jié)果優(yōu)化策略 1.溫度微調(diào) 2.使用top-k/top-p采樣 3.增加上下文信息 4.模型后處理 5.大模型微調(diào) 6.多模型融合 7.【案例】生產(chǎn)環(huán)境數(shù)據(jù)抽檢評測 8.【案例】badcase分析與優(yōu)化推薦 二、主流大模型介紹 1.ChatGPT 2.Llama 3.Qwen 4.Llava 5.deepseek 三、數(shù)據(jù)預(yù)處理 1.數(shù)據(jù)的重要性 2.數(shù)據(jù)質(zhì)量 3.小模型+大數(shù)據(jù) 4.大模型+小數(shù)據(jù) 5.數(shù)據(jù)清洗 6.【案例】數(shù)據(jù)預(yù)處理案例 四、OLlama部署應(yīng)用 1.OLlama簡介 2.模型參數(shù) 3.網(wǎng)絡(luò)安全隔離 4.部署OLlama環(huán)境 5.OLlama常用操作命令 6.離線模型CLI接口 7.模型API接口 8.API調(diào)用方式 9.UI調(diào)試界面 10.模型微調(diào) 11.【案例】實現(xiàn)離線大模型人機對話 五、上機實踐 1.OLlama部署 2.Qwen2.5模型部署 3.常用命令操作 4.3種方式調(diào)用大模型練習 5.【案例】大模型進行圖像理解 |
| 提示詞工程與實踐 ~ 3小時 |
一、提示詞工程 1.什么是提示詞工程？ 2.提示詞原理 3.如何設(shè)計有效提示詞 4.提示詞的基本結(jié)構(gòu) 4.1.指令 4.2.上下文 4.3.輸入數(shù)據(jù) 4.4.輸出格式 4.5.示例 5.提示詞優(yōu)化方案 6.【案例】提示詞返回精準答案 二、提示詞庫與腳本調(diào)用大模型 1.維護提示詞庫 2.關(guān)鍵詞匹配 3.開發(fā)腳本調(diào)用大模型 4.【案例】一鍵式調(diào)用大模型 三、上機實踐 1.提示詞優(yōu)化練習 2.運行一鍵式調(diào)用大模型 |
| Agent技術(shù)與應(yīng)用 ~ 3小時 |
一、Agent概念與典型架構(gòu) 1.AI Agent 概述 2.感知層 3.決策層 4.執(zhí)行層 5.學習與記憶層 6.安全與倫理層 二、Agent開發(fā)框架和發(fā)展 1.AI Agent 開發(fā)框架概述 2.典型框架介紹 3.深度學習在 AI Agent 中的應(yīng)用 4.多Agent系統(tǒng) 三、Agent與LLM集成 1.集成pipeline設(shè)計 2.自然語言輸入處理 3.基于自然語言的決策 4.執(zhí)行模塊實現(xiàn) 5.自然語言輸出生成 6.動作執(zhí)行與控制 7.模型優(yōu)化與調(diào)參 四、業(yè)界的典型案例介紹 1.對話系統(tǒng) 2.任務(wù)執(zhí)行系統(tǒng) 3.智能客服系統(tǒng) 4.文本生成系統(tǒng) 5.編程助手 |
| 智能體Dify部署與主要功能詳解 ~ 3小時 |
一、Dify概述與主要功能 1.Dify平臺概述 2.Dify的核心功能與優(yōu)勢 3.Dify與其他平臺對比 4.低代碼/無代碼開發(fā)模式 5.模塊化設(shè)計與豐富的功能組件 6.Prompt工程與模型微調(diào) 7.工作流與自動化任務(wù) 8.多模態(tài)應(yīng)用開發(fā) 二、上機實踐 1.部署Dify環(huán)境 2.啟動Dify 3.從應(yīng)用模版創(chuàng)建 4.創(chuàng)建Agent 5.選擇大模型 6.創(chuàng)建聊天助手 7.創(chuàng)建工作流 8.【案例】AI語音識別集成至Dify 9.【案例】AI情緒識別 10.【案例】Agent實現(xiàn)代碼自動化生成 11.【案例】Agent實現(xiàn)代碼自動化評審 |
| RAG與Agent應(yīng)用實踐 ~ 3小時 |
一、RAG概述 1.什么是RAG 2.RAG 架構(gòu) 3.檢索模塊 4.生成模塊 5.融合模塊 二、構(gòu)建本地知識庫 1.什么是知識庫 2.向量數(shù)據(jù)庫 3.使用Embedding模型將文本轉(zhuǎn)換為數(shù)值向量 4.導(dǎo)入文本 5.連接外部知識庫 6.調(diào)試與優(yōu)化RAG效果 三、上機實踐 1.導(dǎo)入本地知識庫 2.創(chuàng)建AI agent 3.【案例】利用RAG實現(xiàn)智能客服 |
|
大語言模型核心技術(shù)與應(yīng)用 ~ 3小時 一、AI大模型與應(yīng)用典型問題分析 1.問題分析 2.討論 二、大模型在各領(lǐng)域的發(fā)展與應(yīng)用 1.AI在各行業(yè)的落地應(yīng)用 2.個性化推薦系統(tǒng) 3.商品自動識別搜索 4.智能客服與AI助理 5.數(shù)據(jù)分析與市場訂單趨勢預(yù)測 6.商品描述與廣告自動化生成 7.價格優(yōu)化與動態(tài)定價策略 8.客戶反饋分析 9.風險評估與預(yù)防欺詐 三、大語言模型技術(shù) 1.AI技術(shù)概覽 2.AI技術(shù)的四要素 3.AI模型的研發(fā)流程 4.深度學習與神經(jīng)網(wǎng)絡(luò) 5.大語言模型的定義和特點 6.大語言模型技術(shù)演變簡史 7.大語言模型訓練方法和優(yōu)化技術(shù) 8.大模型面臨的挑戰(zhàn) 四、大語言模型Transformer核心技術(shù) 1.Transformer核心原理 2.Self-Attention 3.多頭注意力機制 4.位置前饋網(wǎng)絡(luò) 5.殘差連接和層歸一化 6.位置編碼 7.解碼器 8.Mask（掩碼） 9.最后的線性層和 Softmax 層 10.正則化操作 11.模型參數(shù)量 |
|
大模型優(yōu)化與部署 ~ 3小時 一、大模型結(jié)果優(yōu)化策略 1.溫度微調(diào) 2.使用top-k/top-p采樣 3.增加上下文信息 4.模型后處理 5.大模型微調(diào) 6.多模型融合 7.【案例】生產(chǎn)環(huán)境數(shù)據(jù)抽檢評測 8.【案例】badcase分析與優(yōu)化推薦 二、主流大模型介紹 1.ChatGPT 2.Llama 3.Qwen 4.Llava 5.deepseek 三、數(shù)據(jù)預(yù)處理 1.數(shù)據(jù)的重要性 2.數(shù)據(jù)質(zhì)量 3.小模型+大數(shù)據(jù) 4.大模型+小數(shù)據(jù) 5.數(shù)據(jù)清洗 6.【案例】數(shù)據(jù)預(yù)處理案例 四、OLlama部署應(yīng)用 1.OLlama簡介 2.模型參數(shù) 3.網(wǎng)絡(luò)安全隔離 4.部署OLlama環(huán)境 5.OLlama常用操作命令 6.離線模型CLI接口 7.模型API接口 8.API調(diào)用方式 9.UI調(diào)試界面 10.模型微調(diào) 11.【案例】實現(xiàn)離線大模型人機對話 五、上機實踐 1.OLlama部署 2.Qwen2.5模型部署 3.常用命令操作 4.3種方式調(diào)用大模型練習 5.【案例】大模型進行圖像理解 |
|
提示詞工程與實踐 ~ 3小時 一、提示詞工程 1.什么是提示詞工程？ 2.提示詞原理 3.如何設(shè)計有效提示詞 4.提示詞的基本結(jié)構(gòu) 4.1.指令 4.2.上下文 4.3.輸入數(shù)據(jù) 4.4.輸出格式 4.5.示例 5.提示詞優(yōu)化方案 6.【案例】提示詞返回精準答案 二、提示詞庫與腳本調(diào)用大模型 1.維護提示詞庫 2.關(guān)鍵詞匹配 3.開發(fā)腳本調(diào)用大模型 4.【案例】一鍵式調(diào)用大模型 三、上機實踐 1.提示詞優(yōu)化練習 2.運行一鍵式調(diào)用大模型 |
|
Agent技術(shù)與應(yīng)用 ~ 3小時 一、Agent概念與典型架構(gòu) 1.AI Agent 概述 2.感知層 3.決策層 4.執(zhí)行層 5.學習與記憶層 6.安全與倫理層 二、Agent開發(fā)框架和發(fā)展 1.AI Agent 開發(fā)框架概述 2.典型框架介紹 3.深度學習在 AI Agent 中的應(yīng)用 4.多Agent系統(tǒng) 三、Agent與LLM集成 1.集成pipeline設(shè)計 2.自然語言輸入處理 3.基于自然語言的決策 4.執(zhí)行模塊實現(xiàn) 5.自然語言輸出生成 6.動作執(zhí)行與控制 7.模型優(yōu)化與調(diào)參 四、業(yè)界的典型案例介紹 1.對話系統(tǒng) 2.任務(wù)執(zhí)行系統(tǒng) 3.智能客服系統(tǒng) 4.文本生成系統(tǒng) 5.編程助手 |
|
智能體Dify部署與主要功能詳解 ~ 3小時 一、Dify概述與主要功能 1.Dify平臺概述 2.Dify的核心功能與優(yōu)勢 3.Dify與其他平臺對比 4.低代碼/無代碼開發(fā)模式 5.模塊化設(shè)計與豐富的功能組件 6.Prompt工程與模型微調(diào) 7.工作流與自動化任務(wù) 8.多模態(tài)應(yīng)用開發(fā) 二、上機實踐 1.部署Dify環(huán)境 2.啟動Dify 3.從應(yīng)用模版創(chuàng)建 4.創(chuàng)建Agent 5.選擇大模型 6.創(chuàng)建聊天助手 7.創(chuàng)建工作流 8.【案例】AI語音識別集成至Dify 9.【案例】AI情緒識別 10.【案例】Agent實現(xiàn)代碼自動化生成 11.【案例】Agent實現(xiàn)代碼自動化評審 |
|
RAG與Agent應(yīng)用實踐 ~ 3小時 一、RAG概述 1.什么是RAG 2.RAG 架構(gòu) 3.檢索模塊 4.生成模塊 5.融合模塊 二、構(gòu)建本地知識庫 1.什么是知識庫 2.向量數(shù)據(jù)庫 3.使用Embedding模型將文本轉(zhuǎn)換為數(shù)值向量 4.導(dǎo)入文本 5.連接外部知識庫 6.調(diào)試與優(yōu)化RAG效果 三、上機實踐 1.導(dǎo)入本地知識庫 2.創(chuàng)建AI agent 3.【案例】利用RAG實現(xiàn)智能客服 |
近期公開課推薦
