課程簡介
理解大型語言模型的基本原理。
學(xué)習(xí)如何有效地提示、微調(diào)和部署LLM。
培養(yǎng)使用LLM進行各種實際應(yīng)用的技能。
了解與LLM相關(guān)的倫理考量和潛在風(fēng)險。
獲得使用流行LLM平臺和工具的實踐經(jīng)驗
目標(biāo)收益
培訓(xùn)對象
開發(fā)者、數(shù)據(jù)科學(xué)家、商業(yè)分析師、產(chǎn)品經(jīng)理，以及所有對利用LLM感興趣的人。
課程大綱
| 模塊 1：大型語言模型（LLM）簡介 |
什么是大型語言模型？定義、特征和歷史。 自然語言處理的演變：從基于規(guī)則的系統(tǒng)到深度學(xué)習(xí)。 關(guān)鍵概念：Transformer、注意力機制、嵌入和語言建模。 流行的LLM架構(gòu)：BERT、GPT、T5等。 用例和應(yīng)用：內(nèi)容創(chuàng)作、聊天機器人、代碼生成、翻譯、摘要等。 LLM生態(tài)：概述可用的模型（OpenAI、Google、Meta等）及其能力。 |
| 模塊 2：設(shè)置您的LLM環(huán)境 |
訪問LLM：API、云平臺和開源選項。 LLM的Python庫：Transformers、Langchain、Hugging Face。 設(shè)置開發(fā)環(huán)境：本地機器、云實例或協(xié)作平臺。 API密鑰和身份驗證：安全最佳實踐。 成本考慮：定價模式、令牌限制和優(yōu)化策略。 動手實踐：設(shè)置基本的Python環(huán)境并訪問LLM API。 |
| 模塊 3：提示工程：充分利用LLM |
什么是提示工程？定義和重要性。 基本提示技巧：輸入結(jié)構(gòu)、上下文設(shè)置和溫度控制。 高級提示技巧：少量樣本學(xué)習(xí)、鏈?zhǔn)剿伎继崾竞妥晕乙恢滦浴?br/>提示優(yōu)化：迭代改進、A/B測試和提示庫。 針對特定任務(wù)的提示設(shè)計：摘要、翻譯、問答、代碼生成。 提示注入和安全：理解并減輕提示注入攻擊。 動手實踐：設(shè)計用于各種任務(wù)的提示并評估其性能。 |
| 模塊 4：微調(diào)LLM以用于特定任務(wù) |
什么是微調(diào)？將預(yù)訓(xùn)練模型調(diào)整到特定的數(shù)據(jù)集和任務(wù)。 何時進行微調(diào)：微調(diào)有益的場景。 準(zhǔn)備用于微調(diào)的數(shù)據(jù)：數(shù)據(jù)清理、格式化和增強。 微調(diào)技巧：完全微調(diào)、參數(shù)高效微調(diào)（LoRA、適配器）。 評估微調(diào)模型：指標(biāo)、驗證集和偏差檢測。 用于微調(diào)的工具和平臺：Hugging Face Trainer、基于云的微調(diào)服務(wù)。 動手實踐：在示例數(shù)據(jù)集上微調(diào)小型LLM。 |
| 模塊 5：構(gòu)建基于LLM的應(yīng)用程序 |
應(yīng)用程序設(shè)計原則：用戶體驗、可擴展性和可維護性。 將LLM集成到現(xiàn)有系統(tǒng)中：API、webhook和微服務(wù)。 構(gòu)建聊天機器人和對話式AI：對話管理、意圖識別和響應(yīng)生成。 內(nèi)容創(chuàng)建和自動化：生成文章、營銷文案和代碼。 知識管理和信息檢索：構(gòu)建基于LLM的搜索和問答系統(tǒng)。 動手實踐：使用LLM API和對話管理框架構(gòu)建一個簡單的聊天機器人。 |
| 模塊 6：部署和擴展LLM應(yīng)用程序 |
部署選項：云平臺、無服務(wù)器函數(shù)和邊緣設(shè)備。 擴展LLM推理：負(fù)載均衡、緩存和模型優(yōu)化。 監(jiān)控和日志記錄：跟蹤性能、識別錯誤并確?？煽啃浴?br/>安全注意事項：保護LLM免受攻擊并確保數(shù)據(jù)隱私。 成本管理：優(yōu)化資源利用率并最大限度地減少開支。 動手實踐：將簡單的LLM應(yīng)用程序部署到云平臺。 |
| 模塊 7：倫理考量與負(fù)責(zé)任的AI |
LLM中的偏見：理解LLM中偏見的來源和影響。 公平性和平等：減輕偏見并促進LLM應(yīng)用程序的公平性。 隱私和數(shù)據(jù)安全：保護敏感數(shù)據(jù)并遵守隱私法規(guī)。 透明度和可解釋性：使LLM更透明和易于理解。 虛假信息和惡意使用：解決LLM可能被用于惡意目的的潛在問題。 負(fù)責(zé)任的AI框架和指南：遵守倫理原則和最佳實踐。 動手實踐：使用示例數(shù)據(jù)集識別和減輕LLM中的偏見。 |
| 模塊 8：高級主題和未來趨勢 |
多模態(tài)LLM：將文本與圖像、音頻和視頻集成。 LLM的強化學(xué)習(xí)：通過強化學(xué)習(xí)訓(xùn)練LLM來執(zhí)行復(fù)雜的任務(wù)。 LLM的聯(lián)邦學(xué)習(xí)：在保護隱私的同時在分散數(shù)據(jù)上訓(xùn)練LLM。 新興LLM架構(gòu)：探索新的創(chuàng)新LLM架構(gòu)。 LLM的未來：LLM演變的趨勢和預(yù)測。 開放討論：問答、頭腦風(fēng)暴和分享未來項目的想法。 |
| 動手實踐和項目： |
在整個課程中，參與者將參與大量的動手實踐和項目，包括： 設(shè)置LLM開發(fā)環(huán)境。 設(shè)計和評估用于各種任務(wù)的提示。 在示例數(shù)據(jù)集上微調(diào)小型LLM。 構(gòu)建一個簡單的聊天機器人。 將LLM應(yīng)用程序部署到云平臺。 識別和減輕LLM中的偏見。 |
| 工具和技術(shù)： |
Python Transformers庫 Langchain Hugging Face Hub OpenAI API Google Cloud AI Platform AWS SageMaker Kubernetes（可選） |
| 定制選項： |
行業(yè)特定重點： 針對特定行業(yè)（例如金融、醫(yī)療保健、零售）定制案例研究和示例。 技能水平調(diào)整： 根據(jù)受眾的技能水平調(diào)整內(nèi)容和練習(xí)的復(fù)雜性。 模塊化交付： 將課程分解為更小、獨立的模塊，可以單獨學(xué)習(xí)。 在線/面對面混合： 將在線講座與面對面的研討會和實踐課程相結(jié)合。 |
|
模塊 1：大型語言模型（LLM）簡介 什么是大型語言模型？定義、特征和歷史。 自然語言處理的演變：從基于規(guī)則的系統(tǒng)到深度學(xué)習(xí)。 關(guān)鍵概念：Transformer、注意力機制、嵌入和語言建模。 流行的LLM架構(gòu)：BERT、GPT、T5等。 用例和應(yīng)用：內(nèi)容創(chuàng)作、聊天機器人、代碼生成、翻譯、摘要等。 LLM生態(tài)：概述可用的模型（OpenAI、Google、Meta等）及其能力。 |
|
模塊 2：設(shè)置您的LLM環(huán)境 訪問LLM：API、云平臺和開源選項。 LLM的Python庫：Transformers、Langchain、Hugging Face。 設(shè)置開發(fā)環(huán)境：本地機器、云實例或協(xié)作平臺。 API密鑰和身份驗證：安全最佳實踐。 成本考慮：定價模式、令牌限制和優(yōu)化策略。 動手實踐：設(shè)置基本的Python環(huán)境并訪問LLM API。 |
|
模塊 3：提示工程：充分利用LLM 什么是提示工程？定義和重要性。 基本提示技巧：輸入結(jié)構(gòu)、上下文設(shè)置和溫度控制。 高級提示技巧：少量樣本學(xué)習(xí)、鏈?zhǔn)剿伎继崾竞妥晕乙恢滦浴?br/>提示優(yōu)化：迭代改進、A/B測試和提示庫。 針對特定任務(wù)的提示設(shè)計：摘要、翻譯、問答、代碼生成。 提示注入和安全：理解并減輕提示注入攻擊。 動手實踐：設(shè)計用于各種任務(wù)的提示并評估其性能。 |
|
模塊 4：微調(diào)LLM以用于特定任務(wù) 什么是微調(diào)？將預(yù)訓(xùn)練模型調(diào)整到特定的數(shù)據(jù)集和任務(wù)。 何時進行微調(diào)：微調(diào)有益的場景。 準(zhǔn)備用于微調(diào)的數(shù)據(jù)：數(shù)據(jù)清理、格式化和增強。 微調(diào)技巧：完全微調(diào)、參數(shù)高效微調(diào)（LoRA、適配器）。 評估微調(diào)模型：指標(biāo)、驗證集和偏差檢測。 用于微調(diào)的工具和平臺：Hugging Face Trainer、基于云的微調(diào)服務(wù)。 動手實踐：在示例數(shù)據(jù)集上微調(diào)小型LLM。 |
|
模塊 5：構(gòu)建基于LLM的應(yīng)用程序 應(yīng)用程序設(shè)計原則：用戶體驗、可擴展性和可維護性。 將LLM集成到現(xiàn)有系統(tǒng)中：API、webhook和微服務(wù)。 構(gòu)建聊天機器人和對話式AI：對話管理、意圖識別和響應(yīng)生成。 內(nèi)容創(chuàng)建和自動化：生成文章、營銷文案和代碼。 知識管理和信息檢索：構(gòu)建基于LLM的搜索和問答系統(tǒng)。 動手實踐：使用LLM API和對話管理框架構(gòu)建一個簡單的聊天機器人。 |
|
模塊 6：部署和擴展LLM應(yīng)用程序 部署選項：云平臺、無服務(wù)器函數(shù)和邊緣設(shè)備。 擴展LLM推理：負(fù)載均衡、緩存和模型優(yōu)化。 監(jiān)控和日志記錄：跟蹤性能、識別錯誤并確?？煽啃浴?br/>安全注意事項：保護LLM免受攻擊并確保數(shù)據(jù)隱私。 成本管理：優(yōu)化資源利用率并最大限度地減少開支。 動手實踐：將簡單的LLM應(yīng)用程序部署到云平臺。 |
|
模塊 7：倫理考量與負(fù)責(zé)任的AI LLM中的偏見：理解LLM中偏見的來源和影響。 公平性和平等：減輕偏見并促進LLM應(yīng)用程序的公平性。 隱私和數(shù)據(jù)安全：保護敏感數(shù)據(jù)并遵守隱私法規(guī)。 透明度和可解釋性：使LLM更透明和易于理解。 虛假信息和惡意使用：解決LLM可能被用于惡意目的的潛在問題。 負(fù)責(zé)任的AI框架和指南：遵守倫理原則和最佳實踐。 動手實踐：使用示例數(shù)據(jù)集識別和減輕LLM中的偏見。 |
|
模塊 8：高級主題和未來趨勢 多模態(tài)LLM：將文本與圖像、音頻和視頻集成。 LLM的強化學(xué)習(xí)：通過強化學(xué)習(xí)訓(xùn)練LLM來執(zhí)行復(fù)雜的任務(wù)。 LLM的聯(lián)邦學(xué)習(xí)：在保護隱私的同時在分散數(shù)據(jù)上訓(xùn)練LLM。 新興LLM架構(gòu)：探索新的創(chuàng)新LLM架構(gòu)。 LLM的未來：LLM演變的趨勢和預(yù)測。 開放討論：問答、頭腦風(fēng)暴和分享未來項目的想法。 |
|
動手實踐和項目： 在整個課程中，參與者將參與大量的動手實踐和項目，包括： 設(shè)置LLM開發(fā)環(huán)境。 設(shè)計和評估用于各種任務(wù)的提示。 在示例數(shù)據(jù)集上微調(diào)小型LLM。 構(gòu)建一個簡單的聊天機器人。 將LLM應(yīng)用程序部署到云平臺。 識別和減輕LLM中的偏見。 |
|
工具和技術(shù)： Python Transformers庫 Langchain Hugging Face Hub OpenAI API Google Cloud AI Platform AWS SageMaker Kubernetes（可選） |
|
定制選項： 行業(yè)特定重點： 針對特定行業(yè)（例如金融、醫(yī)療保健、零售）定制案例研究和示例。 技能水平調(diào)整： 根據(jù)受眾的技能水平調(diào)整內(nèi)容和練習(xí)的復(fù)雜性。 模塊化交付： 將課程分解為更小、獨立的模塊，可以單獨學(xué)習(xí)。 在線/面對面混合： 將在線講座與面對面的研討會和實踐課程相結(jié)合。 |
近期公開課推薦
