課程簡介
本課程"實(shí)現(xiàn)自主可控的AIGC應(yīng)用開發(fā)底座"旨在指導(dǎo)學(xué)員如何利用一系列開源工具形成工具鏈,實(shí)現(xiàn)自主可控的AIGC解決方案底座。我們將首先介紹如何使用開源工具搭建和管理API網(wǎng)關(guān),這是連接模型和應(yīng)用的重要橋梁。接著,我們將學(xué)習(xí)如何在本地環(huán)境中運(yùn)行和測試開源大型語言模型(LLM),這是自然語言處理(NLP)解決方案的核心。然后,我們將探討如何構(gòu)建低代碼無代碼的AIGC應(yīng)用開發(fā)平臺,使得開發(fā)過程更加高效和靈活。最后,我們將學(xué)習(xí)如何將LLM應(yīng)用部署和上線,以實(shí)現(xiàn)其在實(shí)際環(huán)境中的應(yīng)用。通過本課程,學(xué)員將掌握如何利用開源工具實(shí)現(xiàn)自主可控的AIGC解決方案底座的全套技能。
目標(biāo)收益
1.理解并掌握AIGC開發(fā)底座工具鏈:學(xué)員將全面理解LLM開發(fā)底座工具鏈的構(gòu)成和工作原理,能夠熟練使用這些工具進(jìn)行AIGC應(yīng)用的開發(fā)和部署。
2.熟練搭建和管理API網(wǎng)關(guān):包括LLM API的調(diào)用方法和策略,使用One-API項目部署API Gateway,以及API渠道和令牌的管理,API調(diào)用的監(jiān)控和用戶管理。
3.掌握LLM模型的本地運(yùn)行和測試評估:學(xué)員將能夠使用LM Studio實(shí)現(xiàn)開源大模型的本地運(yùn)行,對接開源大語言模型和本地開發(fā)環(huán)境。同時,學(xué)員還將掌握LLaMa模型和Mixtrel MoE模型的測試和評估,以及使用Phi 2實(shí)現(xiàn)本地平替Github Copilot解決方案和嵌入式模型的本地運(yùn)行。
4.自主構(gòu)建和優(yōu)化低代碼無代碼AIGC應(yīng)用開發(fā)平臺:學(xué)員將能夠部署Flowise并快速實(shí)現(xiàn)基本的會話機(jī)器人,整合Web瀏覽插件的會話機(jī)器人,實(shí)現(xiàn)領(lǐng)域知識庫(Embedding & 向量檢索引擎),以及實(shí)現(xiàn)智能體。
5.理解并實(shí)施LLM應(yīng)用的部署:學(xué)員將掌握應(yīng)用容器化部署的基本概念,借助Vercel實(shí)現(xiàn)應(yīng)用的PaaS化部署,部署ChatGPT Web,以及快速上線自定義LLM應(yīng)用。
6.通過實(shí)戰(zhàn)項目,能夠?qū)⒗碚撝R轉(zhuǎn)化為實(shí)際應(yīng)用:學(xué)員將有機(jī)會實(shí)踐和應(yīng)用所學(xué)的知識和技能,以自主開發(fā)和部署AIGC應(yīng)用。
培訓(xùn)對象
這個課程特別適合那些希望在AIGC領(lǐng)域快速實(shí)現(xiàn)應(yīng)用開發(fā)和部署,同時對技術(shù)有一定的理解和實(shí)踐經(jīng)驗,但希望進(jìn)一步簡化開發(fā)流程和提高效率的專業(yè)人士。
1.有經(jīng)驗的AIGC開發(fā)者:已經(jīng)具備LLM和AIGC基礎(chǔ)知識,希望進(jìn)一步提升技能,通過開源項目快速構(gòu)建和部署AIGC應(yīng)用的開發(fā)者。
2.快速應(yīng)用部署者:尋求快速上線AIGC解決方案的專業(yè)人士,他們可能已經(jīng)有一定的AIGC應(yīng)用開發(fā)經(jīng)驗,但希望利用低代碼或無代碼工具加速開發(fā)流程。
3.技術(shù)轉(zhuǎn)型者:希望從傳統(tǒng)軟件開發(fā)轉(zhuǎn)向AIGC領(lǐng)域的技術(shù)人員,他們需要一個實(shí)踐導(dǎo)向的課程來快速掌握AIGC工具鏈的搭建和應(yīng)用開發(fā)。
4.企業(yè)內(nèi)部創(chuàng)新團(tuán)隊:企業(yè)中負(fù)責(zé)推動技
課程大綱
搭建API Gateway |
?AIGC 開發(fā)底座工具鏈介紹 ?LLM API 調(diào)用方法和策略綜述 ?使用One-API項目部署API Geateway ?管理API渠道和令牌 ?API 調(diào)用的監(jiān)控以及用戶管理 |
實(shí)現(xiàn)LLM模型本地運(yùn)行 |
?使用LM Studio實(shí)現(xiàn)開源大模型的本地運(yùn)行 ?開源大語言模型和本地開發(fā)環(huán)境的對接 ?測試和評估LLaMa模型 ?測試和評估Mixtrel MoE模型 ?使用Phi 2實(shí)現(xiàn)本地平替Github Copilot解決方案 ?實(shí)現(xiàn)嵌入式模型的本地運(yùn)行 |
構(gòu)建低代碼無代碼AIGC應(yīng)用開發(fā)平臺 |
?部署Flowise ?快速實(shí)現(xiàn)基本會話機(jī)器人 ?實(shí)現(xiàn)整合Web瀏覽插件的會話機(jī)器人 ?實(shí)現(xiàn)領(lǐng)域知識庫(Embedding & 向量檢索引擎) ?實(shí)現(xiàn)智能體 |
AIGC 應(yīng)用的部署 |
?應(yīng)用容器化部署介紹 ?借助Vercel實(shí)現(xiàn)應(yīng)用的PaaS化部署 ?部署ChatGPT Web ?快速上線自定義LLM應(yīng)用 |
搭建API Gateway ?AIGC 開發(fā)底座工具鏈介紹 ?LLM API 調(diào)用方法和策略綜述 ?使用One-API項目部署API Geateway ?管理API渠道和令牌 ?API 調(diào)用的監(jiān)控以及用戶管理 |
實(shí)現(xiàn)LLM模型本地運(yùn)行 ?使用LM Studio實(shí)現(xiàn)開源大模型的本地運(yùn)行 ?開源大語言模型和本地開發(fā)環(huán)境的對接 ?測試和評估LLaMa模型 ?測試和評估Mixtrel MoE模型 ?使用Phi 2實(shí)現(xiàn)本地平替Github Copilot解決方案 ?實(shí)現(xiàn)嵌入式模型的本地運(yùn)行 |
構(gòu)建低代碼無代碼AIGC應(yīng)用開發(fā)平臺 ?部署Flowise ?快速實(shí)現(xiàn)基本會話機(jī)器人 ?實(shí)現(xiàn)整合Web瀏覽插件的會話機(jī)器人 ?實(shí)現(xiàn)領(lǐng)域知識庫(Embedding & 向量檢索引擎) ?實(shí)現(xiàn)智能體 |
AIGC 應(yīng)用的部署 ?應(yīng)用容器化部署介紹 ?借助Vercel實(shí)現(xiàn)應(yīng)用的PaaS化部署 ?部署ChatGPT Web ?快速上線自定義LLM應(yīng)用 |