課程簡(jiǎn)介
本課程"實(shí)現(xiàn)自主可控的AIGC應(yīng)用開發(fā)底座"旨在指導(dǎo)學(xué)員如何利用一系列開源工具形成工具鏈,實(shí)現(xiàn)自主可控的AIGC解決方案底座。我們將首先介紹如何使用開源工具搭建和管理API網(wǎng)關(guān),這是連接模型和應(yīng)用的重要橋梁。接著,我們將學(xué)習(xí)如何在本地環(huán)境中運(yùn)行和測(cè)試開源大型語(yǔ)言模型(LLM),這是自然語(yǔ)言處理(NLP)解決方案的核心。然后,我們將探討如何構(gòu)建低代碼無(wú)代碼的AIGC應(yīng)用開發(fā)平臺(tái),使得開發(fā)過(guò)程更加高效和靈活。最后,我們將學(xué)習(xí)如何將LLM應(yīng)用部署和上線,以實(shí)現(xiàn)其在實(shí)際環(huán)境中的應(yīng)用。通過(guò)本課程,學(xué)員將掌握如何利用開源工具實(shí)現(xiàn)自主可控的AIGC解決方案底座的全套技能。
目標(biāo)收益
1.理解并掌握AIGC開發(fā)底座工具鏈:學(xué)員將全面理解LLM開發(fā)底座工具鏈的構(gòu)成和工作原理,能夠熟練使用這些工具進(jìn)行AIGC應(yīng)用的開發(fā)和部署。
2.熟練搭建和管理API網(wǎng)關(guān):包括LLM API的調(diào)用方法和策略,使用One-API項(xiàng)目部署API Gateway,以及API渠道和令牌的管理,API調(diào)用的監(jiān)控和用戶管理。
3.掌握LLM模型的本地運(yùn)行和測(cè)試評(píng)估:學(xué)員將能夠使用LM Studio實(shí)現(xiàn)開源大模型的本地運(yùn)行,對(duì)接開源大語(yǔ)言模型和本地開發(fā)環(huán)境。同時(shí),學(xué)員還將掌握LLaMa模型和Mixtrel MoE模型的測(cè)試和評(píng)估,以及使用Phi 2實(shí)現(xiàn)本地平替Github Copilot解決方案和嵌入式模型的本地運(yùn)行。
4.自主構(gòu)建和優(yōu)化低代碼無(wú)代碼AIGC應(yīng)用開發(fā)平臺(tái):學(xué)員將能夠部署Flowise并快速實(shí)現(xiàn)基本的會(huì)話機(jī)器人,整合Web瀏覽插件的會(huì)話機(jī)器人,實(shí)現(xiàn)領(lǐng)域知識(shí)庫(kù)(Embedding & 向量檢索引擎),以及實(shí)現(xiàn)智能體。
5.理解并實(shí)施LLM應(yīng)用的部署:學(xué)員將掌握應(yīng)用容器化部署的基本概念,借助Vercel實(shí)現(xiàn)應(yīng)用的PaaS化部署,部署ChatGPT Web,以及快速上線自定義LLM應(yīng)用。
6.通過(guò)實(shí)戰(zhàn)項(xiàng)目,能夠?qū)⒗碚撝R(shí)轉(zhuǎn)化為實(shí)際應(yīng)用:學(xué)員將有機(jī)會(huì)實(shí)踐和應(yīng)用所學(xué)的知識(shí)和技能,以自主開發(fā)和部署AIGC應(yīng)用。
培訓(xùn)對(duì)象
這個(gè)課程特別適合那些希望在AIGC領(lǐng)域快速實(shí)現(xiàn)應(yīng)用開發(fā)和部署,同時(shí)對(duì)技術(shù)有一定的理解和實(shí)踐經(jīng)驗(yàn),但希望進(jìn)一步簡(jiǎn)化開發(fā)流程和提高效率的專業(yè)人士。
1.有經(jīng)驗(yàn)的AIGC開發(fā)者:已經(jīng)具備LLM和AIGC基礎(chǔ)知識(shí),希望進(jìn)一步提升技能,通過(guò)開源項(xiàng)目快速構(gòu)建和部署AIGC應(yīng)用的開發(fā)者。
2.快速應(yīng)用部署者:尋求快速上線AIGC解決方案的專業(yè)人士,他們可能已經(jīng)有一定的AIGC應(yīng)用開發(fā)經(jīng)驗(yàn),但希望利用低代碼或無(wú)代碼工具加速開發(fā)流程。
3.技術(shù)轉(zhuǎn)型者:希望從傳統(tǒng)軟件開發(fā)轉(zhuǎn)向AIGC領(lǐng)域的技術(shù)人員,他們需要一個(gè)實(shí)踐導(dǎo)向的課程來(lái)快速掌握AIGC工具鏈的搭建和應(yīng)用開發(fā)。
4.企業(yè)內(nèi)部創(chuàng)新團(tuán)隊(duì):企業(yè)中負(fù)責(zé)推動(dòng)技
課程大綱
搭建API Gateway |
?AIGC 開發(fā)底座工具鏈介紹 ?LLM API 調(diào)用方法和策略綜述 ?使用One-API項(xiàng)目部署API Geateway ?管理API渠道和令牌 ?API 調(diào)用的監(jiān)控以及用戶管理 |
實(shí)現(xiàn)LLM模型本地運(yùn)行 |
?使用LM Studio實(shí)現(xiàn)開源大模型的本地運(yùn)行 ?開源大語(yǔ)言模型和本地開發(fā)環(huán)境的對(duì)接 ?測(cè)試和評(píng)估LLaMa模型 ?測(cè)試和評(píng)估Mixtrel MoE模型 ?使用Phi 2實(shí)現(xiàn)本地平替Github Copilot解決方案 ?實(shí)現(xiàn)嵌入式模型的本地運(yùn)行 |
構(gòu)建低代碼無(wú)代碼AIGC應(yīng)用開發(fā)平臺(tái) |
?部署Flowise ?快速實(shí)現(xiàn)基本會(huì)話機(jī)器人 ?實(shí)現(xiàn)整合Web瀏覽插件的會(huì)話機(jī)器人 ?實(shí)現(xiàn)領(lǐng)域知識(shí)庫(kù)(Embedding & 向量檢索引擎) ?實(shí)現(xiàn)智能體 |
AIGC 應(yīng)用的部署 |
?應(yīng)用容器化部署介紹 ?借助Vercel實(shí)現(xiàn)應(yīng)用的PaaS化部署 ?部署ChatGPT Web ?快速上線自定義LLM應(yīng)用 |
搭建API Gateway ?AIGC 開發(fā)底座工具鏈介紹 ?LLM API 調(diào)用方法和策略綜述 ?使用One-API項(xiàng)目部署API Geateway ?管理API渠道和令牌 ?API 調(diào)用的監(jiān)控以及用戶管理 |
實(shí)現(xiàn)LLM模型本地運(yùn)行 ?使用LM Studio實(shí)現(xiàn)開源大模型的本地運(yùn)行 ?開源大語(yǔ)言模型和本地開發(fā)環(huán)境的對(duì)接 ?測(cè)試和評(píng)估LLaMa模型 ?測(cè)試和評(píng)估Mixtrel MoE模型 ?使用Phi 2實(shí)現(xiàn)本地平替Github Copilot解決方案 ?實(shí)現(xiàn)嵌入式模型的本地運(yùn)行 |
構(gòu)建低代碼無(wú)代碼AIGC應(yīng)用開發(fā)平臺(tái) ?部署Flowise ?快速實(shí)現(xiàn)基本會(huì)話機(jī)器人 ?實(shí)現(xiàn)整合Web瀏覽插件的會(huì)話機(jī)器人 ?實(shí)現(xiàn)領(lǐng)域知識(shí)庫(kù)(Embedding & 向量檢索引擎) ?實(shí)現(xiàn)智能體 |
AIGC 應(yīng)用的部署 ?應(yīng)用容器化部署介紹 ?借助Vercel實(shí)現(xiàn)應(yīng)用的PaaS化部署 ?部署ChatGPT Web ?快速上線自定義LLM應(yīng)用 |