課程簡介

本課程"實(shí)現(xiàn)自主可控的AIGC應(yīng)用開發(fā)底座"旨在指導(dǎo)學(xué)員如何利用一系列開源工具形成工具鏈，實(shí)現(xiàn)自主可控的AIGC解決方案底座。我們將首先介紹如何使用開源工具搭建和管理API網(wǎng)關(guān)，這是連接模型和應(yīng)用的重要橋梁。接著，我們將學(xué)習(xí)如何在本地環(huán)境中運(yùn)行和測試開源大型語言模型（LLM），這是自然語言處理（NLP）解決方案的核心。然后，我們將探討如何構(gòu)建低代碼無代碼的AIGC應(yīng)用開發(fā)平臺，使得開發(fā)過程更加高效和靈活。最后，我們將學(xué)習(xí)如何將LLM應(yīng)用部署和上線，以實(shí)現(xiàn)其在實(shí)際環(huán)境中的應(yīng)用。通過本課程，學(xué)員將掌握如何利用開源工具實(shí)現(xiàn)自主可控的AIGC解決方案底座的全套技能。

目標(biāo)收益

1.理解并掌握AIGC開發(fā)底座工具鏈：學(xué)員將全面理解LLM開發(fā)底座工具鏈的構(gòu)成和工作原理，能夠熟練使用這些工具進(jìn)行AIGC應(yīng)用的開發(fā)和部署。
2.熟練搭建和管理API網(wǎng)關(guān)：包括LLM API的調(diào)用方法和策略，使用One-API項目部署API Gateway，以及API渠道和令牌的管理，API調(diào)用的監(jiān)控和用戶管理。
3.掌握LLM模型的本地運(yùn)行和測試評估：學(xué)員將能夠使用LM Studio實(shí)現(xiàn)開源大模型的本地運(yùn)行，對接開源大語言模型和本地開發(fā)環(huán)境。同時，學(xué)員還將掌握LLaMa模型和Mixtrel MoE模型的測試和評估，以及使用Phi 2實(shí)現(xiàn)本地平替Github Copilot解決方案和嵌入式模型的本地運(yùn)行。
4.自主構(gòu)建和優(yōu)化低代碼無代碼AIGC應(yīng)用開發(fā)平臺：學(xué)員將能夠部署Flowise并快速實(shí)現(xiàn)基本的會話機(jī)器人，整合Web瀏覽插件的會話機(jī)器人，實(shí)現(xiàn)領(lǐng)域知識庫（Embedding & 向量檢索引擎），以及實(shí)現(xiàn)智能體。
5.理解并實(shí)施LLM應(yīng)用的部署：學(xué)員將掌握應(yīng)用容器化部署的基本概念，借助Vercel實(shí)現(xiàn)應(yīng)用的PaaS化部署，部署ChatGPT Web，以及快速上線自定義LLM應(yīng)用。
6.通過實(shí)戰(zhàn)項目，能夠?qū)⒗碚撝R轉(zhuǎn)化為實(shí)際應(yīng)用：學(xué)員將有機(jī)會實(shí)踐和應(yīng)用所學(xué)的知識和技能，以自主開發(fā)和部署AIGC應(yīng)用。

培訓(xùn)對象

這個課程特別適合那些希望在AIGC領(lǐng)域快速實(shí)現(xiàn)應(yīng)用開發(fā)和部署，同時對技術(shù)有一定的理解和實(shí)踐經(jīng)驗，但希望進(jìn)一步簡化開發(fā)流程和提高效率的專業(yè)人士。
1.有經(jīng)驗的AIGC開發(fā)者：已經(jīng)具備LLM和AIGC基礎(chǔ)知識，希望進(jìn)一步提升技能，通過開源項目快速構(gòu)建和部署AIGC應(yīng)用的開發(fā)者。
2.快速應(yīng)用部署者：尋求快速上線AIGC解決方案的專業(yè)人士，他們可能已經(jīng)有一定的AIGC應(yīng)用開發(fā)經(jīng)驗，但希望利用低代碼或無代碼工具加速開發(fā)流程。
3.技術(shù)轉(zhuǎn)型者：希望從傳統(tǒng)軟件開發(fā)轉(zhuǎn)向AIGC領(lǐng)域的技術(shù)人員，他們需要一個實(shí)踐導(dǎo)向的課程來快速掌握AIGC工具鏈的搭建和應(yīng)用開發(fā)。
4.企業(yè)內(nèi)部創(chuàng)新團(tuán)隊：企業(yè)中負(fù)責(zé)推動技

課程大綱