隨著大型語言模型（LLM）展現出卓越的能力，企業積極將其整合至產品與內部應用中，以滿足各種使用場景，包括（但不限於）文字生成、大規模文件分析及聊天機器人助手。
運用現代提示工程（Prompt Engineering）技術是最快速的方法來利用 LLM 處理多樣化任務。這些技術也是更高級的 LLM 方法（如檢索增強生成 Retrieval-Augmented Generation，RAG）與參數高效微調（Parameter-Efficient Fine-Tuning，PEFT）的基礎。
在本工作坊中，學員將使用 NVIDIA NIM 評台搭配 Llama-3.1 大型語言模型，並結合熱門的 LangChain 函式庫來打造各種 LLM 應用。您將可實際體驗提示工程確實可有效提升 LLM 的生成品質。
本課程原文名稱為 [Building LLM Applications With Prompt Engineering]，相關資訊皆以原廠為準。
課程定位
- 程度：技術 – 中級 (本課程屬於 NVIDIA DLI / LLM grouping Level 1 )
- 主題：深度學習 / 生成式AI / 大語言模型
- 完課證明：有
- 考試方式：程式實作
- 課程先修條件：熟悉 Python 語法，對於 LLM 關鍵技術有扎實理解
- 所需軟體：Python3 / NVIDIA NIM / LangChain
- 所需硬體：參加者需自備可連上網際網路的筆記型電腦，用於連入 DLI 雲端虛擬機執行課程，筆記型電腦無須另外安裝程式
