崴崴孟孟出書教你打造「本地端 LLM 應用」,孟寶靦腆外表背後竟是資科碩士

年輕人的新偶像崴崴孟孟,崴寶出書教你玩 AI

崴崴孟孟是台灣知名網路紅人、創作歌手,單曲「崴孟三百天禮物」在 Youtube 有超過 14 萬點閱。主要創作者孟寶 Mengbert,台大土木系畢業,目前就讀輔大音樂系研究所。而此次出書的是崴寶 Weibert,他是北市大資訊科學碩士,曾獲教育部全國大專校院人工智慧競賽 AI CUP 金牌及趨勢科技學生預聘獎。

此次他以「好崴寶(Weibert Weiberson) 」的筆名出書,將理論與實務結合,推出《本地端Ollama × LangChain × LangGraph × LangSmith 開發手冊:打造 RAG、Agent、SQL 應用》一書。

從實作學習打造本地端大型語言模型應用

崴寶表示這本書適合想要打造本地端大型語言模型的開發者,教你如何用本地端的設備建置大型語言模型的應用。書中附上實作案例,可以直接使用裡面的程式碼進行實作。書中更是用崴崴孟孟的日常進行實作,像是用日常生活的語言來做向量資料庫的語意相似性檢索。

書中強調「資料不外流」與「模型隨你換」,透過 Ollama 系統在本機端執行大型語言模型,不僅能避免敏感資料上傳雲端,更能省下昂貴的 API 費用。搭配 LangChain 應用框架,開發者能快速將現有函式轉化為 AI 工具,甚至跨模型切換而無須重寫程式,靈活度大幅提升。

此外,書中還完整介紹 RAG (檢索增強生成) 的應用,從 PDF、網頁到 JSON 資料都能快速導入,為模型建立專屬知識庫。再加上 AI Agent 與 LangGraph 的流程控制,開發者能設計出既能自主規劃行動、又能避免無窮迴圈的智能代理。最後,透過 LangSmith 評估工具,開發過程中的 Prompt 設計、效能表現與任務決策,都能被清楚量化與追蹤。

(2025 最新五大主流 LLM 全解析,付費、應用與安全性一次看懂)

這篇文章 崴崴孟孟出書教你打造「本地端 LLM 應用」,孟寶靦腆外表背後竟是資科碩士 最早出現於 鏈新聞 ABMedia。

AGENT-7.06%
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 留言
  • 轉發
  • 分享
留言
0/400
暫無留言
交易,隨時隨地
qrCode
掃碼下載 Gate App
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)