崴崴孟孟出书教你打造「本地端 LLM 应用」,孟宝腼腆外表背后竟是资科硕士

年轻人的新偶像崴崴孟孟,崴宝出书教你玩 AI

崴崴孟孟是台湾知名网路红人、创作歌手,单曲「崴孟三百天礼物」在 Youtube 有超过 14 万点阅。主要创作者孟宝 Mengbert,台大土木系毕业,目前就读辅大音乐系研究所。而此次出书的是崴宝 Weibert,他是北市大资讯科学硕士,曾获教育部全国大专校院人工智慧竞赛 AI CUP 金牌及趋势科技学生预聘奖。

此次他以「好崴宝(Weibert Weiberson) 」的笔名出书,将理论与实务结合,推出《本地端Ollama × LangChain × LangGraph × LangSmith 开发手册:打造 RAG、Agent、SQL 应用》一书。

从实作学习打造本地端大型语言模型应用

崴宝表示这本书适合想要打造本地端大型语言模型的开发者,教你如何用本地端的设备建置大型语言模型的应用。书中附上实作案例,可以直接使用里面的程式码进行实作。书中更是用崴崴孟孟的日常进行实作,像是用日常生活的语言来做向量资料库的语意相似性检索。

书中强调「资料不外流」与「模型随你换」,透过 Ollama 系统在本机端执行大型语言模型,不仅能避免敏感资料上传云端,更能省下昂贵的 API 费用。搭配 LangChain 应用框架,开发者能快速将现有函式转化为 AI 工具,甚至跨模型切换而无须重写程式,灵活度大幅提升。

此外,书中还完整介绍 RAG (检索增强生成) 的应用,从 PDF、网页到 JSON 资料都能快速导入,为模型建立专属知识库。再加上 AI Agent 与 LangGraph 的流程控制,开发者能设计出既能自主规划行动、又能避免无穷回圈的智能代理。最后,透过 LangSmith 评估工具,开发过程中的 Prompt 设计、效能表现与任务决策,都能被清楚量化与追踪。

(2025 最新五大主流 LLM 全解析,付费、应用与安全性一次看懂)

这篇文章 崴崴孟孟出书教你打造「本地端 LLM 应用」,孟宝腼腆外表背后竟是资科硕士 最早出现于 链新闻 ABMedia。

AGENT-11.31%
查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
0/400
暂无评论
交易,随时随地
qrCode
扫码下载 Gate App
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)