译者序
本书第2版精彩绝伦，在当前专业领域内几乎无出其右。这是我看完本书电子版后的第一感受，也是发自内心的真实评价。主要理由如下所述。
一、技术前沿，覆盖面广
除了对传统的LLM、提示工程和LangChain等常见基础内容进行介绍，本版最大的特色是将“RAG系统”“Agentic RAG”“智能体”“多智能体”“Agentic AI”和“MCP”等前沿技术全部集成在一起，不过，本书并非纯粹讲解这些前沿技术的概念与理论等知识。2025年是AI智能体的元年，本书出版就是对这句话最好的印证。
二、以LangChain作为技术栈，理论与实践相结合
本书对LangChain(涉及LangGraph、LangSmith等)技术栈框架进行了详细介绍，并与FastAPI、Streamlit和Ray相结合，通过与实例结合，从LLM应用开发落地的角度将各方面的技术深度集成。
三、LLMops穿插整本书，是LLM最佳实践著作
本书重点介绍LLM前沿技术，结合Python语言，从LLM使用、应用开发、评估、测试、生产部署等全流程提供了最佳实践方案和经验。为LLM落地和使用提供了技术支撑。
在本书最后，也是最重要的一点，作者着眼于当前生成式AI的发展趋势，对未来30年的技术趋势进行了深入探讨和分析。总之，对于希望了解LLM前沿技术、LLM应用和落地等方面技术的科学家、工程师和高校学生，本书绝对是一本卓越的参考读物。
在此，要感谢吴禹林女士，她参与了整本书的翻译和审校工作，感谢她为本书所做的一切努力。还要感谢清华大学出版社的编辑，他们做了大量的编辑与校对工作，保证了本书的质量，使本书符合出版要求，在此深表谢意。
由于本书所涉内容的广度和深度较大，加上译者翻译水平有限，在翻译过程中难免有不足之处。若各位读者在阅读过程中发现问题，欢迎批评指正。
谨以此书献给在人生旅途中给予我指引的导师们，尤其是Tony Lindeberg，他的诚恳正直与坚韧不拔的精神始终激励着我。此外，我还要将本书献给我的儿子Nicholas与伴侣Diane。
——Ben Auffarth
谨以此书献给我的妻子Ksenia，她始终如一的爱与乐观是我坚强的后盾；献给我的岳母Tatyana，即便在我最疯狂的尝试中也对我坚信不疑，给予我无穷的力量；也献给我的孩子Matvey和Milena，希望你们日后能读到这本书。
——Leonid Kuligin
作者简介
Ben Auffarth博士是一位拥有超过15年AI实施工作经验的专家。作为Chelsea AI Ventures公司的创始人，他专注于帮助中小型企业部署企业级AI解决方案，以实现可观的投资回报率。他设计的系统成功避免了数百万美元的欺诈损失，并能在低于300毫秒的延迟内处理交易。Ben拥有深厚的计算神经科学背景，他将这一深厚功底融入AI的实际应用中——从超级计算大脑模型，到融合了高端技术与商业战略的生产级系统均有涉猎。
首先，尤其感谢合著者Leo，他是一位杰出的程序员。在本书的整个写作过程中始终保持耐心并在需要建议时随时给予支援。本书的完成也离不开Packt团队，尤其是编辑Tanya，她总能在关键时刻提供见解和鼓励。此外，审校者对本书也提供了很多建设性的意见，极大提升了本书质量。
Leonid Kuligin是一名来自谷歌云的AI工程师，致力于生成式AI和经典ML解决方案的研究，如需求预测和优化问题。Leonid是LangChain在谷歌云集成中的核心维护者之一，也是CDTM(慕尼黑工业大学与慕尼黑大学联合机构)的客座讲师。在加入谷歌之前，Leonid在德国、俄罗斯和美国的科技、金融与零售企业中积累了20余年的经验，专注于开发基于复杂ML和数据处理的B2C与B2B应用，如搜索、地图及投资管理系统。
衷心感谢谷歌的Max Tschochohei、Lucio Floretta与Thomas Cliett等同事，在本书创作及其他诸多项目中给予了我莫大的支持，他们给我带来了愉快的工作体验。另外，我也要对整个LangChain社区表示敬意，尤其是Harrison Chase对LangChain框架的持续开发极大地简化了工程实践。
审校者简介
Max Tschochohei就如何在谷歌云上实现AI与ML目标为企业客户提供咨询服务。作为谷歌云咨询部门的工程经理，他带领AI工程师团队执行关键客户项目，其工作涉及谷歌云全线AI产品与解决方案。Max尤其专注于智能体系统、机器学习运维(MLOps)以及AI在医疗领域的应用。在加入位于慕尼黑的谷歌之前，Max曾先后在KPMG会计师事务所和波士顿咨询公司担任顾问多年，并曾领导新加坡政府机构NTUC企业的数字化转型项目。Max拥有考文垂大学经济学博士学位。
Rany ElHousieny是一位AI解决方案架构师和AI工程经理，他在AI、NLP和ML领域的工作经验已超过20年。其职业生涯专注于AI模型的开发与部署，撰写了多篇关于AI系统架构与AI道德部署的文章。Rany曾在微软等企业领导多个开创性项目，推进了NLP及语言理解智能服务(LUIS)的发展。目前，Rany在Clearwater Analytics公司担任关键职位，推动生成式AI及AI驱动的金融与投资管理解决方案的创新。
Nicolas Bievre是Meta公司的ML工程师，在将AI、推荐系统、LLM及生成式AI应用于广告和医疗保健领域方面积累了丰富的经验。Nicolas曾在Meta和PayPal担任关键的AI领导职位，设计并实施了为数亿用户提供个性化内容的大规模推荐系统。他毕业于斯坦福大学，在校期间曾在顶级AI与生物信息学领域的权威期刊上发表过经同行评议的研究成果。Nicolas凭借卓越贡献，曾获得“核心广告增长隐私奖”(Core Ads Growth Privacy Award)与“海外杰出人才奖”(Outre-Mer Outstanding Talent Award)。此外，Nicolas还担任法国政府的AI顾问并在顶级AI机构担任审稿人。
译者简介
郭涛，主要从事计算数学、人工智能、现代软件工程和数智农业等前沿交叉研究。出版了40多部著(译)作，包括《大模型Agent应用开发》《Agentic RAG与智能体开发》和《大模型前沿与实践》。
前 言
如今，LLM已广泛应用于从客户服务聊天机器人到复杂代码生成系统的各类场景，生成式AI已从实验室中的研究热点迅速演化为生产级的核心工具。然而，实验原型与可生产部署的应用之间仍存在显著差距。行业研究表明，尽管人们对生成式AI热情高涨，但由于可靠性问题、评估复杂性及集成难度大，30%以上的项目止步于概念验证阶段。LangChain框架已成为跨越这一鸿沟的关键桥梁，为开发者提供了构建稳健、可扩展且实用的LLM应用所需的工具。
本书提供的实用指南旨在缩小这一差距，指导开发者在实际生产环境中部署LLM应用。本书重点聚焦于现实中常导致生成式AI项目失败的核心问题，如输出不一致、调试困难、工具集成混乱不堪以及扩展瓶颈。本书通过实际案例，并使用各种工具(LangChain、LangGraph以及生成式AI生态系统中不断涌现的其他工具)验证模式，指导开发者构建企业级可部署、可维护、可解决实际问题的系统。
本书读者对象
本书主要面向致力于使用LLM构建生产级应用且具备基础Python编程能力的软件开发者。本书并不要求读者具备深厚的ML经验，但对AI概念有所了解将有助于更快速地阅读本书内容。读完本书后，你将能够构建高级的LLM架构，而无须具备AI专业知识。
若你是正在向LLM应用开发转型的数据科学家，可以重点参考书中提供的实现模式，其有效弥合了实验结论与可部署系统之间的鸿沟。本书对RAG实现、评估框架与可观测性实践的讨论有助于解决原型扩展到可靠服务的常见技术难题。
对于在企业内评估LLM的技术决策者而言，本书提供了有关成功项目实施的战略见解。你将学会区分实验性系统与生产级系统的架构模式，识别高价值用例，并发现如何避免导致大多数项目失败的集成和扩展性问题。本书为评估实施方法提供了清晰的标准，助力决策落地。
本书主要内容
第1章介绍了现代LLM的发展现状，并将LangChain定位为构建生产级AI应用的框架。你将学习基础LLM在实际应用中存在的局限性，而类似LangChain的框架可以通过标准化来克服这些挑战。了解这些有助于你为具体用例选择智能体。
第2章正式引导你开启构建之旅。包括配置开发环境、理解LangChain核心组件(模型接口、提示、模板与LCEL语言)以及创建简单的链。本章将介绍如何运行云端模型和本地模型，助你根据项目需求在成本、隐私和性能之间灵活调整方案。此外，还将结合文本与图像理解，探索简单的多模态应用。这些知识为构建更复杂的AI应用奠定了基石。
第3章深入讲解如何利用LangChain与LangGraph创建复杂的工作流。你将学习构建基于节点和边的工作流，其中包括基于状态进行分支的条件判断边。本章内容还包括解析输出、错误处理、提示工程技术(零样本和动态少样本)，以及使用Map-Reduce模式处理长上下文。你还将实现用于管理聊天历史的记忆管理机制。掌握这些技术，能够解决大多数LLM应用在实际生产中出现的故障，确保构建出稳健的系统。
第4章通过将LLM的输出结果锚定于可靠的外部知识源上，解决了“幻觉问题”。你将掌握向量存储、文档处理和检索策略，从而提升响应的准确性。本章的企业文档智能问答项目展示了如何实现确保一致性和合规性的企业级RAG管道[1 译者注：pipeline在软件工程和大模型场景下，可翻译成“管道”“流程”，本书中统一翻译成“管道”。]1，这一能力精准地解决了行业调研中经常提及的数据质量痛点。故障排除章节涵盖了七个常见的RAG失效场景，并为每个问题提供了切实可行的解决方案。
第5章围绕工具使用的脆弱性问题展开讨论，这是智能体自主性的核心瓶颈。你将实现ReACT模式以增强智能体的推理和决策能力，开发稳定的自定义工具并构建具备容错能力的工具调用流程。通过生成结构化输出和构建研究型智能体等实践示例，你将理解智能体的本质并使用LangGraph实现第一个规划-求解智能体，这为掌握更高级的智能体架构奠定了基础。
第6章探讨面向Agentic[ 译者注：Agentic有多种译法，如“代理型”和“智能体型”等，为了准确转达本意，本书中采用原英文。] AI应用的架构模式。将探索多智能体架构及智能体之间实现通信的方式，最终实现能够反思并使用工具回答复杂问题的高级智能体。此外，本章还涵盖LangGraph流式处理、高级控制流、人机协同自适应系统以及思维树模式。你将理解LangChain与LangGraph中的记忆管理机制(包括缓存和存储)，从而构建能够解决复杂问题的系统——这正是生产级系统区别于单智能体的关键功能。
第7章讲解自然语言如何成为编程和数据分析的强大接口。你将实现基于LLM的代码生成、利用RAG代码进行检索、文档搜索等解决方案。这些示例演示了如何将LLM智能体集成至现有的开发与数据流中，印证了其本质是对传统编程技能的补充，而非替代。
第8章介绍在部署生产级LLM应用之前对其进行评估的方法。你将了解到系统级评估、以评估为导向设计，以及离线和在线评估方法。本章提供了使用精确匹配和“LLM即评判者”方法实现正确性评估的实践示例，并利用LangSmith等工具实现全面的测试和监测。这些技术可直接提升系统的可靠性并有助于证明LLM应用的商业价值。
第9章指导如何将LLM应用部署到生产环境，重点关注系统设计、扩展策略、监控以及确保高可用性。本章涉及日志记录、API设计、成本优化以及针对LLM的冗余策略。此外，你将学习MCP，并掌握如何实施可观测性实践，以应对部署生成式AI系统所面临的独特挑战。本章中的实用部署模式有助于避免致使LLM项目无法达到生产级要求的常见陷阱。
第10章展望生成式AI领域的发展新趋势、架构演化及伦理考量。将探讨新兴技术、市场前景、潜在社会影响并提供负责任开发指南。将深入理解该领域未来的演化方向，锚定自身技术能力与应用架构以应对未来变革，最终达成从LLM基础理论认知到构建部署生产级、面向未来的AI系统的能力跃迁。
如何充分利用本书
在深入阅读本书之前需做好以下准备工作，以最大限度地提升学习效率。本书注重实操与实践，完备的开发环境、工具链及思维模式将助你顺畅跟进各章内容，充分掌握技术精髓。现推荐如下配置。
环境配置：在主流操作系统(Windows、macOS或Linux)上配置Python 3.10+开发环境。本书中的所有代码示例都具有跨平台兼容性并已充分测试。
API接入(可选但推荐)：尽管本书采用的是可本地运行的开源模型，但接入OpenAI、Anthropic等商业提供商API将使你能调用更强大的模型。提供的很多示例同时支持本地运行和API调用方式，故建议读者根据自己的预算和性能需求灵活选择。
学习方式：推荐读者手动输入而非复制粘贴代码，这种动手实践的方式可以强化学习且有助于自主探索。各章节之间的内容循序渐进，建议读者按顺序阅读以奠定扎实的基础。
背景知识：本书会重点解释涉及的关键概念，建议读者具备一定的Python技能，但对ML或LLM方面的经验无要求。若读者已具备LLM基础，建议将重点放在实现模式和生产级系统方面，这也是本书的精华所在。
本书涉及的软件/硬件
Python 3.10+
LangChain 0.3.1+
LangGraph 0.2.10+
各类LLM提供商(Anthropic、谷歌、OpenAI、本地模型等)
第2章将详细说明环境配置的流程，并提供清晰讲解与逐步操作说明以帮助读者顺利入门。考虑到LangChain、LangGraph与相关生态系统发展迅速，跳过此部分可能会导致后续产生不必要的问题，故强烈建议读者按照本书指导完成相关设置。
示例代码与彩色图片下载
本书所有代码均托管在GitHub上，下载网址为https://github.com/benman1/ generative_ai_with_langchain。建议你手动输入代码或随章节进度使用该仓库。若代码有更新，将会同步更新到本仓库。另外，本书中使用的全彩截图及图表均附在一个PDF文件中，下载网址为https://packt.link/ gbp/9781837022014。
这些配套资源读者也可通过扫描右侧的二维码或本书封底的二维码进行下载。
附赠手册说明
为助力读者快速上手OpenClaw实操，将理论知识与实践操作深度结合，本书特别附赠《OpenClaw安装、配置和实践手册(大众版)》。本手册专为大众读者量身定制，内容贴合实际使用需求，用通俗的语言、清晰的步骤，梳理了OpenClaw从安装部署、环境配置到实际操作的完整流程，大幅降低了上手难度。本手册作为本书的配套实操指引，能辅助读者高效完成相关实操练习，切实提升动手能力。
扫描右侧二维码，即可下载本手册。
