前言
撰写本书的原因
撰写这本大模型产品设计书,原本不在我的计划之内。我的挚友兼同事“飞哥”,一直有心整理行业经验成书,却因事务繁杂难以抽身,始终没能启动。经我们一番沟通,由我来完成书稿撰写。同时,我也借此机会,将我们这两年一线实操积累的思考与经验完整梳理记录。
对我而言,写书既是回应挚友的托付,也是给自己这段大模型产品从业经历的一份总结。故而书中所有内容均源自真实项目复盘,将所思所感悉数坦诚写出,以此不负所托。
撰写本书的目标
本书的内容是从产品设计的视角解读如何落地大模型应用。在我看来,褪去外界赋予的“神秘光环”,大模型只是自然语言理解与生成的工具。我写这本书的目标,便是希望将这种能看透大模型产品设计的视角分享给你。
在智谱的两年多时间里,“飞哥”和我都参与过数不清的项目,书名中的“实践”一词,就来源于大模型落地一线经历的真实沉淀。尽管在模型能力日新月异的今天,书中某些技术方案可能已成“常态”,但产品设计的底层骨架未因模型变强而消失;相反,模型能力的增强会直接带动用户需求的快速扩张,产品设计者需要应对的挑战反而更多。希望你除了能从书中学到大模型产品设计思路外,还能认识到如何用概率逻辑和实验思维来对抗模型生成的不确定性,在技术迭代速度飞快的今天,我觉得这才是本书能带给读者最有价值的内容。
本书以“酒吧”主题展开,并非单纯追求趣味性,更重要的原因是,产品落地离不开具体场景的承载。而酒吧场景的点餐需求与社区属性,可以与大模型产品的应用场景融合起来,帮助读者更直观地理解设计逻辑。在撰写本书的过程中,我发现几乎每一个指令、每一个方案设计,都能让我回想起以前做过的相关项目,那些产品设计就像“影子”一样,始终投射在这些示例背后。
本书适合这样的你
(1)入门学习者:若你能编写基础Prompt,却对大模型的产研流程、应用场景落地路径不够清晰,本书将从最简单的指令书写入手,逐步覆盖模型微调与完整 Agent 的设计流程,清晰呈现大模型在实际生产场景中的全流程落地路径,帮你快速洞悉行业全貌。
(2)跨界从业者:若你身处互联网或其他非 AI 领域,对大模型抱有兴趣并计划转型,本书可以是你认识大模型产品的一个重要途径。书中不涉及晦涩的代码,却会使用示例深入拆解大模型相关的设计细节、产品设计思路与模型评测方法。即便读完后,你发现自己与大模型产业不适配,也能帮你规避盲目转型的风险。
(3)在岗设计者:若你已在负责大模型产品设计工作,本书中的策略与技巧均经过实战验证与反复打磨,书中的重要策略我会根据实践经验进行评分,“好评”策略可作为方案决策的落地参考,“差评”策略会补充踩坑原因与可落地的规避方案,希望能帮你在实际工作中少走弯路。
(4)行业爱好者:若你只是单纯想了解大模型应用的实现逻辑,无须深究书中的具体策略细节。只需翻阅书中的概念解读、场景示例与配套图例,便能对大模型产品设计建立起全面且直观的初步认知。
这些朋友或许不适合本书
(1)若你是希望借助大模型优化日常工作生活效率的“消费者”,本书适配度较低,本书聚焦工程与工业场景的大模型产品落地,虽底层设计逻辑(如场景拆解、指令优化)可部分迁移至日常使用,但未针对日常场景做专项拆解。
(2)若你此前从未接触过软件工程,也缺乏基础的大模型使用经验(比如不了解接口、Prompt 这种常识类概念),本书可能会让你感到吃力甚至枯燥,本书的读者默认具备一定的技术认识,以便更好地理解其中核心内容。
(3)若你已是身经百战的资深大模型产品经理或算法工程师,本书所提供的方法与信息密度对你而言可能略显单薄。但如果你在酒吧小酌、闲暇无事时,不妨将本书当作茶余饭后的消遣读物,或许能从书中的场景案例中发现一些可探讨的设计逻辑与优化空间。
本书的使用方法
第1章和第2章:主要是概念解读,以及对大模型产品设计、大模型产品经理起源的追溯与讨论,如果你对历史概念不感兴趣,可以直接跳过。即使你跳过这些宏观概念,也不影响对后续具体产品设计章节的阅读和理解。
第3~5章:指令工程部分,这是最基础的部分,其中第3章的指令示例、第4章的评测示例、第5章的产品架构设计示例,采用了“第3章指令→第4章评测方法→第5章方案设计”相对应的方式书写,因此阅读时,你可以“横着看”这些示例。
第6~8章:介绍知识库、工具调用与大模型微调技术,这3章会分别讲解这些主流技术的基本工作原理。其中包含一些优化策略,你可以将这些策略视作字典,在需要的时候阅读。
第9章:完整对话机器人产品的设计流程,我会将前文中提及的指令、技术、设计思路完整复用到本章内容中,像拼积木一样拼出一个完整的对话机器人,尝试为你复现完整的 Agent 如何搭建。
第10章:AI编程部分,在大模型的辅助下,产品经理自主编程已不再困难重重,甚至逐渐成为一项必备技能,如果你不会编程,希望看完后,大模型辅助编程能给你带来信心。
虚构声明
本书中出现的全部人物、商号、机构、地名均为艺术虚构。如有与现实个人、企业、机构名称雷同,纯属偶然,并非指向任何现实主体。
写在最后
(1)关于AI与时代:AI的崛起确实冲击了传统生产关系,带来了转型的阵痛,但我始终相信,AI不会长期加剧失业,反而会推动生产力迭代升级,创造更多适配时代的新岗位。跟上时代变迁的节奏,主动拥抱变化,才是个体应对不确定性的底气。
(2)关于大模型学习:大模型的入门学习其实并不难。我自己的语言能力比较差,从小朗读课文不够流畅,英语基础也非常薄弱(直到大学甚至无法识别基础数字词汇),但这并未阻碍我学习 NLP 与大模型的浅层应用,甚至还参与过百万流量级的翻译场景落地。事实上,大部分人在这方面都比我更有潜力。
(3)关于工作:如果你已经投入大模型应用的研发过程中,或未来将要投入进来,那么每天与海量文本数据打交道将成为常态。若你觉得这个过程枯燥乏味,不必气馁,因为这是大模型产研的常态,正是有你的人工,才给用户带来了智能。
(4)关于你:AI 并非无所不能,AI 的发展离不开人类的参与与引导,因为有你的参与,AI 才有无所不能的可能。愿你在大模型的世界里,能找到自身的独特价值。
著 者
2026年7月
