文章目录一、大模型为什么会随机说话1.1 从幻觉问题说起1.2 概率分布LLM 的底层运作机制二、控制随机性的两大关键参数2.1 Temperature控制创造力的温度旋钮原理用人话讲一张图帮你理解场景选择建议2.2 Top-K划定候选池的筛选器原理Top-K 的作用2.3 Temperature Top-K 的协同配合核心重点黄金组合矩阵⭐ 黄金法则务必记住三、LangChain把 AI 工作流链起来3.1 什么是 LangChain为什么需要 LangChain3.2 核心模块速览langchain/core四、实战构建一个可控随机性的 AI 写作工作流4.1 项目初始化4.2 完整代码与逐行解析4.3 代码设计思路关键理解4.4 运行结果对比五、全文总结六、核心知识点复盘七、常见问题 / 避坑指南一、大模型为什么会随机说话1.1 从幻觉问题说起如果你用过 ChatGPT、DeepSeek 这类大模型一定遇到过这种情况同一个问题问两遍得到的答案居然不一样。有时候它答得头头是道有时候却一本正经地胡说八道——这就是我们常说的幻觉Hallucination。这不是 Bug而是大语言模型LLM的设计特性。LLM 本质上是一个下一个词预测器Next Token Prediction它每次输出的不是一个确定的词而是一张概率分布表。理解这一点是控制 AI 行为的第一步。1.2 概率分布LLM 的底层运作机制大模型在生成每个词时内部会计算出一个概率分布Probability Distribution——即接下来最可能出现的词是哪些各自的概率是多少。举个例子当模型看到上文“你好”之后它内部可能计算出这样一张表候选词概率得分吗0.60啊0.15呀0.10美0.05坏0.01……关键认知模型不是知道下一个词该是什么而是猜测下一个词可能是什么。这个猜测的过程就是从一个概率分布中采样Sampling。如果没有人为干预模型默认会倾向于选概率最高的词这里是吗但并不总是选它。这正是 AI 输出不可控的根源——对于开发者来说我们需要理解并控制这个采样过程,让 AI 在靠谱和有创意之间取得平衡。二、控制随机性的两大关键参数2.1 Temperature控制创造力的温度旋钮Temperature温度是控制采样随机性最核心的参数取值范围通常是0 ~ 1部分模型支持 1但很少用到。原理用人话讲在采样之前模型会把概率分布中的每个得分都除以 Temperature调整后得分 原始得分 / TemperatureTemperature 0.2低温原始得分 0.6 ÷ 0.2 3.0得分被放大高低分之间的差距被急剧拉大。概率最高的词“吗”几乎必然被选中输出稳定、保守、可预测。Temperature 0.8高温原始得分 0.6 ÷ 0.8 0.75得分间的差距被缩小。原本概率很低的词“坏”0.01 ÷ 0.8 0.0125和高概率词的差距变小了被选中的机会大大增加输出多样、发散、有创意。一张图帮你理解原始概率分布: 吗 ████████████ 0.60 | 啊 ███ 0.15 | 呀 ██ 0.10 | 美 █ 0.05 | 坏 ▏0.01 Temperature0.2低温: 吗 ████████████████████████████ → 几乎必选 其他词几乎无机会 Temperature0.8高温: 吗 ██████████ | 啊 █████ | 呀 ████ | 美 ██ | 坏 █ → 各词都有机会被选中结果更随机场景选择建议Temperature 值特点适用场景0.0 ~ 0.3高度确定性输出几乎不变代码生成、法律文书、合同审查、数学推理0.4 ~ 0.6平衡型有一定灵活性通用对话、翻译、摘要0.7 ~ 1.0高随机性创意丰富文学创作、广告文案、头脑风暴、AI 漫剧脚本⚠️常见误区Temperature 不是越高越好也不是越低越好。生成代码时用高 Temperature 会让代码放飞自我满屏 Bug写诗时用低 Temperature 会让文字像机器人一样干巴巴。2.2 Top-K划定候选池的筛选器如果说 Temperature 控制的是随机程度那Top-K控制的就是选择范围。原理Top-K 的做法非常直接把概率分布按得分从高到低排序只保留前 K 个词其余全部丢弃然后在这 K 个词里重新归一化概率再采样。还是用上面的例子原始分布排序后: 吗 0.60 啊 0.15 呀 0.10 美 0.05 坏 0.01 ... Top-K3: 只保留 [吗, 啊, 呀]其余词概率归零 → 吗 0.60/(0.600.150.10) ≈ 0.71 → 啊 0.15/(0.600.150.10) ≈ 0.18 → 呀 0.10/(0.600.150.10) ≈ 0.12 → 美、坏 等被直接排除不可能被选中Top-K 的作用K 较小如 2~4只保留最靠谱的几个候选词过滤掉跑偏的低概率词保证输出质量的下限。K 较大如 8~20给更多候选词机会保留更多可能性和多样性。默认值通常是 8这是一个经过大量实践验证的平衡点。2.3 Temperature Top-K 的协同配合核心重点这是整个随机性控制中最关键的知识点。两个参数并不是独立工作的——它们配合使用分两步操作Step 1Top-K 过滤: 从概率分布中筛选出前 K 个高分词丢掉低分噪音 ↓ Step 2Temperature 缩放: 对这 K 个词的得分做温度调节控制随机性 ↓ 最终采样 → 输出一个词这个两步流程可以用一句话概括Top-K 划定靠谱的范围Temperature 决定在靠谱范围内有多大胆。黄金组合矩阵场景TemperatureTop-K为什么这样配‍⚖️ 代码 / 法律 / 合同0.2低8大低温保证精准大 Top-K 保证不漏掉正确的候选词✍️ 创意写作 / 文案0.8高3~4小高温激发创意小 Top-K 防止发散到完全不靠谱的词 通用对话0.5中8默认平衡准确性和自然度 AI 漫剧 / 多模态创作0.8~1.0高3~5小需要创意但也要保证内容可用⭐ 黄金法则务必记住Temperature 和 Top-K 不可能都太大也都不需要都很小。Temperature 小 Top-K 大 精准且全面严谨场景Temperature 大 Top-K 小 靠谱的创造性创作场景Temperature 大 Top-K 大 输出乱码风险极高❌Temperature 小 Top-K 小 输出死板毫无变化❌三、LangChain把 AI 工作流链起来3.1 什么是 LangChainLangChain Lang(uage) Chain链。它的核心思想很简单AI 应用不是调一次 API 就完事的它往往是一个多步骤的工作流Workflow——接收输入 → 套用提示词模板 → 调用 LLM → 解析输出 → 执行下一步操作。LangChain 做的事情就是让这个工作流中的每一步都可复用、可组合、可维护。为什么需要 LangChain在没有 LangChain 之前你可能这样写// 硬编码方式提示词写死在代码里模型参数散落各处constprompt请写一篇短篇散文主题秋日山野晚风风格温柔治愈...;constresponseawaitfetch(https://api.deepseek.com/v1/chat/completions,{body:JSON.stringify({model:deepseek-v4-pro,temperature:0.8,messages:[{role:user,content:prompt}],}),});// 每换一个主题就要改代码每换一个业务场景就要重新写一遍...有了 LangChain 之后Prompt 是独立的模板模型是可配置的实例整个流程是搭积木式的。对于需要频繁迭代的 AI Agent 应用来说这种工程化能力至关重要。3.2 核心模块速览langchain/core模块作用一句话理解Prompts提示词模板把变化的部分用户输入和不变的部分系统指令分离方便复用Messages对话消息列表管理多轮对话的上下文HumanMessage / AIMessage / SystemMessageOutput Parsers输出解析器把 LLM 的原始输出自动解析成你需要的格式纯文本 / JSON / 结构化数据Tools工具定义让 LLM 能调用外部函数查数据库、调 API、读文件这是 Agent 的基础在本文的实战中我们重点使用Prompts和Output Parsers两个模块。四、实战构建一个可控随机性的 AI 写作工作流4.1 项目初始化# 创建项目目录mkdirtemperature-democdtemperature-demo# 初始化项目npminit-y# 安装依赖npminstalllangchain/openai langchain/core dotenv# 创建环境变量文件echoDEEPSEEK_API_KEY你的API密钥.env4.2 完整代码与逐行解析创建文件main.mjs完整代码如下// // 第 1 步导入依赖// importdotenv/config// 自动读取 .env 中的环境变量import{ChatOpenAI}fromlangchain/openai// LangChain 封装的 OpenAI 兼容 LLMimport{StringOutputParser}fromlangchain/core/output_parsers// 把 LLM 输出解析成纯文本import{PromptTemplate}fromlangchain/core/prompts// 提示词模板让 prompt 可复用// // 第 2 步配置两个不同性格的 LLM 实例// // 创意型模型高 Temperature 小 Top-K// 思路用高温激发发散性用小 Top-K 框住下限防止太放飞constcreativeModelnewChatOpenAI({model:deepseek-v4-pro,temperature:0.8,// 高温 → 随机性大适合创意发散topK:4,// 小 Top-K → 只从概率前 4 的词里采样过滤掉低分噪音词maxToken:600,// 限制最大输出长度apiKey:process.env.DEEPSEEK_API_KEY,configuration:{baseURL:https://api.deepseek.com/v1,}})// ‍⚖️ 严谨型模型低 Temperature 大 Top-K// 思路用低温保证确定性用大 Top-K 保证不遗漏正确的候选词constpreciseModelnewChatOpenAI({model:deepseek-v4-pro,temperature:0.2,// 低温 → 近乎确定性输出每次结果几乎一样topK:8,// 大 Top-K → 保留更多候选确保信息完整不丢失maxToken:600,apiKey:process.env.DEEPSEEK_API_KEY,configuration:{baseURL:https://api.deepseek.com/v1,}})// // 第 3 步创建可复用的提示词模板// // PromptTemplate 把变化的输入{theme}和固定的指令分离// 不同用户、不同主题只需替换 {theme} 变量模板本身不用改conststoryPromptPromptTemplate.fromTemplate(请写一篇短篇散文主题{theme} 风格温柔治愈篇幅200字左右不要分段文字细腻有画面感。)// // 第 4 步创建输出解析器// // StringOutputParser 自动从 LLM 返回的复杂对象中提取纯文本内容// 避免手动写 response.choices[0].message.content 这种繁琐代码constoutputParsernewStringOutputParser()// // 第 5 步用 pipe() 组装 AI 工作流Chain// // pipe() 是 LangChain 的核心方法类似工厂流水线// PromptTemplate → LLM → OutputParser数据依次流过每个环节// 创意写作流水线constcreativeChainstoryPrompt.pipe(creativeModel)// 把填好变量的 prompt 送入创意型 LLM.pipe(outputParser)// LLM 原始输出 → 纯文本字符串// 严谨写实流水线流程一模一样只是 LLM 配置不同constpreciseChainstoryPrompt.pipe(preciseModel)// 把填好变量的 prompt 送入严谨型 LLM.pipe(outputParser)// // 第 6 步执行工作流对比输出// asyncfunctionrunWriteDemo(){consttheme秋日山野晚风console.log( 创意写作模式 )console.log(参数: temperature0.8, topK4)console.log(---)constcreativeTextawaitcreativeChain.invoke({theme})console.log(creativeText)console.log()console.log( ‍⚖️ 严谨写实模式 )console.log(参数: temperature0.2, topK8)console.log(---)constpreciseTextawaitpreciseChain.invoke({theme})console.log(preciseText)}// 启动runWriteDemo().catch(errconsole.error(运行出错:,err))4.3 代码设计思路关键理解整段代码的设计体现了一个核心思想“同一套 AI 业务逻辑通过调整参数适配不同场景”。┌─────────────────┐ │ PromptTemplate │ ← 同一套提示词{theme} 是唯一变量 └───────┬─────────┘ │ ┌───────────────┴───────────────┐ ↓ ↓ ┌────────────────┐ ┌────────────────┐ │ creativeModel │ │ preciseModel │ │ temp0.8,k4 │ │ temp0.2,k8 │ └───────┬────────┘ └───────┬────────┘ ↓ ↓ ┌────────────────┐ ┌────────────────┐ │ OutputParser │ │ OutputParser │ └───────┬────────┘ └───────┬────────┘ ↓ ↓ 创意散文 写实散文 这就是 LangChain 被称为 “Chain” 的原因——它让你像搭积木一样把 Prompt 模板、LLM 实例、输出解析器用pipe()串联起来形成一条端到端的 AI 工作流水线。4.4 运行结果对比运行node main.mjs你会看到两份同样主题但风格完全不同的散文创意模式temp0.8, topK4的输出每次都不一样用词更大胆、比喻更意外读起来像不同的人写的。严谨模式temp0.2, topK8的输出每次几乎一样用词平稳、结构工整但缺少惊喜感。这就是 Temperature Top-K 在真实场景中的威力——同样的 Prompt不同的参数产出完全不同风格的文本。五、全文总结本文从大模型为什么会随机说话这个日常问题出发深入讲解了背后的核心机制LLM 的本质是概率预测不是确定性计算。它输出的每个词都是从概率分布中采样得来的这是随机性的根源。Temperature通过缩放概率分布来控制随机性的大小——低温让模型保守高温让模型大胆。Top-K通过截断候选词范围来保证质量下限——只从得分最高的 K 个词里选过滤噪音。两者配合使用先在 Top-K 阶段过滤不合格词再在 Temperature 阶段调节随机程度实现靠谱的创意或全面的精准。LangChain用 Chain链的思想将这些参数和模块工程化让 AI 工作流可组装、可复用、可维护。六、核心知识点复盘序号知识点一句话总结1LLM 输出机制基于概率分布的采样而非确定性选择2Temperature 原理原始得分 ÷ Temperature低温拉大差距、高温缩小差距3Temperature 取值0~0.3 严谨场景0.7~1.0 创意场景4Top-K 原理只保留概率最高的 K 个候选词其余丢弃后重新归一化5Top-K 默认值通常为 8是一个经过验证的通用平衡点6黄金组合严谨Temperature 小0.2 Top-K 大8→ 精准全面7黄金组合创意Temperature 大0.8 Top-K 小3~4→ 靠谱的创意8LangChain 核心PromptTemplate → pipe(LLM) → pipe(OutputParser) 的链式工作流9PromptTemplate分离固定指令和动态输入提升复用性10StringOutputParser自动从 LLM 返回对象中提取纯文本简化代码七、常见问题 / 避坑指南❓ 问题 1Temperature 和 Top-K 到底先执行哪个答在大多数 LLM 实现中先 Top-K 过滤再 Temperature 缩放。流程是原始概率分布 → [Top-K 筛选] → 保留 K 个候选词 → [Temperature 调节] → 采样输出先框定范围再调随机性——这样能保证即使 Temperature 很高也只在靠谱候选池里浪不会彻底跑偏。❓ 问题 2Temperature 设为 0 会怎样答Temperature 0 意味着模型总是选概率最高的那个词贪婪解码 / Greedy Decoding。每次同样的输入必然得到完全一样的输出。这在代码生成等场景是好事但在对话中会显得非常死板。❓ 问题 3为什么我的模型明明设了低 Temperature输出还是不稳定答检查三点Top-K 是否被忽略了有些 API 的 Top-K 需要显式设置是否还有其他随机性参数比如 Top-PNucleus Sampling可能同时生效服务端是否有默认覆盖部分云服务会在后端强制调整参数。❓ 问题 4为什么不直接用 Temperature0贪婪解码而要费劲调参答因为真实世界的语言不是唯一解。同一个问题可以有不同的好答案——“今天天气真好后面接适合出去玩和阳光很温暖都是对的。贪婪解码会抹杀掉这种多样性让 AI 变成一个复读机”。❓ 问题 5Top-K 和 Top-P 有什么区别该用哪个答Top-K固定保留 K 个词简单粗暴但 K 值不好调太小可能漏掉好词太大可能包含噪音。Top-PNucleus Sampling/核采样动态保留词直到累计概率达到 P如 0.9。比 Top-K 更灵活——概率分布集中时只选很少的词分散时选更多词。一般来说入门阶段先理解并调好 Temperature Top-K 就够用了。Top-P 可以后续深入学习。❓ 问题 6LangChain 封装了一层和直接调 API 比有什么优劣答对比维度直接调 API使用 LangChain上手难度简单直接有学习成本代码量少简单场景少复杂场景可维护性差prompt 和逻辑耦合好模块化模板复用扩展性差换模型要大量改代码好换模型只需改一个配置适用场景简单的一次性调用Agent、多步推理、RAG 等复杂工作流一句话建议写 Demo 验证想法时可以裸调 API但做正式项目建议用 LangChain 或同类框架工程化带来的收益远大于学习成本。延伸思考控制随机性不只是调参——在实际项目中你还需要考虑 Prompt 设计指令越明确、随机性影响越小、输出校验用正则/JSON Schema 检查 LLM 输出是否符合预期、以及多轮对话中的上下文管理。Temperature 和 Top-K 只是整个 AI 工程化链条中的一环但它们是最基础、最直接影响输出质量的一环。本文基于 DeepSeek API LangChain 实战编写代码完整可运行。欢迎交流与指正。