消息管理与多轮对话

使用 Chat Completions 传递历史消息,实现连续追问并理解上下文的管理方式。

🎯 引言

上一节,我们已经能够控制模型生成的内容。但在实际聊天中,用户往往不会每次都把问题说完整。例如,先让模型介绍 TypeScript,再追问“再说得通俗一点”。如果第 2 次请求只有这句话,模型就缺少了判断“要把什么说得通俗一点”的依据。

本篇继续使用 AIHubMix + OpenAI SDK,学习如何通过 messages 传递历史消息,并用两次真实模型调用实现连续对话。最后再看看历史消息越来越长时,需要注意什么。


🧱 为什么多轮对话需要历史消息

Chat Completions 根据 当前请求携带的消息 生成回答。模型不会因为之前调用过一次,就自动知道你的程序上一次发送了什么。

假设用户依次发送两句话:

用户:用一句话介绍 TypeScript。

模型:TypeScript 是在 JavaScript 基础上增加类型系统的编程语言。

用户:再说得通俗一点。

第二句本身没有提到 TypeScript。要让模型知道追问的对象,第 2 次请求就需要把前面的问答一起发过去。

第 2 次请求包含什么模型能获得的上下文
只有“再说得通俗一点”不知道具体要改写哪段内容,只能猜测或要求补充信息
第 1 次提问 + 第 1 次回答 + 第 2 次追问能结合前面介绍 TypeScript 的内容继续回答

这里的区别不是模型“有没有记忆能力”,而是 你的应用有没有把当前问题所需的上下文传给模型。

历史消息应该怎样组织?

《文本生成与模型参数》已经用过 system 和 user。多轮对话新增的关键角色是 assistant,它用于表示模型之前说过的话。

const messages = [
    { role: "system", content: "请使用简洁、准确的中文回答技术问题。" },
    { role: "user", content: "用一句话介绍 TypeScript。" },
    { role: "assistant", content: "TypeScript 是在 JavaScript 基础上增加类型系统的编程语言。" },
    { role: "user", content: "再说得通俗一点。" }
];

这组消息表示:程序先给出回答要求,用户提出第一个问题,模型作出回答,用户继续追问。消息按对话发生的顺序排列,模型才能正确区分当前问题与之前的交流内容。

上面的 assistant 文本是为了展示消息结构而写出的示例。实际开发中,应该把第 1 次请求真正返回的模型回答追加到 messages,而不是预先写死回答。


🛠 完成两次真实模型调用

继续使用前两篇创建的 ai-sdk-course 项目。环境仍然是 Node.js 24.x、openai@7.62.0,并沿用 .env 中的 AI_API_KEY、AI_BASE_URL 和 AI_MODEL,不需要重新安装依赖。

在项目根目录创建 03.conversation.mjs:

import OpenAI from "openai";

const client = new OpenAI({
    apiKey: process.env.AI_API_KEY,
    baseURL: process.env.AI_BASE_URL
});

const messages = [
    {
        role: "system",
        content: "请使用简洁、准确的中文回答技术问题。"
    },
    {
        role: "user",
        content: "用一句话介绍 TypeScript。"
    }
];

// 第 1 轮:发送问题,保存模型的真实回答
const first = await client.chat.completions.create({
    model: process.env.AI_MODEL,
    messages
});

const firstChoice = first.choices[0];
const firstAnswer = firstChoice?.message?.content;

if (firstChoice?.finish_reason !== "stop" || !firstAnswer?.trim()) {
    throw new Error(`第 1 轮回答无效(结束原因:${firstChoice?.finish_reason ?? "unknown"})`);
}

messages.push({ role: "assistant", content: firstAnswer });
console.log("第 1 轮回答:", firstAnswer);

// 第 2 轮:加入追问,并携带前面全部消息
messages.push({ role: "user", content: "再说得通俗一点。" });

const second = await client.chat.completions.create({
    model: process.env.AI_MODEL,
    messages
});

const secondChoice = second.choices[0];
const secondAnswer = secondChoice?.message?.content;

if (secondChoice?.finish_reason !== "stop" || !secondAnswer?.trim()) {
    throw new Error(`第 2 轮回答无效(结束原因:${secondChoice?.finish_reason ?? "unknown"})`);
}

messages.push({ role: "assistant", content: secondAnswer });
console.log("第 2 轮回答:", secondAnswer);

在项目根目录执行:

node --env-file=.env 03.conversation.mjs

如果你的网络需要通过本地 HTTP 代理访问 AIHubMix,继续使用《AI SDK 简介与环境搭建》验证过的方式:

HTTPS_PROXY=http://127.0.0.1:7890 NODE_USE_ENV_PROXY=1 node --env-file=.env 03.conversation.mjs

终端可能输出:

第 1 轮回答: TypeScript 是在 JavaScript 基础上增加类型系统的编程语言。
第 2 轮回答: 可以把 TypeScript 理解为带有类型检查的 JavaScript,让你在写代码时更早发现一些错误。

以上是 示意输出,实际文字以模型返回为准。重点不在于模型用了哪一种表述,而在于第 2 轮能够围绕 TypeScript 继续解释。

两次请求分别发送了哪些消息?

虽然代码调用了两次 chat.completions.create(),但它们发送的 messages 不一样:

请求messages 中的内容
第 1 轮system 回答要求 → user 第 1 次提问
第 2 轮system 回答要求 → user 第 1 次提问 → assistant 第 1 次回答 → user 第 2 次追问

关键是完整代码中两次追加消息的顺序:第 1 轮返回后,先将真实回答 firstAnswer 作为 assistant 消息加入历史;发起第 2 轮请求前,再加入新的 user 追问。

这两个步骤缺一不可。如果只加入第 2 次提问,模型仍然不知道之前聊过什么;如果只保留第 1 次提问而丢掉第 1 次回答,模型也无法准确知道自己上一轮具体给出了什么解释。

第 2 轮完成后,代码又把 secondAnswer 加入了 messages。因此,接下来如果继续进行第 3 轮对话,这个数组已经包含了前 2 轮完整的问答。

这里的 messages 只保存在当前 Node.js 程序运行期间。下一次模型调用要继续使用历史,就需要再次传入它们;如果要在服务重启、刷新页面后恢复聊天,《对话历史持久化》再介绍数据库持久化。


⚖️ 历史消息会不断增长

上面的示例只有2 轮对话,历史还很短。如果每次都带上全部消息,后面的请求会越来越大。

当前轮次本轮请求需要携带的内容
第 1 轮第 1 次用户提问
第 2 轮第 1 轮问答 + 第 2 次提问
第 3 轮前 2 轮问答 + 第 3 次提问
第 10 轮前 9 轮问答 + 第 10 次提问

表格省略了一直存在的 system 消息。历史越长,输入 Token 通常越多,可能增加调用费用,也可能逐渐接近模型的上下文窗口限制。

只保留最近几轮,可以吗?

可以,但需要结合业务决定。最简单的做法是 保留通用要求,再选取最近几轮完整问答。

例如,假设 messages 的第一条是 system,后面都是按 user、assistant 顺序排列的 完整问答,末尾没有尚未得到回复的 user 消息:

const recentMessages = [
    messages[0],
    ...messages.slice(1).slice(-6)
];

这样最多保留最近 3 轮完整问答(6 条消息),作为下一次请求的历史基础,再追加新的 user 消息。如果历史末尾已经存在一条待回复的 user 消息,这种截取方式就不能保证留下的是 3 轮完整问答,需要先区分已完成的历史和当前问题。

不过,最近的消息不一定包含最重要的信息。例如,用户在第 1 轮要求“后续都使用 TypeScript 示例”,如果简单裁掉前面的内容,模型可能不再知道这项要求。实际项目通常需要区分长期有效的要求与普通历史对话,而不是机械地删除最早的消息。

本篇先掌握手动维护消息历史的基本方式;复杂的长期记忆、摘要压缩和 Agent 记忆策略留到后续课程。


❓ 知识问答

Q1:为什么第 2 轮请求还要携带第 1 次的模型回答,只携带第 1 次问题不行吗?

因为追问可能直接针对模型上一轮的具体措辞或内容。例如“把刚才第二点展开讲讲”,如果缺少上一轮回答,即使保留了最初的问题,模型也不一定能准确定位“第二点”。

Q2:历史消息和数据库中的聊天记录是同一回事吗?

不是。历史消息是 本次请求提供给模型的上下文,可以只包含部分对话;数据库聊天记录是应用为了展示、查询和恢复会话而保存的数据。两者可能有交集,但用途不同。


🧪 小练习

沿用 03.conversation.mjs 完成以下练习:

  1. 把第 1 轮问题改成“用一句话解释 Vue 3 的响应式系统”,第 2 轮改成“用一个表单输入的场景再解释一遍”,观察第 2 轮是否围绕响应式系统继续回答。
  2. 暂时让第 2 次请求只发送一条 user 消息,不携带第 1 轮问答。比较两种情况下模型的回答,并说明造成差异的原因。模型偶尔猜中主题也不代表它获得了历史上下文。
  3. 恢复完整历史,确认2 轮结束后 messages 中按顺序包含 1 条 system + 2 条 user + 2 条 assistant 消息。

验证标准: 能独立完成两次模型调用,知道何时追加 user 和 assistant 消息,并能说明为什么连续追问依赖历史上下文。


🎉 你已经实现了真正的多轮对话,并理解了历史消息如何传递。下一篇继续学习流式输出,让模型生成的内容逐步显示出来。