菜园前端
  • 前端课程56
  • 藏宝阁81个
  • 菜园
  • CHANGELOG
    • 大语言模型简介
    • 大语言模型的工作原理
    • Token 与上下文窗口
    • 模型类型与参数
    • Embedding 与语义表示
    • 提示词工程简介
    • 角色设定与指令设计
    • Few-shot 与示例引导
    • 结构化输出与复杂任务提示
    • 上下文工程基础
    • 提示词测试与优化
    • 提示词综合实践

Token 与上下文窗口

理解 Token、上下文窗口及其对回答质量和使用成本的影响。

🎯 引言


🧱 Token 是什么,为什么不直接按字数计算


🧱 文本如何被拆分成 Token


🧱 输入 Token 与输出 Token


🧱 上下文窗口是什么


🧱 上下文长度对模型回答的影响


🧱 Token 消耗与使用成本的关系


❓ 知识问答


🧪 小练习

大语言模型的工作原理

理解训练、推理、注意力机制与 Token 预测的基本思想,以及模型产生幻觉的原因。

模型类型与参数

认识常见模型类型与生成参数,理解如何根据任务选择模型。

On this page

  • 🎯 引言
  • 🧱 Token 是什么,为什么不直接按字数计算
  • 🧱 文本如何被拆分成 Token
  • 🧱 输入 Token 与输出 Token
  • 🧱 上下文窗口是什么
  • 🧱 上下文长度对模型回答的影响
  • 🧱 Token 消耗与使用成本的关系
  • ❓ 知识问答
  • 🧪 小练习