为什么聊天机器人对同一个问题会给出不同的回答？
聊天机器人对同一问题给出不同答案，是因为它在生成每次回复时，都会从可能出现的下一个词中进行选择，而这个选择过程通常带有一定的随机性。它并不是在检索某个已存储的答案。
设想一家虚构的建筑设计事务所“费尔莱恩建筑”，有 30 名员工。一位合伙人要求办公室经理罗恩在事务所采用 AI 助手前解释三件事。罗恩的笔记写着：'两次问它有关获准开发的规定，得到两个不同答案'；'它引用了一个根本不存在的规划指导文件编号'；'图像工具画的新工作室草图很好看，但窗户没有对齐'。合伙人想知道工具是不是坏了。并没有。它的表现完全符合其设计方式。
生成式 AI 模型是如何训练的？
大语言模型首先通过海量文本训练，学习预测接下来的文本内容，然后通过进一步训练来学习遵循指令并给出有帮助的回答。Anthropic 的术语表将预训练描述为：在大规模未标注语料上，根据前文预测下一个词；之后再进行微调和基于人类反馈的强化学习，由人对示例回答进行排序，让模型学会优先给出更好的回答。
模型并不会保留每份文档的副本。它会调整内部数十亿个数值，直到预测结果符合数据中的规律。最终形成的更像是对语言和概念通常如何组合的细致把握，而不是一个可供搜索的资料库。
什么是词元，模型如何预测词元？
词元是模型读取和生成文本的基本小单位，通常是一个词或词的一部分。模型通过反复预测下一个可能的词元来生成文本。Google 的机器学习课程将语言模型描述为：估算某个词元或词元序列出现在更长序列中的概率，并指出大约 400 个词元相当于约 300 个英文单词。
每一步，模型都会为许多可能的下一个词元评分。随后，应用会选出一个词元：有时选择最可能的那个，但通常会从可能性较高的选项中抽样选择。一个称为“温度”的设置控制这种选择有多大胆：数值越高，措辞越多样；数值越低，措辞越可预测。Anthropic 指出，即使温度设为最低，结果也并非完全确定。这就回答了罗文的第一条备注。
AI 图像生成工具的工作原理是什么？
许多 AI 图像生成器使用一种称为扩散的方法：模型先学习去除图像中的噪声，然后在你的文字描述引导下，从随机噪声出发逐步细化，生成新图像。Hugging Face 的扩散课程这样描述训练过程：添加不同程度的噪声，并教模型修复图像；而生成过程则是逐步细化随机噪声，直到图像成形。
因为模型是在生成看似合理的像素，而不是遵照建筑师的图纸，所以窗户是否对齐、标牌上的文字或手指数量等细节都可能出错。这是罗文的第三条备注。
这对你使用这些工具的方式意味着什么？
这意味着，你应该向工具提供希望它据以处理的事实，而不是依赖它的记忆。较差的提示词：'房屋后侧扩建适用哪些许可开发规则？' 答案虽然流畅，但每次尝试的结果可能不同，还可能混用不同年份或国家的规则，甚至引用看似可信却虚构的文件。这也解释了罗文的第二条备注。
改进后的提示词：罗文粘贴了官方规划指南中的相关段落，并提问：'仅根据下方文本，用表格总结单层后部扩建的尺寸限制。如果文本没有涉及某项内容，就注明未涉及。'现在，模型只需复述和整理眼前的文本，这是它擅长的任务，而罗文也能逐行对照原文核查。
生成式 AI 有哪些局限？
生成式 AI 的主要局限包括：可能自信地陈述错误信息；除非接入搜索或文档，否则其知识存在截止时间；只能处理上下文窗口容纳得下的内容；以及可能反映训练数据中的偏见。这些都不是把话问得更客气就能修复的故障，而是模型工作方式带来的局限。
对照可信来源核实事实、数字、姓名和参考资料；只要准确性很重要，就向工具提供原始资料。
这节课在 Tosheo.ai 课程体系中属于哪一部分？
“生成式 AI 的工作原理”属于“AI 基础”类别，是 AI 入门学习的前期课程之一，也是生成式 AI 课程的第一课。在 Tosheo.ai 上，实操任务要求你先预测再测试：调整类似温度参数的设置或提供源文本后，工具的表现会如何变化。评分标准对应的反馈会检查你的解释能否让同事理解。
来源与范围
Google 开发者资源，机器学习速成课程，大语言模型与词元简介（核查于 19 October 2026） ↗
Anthropic Claude 文档，术语表：预训练、基于人类反馈的强化学习、温度参数和词元（核查日期：19 October 2026） ↗