为什么生成式 AI 工具需要专门的使用规定？
生成式工具会生成新的文本、图像、音频或代码，而不只是检索或整理现有信息，因此主要风险从输入转向了输出。搜索工具返回的是可供查验的网页；生成式工具返回的则是一份语气笃定的草稿，其中可能包含编造的事实、借用的措辞或带有偏见的表述。政策必须同时涵盖输入和输出。
NIST生成式AI风险概况列出了十二种生成式AI特有或加剧的风险。对普通小企业而言，政策中重点处理其中五种即可覆盖主要问题：幻觉（以肯定语气陈述的错误内容）、数据隐私（泄露或未经授权的披露）、知识产权（复制受保护内容或暴露商业秘密）、信息完整性（内容不区分事实与观点，或不说明不确定性），以及NIST所称的人与AI配置，其中包括自动化偏见和过度依赖。
你可以把这些规则和可接受使用规则放在同一份文件中。许多小公司都是这样做的。本页重点介绍与内容有关的条款，仅提供一般信息，不构成法律建议。
| NIST概况中的风险 | 在工作中的实际应用 | 针对该问题的政策规定 |
|---|---|---|
| 编造 | 编造的统计数据，或引用了并未包含相关说法的网页 | 使用前，打开来源，逐一核实每项事实性说法 |
| 数据隐私 | 粘贴客户联系人名单，用于起草邮件合并内容 | 与获批账户对应的信息类别 |
| 知识产权 | 模仿风格鲜明、可辨识的艺术家生成的图像，或从受许可证约束的项目中复制的代码 | 关于风格提示词、重复使用和许可核查的规则 |
| 信息完整性 | 将猜测当作事实的摘要 | 要求在审阅后的草稿中保留不确定性说明 |
| 过度依赖 | 不查看数据就接受 AI 生成的分析 | 明确哪些决策必须由人来做 |
面向员工的 ChatGPT 使用政策应写明什么？
面向员工的 ChatGPT 使用政策应说明使用哪个账户、哪些内容绝不能输入提示词、如何核查答案，以及有疑问时向谁咨询。同样的规则也应适用于 Claude、Gemini、Copilot 及类似助手。为便于理解，可以在标题中点名某款产品，但规则应写得足够通用，让团队新增工具时无需重写。
最重要的区别在于个人账户和公司账户。同一助手的个人版与企业版，在模型训练、数据保留和管理员控制方面可能有不同条款。例如，Microsoft 的文档指出，组织使用的 Copilot Chat 受其数据保护附录约束，提示词和回复不会用于训练基础模型，而具体控制功能因套餐而异。对于每款获批工具，都应记录相应声明及核查日期，不要想当然。
条款示例："仅通过您的[公司]企业账号使用[助手]。不得使用个人账号处理公司工作，即使只是快速提问，因为个人账号不在我们与服务商签订的协议覆盖范围内。"
员工绝不能在生成式 AI 提示词中输入哪些内容？
员工绝不能在提示词中输入密码、密钥或其他机密凭据，只有在获批流程允许的情况下，才能输入保密信息、客户信息或个人信息。英国国家网络安全中心的指南指出，提供模型的机构可以看到查询内容，因此建议不要提交一旦公开就会造成问题的查询。
上传的文件也属于提示词内容。为请求生成图表而附上的电子表格，会将其中的每一列都传给AI，包括问题并不需要的列。在使用政策中写明“上传前删除不需要的列”，既容易执行，也能避免一种常见的信息泄露事故。
示例条款："粘贴或上传前，请删除任务不需要的所有内容。绝不得包含秘密信息。除非登记表已批准相应工具和任务，否则不得包含客户信息或个人信息。如果不确定，请先询问[负责人]。"
生成内容在使用前应如何检查？
对生成内容的检查力度应与其用途相匹配：私人头脑风暴的内容只需快速过目，交付客户的成果需要逐项追溯说法的依据，而涉及法律、财务或安全的内容则需要由具备相应资质的人审查。政策应为每类输出指定检查人，通常是将要发送或发布该内容的人。
以一家虚构的 15人招聘咨询公司芬威克人才咨询公司为例。一位顾问输入提示词：“为财务总监撰写一份 150词的市场简报，介绍利兹管理会计岗位的招聘情况。”初稿引用了一项具名薪酬调查，声称今年需求大幅增长，薪资也上涨了某个具体百分比。但这位顾问找不到该调查，也找不到这个数字。
未经修改的不良输出：“根据[调查]，利兹今年对管理会计师的需求大幅上升，薪资上涨了[数值]。”审核后的版本：“在我们本季度完成招聘的岗位中，财务总监最常询问的是离职通知期和混合办公条件。我们发现，在发出录用通知的阶段，原雇主提出加薪挽留的情况有所增多。”审核后的版本只使用了芬威克自身观察到的情况。这次修改依据的政策条款是：“凡是无法打开来源并核实的统计数据、调查或结果，一律删除。”
想看看这与具体岗位有什么联系吗？
了解规划中的团队试用 ↗员工什么时候应该披露内容由 AI 生成？
至少，当草稿的大部分内容由 AI 生成时，员工应告知审核人员，并遵守任何要求披露的客户合同、平台规则或发布规则。在此之外，是否披露由公司根据受众和具体情境决定。
公开示例的做法各不相同。波士顿市在 May 2023 发布的员工临时指南要求员工披露 AI 使用情况，包括所用模型，并建议注明类似“本说明由 ChatGPT 3.5 生成，并由”相关员工编辑的署名信息。这种做法适合公共机构。小型代理公司则可以决定：普通文案只需向内部审核人披露，生成的图片或合成语音则需对外标注。
条款示例："如果草稿中有相当一部分由 AI 生成，请告知审核人。面向客户的图片、音频或视频如由 AI 生成，请标注为[标注文字]。遵守客户对 AI 使用的任何要求，客户要求优先于本条款。"
生成式 AI 政策应如何处理版权和图片问题？
政策应禁止员工故意复制受保护的作品，要求在复用生成的代码或素材之前检查许可，并禁止在未经同意的情况下生成真实人物的图像或声音。NIST 的相关风险概况将更容易复制受版权、商标或许可保护的内容，以及更容易泄露商业秘密，列为生成式 AI 的风险。
各国针对 AI 生成内容的著作权法律有所不同，且仍在发展，因此政策不应承诺公司拥有每一项生成内容的权利，或都能为其办理著作权登记。政策应说明公司如何处理不确定性：例如，生成的图片可自由用于内部效果示意，但凡用于客户营销活动，都必须先核对工具的许可条款和客户要求。
条款示例："不得要求 AI 模仿某位在世艺术家或某个品牌的风格生成内容，也不得要求工具复制受版权保护的文本。未经本人书面同意，不得制作涉及该真实人物的图片、音频或视频。将生成的素材用于客户工作前，请核查工具的商业使用条款。" 请就您所在司法管辖区的具体情况咨询专业意见。
哪些决策应该由人来做？
对个人有重大影响的决定，例如涉及招聘、薪酬、绩效、信贷、投诉以及健康或安全的决定，应由明确指定的人员负责，并由其审核相关原始信息。生成式工具可以帮助起草、组织或汇总这些决定所需的材料，但不应代为作出决定。
NIST 的风险概况文件将自动化偏见和过度依赖列为人机配置风险的一部分。政策可通过一项简单的检验来应对这一风险：决策者必须能够在不引用工具说法的情况下解释自己的决定。涉及个人数据时，ICO 的 AI 与数据保护指南是英国的官方参考依据；其页面目前注明，随着《数据（使用与访问）法》的出台，该指南正在接受审查。
哪些情况下，制定生成式 AI 政策并不合适？
如果你正在为产品加入生成式功能、使用客户数据微调模型，或部署代表你与公众交流的聊天机器人，仅有面向员工的生成式 AI 政策是不够的。这些情况需要产品、安全和法律方面的审查，范围远超员工使用规则。
它也无法替代实际练习。知道草稿中可能有编造的数字，和在截止期限的压力下找出这样的数字，是两回事。Tosheo.ai 正在开发中，旨在帮助用户完成这一步练习：按计划，每条岗位学习路径中的每节课都会以一项实操任务结束，要求学员使用真实的 AI 工具完成，并依据公开可见、列明各项评分标准的指南评分。它不会为你起草或执行政策。
来源与范围
NIST，生成式 AI 风险概况（NIST AI 600-1），July 2024 ↗
NCSC，ChatGPT 与大语言模型：有哪些风险？，14 March 2023 ↗
Microsoft Learn，Microsoft Copilot 和 Copilot Chat 中的企业数据保护，核查于 16 October 2026 ↗