为什么只有一份负责任 AI 声明还不够？
仅有负责任 AI 声明还不够，因为它描述的只是意图，并没有告诉忙碌的同事在周二下午具体该做什么。管控措施才能将声明落实为行动。
设想一家虚构的保险经纪公司“子午线保险”，有 60 名员工。理赔团队开始使用 AI 助手，起草回复客户询问理赔进度的邮件。董事们要求运营负责人萨姆'确保我们负责任地使用 AI'。萨姆目前手里只有内网上的一句话：'子午线以合乎伦理、负责任的方式使用 AI'，以及一个共用的助手登录账号。哪些回复由 AI 起草，没有任何记录。还有一名客户投诉：理赔仍在审核中，却被告知已经获批。
负责任地使用 AI 有哪些核心实践？
负责任地使用 AI 的核心做法包括：制定书面使用政策、登记 AI 的使用场景、设置与风险相匹配的人工审核环节、为每项用途保留简要记录、通过抽查进行监控，以及建立事件处理渠道。NIST AI 风险管理框架将这类工作归纳为四项职能：治理、映射、衡量和管理。
治理：制定政策并明确负责人
明确哪些工具获准使用、可以输入哪些数据，以及每项 AI 应用由谁负责。NIST 将“治理”描述为建立其他职能所依赖的文化、政策和问责机制。
梳理：记录每次使用及其背景
每次使用都用一行记录：用途、使用者、工具、涉及的数据，以及出错时可能受影响的人。
衡量：定期检查质量
定期按照一份简短的检查清单抽查输出，并记录错误率，而不是等投诉出现后才发现问题。
管理：根据发现采取行动
修改提示词、加强审核环节或暂停使用，并记录事件，避免同样的错误再次发生。
在负责任地使用 AI 方面，较差的实践和良好的实践分别是什么样的？
薄弱的版本：Sam 给理赔团队发邮件，提醒大家“仔细复核 AI 回复”，并在员工手册中加了一句话。没有人知道仔细复核具体指什么；共用账号使人无法分辨谁发送了什么；下一次错误的状态更新，仍然要等到另一位客户投诉时才被发现。
完善的做法：山姆为这一个用途编写一页管控表。政策：助手可以起草回复，但理赔决定、金额和日期只能从理赔系统复制，绝不能从草稿中提取。审核：每条回复发送前都由经办人阅读，涉及批准或拒绝理赔的回复交由资深经办人审核。文档：用简短记录说明用途、获准使用的提示词和审核规则。监测：每周五，山姆抽查 20 条已发送的回复，核对理赔状态、语气和承诺。事件处理：任何向客户提供错误信息的情况，都须在一天内记录，并注明已采取的纠正措施。每位经办人使用各自的登录账户，确保草稿可追溯。
| 控制 | 负责人 | 证据 | 频率 |
|---|---|---|---|
| 使用政策 | 运营负责人 | 单页管控清单 | 每季度审查一次 |
| 人工审核 | 理赔专员 | 每条回复均注明处理人姓名 | 每次回复 |
| 高级负责人签核 | 高级经办人 | 审批说明 | 批准与拒绝的回复 |
| 抽样检查 | 运营负责人 | 清单检查结果 | 每周，20 条回复 |
| 事件日志 | 运营负责人 | 记录问题并修正 | 一个工作日内 |
如何判断负责任 AI 的管控措施是否有效？
当你能用证据回答三个问题时，才说明管控措施有效：谁审核了这份输出，输出有多大比例未通过检查清单，上次事件后做了哪些改进？如果任何一个答案是“我们认为是这样”，那这项管控就只存在于纸面上。
也要留意这些警示信号：抽查总是通过，可能意味着检查清单过于宽松；人们忙碌时会跳过某些审核步骤；工具更新后，登记记录却一直未变。
小团队在负责任地使用 AI 时，有哪些常见错误？
最常见的错误是照搬大公司的框架，之后却从不使用。其他错误包括：共用登录账户，导致责任无法追溯；用同样的审核规则处理生日祝福和理赔决定；等到有人投诉才开始监测；以及悄悄修复问题，却不更新提示词或政策。先从一个高价值用途开始，设置五项管控措施，再逐步扩展。
负责任的 AI 在 Tosheo.ai 课程体系中属于哪一部分？
“负责任的 AI”属于“AI 素养”课程中的“负责任的 AI 与政策”类别，安排在“AI 伦理”之后、“人工参与审核流程设计”之前。实操任务要求你针对自己岗位中的一项 AI 应用编写管控表，评分反馈会检查每项管控措施是否都有负责人、证据和执行频率。团队套餐的管理者可以将本课分配给所有使用共享工具的人。
来源与范围
NIST：AI 风险管理框架概述、自愿使用原则及发布日期（核查日期：19 October 2026） ↗
NIST AI 资源中心：AI RMF 的核心功能——治理、映射、测量和管理（核查日期：19 October 2026） ↗