AI 素养是什么意思?
AI 素养是指对 AI 有足够的了解,能够有意识地使用它,而不是盲目依赖。具备 AI 素养的用户知道,生成式工具是在预测看似合理的文本,而不是查证事实;它可能信心十足地陈述错误信息;输入其中的内容可能会根据服务提供商的条款被存储或处理;而发出生成内容的人要对这些内容负责。
EU AI Act 在第 3 条第 56 项中给出了正式定义。根据欧盟委员会 AI 法案服务台发布的内容,AI 素养是指“使提供者、部署者和受影响人员在考虑其各自在本条例下的权利和义务的前提下,能够在充分知情的基础上部署 AI 系统,并了解 AI 的机遇、风险及其可能造成的损害所需的技能、知识和理解”。
大学和学校对这个术语的使用更为宽泛,涵盖AI对社会、学习和创造力的影响。对雇主而言,更有用的定义应当更聚焦、更务实:这个人在使用工作所涉及的AI工具时,能否做出有依据的判断?
AI 素养与 AI 技能有何不同?
AI 素养侧重理解;AI 技能则是通过练习将这种理解付诸行动。知道工具可能编造引用来源,属于素养。在报告发出前打开每个引用来源进行核查,属于技能。一个人可能具备素养,却仍缺乏技能,例如知道风险,却不清楚如何写出有效的指令。
在培训中,最好将两者结合培养。先简短解释工具为什么会编造内容,再让学员立即找出初稿中虚构的数字,理解会更深入。AI 技能指南更详细地介绍了实际操作方法。
AI 素养的四大支柱是什么?
并不存在一套统一的官方四大支柱。学术和教育框架对 AI 素养的分类各不相同,EU AI Act 也没有规定具体结构。对于职场,以下四部分分类是本文为方便实际应用而采用的组织方式,并非必须遵循的标准。
理解
正在使用哪些工具、它们大致如何生成输出,以及它们主要会在哪些方面出错,包括自信地给出错误答案、缺少背景信息和存在偏见。
使用
如何向工具提供背景信息、选择合适的任务,并在获批的工具和设置范围内开展工作。
评估
如何对照来源核查输出、重新计算数据,并识别草稿是否将附带条件的表述变成了承诺。
负责任地使用
哪些信息可以输入工具、谁对结果负责,以及哪些情况下任务需要由具备相应资质的人员处理。
AI 素养有哪些具体例子?
一家虚构的户外装备店红隼户外,其客服团队使用经过批准的AI助手起草回复。一位客户询问,40天前购买的帐篷能否退货。客服人员山姆请工具生成回复。草稿语气友好、表述清晰,称店铺接受60天内退货。但红隼户外的实际政策是30天。
具备 AI 素养的客服人员不会只看回复听起来是否合理。山姆知道,除非向工具提供了这家店的政策,否则工具并不可靠地了解这些政策,因此草稿中的具体数字需要核实。他查看政策页面,纠正期限,并补充政策允许的另一种处理方式:为有质量问题的商品换货。他还删去了客户的订单号和地址,因为团队指引明确要求不要将个人信息粘贴到工具中。
第二个例子来自财务工作。有人要求工具解释某个月度成本项目为何上涨,工具提出可能是供应商提价。具备 AI 素养的分析师会注意到,所提供的表格只显示成本上涨,并未说明原因,因此会写明原因仍待确认。NIST 的《生成式 AI 风险概况》将这种风险称为虚构,并另行描述了自动化偏见,即过度信赖自动化系统。AI 素养很大程度上就是养成抵制这两种倾向的习惯。
想看看这与具体岗位有什么联系吗?
了解规划中的团队试用 ↗在工作中具备 AI 素养需要满足哪些要求?
员工需要五样东西,其中只有一样是课程。
一款已明确指定并获批准的工具
员工需要明确知道可以使用哪项服务和哪个账号开展工作,以及如何访问。
清晰的信息边界
一份简短清单,说明哪些内容可以输入工具,哪些不可以,各举一例,并明确遇到模糊情况时可以向谁咨询。
如实说明可能出错的情形
来自与其自身工作相似场景的具体案例,展示 AI 如何自信地给出错误答案、编造来源,以及作出缺乏依据的因果解释。
带反馈的练习
在任务中,学员必须识别并纠正实际工作中会出现的错误,并获得依据公开可见标准给出的反馈。
责任明确
一条明确规则:无论草稿由哪种工具生成,发送或依据该输出采取行动的人都应对其负责。
EU AI Act 对 AI 素养有哪些规定?
EU AI Act 第 4 条要求 AI 系统的提供者和部署者采取措施,支持其员工及代表他们操作和使用 AI 系统的其他人员提升 AI 素养。欧盟委员会的 AI 法案服务台公布的内容指出,这些措施应考虑“他们的技术知识、经验、教育和培训,以及 AI 系统的使用情境”,且该义务“不要求提供者或部署者保证任何个人达到某一特定的 AI 素养水平”。本节仅提供一般信息,不构成法律建议。
欧盟委员会的 AI 素养问答指出,这项义务自 2 February 2025 起适用。其中解释,工作人员指雇员,其他人员则可能包括在组织职责范围内开展工作的承包商、服务提供商或客户。问答还指出,无需证书,组织可以保留培训或其他指导措施的内部记录。
该指引中有两点对一般团队很重要。首先,欧盟委员会表示,仅仅依赖 AI 系统的使用说明,或要求员工阅读这些说明,可能并不奏效。其次,指引提到一家员工使用 ChatGPT 撰写广告文案或翻译的公司,并指出应让员工了解幻觉等具体风险。如果你的组织属于该法案的适用范围,就不能忽略通用聊天机器人的使用。请向具备资质的顾问确认该法案如何适用于你的组织。
委员会建议的最低要求是:确保组织内人员对 AI 有基本了解,判断自身属于提供者还是部署者,考虑相关系统的风险,并根据人员知识水平和使用情境采取相应措施,包括法律和伦理方面的考虑。
如何为小团队构建 AI 素养框架?
保持简短,便于维护。对于一家 30 人的公司,只要说清楚谁使用什么工具、用于哪些任务,以及每类人员需要了解什么,两页就可以容纳整套框架。
列出工具及用途
记录目前所有获准使用的 AI 工具及其用途,包括您所知的非正式使用情况。
按具体情况对人员分组
将起草内部简报的人员与回复客户或处理个人数据的人员区分开来。他们的需求不同。
明确每个群体必须理解的内容
为每个群体列出与其任务最相关的出错方式和信息使用规则。
选择一项实用检查
为每组选择一项简短任务,用来判断成员是否能运用所学,例如找出故意设置的错误。
做好简单记录
记录谁在什么时间完成了哪些培训或练习,以便日后被问及时有据可查。
工具变化时进行审查
在引入新工具、功能或使用场景时重新审视该框架,而不只是在固定日期审视。
AI 素养培训应包含哪些内容?
它应包含与员工实际使用的工具相关的简短说明、取自同类工作的示例,以及至少一项要求他们找出并纠正错误的任务。介绍神经网络原理的视频也许很有趣,但通常不会改变员工在忙碌的下午回复客户时的做法。
Tosheo.ai 正在筹备中,旨在为 5 至 200 人的团队提供这类培训。产品尚未进入开发阶段,因此以下内容属于规划范围:先进行 5 分钟的基础测评,再学习每节 10 至 15 分钟的岗位专属课程,每节课都以在真实 AI 工具中完成动手任务收尾,并依据学员可见的评分标准评分。按规划,管理者将能查看进展和完成情况,而不是原始聊天记录,这些信息也可用于支持内部培训记录。它不是合规产品,也不证明组织已履行任何法律义务。
哪些情况下,AI 素养培训解决不了问题?
如果尚未告知员工可以使用哪些工具、哪些信息禁止输入,就先开展培训,顺序就反了。先写清边界,再围绕这些边界培训。《小企业 AI 政策指南》介绍了这一步。
如果你的组织提供或部署《人工智能法案》规定的高风险 AI 系统,欧盟委员会指出,除一般 AI 素养培训外,可能还需要采取其他措施,仅依靠使用说明并不足够。通用技能培训产品无法覆盖这些义务;你需要有针对性的专业意见,以及针对具体系统的培训。同样,如果你需要英语以外的课程,这些也不在 Tosheo.ai 计划上线的范围内。
来源与范围
欧盟委员会《人工智能法案》服务台,第 3 条:定义,核查于 16 October 2026 ↗
欧盟委员会《人工智能法案》服务台,第 4 条:AI 素养,核查于 16 October 2026 ↗