Почему заявления об ответственном использовании ИИ недостаточно?
Одного заявления об ответственном использовании ИИ недостаточно: оно описывает намерения, но не объясняет занятому коллеге, что делать во вторник после обеда. Именно конкретные меры превращают заявление в практику.
Представьте вымышленного страхового брокера Meridian Cover со штатом 60 человек. Команда урегулирования убытков начинает использовать ИИ-помощника для подготовки ответов на письма клиентов о статусе страховых требований. Директора поручают руководителю операционной работы Сэму 'обеспечить ответственное использование ИИ'. Сейчас у Сэма есть фраза во внутренней сети 'Meridian использует ИИ этично и ответственно', общая учётная запись помощника, отсутствие учёта ответов, подготовленных ИИ, и жалоба клиента, которому сообщили, что выплата одобрена, хотя требование ещё рассматривалось.
Каковы основные практики ответственного использования ИИ?
Основные практики ответственного использования ИИ — письменная политика использования, реестр областей применения ИИ, проверка человеком с учётом риска, краткая документация по каждому применению, мониторинг с выборочными проверками и порядок реагирования на инциденты. Концепция управления рисками ИИ NIST объединяет такую работу в четыре функции: выстраивание управления, описание контекста, измерение и управление рисками.
Управление: составьте политику и назначьте ответственных
Укажите, какие инструменты разрешены, какие данные в них можно вводить и кто отвечает за каждый случай использования ИИ. NIST описывает функцию управления как формирование культуры, правил и ответственности, на которые опираются остальные функции.
Составьте карту: зафиксируйте каждый случай использования и его контекст
Для каждого случая использования делайте однострочную запись в реестре: цель, пользователи, инструмент, задействованные данные и те, кто может пострадать, если что-то пойдёт не так.
Измеряйте: проверяйте качество по графику
Регулярно проверяйте выборку результатов по короткому контрольному списку и фиксируйте долю ошибок, а не ждите, пока о проблемах сообщат в жалобах.
Управление: принимайте меры по результатам проверки
Исправьте промпт, усильте этап проверки или приостановите использование и регистрируйте инциденты, чтобы та же ошибка не повторялась.
Как на практике выглядят неэффективный и эффективный подходы к ответственному использованию ИИ?
Слабый вариант: Сэм отправляет команде по урегулированию страховых случаев письмо с напоминанием «перепроверять ответы ИИ» и добавляет строку в справочник сотрудника. Никто не знает, что означает перепроверка, из-за общей учётной записи невозможно установить, кто что отправил, а следующее ошибочное сообщение о статусе обнаруживается лишь после жалобы другого клиента.
Продуманный вариант: Сэм составляет одностраничный лист контроля для этого конкретного применения. Правила: помощник может готовить черновики ответов, но решения по страховым требованиям, суммы и даты копируются только из системы обработки требований, а не из черновика. Проверка: каждый ответ перед отправкой читает специалист, ведущий дело, а ответы об одобрении или отказе передаются старшему специалисту. Документирование: в краткой записи фиксируются цель, утверждённый запрос к ИИ и правило проверки. Мониторинг: каждую пятницу Сэм выбирает 20 отправленных ответов и проверяет статус, тон и обещания. Инциденты: любое неверное утверждение, сообщённое клиенту, регистрируется в течение дня вместе с принятыми мерами по исправлению. У каждого специалиста своя учётная запись, поэтому можно установить авторство черновиков.
| Контроль | Ответственный | Подтверждающие материалы | Как часто |
|---|---|---|---|
| Правила использования | Руководитель операционной деятельности | Контрольный лист на одну страницу | Проверяется ежеквартально |
| Проверка человеком | Специалист по урегулированию страховых требований | Имя ответственного сотрудника в каждом ответе | Каждый ответ |
| Согласование старшим сотрудником | Старший ответственный сотрудник | Примечание о согласовании | Ответы с одобрением и отказом |
| Выборочная проверка | Руководитель операционной деятельности | Результаты проверки по контрольному списку | Еженедельно, 20 ответов |
| Журнал инцидентов | Руководитель операционной деятельности | Запись в журнале и исправление | В течение одного рабочего дня |
Как понять, что ваши меры по ответственному использованию ИИ работают?
Ваши меры контроля работают, если вы можете подтвердить фактами ответы на три вопроса: кто проверил этот результат, как часто результаты не проходят проверку по контрольному списку и что изменилось после последнего инцидента? Если хоть один ответ звучит как «мы так предполагаем», эта мера контроля существует только на бумаге.
Обращайте внимание и на тревожные признаки: выборочные проверки, которые всегда проходят успешно, — возможно, требования в контрольном списке слишком мягкие; этапы проверки, которые пропускают при высокой нагрузке; записи в реестре, которые не менялись с момента обновления инструмента.
Какие ошибки часто допускают небольшие команды при ответственном использовании ИИ?
Самая распространённая ошибка — скопировать систему правил крупной компании и затем никогда ею не пользоваться. Другие ошибки: общие учётные записи, из-за которых невозможно установить ответственность; правила проверки, одинаковые для поздравления с днём рождения и решения по страховому требованию; мониторинг, который начинается лишь после жалоб; и устранение инцидентов без огласки и без обновления запроса или политики. Начните с одного ценного сценария использования, установите пять мер контроля и развивайте систему дальше.
Какое место ответственное использование ИИ занимает в каталоге Tosheo.ai?
«Ответственное использование ИИ» находится в категории «Ответственное использование ИИ и правила» курса по ИИ-грамотности, после урока об этичном ИИ и перед проектированием проверки с участием человека. В практическом задании вам нужно составить перечень мер контроля для применения ИИ в вашей работе. Обратная связь по критериям оценки проверяет, есть ли у каждой меры ответственный, подтверждающие материалы и периодичность. Руководители на тарифе «Команда» могут назначить этот урок всем, кто пользуется общим инструментом.