Что такое рабочий процесс с использованием ИИ?
Рабочий процесс с ИИ — это письменная инструкция для повторяющейся задачи, в которой инструмент ИИ выполняет один или несколько шагов, а человек — остальные, включая проверку. 'Каждый понедельник вставьте обращения в службу поддержки за прошлую неделю, попросите выделить темы с помощью сохранённого запроса, сверьте каждую тему с тремя примерами обращений, затем отправьте сводку команде' — это рабочий процесс с ИИ. 'Используйте ChatGPT для помощи в работе службы поддержки' — нет.
Этот термин также используют для автоматизации: программ, которые передают данные между приложениями и обращаются к модели ИИ без участия человека. Это может быть полезно, но это другой проект с другими рисками. Эта страница посвящена варианту, который большинству команд нужен в первую очередь: без кода и с проверкой человеком при каждом выполнении. Когда ручной рабочий процесс стабильно проработает несколько недель, вы поймёте, можно ли безопасно автоматизировать какую-либо его часть.
Что включает в себя хорошо выстроенный рабочий процесс с ИИ?
Хорошо выстроенный рабочий процесс с ИИ определяет шесть вещей: событие запуска, входные данные, запрос, проверку, утверждение и результат. Если что-то из этого хранится только в голове одного человека, процесс даст сбой, как только этот человек уйдёт в отпуск.
Условие запуска
Когда запускается рабочий процесс: каждый понедельник, при получении нового договора с поставщиком, при передаче обращения на следующий уровень поддержки.
Входные данные
Какие именно материалы можно передавать и что нужно предварительно удалить. 'Только текст обращений, имена клиентов заменены на [КЛИЕНТ]' — конкретное указание; 'обращения' — нет.
Промпт
Сохранённый запрос с указанием роли, аудитории, формата и правил, например: «используйте только факты из материала; всё недостающее отмечайте как [ПРОВЕРИТЬ]».
Проверьте
Что и как проверяет проверяющий: факты сверяет с источником, числа пересчитывает, обещания сопоставляет с правилами организации, а текст читает вслух, чтобы оценить тон.
Окончательное согласование
Кто решает, что результат пригоден для использования, и что происходит, если это не так.
Результат
Куда и в каком формате передаётся готовая работа, чтобы следующий участник процесса знал, чего ожидать.
Как пошагово выстроить рабочий процесс с ИИ?
Выстраивайте рабочий процесс на основе задачи, которую вы уже хорошо выполняете вручную, а не на основе списка функций инструмента. Сначала выполнив задачу вручную, вы поймёте, как выглядит хороший результат: именно этому стандарту должен соответствовать вариант с ИИ.
1. Выберите одну повторяющуюся задачу
Выберите ежедневную или еженедельную задачу с исходными материалами и проверяющим, в которой ошибку обнаружат внутри компании.
2. Запишите, как вы делаете это сейчас
Перечислите шаги, входные данные и то, что вы проверяете. Это станет основой рабочего процесса.
3. Отметьте этап, на котором ИИ может подготовить черновик
Обычно это первый черновик, краткое изложение или извлечение данных. Этапы, требующие самостоятельной оценки, оставьте человеку.
4. Напишите и протестируйте запрос
Опробуйте это на трёх прошлых примерах, для которых вам известен правильный ответ. Дорабатывайте запрос, пока черновикам не потребуются лишь небольшие правки.
5. Опишите порядок проверки
На основе исправлений, внесённых во время тестирования, составьте короткий контрольный список. Ошибки, обнаруженные при тестировании, нужно искать при каждой проверке.
6. Передайте другому человеку
Попросите коллегу выполнить задачу, опираясь только на письменную инструкцию. Каждый его вопрос указывает на пробел в документе.
7. Проведите проверку через месяц
Просмотрите несколько результатов, исправления проверяющего и случаи, когда ошибки едва удалось избежать. Сохраните, измените или отмените этот рабочий процесс.
Как выглядит реальный рабочий процесс с ИИ?
Northgate Lettings — вымышленное агентство по аренде недвижимости, в котором работают 30 человек. Управляющие недвижимостью проводят вторую половину пятницы за написанием писем арендодателям о ходе ремонта. Агентство оформляет эту работу как рабочий процесс. Условие запуска: каждую пятницу. Входные данные: записи о ремонте одного объекта за неделю, скопированные из системы технического обслуживания, с заменой имён арендаторов на [АРЕНДАТОР]. Запрос: 'Вы пишете краткое письмо арендодателю с фактической информацией. Используйте только приведённые ниже записи журнала. По каждому ремонту укажите, о чём сообщили, что уже сделано и что будет дальше. Если в журнале нет стоимости, даты или названия подрядчика, напишите [ПРОВЕРИТЬ]. Не извиняйтесь от имени агентства и не обещайте сроки завершения.'
Первый пробный запуск показывает, зачем нужны правила. Без них в черновике одному арендодателю сообщили, что котёл будет 'отремонтирован в начале следующей недели', хотя никто этого не подтверждал, и оценили ремонт 'примерно в £150'. С правилами в черновике указано: 'визит специалиста назначен; дата завершения [ПРОВЕРИТЬ]', а стоимость не упоминается. Проверка состоит из трёх пунктов: все даты и суммы есть в журнале, нет обещаний, не подтверждённых подрядчиком, а имя арендодателя и адрес объекта добавляются только в собственной почтовой системе агентства, никогда — в инструменте ИИ.
Обычные обновления согласовывает управляющий недвижимостью, а любой ремонт, стоимость которого превышает лимит полномочий агентства, — руководитель филиала. Порядок работы занимает одну страницу и хранится на общем диске. Новая управляющая недвижимостью уже на второй неделе правильно выполнила его, руководствуясь только этим документом. Именно такая проверка имеет значение.
Хотите узнать, как это связано с конкретной должностью?
Ознакомиться с планируемой пробной программой для команды ↗Почему каждый рабочий процесс с ИИ требует проверки человеком?
Потому что инструмент иногда будет выдавать уверенные ошибочные ответы, а люди, работающие по одной схеме каждую неделю, постепенно перестают проверять результат. Профиль генеративного ИИ NIST описывает конфабуляцию — создание уверенно изложенного, но ошибочного или ложного содержания — и предвзятость автоматизации, то есть чрезмерное доверие автоматизированным системам, которое, согласно документу, может усиливать другие риски. Письменная процедура проверки противодействует обоим явлениям: она точно указывает проверяющему, на что смотреть, и не даёт превратить проверку в необязательный шаг.
Сделайте проверку достаточно короткой, чтобы выполнять её каждый раз. Три-четыре конкретных вопроса лучше длинного списка, который никто не проходит до конца. Если проверка занимает больше времени, чем выполнение задачи вручную, такой рабочий процесс ничего не экономит — его нужно пересмотреть или отказаться от него.
Какой инструмент ИИ лучше всего подходит для автоматизации рабочих процессов?
Лучшего инструмента на все случаи не существует, и большинству команд не стоит выбирать его, пока рабочий процесс не подтвердит свою эффективность при ручном выполнении. Платформы автоматизации связывают приложения и могут обращаться к моделям ИИ по расписанию. Это избавляет от копирования и вставки, но одновременно убирает естественную паузу, во время которой человек читает результат. Если вы внедряете автоматизацию, сохраните этап проверки до отправки чего-либо клиенту и выясните, где платформа хранит проходящие через неё данные.
Автоматизация лучше подходит для задач со структурированными входными данными, результатом для внутреннего использования и ошибками, которые легко исправить, например для присвоения меток входящим письмам, которые затем обработает человек. Она плохо подходит для любых процессов, где без предварительной проверки человеком отправляются сообщения, изменяются записи или принимаются решения.
Когда рабочий процесс с ИИ не решает проблему?
Не используйте ИИ, если задача возникает редко, исходные данные слишком конфиденциальны для одобренного у вас инструмента или достаточно шаблона. Для стандартного письма, в котором каждый раз меняются два поля, нужно слияние данных, а не модель. Задачи, требующие суждения о конкретном человеке, например о проблемах с результатами его работы, должен решать человек.
А если рабочий процесс постоянно даёт результаты, которые проверяющему приходится переписывать с нуля, откажитесь от него. Это полезная информация, а не неудача.
Как научиться эффективно работать с ИИ в рабочих процессах?
Отрабатывайте их на реалистичных примерах с обратной связью, прежде чем ошибки начнут иметь реальные последствия. Уделяйте проверке столько же внимания, сколько составлению запросов: дайте сотрудникам черновик с намеренно добавленными ошибками, например выдуманной датой или стоимостью, которой нет в источнике, и посмотрите, заметят ли они их. В нашем руководстве по шаблонам запросов есть структуры, которые можно использовать повторно при составлении запросов.
В основу Tosheo.ai закладывается именно такая практика. Запланированные практические сценарии — это ролевые упражнения, в которых учащийся применяет ИИ в реалистичной рабочей ситуации и объясняет, что он изменил и почему. Работа оценивается по открытым критериям. Разработка ещё не началась; планируемые цены указаны на странице тарифов.
Источники и границы рассмотрения
NIST, AI 600-1: профиль рисков генеративного ИИ, июль 2024 ↗