Почему для инструментов генеративного ИИ нужны отдельные правила использования?
Генеративные инструменты создают новые тексты, изображения, аудио или код, а не просто находят или сортируют существующую информацию, поэтому основной риск смещается с входных данных на результат. Поисковый инструмент выдаёт страницы, которые вы можете изучить; генеративный инструмент выдаёт уверенно написанный черновик, в котором могут быть выдуманные факты, заимствованные формулировки или предвзятая подача. Политика должна охватывать и входные данные, и результаты.
Профиль рисков генеративного ИИ NIST перечисляет двенадцать рисков, которые присущи генеративному ИИ или усиливаются из-за него. Для обычного малого бизнеса основу политики составляют пять из них: конфабуляция (уверенно изложенная, но ложная информация), конфиденциальность данных (утечка или несанкционированное раскрытие), интеллектуальная собственность (воспроизведение защищённых материалов или раскрытие коммерческой тайны), достоверность информации (материалы, в которых факты не отделены от мнений или не обозначена неопределённость) и то, что NIST называет конфигурацией взаимодействия человека и ИИ, включая предвзятость автоматизации и чрезмерную зависимость.
Вы можете включить эти правила в тот же документ, что и правила допустимого использования. Многие небольшие компании так и делают. Эта страница посвящена положениям о работе с содержимым. Это общая информация, а не юридическая консультация.
| Риск в профиле NIST | Как это выглядит на работе | Пункт правил, регулирующий этот вопрос |
|---|---|---|
| Конфабуляция | Выдуманная статистика или ссылка на страницу, на которой нет указанной информации | Перед использованием сверяйте каждое фактическое утверждение с источником, который вы открыли |
| Конфиденциальность данных | Список контактов клиента, вставленный в запрос для подготовки персонализированной рассылки | Категории информации, привязанные к одобренным учётным записям |
| Интеллектуальная собственность | Изображение в узнаваемом стиле художника или код, скопированный из проекта, распространяемого по лицензии | Правила для инструкций по стилю, повторного использования и проверки лицензий |
| Достоверность информации | Краткое изложение, в котором предположение выдано за факт | Требуйте, чтобы неопределённость оставалась явно обозначенной в проверенных черновиках |
| Чрезмерная зависимость | Принятие подготовленного ИИ анализа без изучения данных | Укажите, какие решения остаются за человеком |
Что должно быть прописано в правилах использования ChatGPT для сотрудников?
Правила использования ChatGPT для сотрудников должны указывать, какую учётную запись использовать, что никогда нельзя включать в запрос, как проверять ответ и к кому обращаться с вопросами. Эти же правила должны распространяться на Claude, Gemini, Copilot и аналогичных помощников. Для ясности можно указать в заголовке один продукт, но сами правила следует написать так, чтобы их не пришлось переписывать, когда команда добавит ещё один инструмент.
Важнее всего различать личные и корпоративные учётные записи. Условия использования данных для обучения, их хранения и административного контроля могут различаться между потребительскими и корпоративными тарифами одного помощника. Например, в документации Microsoft говорится, что на Copilot Chat для организаций распространяется дополнение о защите данных, а запросы и ответы не используются для обучения базовых моделей; доступные средства контроля зависят от тарифа. Для каждого одобренного инструмента фиксируйте аналогичное положение и дату проверки, а не принимайте это на веру.
Пример пункта: "Используйте [ассистент] только через рабочую учётную запись [Компания]. Не используйте личную учётную запись для рабочих задач, даже для быстрого вопроса, поскольку на личные учётные записи не распространяется наше соглашение с поставщиком."
Что сотрудникам ни в коем случае нельзя включать в запрос к генеративному ИИ?
Сотрудники никогда не должны вводить в запрос пароли, ключи или другие секретные данные. Конфиденциальную, клиентскую или персональную информацию можно вводить только в рамках утверждённого рабочего процесса. В рекомендациях Национального центра кибербезопасности Великобритании отмечается, что запрос виден организации, предоставляющей модель, и рекомендуется не отправлять запросы, обнародование которых могло бы вызвать проблемы.
Загруженные файлы считаются частью запроса. Если вы прикрепляете таблицу с просьбой построить диаграмму, вы передаёте все её столбцы, включая те, которые не нужны для ответа. Пункт правил «перед загрузкой удалите ненужные столбцы» легко выполнить, и он помогает предотвратить распространённую ошибку.
Пример положения: "Перед вставкой или загрузкой удалите всё, что не требуется для задачи. Никогда не включайте секретные сведения. Не включайте клиентские или персональные данные, если в реестре нет разрешения для этого инструмента и этой задачи. Если вы не уверены, сначала обратитесь к [ответственный]."
Как проверять сгенерированные материалы перед использованием?
Тщательность проверки сгенерированного контента должна зависеть от того, где он будет использоваться: идеи для личного использования достаточно просмотреть, в материале для клиента нужно проверить источник каждого утверждения, а всё, что связано с правом, финансами или безопасностью, должен проверять квалифицированный специалист. В политике следует указать, кто проверяет каждый вид результата; обычно это тот, кто будет его отправлять или публиковать.
Разобранный пример из вымышленного кадрового агентства Fenwick Talent со штатом 15 человек. Консультант вводит запрос: "Напиши обзор рынка на 150 слов для финансовых директоров о найме бухгалтеров по управленческому учёту в Лидсе." В черновике говорится, что спрос в этом году резко вырос, а зарплаты увеличились на определённый процент, со ссылкой на конкретный обзор зарплат. Консультант не может найти ни обзор, ни эту цифру.
Слабый результат, оставленный без изменений: «Спрос на специалистов по управленческому учёту в Лидсе резко вырос в этом году, а зарплаты увеличились на [значение], согласно [опросу]». Версия после проверки: «При подборе сотрудников в этом квартале финансовые директора чаще всего спрашивали о сроках уведомления об увольнении и условиях гибридной работы. Мы наблюдаем больше встречных предложений от текущих работодателей на этапе предложения о работе». Версия после проверки опирается только на собственные наблюдения компании «Фенвик». Пункт правил, на основании которого внесена правка: «Удаляйте любые статистические данные, опросы или результаты, если вы не можете открыть источник и подтвердить их».
Хотите узнать, как это связано с конкретной должностью?
Ознакомиться с планируемой пробной программой для команды ↗Когда сотрудникам следует сообщать, что материалы созданы с помощью ИИ?
Как минимум сотрудники должны сообщать проверяющему, если черновик в значительной степени сгенерирован ИИ, и соблюдать любые требования договора с клиентом, правила платформы или публикации, обязывающие раскрывать использование ИИ. В остальных случаях компания сама решает, нужно ли это раскрывать, с учётом аудитории и контекста.
Опубликованные примеры различаются. Временные рекомендации для сотрудников администрации Бостона, опубликованные в мае 2023 года, предписывают сообщать об использовании ИИ и указывать использованную модель. В них предлагается, например, такая подпись: «Это описание создано с помощью ChatGPT 3.5 и отредактировано» — далее указывается сотрудник. Для государственного учреждения это уместно. Небольшое агентство может решить, что для обычных текстов достаточно сообщать об использовании ИИ проверяющему, а созданные ИИ изображения и синтезированные голоса нужно маркировать и для внешней аудитории.
Пример пункта: "Сообщайте проверяющему, если значительная часть черновика создана с помощью ИИ. Помечайте созданные ИИ изображения, аудио и видео, предназначенные для клиентов, как [формулировка]. Соблюдайте любые указания клиента об использовании ИИ: они имеют приоритет перед этим пунктом."
Как учитывать авторские права и использование изображений в политике работы с генеративным ИИ?
Политика должна запрещать сотрудникам намеренно воспроизводить защищённые произведения, требовать проверки лицензий перед повторным использованием сгенерированного кода или материалов и запрещать создание изображений или голосов реальных людей без их согласия. В профильном документе NIST среди рисков генеративного ИИ названы упрощение воспроизведения контента, защищённого авторским правом, товарными знаками или лицензиями, и упрощение раскрытия коммерческой тайны.
Авторское право в отношении материалов, созданных ИИ, различается по странам и продолжает развиваться, поэтому политика не должна обещать, что компания владеет каждым созданным результатом или может зарегистрировать права на него. В ней следует описать, как компания действует в условиях неопределённости: например, созданные изображения можно свободно использовать во внутренних макетах, но перед использованием в клиентской кампании их сначала проверяют на соответствие условиям лицензии инструмента и указаниям клиента.
Примеры пунктов: "Не просите создавать контент в стиле конкретного ныне живущего автора или бренда либо воспроизводить текст, защищённый авторским правом. Не создавайте изображения, аудио или видео с участием реального человека без его письменного согласия. Прежде чем использовать созданные материалы в работе для клиента, проверьте условия коммерческого использования инструмента." Проконсультируйтесь со специалистом о требованиях в вашей юрисдикции.
Какие решения должен по-прежнему принимать человек?
Решения, которые существенно влияют на человека, например касающиеся найма, оплаты труда, оценки работы, кредитования, жалоб и любых вопросов здоровья или безопасности, должны оставаться за конкретным ответственным лицом, которое проверяет исходную информацию. Генеративные инструменты могут помогать готовить проекты документов, структурировать или обобщать информацию для таких решений, но не должны принимать их.
В профиле NIST предвзятость в пользу автоматизации и чрезмерное доверие к ней описываются как составляющие риска взаимодействия человека и ИИ. Политика противодействует этому с помощью простой проверки: человек, принимающий решение, должен уметь объяснить его, не ссылаясь на ответ инструмента. Если затрагиваются персональные данные, официальным ориентиром в Великобритании служат рекомендации ICO по ИИ и защите данных; сейчас на соответствующих страницах указано, что рекомендации пересматриваются в связи с принятием Закона о данных (использование и доступ).
Когда политика использования генеративного ИИ — неподходящий инструмент?
Правил использования генеративного ИИ для сотрудников недостаточно, если вы встраиваете генеративные функции в продукт, дообучаете модели на данных клиентов или запускаете чат-бота, который общается с внешней аудиторией от вашего имени. В этих случаях нужны проверка со стороны продуктовой команды, специалистов по безопасности и юристов, далеко выходящая за рамки правил для сотрудников.
Оно также не может заменить практику. Знать, что в черновике может оказаться выдуманная цифра, — не то же самое, что заметить её в условиях сжатых сроков. Tosheo.ai разрабатывается именно для этого этапа практики: в планируемых программах для конкретных должностей каждый урок будет завершаться практическим заданием в реальном инструменте ИИ с оценкой по открытым критериям. Tosheo.ai не составляет вашу политику и не обеспечивает её соблюдение.
Источники и границы рассмотрения
NIST, профиль рисков генеративного ИИ (NIST AI 600-1), июль 2024 ↗
NCSC, ChatGPT и большие языковые модели: в чём риск?, 14 марта 2023 ↗
ICO, руководство по ИИ и защите данных (на пересмотре), проверено 16 октября 2026 ↗