Почему чат-бот по-разному отвечает на один и тот же вопрос?
Чат-бот даёт разные ответы на один и тот же вопрос, потому что при создании каждого ответа выбирает следующие слова из вероятных вариантов, и этот выбор обычно включает элемент случайности. Он не извлекает один заранее сохранённый ответ.
Представьте вымышленное архитектурное бюро Fairline Architects со штатом 30 человек. Перед внедрением ИИ-помощника партнёр просит офис-менеджера Роуэна объяснить три вещи. В записях Роуэна сказано: 'дважды спросил о правилах строительства без отдельного разрешения, получил два разных ответа'; 'он сослался на несуществующий номер документа с градостроительными рекомендациями'; 'генератор изображений сделал красивый эскиз новой студии, но окна не выровнены'. Партнёр хочет понять, сломан ли инструмент. Нет. Он делает ровно то, для чего был создан.
Как обучают модель генеративного ИИ?
Большую языковую модель сначала обучают на огромном массиве текстов предсказывать следующий фрагмент текста, а затем дополнительно обучают следовать инструкциям и давать полезные ответы. В глоссарии Anthropic предварительное обучение описывается как обучение на большом неразмеченном корпусе текстов для предсказания следующего слова с учётом предыдущего контекста. За ним следуют дообучение и обучение с подкреплением на основе обратной связи от людей: люди ранжируют примеры ответов, а модель учится предпочитать более удачные.
Модель не хранит копию каждого документа. Она корректирует миллиарды внутренних числовых параметров, пока её прогнозы не начинают соответствовать закономерностям в данных. В результате получается скорее очень подробное представление о том, как обычно сочетаются слова и идеи, чем библиотека с возможностью поиска.
Что такое токены и как модель их предсказывает?
Токены — это небольшие единицы, которые модель считывает и записывает, часто слово или часть слова. Модель создаёт текст, последовательно предсказывая вероятный следующий токен. В курсе Google по машинному обучению языковая модель описывается как система, оценивающая вероятность появления токена или последовательности токенов внутри более длинной последовательности. Там также отмечается, что примерно 400 токенов соответствуют примерно 300 английским словам.
На каждом шаге модель оценивает множество возможных следующих токенов. Затем приложение выбирает один из них: иногда самый вероятный, но часто — случайный из числа вероятных вариантов. Параметр под названием «температура» определяет, насколько смелым будет этот выбор: при высоких значениях формулировки разнообразнее, при низких — предсказуемее. Anthropic отмечает, что даже при самой низкой температуре результаты не полностью детерминированы. Это ответ на первое замечание Роуэна.
Как работают генераторы изображений на основе ИИ?
Многие генераторы изображений на основе ИИ используют метод, называемый диффузией: модель учится удалять шум с изображений, а затем создаёт новое изображение, начиная со случайного шума и шаг за шагом уточняя его по вашему текстовому описанию. В курсе по диффузии от Hugging Face обучение описывается как добавление разного количества шума и обучение модели восстановлению изображения, а генерация — как постепенное преобразование случайного шума до появления изображения.
Поскольку модель формирует правдоподобное изображение из пикселей, а не следует архитектурному чертежу, такие детали, как расположение окон, текст на вывесках или количество пальцев, могут оказаться неверными. Это третье замечание Роуэна.
Что это означает для того, как вы используете инструменты?
Это означает, что вам следует предоставить инструменту факты, на которые он должен опираться, а не полагаться на его память. Слабый запрос: 'Какие правила действуют для пристройки с задней стороны дома, не требующей разрешения на строительство?' Ответ звучит связно, меняется от попытки к попытке и может смешивать правила разных лет или стран, а также содержать правдоподобную, но выдуманную ссылку на документ — этим и объясняется второе замечание Роуэна.
Улучшенный запрос: Роуэн вставляет нужный раздел официального руководства по градостроительству и просит: 'Используя только приведённый ниже текст, составьте таблицу ограничений по размерам одноэтажной пристройки с задней стороны дома. Если какой-либо вопрос в тексте не рассмотрен, так и укажите: не рассмотрено.' Теперь задача модели — пересказать и упорядочить доступный ей текст, с чем она хорошо справляется, а Роуэн может сверить каждую строку с источником.
Каковы ограничения генеративного ИИ?
Основные ограничения таковы: генеративный ИИ может уверенно утверждать ложные вещи; его знания ограничены определённой датой, если он не подключён к поиску или документам; он может работать только с тем, что помещается в его контекстное окно; он может воспроизводить предвзятость обучающих данных. Это не ошибки, которые можно исправить более вежливой просьбой: эти ограничения следуют из принципов работы моделей.
Сверяйте факты, числа, имена и ссылки с источником, которому вы доверяете, и предоставляйте инструменту исходные материалы всякий раз, когда важна точность.
К какому разделу каталога Tosheo.ai относится этот урок?
Урок «Как работает генеративный ИИ» относится к разделу «Основы ИИ». Это один из первых уроков по ИИ для начинающих и первый урок курса по генеративному ИИ. В практическом задании на Tosheo.ai вам нужно сначала предсказать, а затем проверить, как ведёт себя инструмент при изменении настроек вроде температуры или добавлении исходного текста. Обратная связь по критериям оценки показывает, будет ли ваше объяснение понятно коллеге.