Как выглядит этическая проблема, связанная с ИИ, в обычной работе?
Этическая проблема при использовании ИИ на работе обычно выглядит как небольшое упрощение: рейтинг, который никто не проверяет, письмо, которое никто не подписывает, или таблица, вставленная в инструмент, который никто не одобрял.
Представьте вымышленное агентство по аренде недвижимости Calder Lettings со штатом 35 человек. В понедельник утром у управляющей недвижимостью Нади две задачи. Во-первых, за выходные поступило 60 заявок на ремонт, и она хочет, чтобы ИИ-помощник распределил их по срочности. Во-вторых, 14 арендаторов задолжали арендную плату, и она хочет, чтобы помощник подготовил письма-напоминания. Её неупорядоченные исходные данные выглядят так: 'котёл не работает, 2 детей, кв. 4B'; 'кран опять капает!!'; 'плесень в спальне, арендатор говорит, что у него астма'; 'список должников во вложении: имена, суммы, телефоны, заметки вроде мать-одиночка, потерял работу'. За каждой из этих строк стоит этическое решение, которое она может принимать, даже не замечая этого.
Как объяснить принципы этичного ИИ простыми словами?
Принципы этичного ИИ сводятся к пяти вопросам: справедлив ли он, прозрачен ли, защищает ли конфиденциальность, кто несёт ответственность и может ли он причинить вред? Международные документы, такие как Рекомендация ЮНЕСКО об этических аспектах искусственного интеллекта и Принципы ОЭСР в области ИИ, содержат более длинные списки, но эти пять вопросов охватывают решения, с которыми сталкивается большинство офисных сотрудников.
Справедливость: приведёт ли это к разному отношению к людям в схожих обстоятельствах?
Проверьте, не меняются ли порядок, оценки или формулировки в ответе из-за факторов, которые не должны влиять на результат, например имени, адреса или уровня владения письменным английским.
Прозрачность: будут ли затронутые люди знать об участии ИИ?
Спросите себя, вправе ли клиент, коллега или арендатор ожидать, что его уведомят, и сможете ли вы объяснить, как был получен результат.
Конфиденциальность: не передали ли вы больше персональных данных, чем нужно для задачи?
Удаляйте имена, контактные данные и конфиденциальные заметки, если они действительно не нужны для задачи, и используйте только инструменты, одобренные вашим работодателем.
Ответственность: кто персонально отвечает за решение?
У каждого решения, принятого с помощью ИИ, должен быть человек, который его проверил и может за него ответить. «Так предложил ИИ» — это не ответственный.
Вред: кто пострадает, если это окажется неверным?
Представьте худшую реалистичную ошибку и подумайте, кто за неё заплатит. Чем выше цена ошибки для человека, тем тщательнее нужно проверять результат.
Как выглядят неудачное и улучшенное решения по этичному использованию ИИ?
Слабый подход: Надя вставляет всю таблицу задолженностей, включая столбец с примечаниями, и просит: «Напишите этим арендаторам строгие письма с требованием заплатить под угрозой выселения». Она также просит ассистента расположить заявки на ремонт «по важности». В результате протекающий кран оказывается выше плесени, потому что соответствующий арендатор написал длинное гневное сообщение, а в письме арендатору, в примечаниях о котором указана недавняя потеря работы, неоднократно упоминается выселение. Личные сведения попали в инструмент, письма никто не подписал, а приоритет определяется резкостью обращения, а не риском.
Улучшенный подход: Надя удаляет имена, номера телефонов и столбец с примечаниями, затем просит: «Расположите эти заявки на ремонт по приоритету: сначала риск для здоровья и безопасности, затем ущерб имуществу, затем комфорт. Объясните каждую позицию одной строкой. Не учитывайте тон и длину сообщения». В начале списка оказываются неисправный котёл в жилье с детьми и плесень в жилье человека, указавшего заболевание. Для каждого случая приведена причина, которую Надя может проверить. Для писем она просит один вежливый шаблон, который указывает сумму долга, предлагает созвониться для согласования плана выплат и сообщает, где получить бесплатную консультацию по долгам. Она сама добавляет имена, читает каждое письмо и подписывает его. Теперь на каждый из пяти вопросов есть ответ.
Как проверить, этично ли решение, принятое с помощью ИИ?
Прежде чем действовать, проверьте решение, принятое с помощью ИИ: запишите по одной строке ответа на каждый из пяти вопросов. Если какую-то строку заполнить не получается, именно этот вопрос нужно проработать или передать на рассмотрение вышестоящему ответственному.
| Вопрос | Ответ Нади |
|---|---|
| Справедливо? | Приоритет определяется по указанным критериям риска, а не по тону сообщения |
| Прозрачно? | Письма проверяет и подписывает конкретный человек, чьё имя указано |
| Конфиденциально? | Имена, номера телефонов и заметки удалены перед использованием |
| Кто несёт ответственность? | Надя отвечает за рейтинг и каждое письмо |
| Вред? | В худшем случае — задержка ремонта; основные риски проверены вручную |
Какие ошибки часто допускают при этичном использовании ИИ на работе?
Самая распространённая ошибка — воспринимать этику как документ с правилами, а не как привычку оценивать каждый результат. Другие ошибки: считать инструмент нейтральным, потому что это машина; вставлять конфиденциальные записи лишь потому, что они находились в той же таблице; оставлять ранжирование ИИ без проверки его оснований; и скрывать участие ИИ в сообщениях, которые люди ожидают получить от человека. Если решение затрагивает чьё-то жильё, работу, деньги или здоровье, передайте его уполномоченному человеку, а не принимайте самостоятельно.
Какое место этика ИИ занимает в каталоге Tosheo.ai?
Тема этичного использования ИИ входит в раздел «Ответственное использование ИИ и внутренние правила» курса по грамотному использованию ИИ наряду с уроками о мерах контроля и проверке человеком. В практическом задании на Tosheo.ai вы получаете короткую ситуацию, связанную с вашей должностью, и принимаете решение с помощью инструмента ИИ. Обратная связь по критериям оценки указывает на каждый пропущенный вами вопрос.