¿Cómo se presenta un problema ético relacionado con la IA en un trabajo cotidiano?
Un problema ético de IA en el trabajo suele parecer un pequeño atajo: una clasificación que nadie revisa, una carta que nadie firma o una hoja de cálculo pegada en una herramienta que nunca se aprobó.
Imagine una agencia ficticia de alquileres con 35 personas, Calder Lettings. Su administradora de propiedades, Nadia, tiene dos tareas el lunes por la mañana. Primero, durante el fin de semana llegaron 60 solicitudes de mantenimiento y quiere que un asistente de IA las ordene por urgencia. Segundo, 14 inquilinos tienen retrasos en el pago del alquiler y quiere que el asistente redacte cartas de recordatorio. Los datos que introduce, sin organizar, son así: 'caldera averiada, 2 niños, apartamento 4B'; '¡¡el grifo gotea otra vez!!'; 'moho en el dormitorio, el inquilino dice que tiene asma'; 'lista de impagos adjunta: nombres, importes, teléfonos, notas como madre sola, perdió el trabajo'. Cada una de esas líneas contiene una decisión ética que quizá no advierta que está tomando.
¿Cuáles son los principios de la IA ética en palabras sencillas?
Los principios de la IA ética se resumen en cinco preguntas: ¿es justa?, ¿es transparente?, ¿protege la privacidad?, ¿quién es responsable? y ¿podría causar daños? Los marcos internacionales, como la Recomendación sobre la Ética de la Inteligencia Artificial de la UNESCO y los Principios de la OCDE sobre IA, utilizan listas más extensas, pero estas cinco preguntas abarcan las decisiones que afronta la mayoría de las personas que trabajan en oficinas.
Equidad: ¿trataría esto de forma diferente a personas en situaciones similares?
Compruebe si el resultado clasifica, puntúa o se expresa de manera diferente por motivos que no deberían influir, como un nombre, una dirección o el dominio del inglés de una persona.
Transparencia: ¿sabrían las personas afectadas que se utilizó IA?
Pregúntese si un cliente, un colega o un inquilino esperaría razonablemente que se le informara y si usted podría explicar cómo se obtuvo el resultado.
Privacidad: ¿compartió más datos personales de los necesarios para la tarea?
Elimine nombres, datos de contacto y notas sensibles, salvo que la tarea realmente los necesite, y use solo herramientas aprobadas por su empleador.
Responsabilidad: ¿quién responde por la decisión?
Toda decisión asistida por IA necesita una persona que la haya revisado y pueda responder por ella. 'Lo sugirió la IA' no identifica a una persona responsable.
Daño: ¿quién sale perjudicado si esto es incorrecto?
Imagine el peor error que podría ocurrir de forma realista y quién asumiría sus consecuencias. Cuanto mayor sea el costo para una persona, más revisión necesita el resultado.
¿Cómo se comparan una decisión deficiente y una mejorada sobre el uso ético de la IA?
Enfoque deficiente: Nadia pega la hoja de cálculo completa de pagos atrasados, incluida la columna de notas, y pide: 'Redacte cartas firmes para estos inquilinos indicándoles que paguen o se enfrentarán al desalojo.' También pide al asistente que ordene la lista de mantenimiento 'por importancia'. El resultado coloca el grifo que gotea por encima del moho porque ese inquilino escribió un mensaje largo y enojado, y las cartas repiten la palabra desalojo a un inquilino cuyas notas mencionan una pérdida de empleo reciente. Se han introducido notas personales en una herramienta, nadie ha firmado las cartas y la clasificación da prioridad a los mensajes más vehementes en lugar de al riesgo.
Enfoque mejorado: Nadia elimina los nombres, los números de teléfono y la columna de notas, y luego pide: 'Ordene estas solicitudes de mantenimiento primero por el riesgo para la salud y la seguridad, después por los daños materiales y, por último, por la comodidad. Explique cada posición en una línea. No tenga en cuenta el tono ni la longitud del mensaje.' La clasificación coloca al principio el caso de la caldera en una vivienda con niños y el del moho en una vivienda donde se ha indicado un problema de salud, cada uno con un motivo que ella puede comprobar. Para las cartas, pide una única plantilla cortés que indique el importe adeudado, ofrezca una llamada para acordar un plan y señale dónde obtener asesoramiento gratuito sobre deudas. Ella misma añade los nombres, lee cada carta y la firma. Ahora las cinco preguntas tienen respuesta.
¿Cómo se comprueba si una decisión tomada con ayuda de IA es ética?
Revise una decisión asistida por IA escribiendo una línea de respuesta a cada una de las cinco preguntas antes de actuar. Si no puede completar una línea, esa es la parte que debe corregir o remitir a quien corresponda.
| Pregunta | La respuesta de Nadia |
|---|---|
| ¿Es equitativo? | La clasificación utiliza criterios de riesgo explícitos, no el tono del mensaje |
| ¿Transparente? | Una persona identificada por su nombre revisa y firma las cartas |
| ¿Privado? | Nombres, números de teléfono y notas eliminados antes del uso |
| ¿Quién responde? | Nadia es responsable de la clasificación y de cada carta |
| ¿Daño? | En el peor de los casos, se retrasa una reparación; los principales riesgos se comprueban manualmente |
¿Cuáles son los errores habituales en el uso ético de la IA en el trabajo?
El error más común es tratar la ética como un documento de políticas en vez de como un hábito que se aplica a cada resultado. Otros: suponer que una herramienta es neutral porque es una máquina, pegar notas sensibles porque estaban en la misma hoja de cálculo, aceptar una clasificación de la IA sin preguntar en qué se basó y ocultar la intervención de la IA en comunicaciones que las personas esperarían que redactara un ser humano. Cuando una decisión afecte a la vivienda, el empleo, el dinero o la salud de alguien, remítala a una persona con autoridad en vez de decidir por su cuenta.
¿Dónde encaja la IA ética en el catálogo de Tosheo.ai?
La IA ética forma parte de la categoría IA responsable y políticas, dentro del curso de alfabetización en IA, junto con las lecciones sobre controles de IA responsable y revisión humana. En Tosheo.ai, la tarea práctica le presenta un caso breve de su propio puesto; usted toma la decisión con una herramienta de IA y los comentarios basados en la guía de evaluación señalan cada pregunta que omitió.
Fuentes y alcance
OECD.AI, los principios de la OCDE sobre IA (consultado el 19 October 2026) ↗