À quoi ressemble un problème éthique lié à l’IA dans un emploi courant ?
Au travail, un problème éthique lié à l’IA prend souvent la forme d’un petit raccourci : un classement que personne ne vérifie, un courrier que personne ne signe ou un tableau collé dans un outil qui n’a jamais été approuvé.
Imaginez une agence de location immobilière fictive de 35 personnes, Calder Lettings. Sa gestionnaire locative, Nadia, a deux tâches à accomplir lundi matin. D’abord, 60 demandes d’intervention sont arrivées pendant le week-end et elle souhaite qu’un assistant IA les classe par urgence. Ensuite, 14 locataires ont des retards de loyer et elle souhaite que l’assistant rédige des lettres de relance. Ses données désordonnées ressemblent à ceci : 'chaudière en panne, 2 enfants, appartement 4B' ; 'robinet qui fuit encore !!' ; 'moisissures dans la chambre, le locataire dit être asthmatique' ; 'liste des impayés jointe : noms, montants, numéros de téléphone, notes comme mère seule, perte d’emploi'. Chacune de ces lignes implique une décision éthique qu’elle prend peut-être sans s’en rendre compte.
Quels sont les principes de l’IA éthique, en termes simples ?
Les principes d’une IA éthique se résument à cinq questions : est-elle équitable, est-elle transparente, protège-t-elle la vie privée, qui en est responsable et pourrait-elle causer un préjudice ? Les cadres internationaux, tels que la Recommandation de l’UNESCO sur l’éthique de l’intelligence artificielle et les Principes de l’OCDE sur l’IA, proposent des listes plus longues, mais ces cinq questions couvrent les décisions auxquelles sont confrontés la plupart des employés de bureau.
Équité : cela traiterait-il différemment des personnes dans des situations similaires ?
Vérifiez si le résultat classe, note ou formule les choses différemment pour des raisons qui ne devraient pas entrer en compte, comme un nom, une adresse ou la maîtrise de l’anglais.
Transparence : les personnes concernées sauraient-elles que l’IA a été utilisée ?
Demandez-vous si un client, un collègue ou un locataire s’attendrait raisonnablement à être informé, et si vous pourriez expliquer comment le résultat a été produit.
Vie privée : avez-vous partagé plus de données personnelles que nécessaire pour cette tâche ?
Supprimez les noms, les coordonnées et les notes sensibles, sauf si la tâche en a réellement besoin, et utilisez uniquement des outils approuvés par votre employeur.
Responsabilité : qui assume la décision ?
Toute décision prise avec l’aide de l’IA doit avoir été examinée par une personne qui peut en répondre. « L’IA l’a suggéré » ne désigne pas un responsable.
Préjudice : qui subit les conséquences si c’est faux ?
Imaginez la pire erreur réaliste et qui en subirait les conséquences. Plus le coût pour une personne est élevé, plus le résultat doit être vérifié.
À quoi ressemble une décision en matière d’IA éthique insuffisante ou améliorée ?
Approche insuffisante : Nadia colle l’intégralité du tableau des impayés, y compris la colonne de notes, et demande : « Rédigez des lettres fermes à ces locataires pour leur dire de payer sous peine d’expulsion. » Elle demande aussi à l’assistant de classer la liste des travaux d’entretien « par importance ». Le résultat place le robinet qui fuit avant les moisissures, parce que le locataire concerné a écrit un long message de colère, et les lettres répètent le mot expulsion à un locataire dont les notes mentionnent une perte d’emploi récente. Des notes personnelles ont été transmises à un outil, personne n’a signé les lettres et le classement privilégie les messages véhéments plutôt que le niveau de risque.
Approche améliorée : Nadia retire les noms, les numéros de téléphone et la colonne de notes, puis demande : « Classez ces demandes d’entretien en donnant la priorité aux risques pour la santé et la sécurité, puis aux dommages matériels, puis au confort. Expliquez chaque classement en une ligne. Ne tenez pas compte du ton ni de la longueur du message. » Le classement place en tête le problème de chaudière dans le logement avec des enfants et le problème de moisissures associé à un problème de santé déclaré, chacun avec une justification qu’elle peut vérifier. Pour les courriers, elle demande un modèle courtois unique qui précise le montant dû, propose un appel pour convenir d’un échéancier et indique où obtenir des conseils gratuits sur l’endettement. Elle ajoute elle-même les noms, lit chaque courrier et le signe. Chacune des cinq questions a désormais une réponse.
Comment vérifier qu’une décision prise avec l’aide de l’IA est éthique ?
Vérifiez une décision assistée par l’IA en rédigeant une ligne de réponse à chacune des cinq questions avant d’agir. Si vous ne pouvez pas remplir une ligne, c’est le point à corriger ou à soumettre au niveau de responsabilité approprié.
| Question | Réponse de Nadia |
|---|---|
| Équitable ? | Le classement repose sur les critères de risque énoncés, pas sur le ton des messages |
| Transparent ? | Les courriers sont relus et signés par une personne nommément désignée |
| Privé ? | Noms, numéros de téléphone et notes supprimés avant utilisation |
| Qui en répond ? | Nadia est responsable du classement et de chaque lettre |
| Préjudice ? | Dans le pire des cas, une réparation retardée ; principaux risques vérifiés manuellement |
Quelles sont les erreurs courantes en matière d’IA éthique au travail ?
L’erreur la plus courante consiste à traiter l’éthique comme un document de politique interne plutôt que comme une habitude appliquée à chaque résultat. Autres erreurs : supposer qu’un outil est neutre parce que c’est une machine, coller des notes sensibles parce qu’elles figuraient dans le même tableur, accepter un classement produit par une IA sans demander sur quoi il repose et dissimuler le recours à l’IA dans une communication que les destinataires s’attendraient à voir rédigée par un humain. Lorsqu’une décision touche au logement, à l’emploi, à l’argent ou à la santé d’une personne, transmettez-la à une personne habilitée plutôt que de décider seul.
Quelle place l’IA éthique occupe-t-elle dans le catalogue Tosheo.ai ?
L’IA éthique fait partie de la catégorie IA responsable et politiques du cours de culture de l’IA, aux côtés des leçons sur les mesures de contrôle de l’IA responsable et la vérification humaine. Sur Tosheo.ai, la tâche pratique vous propose un court cas lié à votre métier. Vous prenez la décision à l’aide d’un outil d’IA, puis les commentaires fondés sur la grille d’évaluation signalent chaque question que vous avez omise.
Sources et périmètre
OECD.AI, les principes de l’OCDE sur l’IA (vérifiés le 19 October 2026) ↗