Wie sieht ein ethisches Problem beim KI-Einsatz im Büroalltag aus?
Ein ethisches Problem mit KI am Arbeitsplatz zeigt sich meist als kleine Abkürzung: eine Rangliste, die niemand prüft, ein Schreiben, das niemand unterschreibt, oder eine Tabelle, die in ein nie freigegebenes Tool kopiert wird.
Stellen Sie sich die fiktive Vermietungsagentur Calder Lettings mit 35 Beschäftigten vor. Ihre Immobilienverwalterin Nadia hat am Montagmorgen zwei Aufgaben. Erstens sind am Wochenende 60 Instandhaltungsanfragen eingegangen, die ein KI-Assistent nach Dringlichkeit sortieren soll. Zweitens sind 14 Mietparteien mit der Miete im Rückstand, und der Assistent soll Zahlungserinnerungen entwerfen. Ihre ungeordneten Eingaben sehen so aus: 'Heizung geht nicht, 2 Kinder, Wohnung 4B'; 'Wasserhahn tropft schon wieder!!'; 'Schimmel im Schlafzimmer, Mieter sagt Asthma'; 'Liste der Mietrückstände anbei: Namen, Beträge, Telefonnummern, Notizen wie alleinerziehende Mutter, Job verloren'. In jeder dieser Zeilen steckt eine ethische Entscheidung, die sie möglicherweise unbemerkt trifft.
Wie lassen sich die Grundsätze ethischer KI einfach erklären?
Die Grundsätze ethischer KI lassen sich auf fünf Fragen verdichten: Ist sie fair, ist sie transparent, schützt sie die Privatsphäre, wer trägt die Verantwortung und könnte sie Schaden verursachen? Internationale Rahmenwerke wie die UNESCO-Empfehlung zur Ethik der künstlichen Intelligenz und die OECD-Grundsätze für KI verwenden längere Listen. Diese fünf Fragen decken jedoch die Entscheidungen ab, vor denen die meisten Büroangestellten stehen.
Fairness: Würden vergleichbare Personen dadurch unterschiedlich behandelt?
Prüfen Sie, ob die Ausgabe Rangfolgen, Bewertungen oder Formulierungen aus Gründen verändert, die keine Rolle spielen sollten, etwa aufgrund eines Namens, einer Adresse oder der Englischkenntnisse einer Person.
Transparenz: Würden die Betroffenen wissen, dass KI beteiligt war?
Fragen Sie sich, ob ein Kunde, Kollege oder Mieter vernünftigerweise erwarten würde, informiert zu werden, und ob Sie erklären könnten, wie das Ergebnis zustande gekommen ist.
Datenschutz: Haben Sie mehr personenbezogene Daten weitergegeben, als für die Aufgabe nötig sind?
Entfernen Sie Namen, Kontaktdaten und sensible Notizen, sofern die Aufgabe sie nicht wirklich erfordert, und verwenden Sie nur Werkzeuge, die Ihr Arbeitgeber freigegeben hat.
Rechenschaftspflicht: Wer steht namentlich für die Entscheidung ein?
Jede KI-gestützte Entscheidung braucht eine Person, die sie geprüft hat und dafür geradestehen kann. 'Die KI hat es vorgeschlagen' benennt keine verantwortliche Person.
Schaden: Wer trägt die Folgen, wenn das falsch ist?
Stellen Sie sich den schlimmsten realistischen Fehler vor und überlegen Sie, wer dafür aufkommt. Je gravierender die Folgen für eine Person sind, desto gründlicher muss das Ergebnis geprüft werden.
Wie sieht eine schwache und eine verbesserte Entscheidung zum ethischen Einsatz von KI aus?
Schwaches Vorgehen: Nadia fügt die vollständige Tabelle mit Mietrückständen einschließlich der Notizspalte ein und fordert: „Schreiben Sie nachdrückliche Briefe an diese Mieter, in denen Sie sie zur Zahlung auffordern und andernfalls mit Räumung drohen.“ Außerdem bittet sie den Assistenten, die Instandhaltungsliste „nach Wichtigkeit“ zu ordnen. Im Ergebnis steht der tropfende Wasserhahn vor dem Schimmel, weil der betreffende Mieter eine lange, verärgerte Nachricht geschrieben hat. In den Briefen wird gegenüber einem Mieter, dessen Notizen einen kürzlichen Arbeitsplatzverlust erwähnen, wiederholt das Wort Räumung verwendet. Persönliche Notizen sind in ein Tool gelangt, niemand hat die Briefe unterzeichnet und die Rangfolge belohnt lautstarke Formulierungen statt nach Risiken zu gewichten.
Verbessertes Vorgehen: Nadia entfernt Namen, Telefonnummern und die Notizspalte. Dann fragt sie: ‚Ordnen Sie diese Instandhaltungsanfragen nach Priorität: zuerst Gesundheits- und Sicherheitsrisiken, dann Sachschäden, dann Komfort. Begründen Sie jede Einstufung in einer Zeile. Berücksichtigen Sie weder den Ton noch die Länge der Nachricht.‘ In der Rangfolge stehen der Heizkessel in einem Haushalt mit Kindern und der Schimmelbefall bei einer angegebenen gesundheitlichen Beeinträchtigung ganz oben – jeweils mit einer Begründung, die sie prüfen kann. Für die Schreiben bittet sie um eine höfliche Vorlage, die den geschuldeten Betrag nennt, ein Gespräch zur Vereinbarung eines Zahlungsplans anbietet und angibt, wo kostenlose Schuldnerberatung erhältlich ist. Die Namen ergänzt sie selbst, liest jedes Schreiben und unterschreibt es. Damit ist jede der fünf Fragen beantwortet.
Wie prüfen Sie, ob eine KI-gestützte Entscheidung ethisch vertretbar ist?
Prüfen Sie eine KI-gestützte Entscheidung, indem Sie vor dem Handeln zu jeder der fünf Fragen eine Zeile schreiben. Wenn Sie eine Zeile nicht ausfüllen können, müssen Sie diesen Punkt klären oder an die zuständige Stelle weitergeben.
| Frage | Nadias Antwort |
|---|---|
| Fair? | Die Rangfolge richtet sich nach den angegebenen Risikokriterien, nicht nach dem Tonfall der Nachricht |
| Transparent? | Briefe werden von einer namentlich benannten Person geprüft und unterschrieben |
| Privat? | Namen, Telefonnummern und Notizen vor der Nutzung entfernt |
| Wer trägt die Verantwortung? | Nadia ist für die Rangfolge und jeden Brief verantwortlich |
| Schaden? | Schlimmstenfalls verzögert sich eine Reparatur; die größten Risiken werden manuell geprüft |
Was sind häufige Fehler beim ethischen Einsatz von KI am Arbeitsplatz?
Der häufigste Fehler ist, Ethik als Richtliniendokument zu behandeln statt als Gewohnheit, die auf jedes Ergebnis angewendet wird. Weitere Fehler: ein Werkzeug für neutral halten, weil es eine Maschine ist, sensible Notizen einfügen, weil sie in derselben Tabelle standen, eine KI-Rangfolge ungeprüft übernehmen, ohne nach ihrer Grundlage zu fragen, und den KI-Einsatz bei Mitteilungen verbergen, bei denen Menschen eine menschliche Verfasserschaft erwarten würden. Wenn eine Entscheidung die Wohnung, den Arbeitsplatz, das Geld oder die Gesundheit einer Person betrifft, geben Sie sie an eine befugte Person weiter, statt allein zu entscheiden.
Wo ist ethische KI im Katalog von Tosheo.ai eingeordnet?
Ethische KI gehört im Kurs zur KI-Kompetenz zur Kategorie Verantwortungsvolle KI und Richtlinien, zusammen mit Lektionen zu Kontrollmaßnahmen für verantwortungsvolle KI und zur menschlichen Überprüfung. In der praktischen Aufgabe auf Tosheo.ai erhalten Sie einen kurzen Fall aus Ihrer eigenen beruflichen Rolle und treffen die Entscheidung mit einem KI-Werkzeug. Die Rückmeldung anhand des Bewertungsrasters zeigt Ihnen jede Frage auf, die Sie übersprungen haben.
Quellen und Geltungsbereich
OECD.AI, die KI-Grundsätze der OECD (geprüft am 19 October 2026) ↗