In dieser Vorlesung betrachten wir systematische Verzerrungen in Künstlicher Intelligenz (KI), im Englischen oft als "bias" bezeichnet. Bias beschreibt hier, dass ein automatisiertes System systematisch unterschiedliche Ergebnisse für verschiedene Personen, Gruppen oder Situationen liefert oder in systematischer Weise von der erwünschten oder erwarteten Leistung abweicht. Diese Verzerrungen können technische Ursachen haben, mit gesellschaftlichen Strukturen zusammenhängen oder durch Nutzungsbedingungen erst entstehen. Die folgenden Ausführungen stützen sich auf etablierte Übersichtsarbeiten und dokumentierte Fallbeispiele, die in den Quellen angegeben sind (z. B. Mehrabi et al.; Buolamwini & Gebru; Angwin et al.). Aussagen über Ursachen, Folgen und Maßnahmen geben den aktuellen wissenschaftlichen Konsens wieder, soweit er in der Forschungsliteratur dokumentiert ist; bestehende Unsicherheiten kennzeichne ich deutlich.
Bias in der KI lässt sich mit einfachen Analogien erklären. Ein Beispiel: Stellen Sie sich vor, Sie messen die Länge von Gegenständen mit einem Lineal, dessen Nullpunkt nicht richtig sitzt. Alle Messwerte sind konsistent, aber systematisch verschoben — das ist ein technischer Fehler, vergleichbar mit statistischem Bias. Ein weiteres Bild: Ein Spiegel, der nur einen Ausschnitt einer Szene zeigt; wenn er bestimmte Gruppen seltener oder fehlerhaft abbildet, liefert er eine verzerrte Sicht der Realität. Bei KI-Systemen entstehen vergleichbare Effekte, aber die Gründe sind meist komplexer.
Konkrete Beispiele aus der Forschung verdeutlichen die Wirklichkeit: Bei kommerziellen Systemen zur Geschlechtserkennung zeigten Untersuchungen deutliche Unterschiede in der Erkennungsgenauigkeit zwischen Personen verschiedener Hauttöne und Geschlechter, wobei dunkelhäutige Frauen häufiger falsch klassifiziert wurden (siehe Buolamwini & Gebru, 2018). In einem anderen Bereich berichtete eine journalistische Untersuchung, dass ein automatisiertes Risikomodell im US-amerikanischen Strafrecht unterschiedliche Fehlerarten für verschiedene ethnische Gruppen aufwies (siehe Angwin et al., 2016). Solche Fälle sind nicht Einzelfälle, sondern zeigen strukturelle Problempunkte, die in vielen Anwendungen auftreten können.
Wie entstehen solche Verzerrungen typischerweise? Kurz gefasst: durch die Daten, durch die Art der Modellierung und durch die Art, wie Systeme eingesetzt werden. Datensätze können Gruppen unterrepräsentieren oder historische Ungleichheiten widerspiegeln. Labels können menschliche Vorurteile enthalten oder ungenau sein. Modellarchitekturen und Optimierungsziele (etwa die Maximierung der durchschnittlichen Genauigkeit) können unbeabsichtigt Gruppen benachteiligen. Und im Betrieb können Systeme in Kontexten angewendet werden, für die sie nicht validiert sind.
Wichtig ist: Bias ist nicht nur ein technisches Problem. Häufig reflektieren Fehlleistungen gesellschaftliche Ungleichheiten: wenn historische Diskriminierung Eingang in Daten findet, reproduziert ein System diese Muster, selbst ohne "Absicht". Literatur und Fallstudien zeigen, dass genaue Ursachenanalyse, dokumentierte Datensätze und geeignete Evaluationsmetriken zentrale Schritte sind, um Verzerrungen zu verstehen (Mehrabi et al., 2019; Barocas & Selbst, 2016).
Um Verzerrungen systematisch zu behandeln, ist es hilfreich, Fachbegriffe und Kategorien zu verwenden. Eine gängige Taxonomie unterscheidet mehrere Arten von Bias in Daten und Modellen. In der Übersichtsarbeit von Mehrabi et al. (2019) finden sich übliche Kategorien wie historische Bias (wenn Daten vergangene Ungleichheiten abbilden), Repräsentationsbias (wenn bestimmte Gruppen unterrepräsentiert sind), Mess- oder Erfassungsbias (wenn Merkmalserfassung fehlerhaft ist), Aggregationsbias (wenn ein Modell über heterogene Gruppen hinweg ein einziges Modell erzwingt) und Evaluationsbias (wenn Testdaten die Vielfalt der Einsatzfälle nicht abbilden). Diese Kategorien helfen, Ursachen zielgerichtet anzugehen.
Auf der Ebene der Modellbewertung existieren verschiedene Fairness-Definitionen, die in der Literatur diskutiert werden. Beispiele sind statistische Parität (Anteile von positiven Entscheidungen sollen zwischen Gruppen übereinstimmen), Gleichheit der Fehlerraten (z. B. gleiche Falsch-Positiv- und Falsch-Negativ-Raten zwischen Gruppen) oder Vorhersagekalibrierung (gleiches Verhältnis von vorhergesagtem Risiko zu tatsächlicher Ereigniswahrscheinlichkeit innerhalb jeder Gruppe). Die Forschung stellt klar, dass diese Definitionen nicht immer gleichzeitig erfüllbar sind; es gibt mathematische Trade-offs, die bei der Auswahl einer Fairness-Definition bedacht werden müssen (Mehrabi et al., 2019; Barocas & Selbst, 2016). Welche Definition angemessen ist, hängt vom Anwendungsfall und von gesellschaftlichen Zielvorgaben ab.
Zur Verringerung von Bias unterscheidet die Fachliteratur drei technische Strategien: präprozessuale Maßnahmen (pre-processing), bei denen Datensätze verändert oder gewichtet werden; in-prozessuale Maßnahmen (in-processing), bei denen das Lernverfahren Fairness-Bedingungen oder Regularisierer enthält; sowie postprozessuale Maßnahmen (post-processing), bei denen Vorhersagen nachträglich angepasst werden. Beispiele aus der Praxis sind Re-Sampling oder Re-Weighting von Trainingsdaten, das Einbeziehen fairness-orientierter Kostenfunktionen, adversarielle Regularisierung oder Kalibrierung und Schwellenanpassungen für Teilgruppen. Meta-Maßnahmen wie das Anlegen von "Datasheets for Datasets" und "Model Cards" dienen zur Dokumentation von Datensätzen und Modellen und verbessern Transparenz und Verantwortlichkeit (Gebru et al., 2018; Mitchell et al., 2019).
Einige konkrete technische Befunde aus der Forschung: Wort- und Sprachmodelle können stereotype Assoziationen lernen; ein bekanntes Beispiel sind geschlechtsbezogene Stereotype in Wort-Einbettungen, die durch gezielte Debiasing-Verfahren abgeschwächt werden können, ohne alle strukturellen Probleme zu lösen (Bolukbasi et al., 2016). Dokumentation und Auditierbarkeit der Daten sind wiederkehrend genannte Voraussetzungen für verantwortungsvolle Anwendungen, weil viele Bias-Quellen nur nach genauer Untersuchung der Datenerfassung und Label-Prozesse sichtbar werden (Gebru et al., 2018).
Neben technischen Maßnahmen fordern Expertinnen und Experten institutionelle Schritte: klare Governance, regelmäßige Audits, interdisziplinäre Teams und, wo sinnvoll, externe Prüfstellen. Die europäischen "Ethics Guidelines for Trustworthy AI" formulieren Prinzipien wie Transparenz, Rechenschaftspflicht und menschliche Aufsicht, die in politischen und organisatorischen Rahmen eine Rolle spielen können (European Commission, 2019). Wissenschaftlich belegt ist jedoch, dass keine einzelne Maßnahme alle Probleme löst; ein Bündel aus technischen, organisatorischen und regulatorischen Schritten ist in der Regel erforderlich.
Unsicherheit: Für viele Anwendungen fehlen noch robuste, allgemein akzeptierte Verfahren zur Messung und Behebung von Bias. Auch fehlen oft notwendige demographische Metadaten in Datensätzen, so dass Probleme erst nachträglich erkannt werden können. Studien zeigen Fortschritte, aber auch offene Fragen, etwa wie man Fairness über mehrere Stufen von Modellen oder in adaptiven Systemen langfristig garantiert (Mehrabi et al., 2019).
Anwendungen: Bias kann in vielen Bereichen Folgen haben. In Bewerbungsverfahren können automatisierte Filter qualifizierte Bewerberinnen und Bewerber benachteiligen, wenn Trainingsdaten vergangene Vorurteile enthalten. Im Kreditwesen können Modelle Kreditvergabegrundsätze verstärken, wenn historische Daten Diskriminierung widerspiegeln. In der Medizin kann eine unzureichende Datendeckung bestimmter Bevölkerungsgruppen zu schlechterer Diagnoseleistung für diese Gruppen führen. Die exemplarischen Untersuchungen zu Gesichtserkennung (Buolamwini & Gebru, 2018) und Strafrechtsrisikobewertung (Angwin et al., 2016) zeigen realweltliche Folgen unterschiedlicher Art; aus ihnen folgt, dass Risiken systematisch analysiert und gemessen werden müssen, bevor Systeme breit eingesetzt werden.
Grenzen der Gegenmaßnahmen: Technische Debiasing-Verfahren können lokale Verbesserungen bringen, führen aber nicht automatisch zu fairen Ergebnissen in allen Einsatzkontexten. Manche Methoden reduzieren bestimmte Fehlerarten, erhöhen aber andere oder verringern die Gesamtleistung. Zudem ersetzen technische Maßnahmen nicht die Notwendigkeit organisatorischer Regeln, Nutzeraufklärung und gegebenenfalls rechtlicher Vorgaben. Die Literatur mahnt daher, Lösungen kontextsensitiv zu wählen und transparent zu dokumentieren (Mitchell et al., 2019; Gebru et al., 2018).
Kleines Fallbeispiel zum Nachdenken: Angenommen, Sie sollen ein Gesichtserkennungsmodell für eine städtische Parkverwaltung entwickeln, das berechtigte Parkausweise erkennen soll. Welche Schritte würden Sie ergreifen, um Bias zu vermeiden? Überlegen Sie mindestens drei Maßnahmen, und reflektieren Sie mögliche Zielkonflikte (z. B. zwischen Genauigkeit und fairer Leistung über alle Gruppen).
Eine mögliche Antwort könnte Punkte enthalten wie: (1) Prüfen, ob die vorhandenen Trainingsdaten die lokale Bevölkerung repräsentieren; gegebenenfalls weitere Daten gezielt gewinnen; (2) Datensätze dokumentieren (Datasheets) und Leistung nach relevanten Untergruppen auswerten; (3) geeignete Fairness-Metriken auswählen und testen, welche Trade-offs entstehen; (4) ein Verfahren zur kontinuierlichen Überwachung und zum Audit einrichten; (5) Einsatzregeln definieren, z. B. menschliche Überprüfung in kritischen Fällen. Beachten Sie, dass jede Maßnahme Nebenwirkungen haben kann, die vorher bedacht werden müssen (Mehrabi et al., 2019; Gebru et al., 2018).
Abschließende Einschätzung: Bias in KI ist ein real nachgewiesenes Problem mit vielfältigen Ursachen. Die Forschung bietet eine Palette von Methoden zur Analyse und Minderung, doch es gibt kein universelles Patentrezept. Kombination aus sorgfältiger Datenerhebung, technischer Kontrolle, transparenter Dokumentation und organisatorischer Governance ist nach aktuellem wissenschaftlichen Stand die beste Praxis, um die Risiken zu verringern (Mitchell et al., 2019; Barocas & Selbst, 2016; European Commission, 2019).