KI in der Medizin: Diagnose, Therapie, Chancen, Risiken und die Rolle von Ärztinnen und Ärzten

Teil 1 (ca. 20 Minuten): Einführung und verständliche Erklärung

Ziel dieses Teils: Grundverständnis dafür vermitteln, wie KI heute in Diagnose und Therapie eingesetzt wird, mit leicht verständlichen Analogien und konkreten Beispielen.

Künstliche Intelligenz (KI) ist in der Medizin nicht ein einziges Werkzeug, sondern ein Bündel technischer Verfahren, die Daten auswerten, Muster erkennen und Vorhersagen treffen können. In der klinischen Praxis werden solche Verfahren primär zur Unterstützung von Entscheidungen eingesetzt: beim Erkennen von Auffälligkeiten in Bildern, beim Vorhersagen von Krankheitsverläufen aus elektronischen Gesundheitsakten oder beim Vorschlagen individuell angepasster Therapieoptionen. Zahlreiche Regulierungsbehörden prüfen und genehmigen medizinische KI-Systeme als medizinische Geräte; ein prominentes frühes Beispiel ist ein automatisches System zur Erkennung von diabetischer Retinopathie, das von einer Gesundheitsbehörde zur Nutzung freigegeben wurde und damit zeigt, dass autonome KI-Anwendungen möglich sind (Behördliche Bekanntmachungen und Zulassungsentscheidungen dokumentieren solche Fälle) (siehe Quellen).

Eine einfache Analogie: Stellen Sie sich vor, ein erfahrener Radiologe betrachtet hundert Röntgenbilder pro Tag und erinnert sich an Tausende vergleichbarer Fälle. Moderne KI-Modelle werden auf sehr großen Bilddatenbeständen trainiert und können dann neue Bilder mit früheren Fällen vergleichen. Dabei handelt es sich nicht um menschliches Erinnern, sondern um mathematische Mustererkennung. Genau wie ein menschlicher Kollege kann eine KI Auffälligkeiten vorschlagen, aber die Finalentscheidung verbleibt häufig beim behandelnden Menschen.

Beispiele aus der Praxis, die derzeit belegt sind, umfassen die bildbasierte Diagnostik (Radiologie, Dermatologie, Augenheilkunde), bei der Algorithmen Auffälligkeiten wie Lungenrundherde, Hauttumoren oder Netzhautschäden identifizieren können; die digitale Pathologie, wo Algorithmen Zellmuster klassifizieren; sowie Entscheidungsunterstützungssysteme, die aus elektronischen Patientenakten (EHR) Risiken für Komplikationen vorhersagen. Wichtig ist: In den meisten Anwendungsfällen dienen die Systeme als Assistenzwerkzeuge, die die Aufmerksamkeit des medizinischen Personals lenken und Arbeitsabläufe effizienter machen können. Regulatorische Stellen prüfen die Sicherheit und Wirksamkeit solcher Systeme, bevor sie zur klinischen Nutzung zugelassen werden (siehe FDA, WHO).

Es existieren auch Beispiele für individualisierte Therapieempfehlungen: KI kann molekulare Profile (z. B. Genomdaten) mit klinischen Daten koppeln, um Therapieoptionen vorzuschlagen, insbesondere bei Krebs oder seltenen Erkrankungen. Diese Anwendungen stehen jedoch häufig noch unter enger Forschung und müssen klinisch validiert werden, bevor sie routinemäßig genutzt werden.

Unsicherheiten und Datenlücken bestehen weiterhin: Die Qualität der Ergebnisse hängt stark von den Trainingsdaten ab, insbesondere von deren Repräsentativität gegenüber der Zielpopulation. Viele Studien werden unter Laborbedingungen oder in einzelnen Zentren durchgeführt; frei verfügbare, groß angelegte, multizentrische Validierungen sind für zahlreiche Anwendungen noch nicht abgeschlossen. Deshalb lautet ein grundlegender Konsens in der Fachwelt: KI kann Leistung und Effizienz erhöhen, sie ist aber kein universeller Ersatz für klinische Erfahrung und klinische Studien (siehe WHO, Nature Medicine).

Teil 2 (ca. 20 Minuten): Vertiefung und Einführung zentraler Fachbegriffe

Ziel dieses Teils: Wichtige technische und regulatorische Begriffe klar benennen und erklären sowie ihre Bedeutung für Diagnose und Therapie zeigen.

Zunächst einige zentrale Begriffe mit direkter Relevanz für die Medizin: „Klinische Validierung“ bezeichnet den Nachweis, dass ein KI-System auf für die klinische Praxis relevanten Daten zuverlässig funktioniert; „Robustheit“ beschreibt die Fähigkeit eines Modells, bei leicht veränderten Bedingungen weiterhin korrekte Vorhersagen zu liefern; „Generalisierung“ meint die Übertragbarkeit einer auf bestimmten Daten trainierten KI auf neue, externe Daten. Regulierung greift dort ein, wo die Anwendung potenziell Patientensicherheit beeinflussen kann: Für viele medizinische KI-Produkte gelten die Anforderungen für Medizinprodukte, einschließlich Qualitätsmanagement, klinischer Bewertung und Überwachung nach der Markteinführung (siehe FDA-Angaben zu KI/ML in Medizinprodukten).

Explainability bzw. Erklärbarkeit ist ein weiterer zentraler Begriff. Manche Verfahren sind von Natur aus besser interpretierbar, andere sind „Black Boxes“. In der Diskussion um medizinische Anwendungen wird argumentiert, dass bei hochrelevanten Entscheidungen erklärbare Modelle oder zumindest nachvollziehbare Entscheidungsgrundlagen wichtig sind, weil sie Vertrauen schaffen und das Nachvollziehen von Fehlern ermöglichen. Einige Autorinnen und Autoren empfehlen, in sicherheitskritischen Fällen eher interpretierbare Modelle zu nutzen oder Black-Box-Modelle nur mit ergänzender Validierung und Überwachung einzusetzen (siehe Literatur zu interpretierbaren Modellen).

Bias und Fairness: KI-Modelle lernen aus Daten, und wenn diese Daten systematische Verzerrungen enthalten, reproduziert die KI diese Verzerrungen. In der Medizin kann das bedeuten, dass ein Algorithmus bei bestimmten Patientengruppen schlechter funktioniert, weil diese Gruppen in den Trainingsdaten unterrepräsentiert waren. Solche Verzerrungen können gesundheitliche Ungleichheiten verstärken. Deshalb fordern Expertinnen und Experten standardisierte Verfahren zur Bias-Analyse, zur Berichterstattung über Datensätze und zur externen Validierung (siehe WHO, EU-Leitlinien).

Zulassungskonzepte: Regulierungsbehörden haben begonnen, spezialisierte Rahmenwerke für KI-basierte medizinische Software zu entwickeln. Die US-amerikanische Behörde dokumentiert beispielsweise Vorgehensweisen zur schrittweisen Einführung und zur Überwachung von KI/ML-basierten Systemen. Behörden betonen dabei die Notwendigkeit von Transparenz, kontinuierlicher Leistungsüberwachung und Post-Market-Überwachung, weil KI-Modelle sich ändern können und weil ihre Leistung in der klinischen Routine von derjenigen in Studien abweichen kann (siehe FDA Action Plan).

Klinische Einbettung: Ein weiteres wichtiges Konzept ist die menschzentrierte Integration. KI sollte in klinische Abläufe so integriert werden, dass sie relevante Akteurinnen und Akteure unterstützt, ohne Arbeitsprozesse unübersichtlich zu machen. Implementationsstudien untersuchen, wie Ärztinnen und Ärzte mit Vorschlägen umgehen, ob Arbeitsaufwand sinkt oder steigt und ob sich Patientenergebnisse tatsächlich verbessern. Solche Implementationsergebnisse sind oft wenig veröffentlicht; daher bleiben Wirkung auf Systemebene und langfristige Nutzen-Risiko-Bilanzen für viele Anwendungen unsicher oder uneinheitlich belegt.

Abschließend: Auf technischer und regulatorischer Ebene zeichnet sich ein Übereinkommen ab, das zwei Aspekte betont. Erstens: Sorgfältige Validierung und Überwachung sind für sicherheitsrelevante Anwendungen unerlässlich. Zweitens: Erklärbarkeit, Repräsentativität der Daten und menschenzentrierte Gestaltung sind keine additiven Extras, sondern zentrale Voraussetzungen für verantwortungsvolle Nutzung in der Medizin (siehe WHO, EU Guidelines, Fachliteratur).

Teil 3 (ca. 10 Minuten): Konkrete Anwendungen, Grenzen und kleine Denkaufgaben

Ziel dieses Teils: Das Gelernte an Anwendungsbeispielen reflektieren, Grenzen benennen und das Verständnis mit kurzen Denkaufgaben prüfen.

Konkrete, belegte Anwendungen: In der Radiologie und Augenheilkunde existieren validierte Algorithmen, die Auffälligkeiten markieren und in einigen Fällen sogar autonome Entscheidungen treffen dürfen, sofern die regulatorische Zulassung vorliegt. In der Pathologie werden Bildanalysealgorithmen genutzt, um Zelltypen und Muster zu quantifizieren. In der Versorgung werden KI-gestützte Systeme zur Risikoabschätzung (z. B. Sturz-, Sepsis- oder Wiederaufnahmerisiko) eingesetzt, oft als Teil klinischer Entscheidungsunterstützung. In der Forschung unterstützen KI-Systeme die Entdeckung potenzieller Biomarker und die Identifikation relevanter molekularer Muster, die zu personalisierten Therapieansätzen führen können (siehe Topol, WHO).

Grenzen und typische Probleme: Viele Algorithmen wurden in engen, gut kontrollierten Umgebungen entwickelt und performen außerhalb dieser Umgebung schlechter. Datenschutzrechtliche und ethische Fragen sind nicht nur theoretisch: Der Umgang mit sensiblen Gesundheitsdaten erfordert klare Rechtsgrundlagen, technische Schutzmaßnahmen und Transparenz gegenüber Patientinnen und Patienten. Zudem bestehen Haftungsfragen: Wer ist verantwortlich, wenn ein automatisches System falsch liegt — der Hersteller, die Gesundheitsinstitution oder die behandelnde Ärztin? Regulatoren und Gerichte arbeiten an Antworten, aber für viele konkrete Situationen gibt es noch keine abschließenden rechtlichen Präzedenzfälle (siehe FDA, EU-Leitlinien).

Wird KI Ärztinnen und Ärzte ersetzen? Der aktuelle wissenschaftliche und regulatorische Konsens geht nicht von einem vollständigen Ersetzen aus. Autorinnen und Autoren mit Expertise im Bereich der Medizin und KI betonen stattdessen eine Ergänzungs- oder Kooperationsperspektive: KI kann Routinetätigkeiten automatisieren, zu schnelleren Befunden führen und Informationsflut reduzieren; komplexe Behandlungskonzepte, ethische Abwägungen und die persönliche Interaktion mit Patientinnen und Patienten bleiben zentrale ärztliche Aufgaben. Welche Tätigkeiten konkret automatisiert werden können, hängt allerdings von Fachgebiet, Datenlage und regulatorischer Einbindung ab (siehe Topol, WHO).

Kleine Denkaufgaben für die Gruppe:

1) Nehmen Sie an, ein Algorithmus erkennt Lungenrundherde auf Röntgenaufnahmen mit hoher Sensitivität in der ursprünglichen Studie, in Ihrer Klinik aber treten deutlich mehr Fehlalarme auf. Welche Ursachen könnten das haben, und welche Schritte würden Sie unternehmen, bevor Sie den Algorithmus in Ihrer Klinik einsetzen? Überlegen Sie Aspekte wie Datendifferenz, Workflow, Nachschulung und Monitoring.

2) Stellen Sie sich vor, ein KI-gestütztes System schlägt für Patientin A eine andere Therapie vor als die behandelnde Ärztin. Welche Informationen und Dokumentationen sollten vorhanden sein, damit eine sachgerechte Entscheidung getroffen und rechtssicher dokumentiert werden kann? Denken Sie an Erklärbarkeit, Evidenzbasis und Einwilligung.

3) Wie würden Sie sicherstellen, dass ein KI-System in Ihrer Praxis fair gegenüber allen Patientengruppen ist? Welche Daten, Analysen und Prozesse wären nötig, um systematische Benachteiligung zu erkennen und zu vermeiden?

Diese Aufgaben sollen nicht vollständig beantwortet werden müssen; sie sind dazu gedacht, die zuvor beschriebenen Konzepte handhabbar zu machen und die Schnittstelle zwischen Technologie, Klinik und Ethik greifbar zu beleuchten.