KI im Gesundheitswesen: Was sie heute kann, wo sie scheitert und wie sie reguliert wird

Was kann KI im Gesundheitswesen heute leisten?

Künstliche Intelligenz (KI) im Gesundheitswesen umfasst viele Technologien, von Bildanalysesoftware in einem Scanner bis zu allgemeinen Chatbots, die Gesundheitsfragen beantworten. Nach der unten zusammengefassten Beweislage, Stand 3. November 2026, stammen die stärksten Ergebnisse von eng umrissenen Werkzeugen, die eine klar definierte Aufgabe erfüllen und dafür getestet und zugelassen wurden, die schwächsten von allgemeinen Chatbots, die Patienten direkt beraten.

Die US-amerikanische Food and Drug Administration (FDA) führt eine öffentliche Liste KI-gestützter Medizinprodukte, die in den Vereinigten Staaten zum Vertrieb zugelassen sind ^[1]. Eine Auszählung dieser Liste, die die FDA mit Stand 4. September 2026 ausweist, ergibt 1.614 Einträge, davon 1.230 in der Radiologie, 154 im Bereich Herz-Kreislauf und 73 in der Neurologie ^[1]. Laut FDA erfüllten diese Produkte die geltenden Anforderungen vor dem Markteintritt, einschließlich einer gezielten Prüfung von Sicherheit und Wirksamkeit ^[1].

Die Weltgesundheitsorganisation (WHO) ordnet die Einsatzgebiete neuerer generativer Modelle fünf Bereichen zu: Diagnose und klinische Versorgung, von Patienten gesteuerte Nutzung wie die Recherche von Symptomen, Schreib- und Verwaltungsarbeit wie die Dokumentation von Arztbesuchen, medizinische und pflegerische Ausbildung sowie wissenschaftliche Forschung und Arzneimittelentwicklung ^[2].

Dies sind allgemeine Informationen und keine medizinische Beratung. Entscheidungen über Ihre eigene Gesundheit sollten Sie gemeinsam mit qualifiziertem medizinischem Fachpersonal treffen.

Wie wird KI in der medizinischen Bildgebung eingesetzt?

Gemessen an der Zahl zugelassener Produkte ist die Bildgebung der Bereich, in dem KI am stärksten etabliert ist: Auf die Radiologie entfallen etwa drei Viertel der Einträge auf der FDA-Liste ^[1].

Brustkrebs-Screening

Die bekanntesten randomisierten Belege stammen aus der MASAI-Studie im nationalen schwedischen Screening-Programm, durchgeführt an vier Standorten im Südwesten Schwedens ^[3]. Dabei wurden 105.934 Frauen nach dem Zufallsprinzip entweder dem KI-gestützten Screening oder der üblichen Doppelbefundung durch zwei Radiologen zugeteilt ^[3]. Das KI-System Transpara teilte die Untersuchungen in Einzel- oder Doppelbefundung ein und markierte verdächtige Befunde ^[3].

In der KI-gestützten Gruppe wurden 338 Krebserkrankungen entdeckt (6,4 je 1.000) gegenüber 262 (5,0 je 1.000) bei der üblichen Befundung, ein Verhältnis von 1,29 ^[3]. Die Rate falsch positiver Befunde war im Wesentlichen gleich, mit einem Verhältnis von 1,01, und die Radiologen führten 61.248 statt 109.692 Befundungen durch, eine Verringerung um 44,2% ^[3]. Die Autoren kamen zu dem Schluss, dass KI zur Früherkennung klinisch relevanter Brustkrebserkrankungen beiträgt ^[3]. Dieser Bericht behandelte sekundäre Endpunkte; die veröffentlichte Zusammenfassung beschreibt ihn als im Protokoll festgelegte Analyse von Wiedereinbestellungen, Entdeckungsrate, falsch positiven Befunden und Arbeitsaufwand ^[3].

Der primäre Endpunkt der Studie, die Rate der Intervallkarzinome (Krebserkrankungen, die zwischen zwei Screening-Runden diagnostiziert und beim Screening nicht entdeckt wurden), wurde 2026 in The Lancet veröffentlicht ^[9]. Die Rate der Intervallkarzinome lag mit KI-Unterstützung bei 1,55 je 1.000 Teilnehmerinnen und bei üblicher Befundung bei 1,76 je 1.000, ein Verhältnis von 0,88, das den Nichtunterlegenheitstest der Studie bestand; die Sensitivität betrug 80,5% gegenüber 73,8%, die Spezifität in beiden Gruppen 98,5% ^[9]. Die Autoren schrieben, KI-gestütztes Screening könne für die Einführung in die klinische Praxis in Betracht gezogen werden ^[9].

Augenuntersuchungen

KI hat auch über die Radiologie hinaus Einzug gehalten. Die FDA-Liste enthält IDx-DR, ein augenheilkundliches Produkt mit Zulassungsdatum 11. April 2018, sowie spätere Versionen und Konkurrenzprodukte wie EyeArt ^[1]. Die De-Novo-Datenbank der FDA stuft IDx-DR als Produkt zur Erkennung diabetischer Retinopathie ein, zugelassen an diesem Datum ^[10].

Wo ist KI im Gesundheitswesen gescheitert?

Nicht jedes weit verbreitete Werkzeug hält, was es verspricht. Die deutlichste Warnung kommt von Vorhersagemodellen in Krankenhäusern, die Risiken wie eine Sepsis abschätzen, eine lebensbedrohliche Reaktion des Körpers auf eine Infektion.

2021 validierten Forschende von Michigan Medicine das Epic Sepsis Model, ein weit verbreitetes proprietäres Werkzeug, extern an 27.697 Patienten und 38.455 Krankenhausaufenthalten ^[4]. Es erreichte eine Fläche unter der Kurve (AUC, ein Maß dafür, wie gut ein Modell Fälle von Nicht-Fällen trennt, wobei 0,5 dem Zufall und 1,0 Perfektion entspricht) von 0,63 ^[4]. Bei seinem Alarmschwellenwert erkannte es 1.709 Patienten mit Sepsis nicht, 67% der Gesamtzahl, löste aber bei 18% aller Krankenhausaufenthalte Alarme aus ^[4]. Die Autoren folgerten, das Modell habe eine schwache Trennschärfe und Kalibrierung, und seine weite Verbreitung gebe Anlass zur Sorge um das Sepsis-Management im ganzen Land ^[4].

Die Autoren berichteten außerdem, dass diese Leistung erheblich schlechter war als die vom Entwickler des Modells angegebenen Werte ^[4]; von einem Entwickler gemeldete Ergebnisse garantieren also keine vergleichbare Leistung an anderer Stelle. Auch die WHO empfiehlt für großflächige Einsätze unabhängige Audits und Folgenabschätzungen nach der Markteinführung, mit nach Nutzermerkmalen wie Alter, ethnischer Zugehörigkeit oder Behinderung aufgeschlüsselten Ergebnissen ^[2].

Können KI-Chatbots verlässliche medizinische Ratschläge geben?

Große Sprachmodelle erreichen in Benchmarks zu medizinischem Wissen inzwischen Werte, die dem Bestehen des US Medical Licensing Exam entsprechen, doch das heißt nicht, dass sie Menschen helfen, gute Entscheidungen über ihre eigenen Symptome zu treffen ^[5]. Eine randomisierte, vorab registrierte Studie, die am 9. Februar 2026 in Nature Medicine erschien, hat genau das untersucht ^[5].

Forschende der University of Oxford und Kollegen legten 1.298 Erwachsenen im Vereinigten Königreich jeweils eines von zehn medizinischen Fallszenarien vor, entworfen auf Grundlage der NICE Clinical Knowledge Summaries und entwickelt mit Hausärzten und Intensivmedizinern ^[5]. Die Teilnehmenden nutzten GPT-4o, Llama 3 oder Command R+ oder, in einer Kontrollgruppe, die Hilfsmittel, die sie üblicherweise verwenden, meist eine Internetsuche ^[5].

• Die Modelle allein erkannten im Durchschnitt in 94,9% der Fälle relevante Erkrankungen und in 56,3% das richtige weitere Vorgehen (Disposition) ^[5].
• Menschen, die die Modelle nutzten, erkannten in weniger als 34,5% der Fälle relevante Erkrankungen und in weniger als 44,2% das richtige weitere Vorgehen ^[5].
• Die Kontrollgruppe erkannte relevante Erkrankungen deutlich besser als die Chatbot-Gruppen ^[5].

Die Autoren führten das Versagen auf die Interaktion zurück: Nutzer ließen oft wichtige Details wie Ort oder Schwere der Symptome weg, übernahmen richtige Vorschläge nicht in ihre endgültige Antwort und erhielten widersprüchliche Ratschläge; in einem Szenario mit einer Hirnblutung (Subarachnoidalblutung) wurde einem Nutzer geraten, sich in einem dunklen Raum hinzulegen, während einem anderen mit nahezu identischen Symptomen geraten wurde, die Notaufnahme aufzusuchen ^[5]. Sie kamen zu dem Schluss, dass keines der getesteten Modelle für den Einsatz in der direkten Patientenversorgung bereit sei, und forderten systematische Tests mit echten Nutzern vor einer öffentlichen Einführung ^[5].

Das NIST, die US-Normungsbehörde, warnt allgemein vor demselben Problem: Eine konfabulierte (erfundene) Zusammenfassung von Patientendaten könne Ärzte zu falschen Diagnosen oder Behandlungen verleiten ^[6].

Wie hilft KI der medizinischen Forschung und der Wirkstoffentdeckung?

KI wird nicht nur in der Klinik, sondern auch im Labor eingesetzt. Der Nobelpreis für Chemie 2024 ging zu einer Hälfte an David Baker für computergestütztes Proteindesign und zur anderen an Demis Hassabis und John Jumper von Google DeepMind für die Vorhersage von Proteinstrukturen ^[7]. Die Königlich Schwedische Akademie der Wissenschaften erklärte, ihr 2020 vorgestelltes KI-Modell AlphaFold2 sei genutzt worden, um die Struktur praktisch aller 200 Millionen Proteine vorherzusagen, die Forschende identifiziert haben, und werde von mehr als zwei Millionen Menschen aus 190 Ländern verwendet ^[7].

Die Akademie hob hervor, dass die Struktur eines Proteins für seine Funktion entscheidend ist, und nannte Anwendungen wie das Verständnis von Antibiotikaresistenzen und die Darstellung von Enzymen, die Kunststoff zersetzen können ^[7]. Die WHO zählt wissenschaftliche Forschung und Arzneimittelentwicklung, einschließlich der Identifizierung neuer Verbindungen, zu den wichtigsten Einsatzgebieten generativer Modelle im Gesundheitswesen ^[2].

Welche Hauptrisiken birgt KI im Gesundheitswesen?

Bisher belegte Vorteile

• Höhere Krebsentdeckungsrate im Screening ohne mehr falsch positive Befunde und mit geringerem Befundungsaufwand in einer großen randomisierten Studie ^[3].
• Mehr als 1.600 zugelassene KI-gestützte Produkte auf der FDA-Liste, die laut der Behörde die Anforderungen vor dem Markteintritt erfüllt haben ^[1].
• Vorhersage von Proteinstrukturen, genutzt von mehr als zwei Millionen Menschen aus 190 Ländern und mit dem Chemie-Nobelpreis 2024 gewürdigt ^[7].
• Eine nicht unterlegene Rate an Intervallkarzinomen und eine höhere Sensitivität in der Primäranalyse derselben Screening-Studie ^[9].

Von der WHO und anderen benannte Risiken

• Falsche Ausgaben. Die WHO warnt, dass große multimodale Modelle falsche, ungenaue, verzerrte oder unvollständige Aussagen erzeugen können, die Menschen bei Gesundheitsentscheidungen schaden könnten ^[2].
• Verzerrungen. Modelle können mit minderwertigen oder verzerrten Daten trainiert sein, einschließlich Verzerrungen nach ethnischer Herkunft, Volkszugehörigkeit, biologischem Geschlecht, Geschlechtsidentität oder Alter ^[2].
• Automatisierungsverzerrung. Ärzte und Patienten übersehen womöglich Fehler oder überlassen schwierige Entscheidungen dem System ^[2].
• Schwache Leistung in der Praxis. Werkzeuge können außerhalb des Umfelds, in dem sie entwickelt wurden, schlechter abschneiden, wie das Sepsis-Modell zeigte ^[4].
• Datenschutz. Stanford-Forschende stellten fest, dass sechs führende Chatbot-Entwickler die Chatdaten ihrer Nutzer standardmäßig zum Training ihrer Modelle verwenden, und warnten davor, dass Nutzer biometrische und Gesundheitsdaten teilen ^[8].
• Sicherheit und Zugang. Die WHO weist außerdem auf Cybersicherheitsrisiken für Patientendaten und einen ungleichen Zugang zu den leistungsfähigsten Systemen hin ^[2].

Wie wird KI im Gesundheitswesen reguliert?

Die Regulierung hängt davon ab, was die Software tut. In den Vereinigten Staaten durchläuft KI, die die Definition eines Medizinprodukts erfüllt, eine Prüfung der FDA vor dem Markteintritt, und die Behörde veröffentlicht die zugelassenen Produkte, die sie identifiziert ^[1]. Die FDA weist darauf hin, dass ihre Liste nicht vollständig ist, weil Produkte vor allem über KI-bezogene Begriffe in ihren Zulassungszusammenfassungen identifiziert werden ^[1]. Zudem will sie Wege prüfen, Produkte zu identifizieren und zu kennzeichnen, die Foundation Models einschließlich großer Sprachmodelle (LLMs) nutzen ^[1].

Allgemeine Chatbots, die die Öffentlichkeit für Gesundheitsfragen nutzt, stehen nicht auf dieser Liste, die zum Vertrieb zugelassene Produkte umfasst ^[1]. Die WHO empfiehlt Regierungen, eine bestehende oder neue Regulierungsbehörde damit zu betrauen, große multimodale Modelle für den Einsatz im Gesundheitswesen zu bewerten und zuzulassen, soweit die Mittel es erlauben, und mit Gesetzen sicherzustellen, dass solche Systeme ethische und menschenrechtliche Standards erfüllen ^[2].

Die WHO fordert Entwickler außerdem auf, Patienten und Gesundheitsfachkräfte von den frühen Phasen der Entwicklung an einzubeziehen und Modelle für klar definierte Aufgaben mit der nötigen Genauigkeit und Zuverlässigkeit zu bauen ^[2]. Die Regeln unterscheiden sich von Land zu Land und ändern sich häufig; informieren Sie sich bei der zuständigen nationalen Behörde für Arzneimittel oder Medizinprodukte über die aktuellen Anforderungen.

Wie können Patienten KI-Gesundheitswerkzeuge sicher nutzen?

1. Betrachten Sie Chatbot-Antworten als Ausgangspunkt, nicht als Diagnose. In der Oxford-Studie schnitten Menschen, die Chatbots nutzten, beim Erkennen relevanter Erkrankungen nicht besser ab als eine Kontrollgruppe ^[5].
2. Geben Sie vollständige Informationen an, wenn Sie einen nutzen, einschließlich Ort, Schwere und Häufigkeit der Symptome; fehlende Details waren eine Hauptursache für Fehlschläge ^[5].
3. Suchen Sie bei Notfallsymptomen sofort ärztliche Hilfe, statt einen Chatbot zu fragen; die Studie fand gegensätzliche Ratschläge bei nahezu identischen Szenarien einer Hirnblutung ^[5].
4. Schützen Sie Ihre Gesundheitsdaten. Geben Sie keine identifizierbaren Krankenakten in Verbraucher-Chatbots ein, deren Entwickler Chatdaten üblicherweise standardmäßig zum Training verwenden ^[8].
5. Fragen Sie Ihre Ärztin oder Ihren Arzt, ob bei Ihrer Behandlung ein KI-Werkzeug eingesetzt wurde und wie dessen Ergebnisse überprüft wurden, angesichts der Warnung der WHO vor Automatisierungsverzerrung ^[2].

Wie geht es mit KI im Gesundheitswesen weiter?

Die jährliche Zahl der Zulassungen steigt: Eine Auszählung der FDA-Liste ergibt 226 Einträge mit Entscheidungsdatum 2023, 235 mit Datum 2024 und 335 mit Datum 2025 ^[1]. Die FDA kündigt zudem an, Wege zu prüfen, Produkte zu identifizieren und zu kennzeichnen, die Foundation Models einschließlich LLMs enthalten ^[1].

Was noch ungewiss ist

• Langfristige Ergebnisse des KI-Screenings. Die veröffentlichten MASAI-Analysen umfassen Entdeckungsrate, falsch positive Befunde, Arbeitsaufwand ^[3], Intervallkarzinome, Sensitivität und Spezifität ^[9]; Todesfälle durch Brustkrebs gehörten nicht zu den berichteten Endpunkten.
• Ob sich Chatbots für die direkte Beratung von Patienten sicher machen lassen. Die Oxford-Autoren stellten fest, dass keines der getesteten Modelle bereit war und Tests mit Nutzern nötig sind ^[5].
• Wie Werkzeuge in verschiedenen Krankenhäusern und Bevölkerungsgruppen abschneiden, was die WHO durch unabhängige Audits messen lassen will ^[2] und was sich, wie die Sepsis-Studie zeigt, nicht einfach voraussetzen lässt ^[4].

Das Gesamtbild, Stand 3. November 2026: KI ist bei konkreten, getesteten Aufgaben unter fachlicher Aufsicht eine bewährte Hilfe und als Ersatz für Ärztinnen und Ärzte unerprobt.