KI in der Medizin: Präzise – nur nicht für alle
Die Qualität des Einsatzes von Künstlicher Intelligenz (KI) hängt von der Datenlage ab, mit der die Modelle trainiert werden – das gilt auch in der Medizin. Doch die Datensätze sind lückenhaft, beispielsweise bei Frauen. Dr. Dana Mahr und Nora Weinberger vom Karlsruher Institut für Technologie (KIT) erklären, warum ein struktureller Systemfehler droht, der weit mehr Menschen betrifft als bisher angenommen.
lookKIT: Sie sagen, dass medizinische KI-Modelle gegen Frauen einen „Bias“ haben, also voreingenommen sind. Inwiefern?
Nora Weinberger: KI-Systeme lernen aus vorhandenen Daten. Klinische Studien haben Frauen aber lange ausgeschlossen, weil der männliche Körper die universelle Norm war. Der weibliche Hormonzyklus galt unter anderem als störender Faktor für Forschungsergebnisse. Wenn Wissenschaftlerinnen und Wissenschaftler nun einen Algorithmus auf Basis dieser Daten trainieren, reproduziert er diese Schieflage in Millionen von Diagnosen und Therapieempfehlungen. Durch die Skalierung verstärkt der Algorithmus sogar den Bias.
Dr. Dana Mahr: Außerdem verleihen KI-Modelle den verzerrten Datensätzen den Anschein von technischer Neutralität – sie wirken also objektiv und legitim. Die sozialen und historischen Vorentscheidungen hinter den Daten geraten aus dem Blick und der Bias im System wird unsichtbar. Dabei gibt es keine interne Kontrollinstanz, die das korrigieren könnte.
Warum ist das relevant?
Weinberger: Weil KI in der Medizin kein Zukunftsszenario ist, sondern bereits Gegenwart. In der Radiologie scannen Algorithmen bereits Röntgenbilder auf Tumore, in der Dermatologie prüfen Apps Hautveränderungen auf Krebssymptome. Die Entwicklung wird voranschreiten. Ein besonders vielversprechender Ansatz ist ein digitaler Zwilling von Patientinnen und Patienten.
Ausgabe 2/2026 des Forschungsmagazins lookKIT widmet sich dem Thema des Wissenschaftsjahres 2026.
Zum MagazinWas ist ein digitaler Zwilling?
Mahr: Ein digitales Modell einer Person, das auf allgemeinen Studiendaten und auf ihren eigenen medizinischen Daten basiert: DNA, Blutwerte, MRT- oder CT-Bilder und Medikamente. Ärztinnen und Ärzte können anhand der Modellierung testen, welche Nebenwirkungen bei einem bestimmten Medikament auftreten oder was passiert, wenn man bei der Person Therapie A statt B anwendet. Das Ziel ist, medizinische Entscheidungen zu unterstützen.
Weinberger: Der digitale Zwilling von Patientinnen und Patienten ist der Versuch, Medizin individuell zu gestalten. Es ist das Versprechen: weniger Behandlung auf Verdacht, weniger unnötige Nebenwirkungen, mehr Treffsicherheit. Entscheidend ist aber, dass diese Modelle nur so gut sein können, wie die Daten, mit denen sie lernen.
Es gibt also Lücken in der Datenlage?
Weinberger: Beim Herzinfarkt würde ein Algorithmus die männlichen Symptome zuverlässig erkennen. Die weibliche Symptomatik, mit Übelkeit und Erschöpfung, ist dagegen eine ganz andere und fällt durch das KI-Raster. Gleiches gilt für die häufigste Form der Herzschwäche bei Frauen, die in Studien massiv unterrepräsentiert ist. Diese diagnostischen Fehler sind keine Randphänomene, sie treffen den Kern der Gesundheitsversorgung.
Mahr: Außerdem betrifft das nicht nur den weiblichen Körper. Die Daten bilden auch soziale Ungleichheiten ab. Frauen in Ländern mit niedrigem und mittlerem Einkommen haben seltener Zugang zu digitaler Infrastruktur. Das bedeutet, dass ihre Gesundheitsdaten damit systematisch weniger in die Modelle einfließen. Zudem erkennen KI-gestützte Diagnosesystemen weibliche Symptome und die Symptome nicht-weißer Menschen weniger zuverlässig. Der Bias ist also auch sozial und strukturell.
Weinberger: Manchmal steckt der Bias nicht in den Daten, sondern schon im Messgerät. So zeigt ein Pulsoximeter, das den Sauerstoffgehalt im Blut misst, bei Schwarzen Menschen systematisch zu hohe Werte an. Wenn ein digitaler Zwilling diese Messdaten als Input bekommt, ist sein Fundament fehlerhaft. Wir müssen also die gesamte Datenkette in den Blick nehmen – vom Messgerät bis zum KI-Modell.
Ist das Problem bei Forschenden und Entwicklungsteams bekannt?
Mahr: Das Bewusstsein für den Gender Bias ist sehr begrenzt. In unserem Scoping-Review zu digitalen Patientenzwillingen hat über ein Drittel der Studien das Geschlecht mit keinem einzigen Wort erwähnt. Nur zwei von 31 Studien haben das Geschlecht in ihrem Design als sozial-biomedizinisches Konzept zugrunde gelegt. Auch die meisten, die diese Modelle entwickeln oder anwenden, denken nicht aktiv darüber nach, wessen Körper eigentlich das Vorbild für das Modell war. Das ist keine Böswilligkeit, das ist dieser tote Winkel.
Weinberger: Das Problem ist real, und wir müssen es ernst nehmen. Und genau diese Diskussion kann dazu führen, dass wir diese strukturellen Ungleichheiten zum ersten Mal systematisch sichtbar machen können – bevor die Technologie flächendeckend im Einsatz ist. Das ist eine große Chance. Gleichzeitig muss klar sein: Die Alternative zur KI in der Medizin ist keine fehlerfreie Medizin.
Wie kann man die Situation verbessern?
Mahr: Wir brauchen bessere und diversere Daten, mehr Transparenz und eine systematische Prüfung, ob die Modelle für alle Gruppen gleich gut funktionieren. Bias-Prüfung sollte kein freiwilliges Add-on sein, sondern Teil der Zulassung und klinischen Implementierung.
Weinberger: Gleichzeitig müssen wir Patientinnen und Patienten von Anfang an in die Entwicklung miteinbeziehen, statt sie erst am Ende als Testperson zu beteiligen. Sie können dabei helfen zu erkennen, welche Erfahrungen, Symptome, Alltagsrealitäten und Versorgungslücken in Datensätzen fehlen. Es geht also auch darum, Wissenslücken zu schließen, die ohne diese Perspektive unsichtbar bleiben. Und die unbequeme Wahrheit ist: Niemand kann sich hier raushalten. Entwicklungsteams müssen von Anfang an interdisziplinär arbeiten und auch die Ministerien und Forschungsagenturen müssen Diversität und Fairness als Bedingung für Förderung festschreiben.
Andererseits könnte man argumentieren, die medizinische Versorgung ist so gut wie nie. Warum sollen wir uns an solchen Dingen aufhalten?
Weinberger: Weil dadurch bestehende Ungleichheiten in der Versorgung nicht nur fortgeschrieben, sondern systematisch verstärkt werden. Das ist das eigentliche Risiko. Niemand erwartet Perfektion, aber es gibt einen Unterschied zwischen einem System, das Fehler macht, und einem System, das bei bestimmten Gruppen grundsätzlich schlechter funktioniert.
Mahr: So wie man von Medikamenten verlangt, dass sie wirken und nicht schaden, kann man auch vom Algorithmus verlangen, dass er das, was er kann, für alle tut. Das wäre für mich die Minimalanforderung.
Isabelle Hartmann, 01.10.2026
Bias
Bias (zu Deutsch: Vorurteil, Voreingenommenheit) beschreibt eine systematische Verzerrung/einen systematischen Fehler der Wahrnehmung oder von Urteilen. Die Bias-Arten in KI-Systemen sind vielfältig.
Von einem Repräsentationsbias wird gesprochen, wenn Teile von Subpopulationen in den Trainingsdaten fehlen oder unterrepräsentiert sind und hierdurch Ungleichbehandlung entsteht. Bias kann in der KI jedoch auch durch die Konzeption, das Training, die Evaluation oder die Nutzung der Modelle entstehen.