Neue Untersuchungen zeigen, dass KI-gestützte Medizin-Modelle schlechtere Behandlungsergebnisse für Frauen und unterrepräsentierte Gruppen liefern. Das könnte schwerwiegende Folgen für das Gesundheitssystem haben.
Unzureichende Daten führen zu verzerrten Ergebnissen
In der medizinischen Forschung dominiert seit Jahrzehnten der Fokus auf weiße Männer als Probanden. Dadurch fehlen in vielen Datensätzen quantitativ und qualitativ ausreichende Informationen zu Frauen oder Menschen mit anderer Hautfarbe. Nutzt am solche unvollständigen Daten zur Entwicklung von KI-Modellen, entstehen systemische Verzerrungen. Einer aktuellen Analyse der Financial Times zufolge führen solche Vorurteile in KI-Werkzeugen zu schlechteren gesundheitlichen Ergebnissen für unterrepräsentierte Gruppen. Das bestätigte auch eine aktuelle Studie des Massachusetts Institute of Technology (MIT).
Studien bestätigen Benachteiligung durch KI-Modelle
Die Forscher:innen des MIT untersuchten große Sprachmodelle wie OpenAI GPT-4 und Meta Llama 3. Diese Modelle empfahlen häufiger, weibliche Patient:innen würden ihre Beschwerden selbst zuhause managen, wodurch Frauen seltener in der Klinik behandelt wurden. Obwohl GPT-4 und Llama 3 eigentlich für allgemeine Zwecke entwickelt wurden, zeigte sich das Problem auch bei speziell für die Medizin entwickelten Modellen wie Palmyra-Med. Auch ein LLM von Google, genannt Gemma, stellte laut einer Analyse der London School of Economics die Bedürfnisse von Frauen in den Behandlungs-Empfehlungen geringer dar als die von Männern.
Nicht nur Geschlecht, sondern auch ethnische Zugehörigkeit führte zu ungerechter und teils falscher Behandlung durch künstlich intelligente Systeme. Eine zuvor veröffentlichte Studie zeigte, dass KI-Modelle farbigen Patient:innen bei psychischen Erkrankungen weniger Mitgefühl entgegenbrachten als weißen Personen. Das Fachjournal „The Lancet“ dokumentierte 2023 , dass GPT-4 regelmäßig Stereotype zu Geschlecht, Herkunft und Ethnie reproduzierte. Diagnosen und Therapie-Empfehlungen orientierten sich dabei mehr an demografischen Merkmalen als an konkreten Symptomen oder Krankheitsbildern. Die MIT-Studie kam zum Schluss, dass KI-generierte Therapiepläne und Diagnosen demografische Merkmale mit einbezogen und dadurch etwa teuerere Behandlungen oder unterschiedliche Wahrnehmung durch Patient:innen zur Folge hatten.
Reale Risiken beim Einsatz von KI in der Medizin
Der Einsatz von KI-Modellen in Krankenhäusern und Arztpraxen nimmt kontinuierlich zu, weil Unternehmen wie Google, Meta oder OpenAI die gewaltigen wirtschaftlichen Möglichkeiten erkennen. Fehler und Verzerrungen in medizinischen KI-Systemen betreffen jedoch nicht nur die Zuverlässigkeit von Diagnosen, sondern können echte Risiken für Patient:innen bedeuten. Ein Beispiel: Anfang 2024 geriet Googles KI-Modell Med-Gemini in die Kritik, weil es ein erfundenes Körperteil beschrieb. Falsche Informationen wie diese erkennen medizinische Fachkräfte meist sofort. Doch subtilere Vorurteile, wie unterbewusste Diskriminierung aufgrund von Geschlecht oder Herkunft, sind weniger offensichtlich. Es ist fraglich, ob Ärzt:innen die KI-Ausgabe kritisch genug hinterfragen, wenn Stereotype einfließen. Das birgt das Risiko, dass Patient:innen unterschiedlicher Gruppen unterschiedlich behandelt werden – oft zum Nachteil der unterrepräsentierten Personen.
Via: https://gizmodo.com
