ChatGPT als Kinderarzt: Studie zeigt Grenzen der KI

[Sören]

Es gibt Dinge, die selbst ein geschultes Auge nur schwer auf Bildern erkennen kann. Zum Beispiel feinste Anomalien im Gehirn. Die könnte die KI evtl. so frühzeitig erkennen, dass man eine Demenz evtl. in einigen Jahren mit entsprechenden Medikamenten vermeiden kann.

Ich verstehe die Sorge, die in diesen Wünschen zum Ausdruck kommt... Könnte man ev. usw... Jeder von uns hat Angst vor Krankheit und Siechtum. Aber leider nein, bis jetzt funktioniert diese medizinische Wunschdiagnostik, die aufwendig und potentiell schädlich ist (Kontrastmittel, venöser Zugang, vorher Blutproben), nicht. Aus diversen Gründen (medikohistorisch, sozialrechtlich), aber vor allem aus rein praktischen Gründen nicht (viel zu teuer bei wenig Benefit). Es ist ja nicht so, dass besonders viele Erkrankungen zu spät erkannt werden, weil es keine KI gibt. Nein, es gibt diese Krankheiten nicht, die man hofft, zu erkennen.
Das meiste an Siechtum ist Krebs und Lifestyleschaden. Und wenn es eine Früherkennung gäbe, haben wir keine Therapie.
Demenztherapie z.B. tritt seit 25 Jahren auf der Stelle. Da nutzt eine KI zur Diagnostik auch nichts.
"Feinste Anomalien im Gehirn", die symptomlos sind, werden nicht erkannt, weil nicht untersucht, und natürlich nicht behandelt. Es gibt derzeit keinen erkennbaren Grund, warum sich das ändern sollte.
Es gibt für all diese Laienvorstellungen von Krankheitserkennung keinerlei Entität, keine Definition, kein sinnvolle medizinische Herangehensweise, an deren Ende nicht eine potientiell schädliche Handlung stehen würde (weitere invasive Diagnostik oder gar Therapie).

Auch für die Krebsfrüherkennung könnte die KI sehr gut genutzt werden.

Ja, vielleicht, aber aktuell Wunschdenken. Legitim, aber bisher durch nichts begründet. Alle Daten zeigen, dass der Mensch schneller, sicherer und effektiver ist. Und dabei noch angenehmer. Die bekannten Studien (Haut, Bildgebung) sind nachweislich schöngerechnet, um den Hype um die KI zu fördern, wie auch diese "Kinderstudie" ohne Kinder. Man wird nicht zum Kinderarzt, weil man Fälle von kranken Kindern vergleichen kann aufgrund von Algorithmen.

Man könnte vielleicht auch in Zukunft in artzlose Vorsorgezentren gehen, wo die notwenigen Apparaturen zum Scannen des Körpers stehen. Die Scanergebnisse können dann von einer KI ausgewertet und im Falle von erkannten Risiken an einen Facharzt weitergeleitet werden.

Wie gesagt: Scannen ohne Mensch reicht nicht. Es gibt keinerlei Technologie, nicht mal im Ansatz, die dieser Raumschiff-Enterprise-Phantasie entsprechen würde. Wenn es so etwas ev. eines Tages gibt, braucht es auch keinen Facharzt mehr.

Wie gesagt, nicht unmöglich, aber dann sind wir tot.

 

[AndaleR]

Wie gesagt, nicht unmöglich, aber dann sind wir tot.

Bei dem Tempo, das in Sachen KI die letzten Jahre / Monate vorgelegt wurde, würde sogar ich das irgendwie ausschließen - oder zumindest nicht ganz so negativ sein. Außer man ist gerade jetzt schon sehr alt - und das Risiko eben größer, eines natürlichen Todes zu sterben. Aber ich gehe jetzt mal bei mir von 40 Jahren aus, die ich noch habe (natürlich nehme ich auch bei guter Verfassung gerne mehr). Was sich in dieser Zeit auf dem Markt noch machen lässt, kann man sich vielleicht heute noch nicht vorstellen - ein paar vielleicht. Aber der Großteil (noch) nicht.

Ich bin auch skeptisch gegenüber KI - aber das legt gerade ein beeindruckendes Tempo hin und das wird mit sich steigernder Rechenleistung etc. nicht langsamer werden die nächste Zeit. Und es ist sicher nicht alles gut, was mit KI gemacht werden kann - wenn sie falsch eingesetzt wird. Oder eben in Sachen Waffen und Kriegen.

 

[Macbeatnik]

Die Skepsis der KI gegenüber rührt in der Regel daher, das man der KI 100% Treffsicherheit abverlangt, bei Menschen aber gerne mal Augen zudrückt.
Sieht man sich die Fehler der KI an, zum Beispiel bei selbstfahrenden Autos, dann geschehen diese wenigen im Verhältnis zum Menschen gemachte Fehler, in Ausnahmesituationen oder im Neuland, hier gesteht man dann dem Menschen ein besseres Verhalten zu. Allerdings vollbringt der Mensch in Standardsituationen, die die KI durchweg meistert, vollkommen unnötige Fehler, da werden Ampeln übersehen, Fussgänger ebenso, da wird einer über den Durst getrunken oder mit überhöhter Geschwindigkeit das Stauende übersehen etc.
Auch hier in der Diskussion wird oft dargestellt, wie gut doch der Arzt oder das medizinische Personal gegenüber der KI, die in den Kinderschuhen in diesem Bereich steht, doch dasteht, aber in keiner Weise darauf eingegangen, das der menschliche Faktor seit Ewigkeiten erprobt ist und dennoch 10 % der Diagnosen falsch sind

 

[Sören]

Die Skepsis der KI gegenüber rührt in der Regel daher, das man der KI 100% Treffsicherheit abverlangt, ...

"ChatGPT in 83 Prozent der Fälle unnütze Diagnosen lieferte. " = 17 % Treffsicherheit in dieser Studie ist noch sehr weit weg von allem....., wobei das Wort "Treffsicherheit" bei der KI paßt, denn es ist bisher eher eine Art Zufallsprinzip, keine auf klaren Vorgängen beruhende menschliche Diagnostik.
Kein Mensch verlangt von der KI 100 %, außer, es wird einem versprochen.

Der Mensch muß mit Unwägbarkeiten leben.
Als Arzt eine korrekte medizinische Diagnose zu stellen, ist oft nicht leicht. Deswegen stellt man meist erst Arbeits- oder Verdachtsdiagnosen, die sich dann nach einem manchmal sehr langen Prozess als falsch oder richtig erweisen oder er in mehrere Diffentialdiagnosen mündet.
Manchmal muß man den Bauch aufschneiden, um erst dann den Krebs zu sehen und vor allem zu tasten.
Manchmal bestätigt sich ein Verdacht auf Krebs nicht, aber der Arzt hat es nicht geschafft, in Ruhe den Verdacht zu kommunizieren, sodaß der Patient lange glaubte, er habe Krebs und am Ende dann, es wäre eine Fehldiagnose gewesen.
Eine richtige End-Diagnose gibt es nicht selten erst, wenn menschliches Substrat durch einen Menschen gewonnen und sehr genau und aufwendig untersucht wurde. Das kann bisher keine KI und wie gesagt, es gibt dazu keine Technologie.
Auch eine Infektionskrankheit wird oft nur als Arbeitsdiagnose stehengelassen, weil es ausreichend ist, den gefährlichen Verlauf wie z. B. eine Lungenentzündung auszuschließen, um dann mit einer symptomatischen Therapie effektiv und effizient zu behandeln.
Weil Diagnostik, Therapie und alles drumrum am Menschen sehr sehr kompliziert und komplex ist, dauert das Studium auch sehr lange, muß bis zu eigenverantwortlicher Tätigkeit eine nochmal so lange fachärztliche Ausbildung durchlaufen werden.


Die Interaktion zweier Individuen ist per se fehlerbehaftet. Wichtige Aspekte werden vom Patienten nicht berichtet, manchmal aus Scham, manchmal einfach vergessen oder verdrängt. Das würde bei einem KI-Androiden nicht anders sein, wahrscheinlich thematisch verschoben.
Ein ganz wichtiger Punkt scheint mir aber: Für 90% der Patienten bremst der Staat die Diagnostik aus (§ 12 (1) SGB-5), sodaß weder das Geld noch die Zeit da ist, Kommunikationsfehler zu vermeiden oder gute Diagnostik mit einem Endergebnis durchzuführen.
So bleibt vieles ungeklärt.

Die Autos dürfen nicht alleine fahren, weil niemand die Verantwortung tragen will, nicht wegen der Größe ihrer Fehlerquote. Fehler wird es immer geben, ob KI oder Mensch.

Die KI ist bisher in der Medizin einfach ein schlechtes Produkt, was noch nichts taugt. Das hat man ja oft in der IT-Landschaft, das unfertige Produkte auf den Markt kommen. Die KI am Patienten reifen zu lassen, ist zum Glück nicht erlaubt.
Die hier zitierte Studie zeigt das eindeutig, auch wenn das mancher nicht wahrhaben will.

...KI - aber das legt gerade ein beeindruckendes Tempo hin und das wird mit sich steigernder Rechenleistung etc. nicht langsamer werden die nächste Zeit. ...

Hat mit Rechenleistung alles nichts zu tun. Die ist m. E. schon ausreichend da.

 

[AndaleR]

Hat mit Rechenleistung alles nichts zu tun. Die ist m. E. schon ausreichend da.

Dann wundert mich das schneller, höher, weiter doch sehr in der Entwicklung. Schließlich könnte man so ein paar Geräte sparen, wenn es doch auch mit weniger Geräten mit mehr Leistung geht. Usw..

 

[landplage]

Gerade einen interessanten Artikel zu diesem Themenkreis gefunden:
Apps werten Hustengeräusche aus

 

[Sören]

Gerade einen interessanten Artikel zu diesem Themenkreis gefunden:
Apps werten Hustengeräusche aus

Pures Marketing. Man könnte auch auch Meerschweinchen über den Patienten laufen lassen und wo es stoppt, ist die Krankheit.

 

[AndaleR]

@Sören Na, dann kann man sich die Zeit also sparen, in die Richtungen zu forschen - eh alles sinnlos? Das hätte man vor hunderten Jahren schon beginnen können in der Medizin - wer weiß, was uns erspart geblieben wäre, wären wir nicht hier.

 

[Freddy K.]

… Demenztherapie z.B. tritt seit 25 Jahren auf der Stelle. …

Wundert mich nicht, bei so einer Einstellung.

 

[landplage]

Pures Marketing. Man könnte auch auch Meerschweinchen über den Patienten laufen lassen und wo es stoppt, ist die Krankheit.

Wenn Hunde zum Wittern von USB-Stickstoff eingesetzt werden können, kann man Meerschweinchen vielleicht auf Hämorriden abrichten. 😄

Im Ernst: In großen Teilen der Welt steht nicht an der nächsten Ecke ein MRT oder ein 3D-Ultraschall. Aber Handys sind weit verbreitet. Wenn die Gesundheitsbehörden da über so eine App einen lokalen Tbc- oder sonstigen Krankheitsausbruch schnell mitbekommen, dann hilft das auf jeden Fall, auch bei einer nicht 100%igen Trefferquote.

 

[Sören]

@Sören Na, dann kann man sich die Zeit also sparen, in die Richtungen zu forschen - eh alles sinnlos? Das hätte man vor hunderten Jahren schon beginnen können in der Medizin - wer weiß, was uns erspart geblieben wäre, wären wir nicht hier.

Wie kommst Du darauf?

 

[AndaleR]

Wie kommst Du darauf?

Naja, ich denke, wenn niemand etwas versucht hätte in der Medizin, wären wir Menschen nicht so viele geworden, nicht so alt - oder gar nicht mehr hier.

Deshalb sollte man aktuelle Forschungen nicht mit Meerschweinchen-Theorien vergleichen, sondern ihnen die gleiche Chance geben, wie den vielen anderen renommierten Forschern vorher.

 

[Sören]

…

Im Ernst: In großen Teilen der Welt steht nicht an der nächsten Ecke ein MRT oder ein 3D-Ultraschall.

Warum denn auch?

Aber Handys sind weit verbreitet. Wenn die Gesundheitsbehörden da über so eine App einen lokalen Tbc- oder sonstigen Krankheitsausbruch schnell mitbekommen, dann hilft das auf jeden Fall, auch bei einer nicht 100%igen Trefferquote.

Da müsste die KI-Lobby erstmal sehr sehr viel Geld an Politiker zahlen, damit die die internationalen medizinischen Gesellschaften zwingen, gegen alle Wissenschaft die Diagnosemindeststandards zu ändern. Obwohl, hat ja bei Covid geklappt…Aber dann weiss man immer noch nicht, warum jemand hustet.
Es ist einfach Unsinn, jemandem von einer App sagen zu lassen, er könne krank sein, weil er hustet.

NI ist überlegen, verfügbarer, günstiger und daran wird das Wunschdenken von ITlern nichts ändern.

 

[Freddy K.]

Wenn Hunde zum Wittern von USB-Stickstoff eingesetzt werden können …

Hunde können sogar Krebs riechen. Wenn solche Sensoren entwickelt und mit der KI verbunden werden, gibts ein paar Arbeitslose mehr.

Es ist einfach Unsinn, jemandem von einer App sagen zu lassen, er könne krank sein, weil er hustet.

Nicht weil er huste, sondern wie er hustet.

 

[Sören]

Nicht weil er huste, sondern wie er hustet.

Auch dann nicht. Liegt in der Funktionsweise des Menschen begründet.

 

[landplage]

Auch dann nicht. Liegt in der Funktionsweise des Menschen begründet.

Wenn mein Hausarzt so argumentieren würde wie Du, wäre ich schon lange weg. Ich für mich selber merke schon an der Art, wie ich huste, ob das jetzt mein Asthma, meine Allergie, eine beginnende oder abklingende Erkältung, der Zigarettenqualm, das Stickoxid der Autowarmlaufenlasser ist oder ich mich einfach verschluckt habe. Und das fragt er detailliert ab, wenn ich mit richtigen Beschwerden bei ihm vorstellig werde.

Ich bin mir sicher, dass das in einer guten Audioaufnahme ziemlich gut unterschieden werden kann.
Meine App zum Schlaftracken basiert auf dem Verfolgen der Atemgeräusche. Und die filtert das Atmen und das Schnurren meiner beiden Katzen sicher raus, auch wenn die direkt neben meinem Kopf schlafen und den gleichen Abstand zum iPhone habe. Das finde ich geradezu faszinierend. 🖖🏻

 

[Freddy K.]

… Auch dann nicht. Liegt in der Funktionsweise des Menschen begründet. …

Die KI wird sich nicht allein auf 1 (Zahl) Sensor stützen, sondern auf eine Vielzahl davon. Um so mehr Sensorik ins Spiel kommt, um so genauer wird das Ganze.

 

[dtp]

NI ist überlegen, verfügbarer, günstiger und daran wird das Wunschdenken von ITlern nichts ändern.

Eben nicht. Sie ist zwar noch in Einzelfällen oder als Kollektiv überlegen, aber sie ist leider nicht überall verfügbar (wie viele leerstehenden Arztpraxen gibt es zum Beispiel?) und sie ist auch nicht unbedingt günstiger. Man könnte durch KI das Gesundheitssystem deutlich entlasten (schnelle und zuverlässige Diagnosen ohne Wartezeiten) und auch die Krankenkassen würden dadurch sehr viel Geld sparen.

Die KI soll ja zunächst mal nicht die Behandlung ersetzen, sondern lediglich die Diagnose unterstützen. Und wie auch bei uns Menschen, sollte man ihr eine gewissen Lernzeit einräumen. Kein Mensch wird z.B. als Arzt geboren, sondern durchläuft eine ziemlich lange Ausbildung.

KI ist schon lange kein Hirngespinst mehr von einigen Zukunftsspinnern. Sie ist bereits Realität. Und wenn ich sehe, was sich da so in den letzten zwei Jahren getan hat, dann wird sie sich extrem schnell entwickeln, zumal sich damit sehr, sehr viel Geld verdienen lässt. Kein Industrie- oder IT-Unternehmen, was sich aktuell nicht mit KI beschäftigt. Und ja, das Thema ist nicht ohne Risiko für die Menschheit.

 

[Sören]

Wenn mein Hausarzt so argumentieren würde wie Du, wäre ich schon lange weg. Ich für mich selber merke schon an der Art, wie ich huste, ob das jetzt mein Asthma, meine Allergie, eine beginnende oder abklingende Erkältung, der Zigarettenqualm, das Stickoxid der Autowarmlaufenlasser ist oder ich mich einfach verschluckt habe. ...

Du hast ein gutes Körpergefühl. Wozu braucht es dann noch eine app, die im Gegensatz zu Dir nicht wissen kann, warum und in welcher Phase der Erkrankung Du hustest?

Deshalb sollte man aktuelle Forschungen nicht mit Meerschweinchen-Theorien vergleichen, sondern ihnen die gleiche Chance geben, wie den vielen anderen renommierten Forschern vorher.

Der verlinkte Artikel hat mit renommierter Forschung nichts zu tun. Es ist Marketing, um Mittel für ein schlechtes Produkt zu generieren.
200 Jahre Stethoskop und NI haben keinen Hinweis darauf gefunden, dass alleine die Art des Hustens die richtige Diagnose stellt. Es braucht deutlich mehr dafür.
Aber natürlich klingt alles beeindruckend und entspricht dem Zeitgeist.

 

[landplage]

Nicht für mich, aber vielleicht in anderen Weltgegenden? Oder in einer Katastrophenlage, wo im Zelt auf freiem Feld entschieden werden muss, wer jetzt mit was schlimmen als erstes von der Bundeswehr ausgeflogen wird und wer noch warten kann? Weil es zu wenig Ärzte vor Ort gibt, aber womöglich Pflegekräfte, die solche Diagnose-Vorbereitungen übernehmen können? Husten ist ja nur ein Beispiel.
Oder in einem Pflegeheim, wo per Apple oder sonstiger Watch in Zukunft eine 24/7-Kontrolle von Parametern möglich ist, die heute noch Schläuche, Manschetten und riesige Monitore benötigen und die Menschen ans Bett fesseln anstelle sie sich bewegen zu lassen.

Diabetiker haben heute einen Knopf am Oberarm und ggf. eine Insulinpumpe am Bauch. Kein Fingerstechen mehr und individuelles Berechnen und Verabreichen von Insulin mit menschlicher Fehlerquote. Wenn man diese Daten auswertet (in Echtzeit!), kann man die Therapie noch viel mehr individualisieren, vermute ich.

Leider wird da ein Teil des Glanzes der (Halb)Götter in Weiß auf Maschinen und Software übergehen. 🤷‍♀️