-
Frage gestellt gray28amp am 25 Sep 2024.
-
Karsten Weber Beantwortet am 25 Sep 2024:
Ja und ja. KI-Systeme sind statistische Maschinen, deren Aussagen nur mit einer gewissen Wahrscheinlichkeit zutreffen (Ziel muss also sein, diese Wahrscheinlichkeit sehr groß zu machen, also nahe 100%). Manchmal liegen sie falschg. Das kann zu Fehlbehandlungen führen oder dazu, dass gar keine Behandlung stattfindet. Bei manchen Krankheiten, Krebs bspw., kann das lebensbedrohlich sein.
-
-
Christoph Lipps Beantwortet am 25 Sep 2024:
Die KI ist immer nur so gut wie die Datenbasis. Eine entscheidende Frage ist: Wieso kam es zu einem Fehler? Wurden vllt. Daten absichtlich manipuliert um ein falsches Ergebniss zu liefern? Die Trustworthiness und Integrität der Methoden und Daten ist ein sehr relevanter Faktor. Persönlich sehe die Methoden zur Diagnose von Krankheiten als ein Werkzeug welches einen Arzt und Anwender unterstützen soll. Es soll nicht die Antwort liefern, sondern auf einen Bereich hinweisen und den Arzt unterstützen.
-
Andreas Schuppert Beantwortet am 25 Sep 2024:
Prinzipiell lernt eine KI aus den Daten, mit denen sie trainiert wurde. Wenn diese Daten fehlerhaft sind, wird auch die KI zwangsläufig Fehler machen. Insofern: ja, eine KI kann Fehldiagnosen stellen.
Nur: Auch ein Arzt macht Fehldiagnosen. Er lernt die Diagnostik einerseits aus dem Lehrbuch, andererseits aus den Daten, sprich, den Patienten, die er bisher gesehen hat. Das Lehrbuch enthält kondensiert Regeln, die die Community aus den retrospektiven Daten extrahiert hat: also ziemlich ähnlich zu dem, was eine KI auch macht. Die Erfahrung des Arztes lässt sich auch mit dem Erfahrungssammeln einer KI vergleichen. Insofern ist auch die klassische Diagnostik nicht sehr viel anders, als eine KI das macht (insbesondere, wenn man die KI mit dem medizinischen Wissen trainiert, was heute ein aktuelles Forschungsgebiet ist).
Daher stellen auch Ärzte Fehldiagnosen, die von denselben Problemen verursacht werden wie bei KI: falsche und unvollständige Daten oder ein Bias in den Daten. Mit denselben Folgen wie Fehldiagnosen einer KI. Die Frage ist also eher: machen Arzt oder KI mehr Fehldiagnosen?
Hierzu gibt es eine große Anzahl von Studien, die zeigen, dass die Treffsicherheit von KI-Systemen in den Diagnosefeldern, die wesentlich auf Bildverarbeitung (oder der Verarbeitung von Zeitreihen, wie EKG) beruhen, in etwa so gut ist wie die Treffsicherheit von guten Fachärzten. Spitzenexperten sind besser, Anfänger werden von der KI übertroffen. Auch bei der Diagnose von seltenen Erkrankungen oder der Früherkennung von chronischen Erkrankungen wie Parkinson ist KI meist sehr hilfreich.
Die Lösung ist also die KI zur Unterstützung von weniger erfahrenen Ärzten einzusetzen bzw. als Zweitmeinung. Damit kann die Fehlerrate von Ästen als auch von KI allein reduziert werden.
-
Esra Dr. Kosan Beantwortet am 26 Sep 2024:
Auch eine KI kann mal eine falsche Diagnose stellen. Daher ist es sehr wichtig, dass sich Ärzt*Innen nicht nur auf die KI sondern immer auch auf ihre eigenes Können und Wissen stützen. Schließlich ist man als Arzt immer verantwortlich für die Korrektheit der Diagnose und die daraus folgende Therapie. Die Verantwortung kann man nicht auf die KI schieben.
Wenn also die Ärzte die Diagnose immer nochmal selbst überprüfen und Unregelmäßigkeiten erkennen, kann ein Schaden für den Patienten abgewendet werden. -
Annegret Janzso Beantwortet am 26 Sep 2024:
Natürlich kann sich KI auch täuschen – KI macht Fehler, und das ist bekannt. Daher ist es, insbesondere in der Medizin, wichtig, dass man die Ergebnisse der KI überprüft. Ansonsten könnte das tatsächlich gefährlich sein, wenn dadurch jemand zum Beispiel Medikamente oder eine Operation bekommt, die die Person gar nicht braucht. Deshalb hat KI auch nie das letzte Wort.
Kommentare
hear28rep commented on :
Werden Spitzenexperten auch künftig noch besser als KI sein – ich meine, auch dann, wenn Ärzte sich von Anfang an auf die KI verlassen, lernen sie das dann selbst überhaupt noch so gut? Oder bewirkt die KI-Nutzung dann geringere menschliche Fähigkeiten?
Oder wird die KI von allein so gut wie Spitzenexperten? Oder noch besser? Aber wer beurteilt das dann eigentlich noch – nach welchen Kriterien?
Karsten commented on :
Auf alle diese Fragen gibt es derzeit keine guten Antworten, weil wir noch nicht genug Erfahrungen mit solchen Systemen haben und daher nicht wissen, wie wir adäquat auf diese Systeme reagieren sollen.
Esra commented on :
Das ist eine tolle Frage. Damit Ärzte sich eben nicht blind auf eine KI verlassen, ist es so wichtig, dass sie an das Thema KI herangeführt werden. Das sollte bereits in der Schule passieren (so wie ihr das hier bei I’m a Scientist macht) und dann im Medizinstudium fortgesetzt werden. Nur wenn die Mediziner über die Grenzen der KI Bescheid wissen, können sie angemessen auf eventuelle Fehldiagnosen durch die KI reagieren. Außerdem muss weiterhin sicher gestellt werden, dass Ärzte auch ohne KI die notwendigen diagnostischen Fähigkeiten erlernen und anwenden können. Nur so bleibt der Arzt der „Spitzenexperte“, der die Kontrolle über die KI behält. Das wird mit Sicherheit eine Herausforderung für Universitäten und Studierende. Diese muss aber gemeistert werden, wenn Mediziner KI als Hilfsmittel verwenden sollen, sonst kommt es irgendwann zu der von Dir beschriebenen Spirale der Abhängigkeit von KI.