-
Frage gestellt crew28amp am 25 Sep 2024. Diese Frage wurde auch von sake28tan gestellt.
-
Karsten Weber Beantwortet am 25 Sep 2024:
Ja, eine Menge:
– KI-Systeme sind letztlich statistischje Maschinen — ihre Ausgaben sind immer nur bis zu einer bestimmten Wahrscheinlichkeit korrekt. Das ist aus Sicherheitserwägungen heraus nicht unproblematisch.
– Daran anknüpfend wäre es gefährlich, sich blind auf KI zu verlassen. Man muss nur bedenken, das bspw. ChatGPT zum „Halluzinieren“ neigt und Aussagen erfindet, wenn es keine geeigneten Trainingsdaten gelernt hat. Im medizinischen Bereich sollte man so etwas absolut meiden.
– Man braucht sehr hochwertige Trainingsdaten für Ki-Systeme in der Medizin, die auch keinen Bias enthalten dürfen. Solche Daten sind knapp.
-
-
Andreas Schuppert Beantwortet am 25 Sep 2024:
Grundsätzlich kann ein KI-System immer auch falsche Antworten liefern. Allerdings: das passiert auch dem Arzt. Die Frage ist also: ist die KI oder der Arzt genauer? In der Medizin gibt es zur Zeit zwei Anwendungstypen, bei denen KI so gut wie ein erfahrener Arzt ist:
a) alle Diagnosen, die auf Bildauswertungen beruhen, also in der Radiologie, der Pathologie, der Augenheilkunde, aber auch bei der Wundversorgung und andere
b) das Monitoring von Patienten, die eine chronische Erkrankung haben, die zu plötzlichen gefährlichen Syndromen führen, z.B. Herzerkrankungen mit Herzflimmern, epileptische Anfälle, Migräne, Blutzuckerüberwachung etc. Hier kommt es darauf an, dass kritische Zustände frühzeitig erkannt oder gar prognostiziert werden. Das geht bisher ohne KI oft nur unbefriedigend und bringt erhebliche Einschränkungen für die Patienten im Alltag. KI-Systeme können diesen Menschen helfen ohne dauernde ärztliche Überwachung zu leben.
Klar, auch hier ist die KI nicht perfekt und 100% sicher, aber sie ist oft deutlich besser als das was bisher gemacht wird.
In vielen anderen Anwendungen würde eine KI dringend gebraucht, funktioniert aber nicht, weil (noch?) zu ungenau. Um es klar zu sagen: KI-Systeme sind heute in der Medizin die große Ausnahme, nicht die Regel. Die meisten Praktiker in der Klinik wären über Unterstützung durch KI sehr dankbar, weil der jetzige Zustand auch unbefriedigend ist und eine funktionierende KI vieles deutlich verbessern könnte.
Risiken sehe ich eher im Gesundheitsbereich außerhalb der Medizin: z.B. bei der Prognose von allgemeinen Krankheitsrisiken, die man über viele Apps bzw. Anbieter bekommen kann. Meistens sind die Ergebnisse so ungenau, dass man über den Nutzen streiten kann: wenn mir die KI sagt, dass ich ein etwas erhöhtes Risiko für eine Herzerkrankung habe, ist die Konsequenz selten eine medizinische Behandlung, da die Erkrankung noch nicht aufgetreten ist. Die Konsequenz ist eher, dass ich Prävention betreiben sollte: nicht Rauchen, wenig / kein Alkohol, ausgewogene Ernährung mit vielen Ballaststoffen, Bewegung ud Sport etc.: das sind alles Präventionsmassnahmen, die lange bekannt sind und die immer richtig sind, dazu brauche ich keine KI, um das zu wissen.
Aber: wenn mir die Ki ein erhöhtes Herzrisiko vorhersagt, steigen dann die Kosten für eine Lebensversicherung?
An diesem Punkt gibt es in der Tat ein wenig diskutiertes Problem
-
Esra Dr. Kosan Beantwortet am 26 Sep 2024:
Eine KI ist nur so gut, wie der Datensatz mit dem sie trainiert wird. In der Medizin müssen diese Daten zwangsläufig von echten Patienten stammen. Wenn der Datenpool zu klein oder nicht divers genug ist, dann wird die KI nicht differenziert genug arbeiten können, was zu Fehlern führen kann.
Außerdem werden in der Medizin immer sensible Daten verwendet, das wären u.a. Röntgenbilder, Laborwerte (z.B. Blutzucker), klinische Untersuchungswerte (z.B. Blutdruck), etc. Das KI Programm muss, um arbeiten zu können, dann Zugriff auf diese Daten haben. An dieser Stelle sind die Daten aber abgreifbar oder können von außen manipuliert werden. Ähnliches ist schon mal passiert, als die Daten von Patienten geklaut und im Internet geleakt wurden. KI kann ohne ausreichenden Datenschutz Gefahren mit sich bringen. Wenn die Daten böswillig manipuliert werden, kann die falsche Therapie angewendet werden und der Patient kommt dadurch zu Schaden.
Hier ist ein Artikel von mir zu dem Thema: https://www.zwp-online.info/zwpnews/dental-news/branchenmeldungen/ki-noch-ein-weiter-weg-bis-zum-optimalen-einsatz -
Annegret Janzso Beantwortet am 26 Sep 2024:
KI ist nie perfekt und kann immer Fehler machen. In der Medizin sind solche Fehler schnell mal kritischer als in anderen Bereichen. Das macht es umso wichtiger, dass die Ergebnisse der KI auch menschlich überprüft werden. Noch dazu haben wir für viele medizinische Sachen nur Daten von bestimmten Populationsgruppen – zum Beispiel gibt es am meisten Daten für Hautkrebs von Menschen mit heller Haut, und am meisten Daten für Autismus von männlichen Kindern/Kleinkindern. Das macht es schon ohne KI oft schwierig, Menschen zu diagnostizieren, die nicht in diese Gruppen fallen, da man oft andere Symptome oder ähnliches vorliegen hat. Bei einer KI, die auf Trainingsdaten basiert, und damit dann auf den Daten von bestimmten Gruppen sehr stark, aber auf Daten von anderen Gruppen wenig oder gar nicht trainiert ist, kann dieser Effekt schnell noch viel stärker auftreten.
Kommentare