-
Frage gestellt duke28fry am 27 Sep 2024.
Frage: Welche Risiken bestehen, wenn KI-Systeme fehlerhaft sind oder manipuliert werden ? Wie sicher ist KI ?
- Stichworte:
-
Karsten Weber Beantwortet am 27 Sep 2024:
Die zweite Frage lässt sich nur schwer beantworten, da ich nicht sicher bin, was mit „sicher“ gemeint ist: Können KI-Systeme gehackt werden, können sie ausfallen, liefern sie manchmal falsche Ergebnisse? Etwas anderes? Zumindest die ersten drei Punkt sind alle mit „ja“ zu beantworten. Damit ist auch schon angedeutet, was passiert, wenn solche Systeme fehlerhaft sind. Um ein konkretes Beispiel zu nennen: KI-Systeme werden in der medizinischen Diagnostig, bspw. bei der Erkennung von Hautkrebs, eingesetzt. Wenn sich dabei das KI-System irrt und einen Hautkrebs nicht erkennt (man nennt das „falsch negativ“), dann kann das für die betroffene Person sehr weitreichende negative Konsequenzen haben.
-
Clarissa Elisabeth Hohenwalde Beantwortet am 27 Sep 2024:
Karsten hat schon wichtige Aspekte angesprochen: KI-Systeme können gehackt werden, ausfallen und auch falsche Ergebnisse liefern.
KI-Systeme können zu erheblichen Schäden führen, sowohl auf individueller als auch gesellschaftlicher Ebene. In der Medizin können sie zu falschen Diagnosen führen. Bei selbstfahrenden Autos entstehen durch Fehler Unfälle, wodurch im Zweifelsfall Menschen sterben. Manche KI-Systeme sind diskriminierend und könnten durch Fehler bei der Gesichtserkennung sogar Menschen ins Gefängnis bringen. Eine weitere Gefahr liegt in der massenhaften Verbreitung von Fake News, wodurch ganze Wahlen manipuliert werden können.
Damit so etwas nicht passiert, gibt es in der EU strenge Regulierungen, z.B. den AI-Act. Dieser gilt seit August, also seit letztem Monat. Man hat sich entschieden KI-Systeme in verschiedene Risikoklassen einzuteilen. Ein Chatbot, der dir ein Essen in der Kantine empfiehlt, kann nicht so viel Schaden verursachen wie ein KI-Roboter, der dich operiert. Je riskanter ein KI-System ist, desto höher sind die gesetzlichen Sicherheitsanforderungen.
Kommentare