-
Frage gestellt free28cap am 1 Okt 2024.
Frage: Gab es schonmal eine "KI-Kathastrophe"?
- Stichworte:
-
Karsten Weber Beantwortet am 1 Okt 2024:
Nein, nicht im großen Stil. Allerdings sind schon Menschen gestorben, weil sie dem Autopiloten in ihrem Tesla-Auto zu sehr vertraut haben, obwohl dessen Fähigkeiten weit geringer sind als die Werbung behauptet. Für die betroffenen Menschen sind solche Unfälle natürlich katastophal.
-
Daniel Braun Beantwortet am 1 Okt 2024:
Eine echte Katastrophe nicht. Aber es gibt schon immer mal wieder prominente öffentliche Fehlschläge, die dann zumindest für die Unternehmen die die KI anbieten ein „PR-Katastrophe“ sind, so zum Beispiel der Chatbot Tay von Microsoft, der innerhalb von sehr kurzer Zeit damit angefangen hat sehr unangebrachte Dinge zu sagen (https://de.wikipedia.org/wiki/Tay_(Bot)).
-
Clarissa Elisabeth Hohenwalde Beantwortet am 1 Okt 2024:
Neben den schon erwähnten Skandalen fällt mir noch eine weitere kleine KI-Katastrophe ein:
Amazon hat bis 2018 eine KI verwendet, um den Bewerbungsprozess zu automatisieren. Die KI sollte geeignete Bewerber*innen erkennen, hat dabei jedoch systematisch weibliche Bewerberinnen diskriminiert.
Der Grund hierfür war, dass früher fast nur Männer bei Amazon gearbeitet haben. Die KI hat aus diesen historischen Informationen abgeleitet, dass nur Männer gute Kandidaten sein können und gar nicht erst auf die Qualifikationen von Frauen geschaut. Dieser Vorfall verdeutlicht, dass KI-Systeme unbewusst Vorurteile verstärken können, wenn sie auf voreingenommenen Daten basieren.
Kommentare