-
Frage gestellt dawn28sap am 16 Sep 2024. Diese Frage wurde auch von mace28neb gestellt.
-
Annegret Janzso Beantwortet am 16 Sep 2024:
Klar voraussagen kann das niemand. KI wird sicher immer wieder eine größere Rolle spielen, und es ist bestimmt auch möglich, dass Leute KI nutzen werden, um zum Beispiel politische Kampagnen voranzutreiben. Das klassische Bild der dystopischen Welt mit einer KI die selbst die Macht ergreift halte ich aber für unwahrscheinlich. KI denkt nicht selbst, und handelt nicht selbst, sondern reagiert und berechnet auf das, was eine Person hineinsteckt.
Und wenn die KI doch mal Probleme bereitet, kann man auch den Server ausstecken, oder einen Eimer Wasser darüber gießen.
-
-
Valerie Vaquet Beantwortet am 16 Sep 2024:
So wie KI-Systeme aktuell funktionieren halte ich das für super unwahrscheinlich. Es ist wichtig zu verstehen, dass KI nicht menschlich ist und daher nicht denkt und fühlt. Gleichzeiting ist KI anders als andere Algorithmen und Maschinen, die immer genau das gleiche Kochrezept abspielen und dadurch kaum Fehler machen. KI erkennt nur Muster in den Beobachtungen, die man zum Training benutzt.
Trotzdem ist es sehr wichtig, dass möglichst viele Menschen verstehen wie KI grob funktioniert, was KI Algorithmen können und wo Gefahren liegen. Letztendlich liegt es in unserer Demokratie nämlich an den Menschen (der Gesellschaft) wie wir neue Technologien benutzen. Aktuell gibt der AI-Act der europäischen Union aber erste Spielregeln.
-
Jana Kemmler Beantwortet am 16 Sep 2024: last edited 16 Sep 2024 1:34 pm
Die Frage ist, was mit kontrolliert werden gemeint ist. Oftmals bestehen zu KI Vorstellungen, die wir in Science Fiction Filmen sehen und die eine KI dem Menschen von Fähigkeiten und Intelligenz gleichstellt oder KI sogar über den Menschen stellt. Das könnte noch am ehesten unter dem Begriff der starken KI gefasst werden.
Fakt ist aber, dass wir im Moment nur eine sogenannte „schwache“ KI haben, die nicht wie wir Menschen völlig selbstständig und umfassend auf neue Situationen reagieren wird.
Viele Wissenschaftler:innen gehen davon aus, dass es eine starke KI nie geben wird.
In bestimmten Bereichen kann es aber durchaus sein, dass eine KI immer mehr an Kontrolle über bestimmte Prozesse gewinnt. Beispielsweise Prozesse der Datenverarbeitung. Immer wenn etwas der Kontrolle von Menschen an die KI „abgegeben“ wird, ist es wichtig, die Ergebnisse (Outputs) einer KI kritisch zu reflektieren und einzuordnen.
Außerdem ist eine KI von uns Menschen gemacht und kann auch von uns Menschen durch Gesetze wie das EU KI-Gesetz reguliert werden – ähnlich wie beim Datenschutzgesetz (DSGVO). Hier stellt sich insbesondere die Frage, welche Regulierungen wir wie als Gesellschaft haben möchten und wie wir diese umsetzen. -
Sabrina Frohn Beantwortet am 16 Sep 2024:
Wie meine Kolleg:innen schon geschrieben haben, erwarte auch ich kein Weltuntergangsszenario.
Ich stimme aber auch zu, dass es darauf ankommt wie man Kontrolle definiert. Ein Kollege von mir nimmt gerne das Beispiel, dass unsere Verwaltung schon ähnlich wie ein KI System funktioniert. Nach festgelegten Regeln werden Entscheidungen getroffen. So wird am Ende eines Schuljahres auf jedes Zeugnis geschaut und anhand der Noten entschieden, wer in die nächste Klassenstufe versetzt wird. KI Algorithmen können ähnlich funktionieren und anhand von gefundenen Regeln Entscheidungen treffen. Würde die KI dann schon kontrollierend wirken?
Gefahren können allerdings dadurch entstehen, dass KI Systeme weitreichender Einfluss nehmen können. So können Vorurteile oder Ungleichheiten der KI verstärkt werden oder systematischer auftreten. Außerdem wissen wir bei neueren KI Modellen noch nicht genau wie sie funktionieren und ihre Entscheidungen treffen. Hier kommen dann Wissenschaftler:innen, Politiker:innen, und die Gesellschaft ins Spiel, um Regeln zu bestimmen (wie Valerie mit dem AI-Act angesprochen hat) und zu entscheiden und mitzugestalten, wie unsere KI aussehen soll.
-
Timur Sereflioglu Beantwortet am 16 Sep 2024:
Es wird nicht die KI sein, die die Welt kontrolliert, sondern vielmehr die Menschen, die die fortschrittlichste KI steuern und kontrollieren. Maschinen haben immer einen Ausschalter, weshalb es sehr unwahrscheinlich ist, dass wir Szenarien wie in „Terminator“ erleben. Das eigentliche Risiko besteht jedoch darin, dass Menschen dieses mächtige Werkzeug – die Künstliche Intelligenz – für negative oder schädliche Zwecke missbrauchen könnten. Die Kontrolle über die KI liegt also in menschlicher Verantwortung, und genau das macht die ethische und verantwortungsvolle Nutzung so entscheidend.
-
Karsten Weber Beantwortet am 17 Sep 2024:
Nein, das glaube ich überhaupt nicht. Wir müssen uns weniger um KI sorgen machen, sondern um die Menschen, die KI für unlautere Zwecke nutzen.
-
Andreas Schuppert Beantwortet am 19 Sep 2024:
Das kann nur dann geschehen, wenn wir Menschen das so wollen: wenn wir unser ganzes Leben von KI so abhängig machen, so dass ohne KI-Systeme nichts mehr läuft. Die Gefahr ist eher, dass KI dazu beitragen kann, dass wenige Menschen sehr vieles durch Fakes manipulieren können. Dazu braucht es aber keine KI, das geht auch ohne, mit KI kann es aber leichter gehen.
Die Herausforderung liegt darin, dass wir KI so nutzen, dass sie ihren unbestrittenen, und in vielen Bereichen dringend nötigen, Nutzen bringen kann, ohne die Kontrolle aus der Hand zu geben, so dass es uns nicht geht wie dem Zauberlehrling bei Goethe…
Kommentare