Frage: Könnten die Filme, in denen KI die Weltherrschaft übernimmt, tatsächlich irgendwann wahr werden?

Fabian Zehner Beantwortet am 1 Okt 2024: last edited 1 Okt 2024 10:35 am

Nein, nicht in dieser Form.
Es ist immer eine Frage dessen, worauf wir ihnen Zugriff gewähren. Du kannst immer überlegen, _was_ kann die KI in der realen Welt bewirken/ändern?

Wenn du an generative Sprachmodelle wie ChatGPT denkst: sie produzieren Text.
Was bewirkt das? Es könnte die Lesenden beeinflussen. Das könnte negative Auswirkungen auf 1 Person haben, wenn es schlechte Ratschläge bei zB Personen mit psychischen Störungen sind. Aber es wäre keine Weltherrschaft. Und es wäre auch nicht die Intention der KI, sondern wäre halt nur „zufällig“ so passiert.

Was, wenn du den KI-Systemen mehr Zugriff gibst? ZB gibt es Menschen, die ihren KI-Systemen Schreibzugriff auf soziale Medien geben. Das macht die KI dann nicht selbstgesteuert, weil sie denkt, dass sie uns austricksen könnte, sondern das muss dann gezielt von Programmierer*innen so festgelegt werden: Die Chat-Nachricht, die du sonst siehst, die GPT ausspuckt, wird dann einfach direkt an X/Instagram/Facebook/WhatsApp/Whatever geschickt.
Andere Leute (zB AutoGPT) geben den Modellen gar Zugriff auf ihren Computer, sodass sogar Befehle auf dem Betreiebssystem ausgeführt und neue Programme programmiert und ausgeführt werden können.
Was bewirkt das? Sie können plötzlich viele 1000+ Lesende via Social Media erreichen, möglicherweise Desinformation (Fake News) verbreiten. Man könnte auch den eigenen Computer zum Absturz bringen. Auch hier ist wichtig zu betonen: Das ist dann nicht die Intention der KI. Sie wird auch nicht die Weltherrschaft an sich reißen. Aber wir kommen damit in einen Bereich, in dem man sich definitiv überlegen muss, welchen Zugriff die Systeme denn wirklich bekommen sollten. Was ist der Mehrwert davon, dass sie direkt etwas steuern können und direkt Änderungen in der Realwelt vornehmen können? Sollten sie den Sicherheitszaun um ein Kraftwerk steuern? Wahrscheinlich nicht. Sollten sie den Schalter bedienen können, ob ein Fernsehsender gerade aus Studio 1 oder 2 sendet? Wahrscheinlich nicht.

Auch wenn es also Risiken gibt, wäre alles, was zu großflächigen negativen Auswirkungen führen könnte, ein simpler Ingenieursfehler des Menschen. Dann haben wir dem Modell einfach Zugriff auf irgendwas gegeben, auf das es besser keinen Zugriff hätte haben sollen.