-
Frage gestellt acme28fry am 24 Sep 2024.
Frage: Was würde passieren, wenn eine KI sich selbst trainiert oder eine andere KI trainiert?
- Stichworte:
-
Annegret Janzso Beantwortet am 24 Sep 2024:
Dann lernt die KI nur das, was sie selbst schon gelernt hat/was die andere KI gelernt hat, oder was andere Leute als neuen Input geben. Ohne Kontrolle, was da eigentlich vor sich geht, kann da schnell viel kaputt gehen. Es gab zum Beispiel mal einen Bot für Reddit, der anhand von den Kommentaren dort „sich selbst“ trainiert hat. Das wurde irgendwann deaktiviert, weil der Bot dadurch sehr rassistisch wurde, weil Leute dem Bot rassistische Nachrichten und Kommentare gegeben haben.
-
Karsten Weber Beantwortet am 24 Sep 2024:
Wie das Training von KI-Systemen abläuft, ist sehr stark davon abhängig, was für ein Typ KI-System vorliegt. Selbsttraining ist nicht immer möglich. Es gibt Beispiele, wo man bspw. KI-Systeme gegeneinander spielen lässt, z.B. Go, damit sie an den Spielzügen des anderen „Spielers“ lernen. Wenn ChatGPT mit Texten trainiert wird, die das System selbst erzeugt hat, dann werden die neu generierten Texte immer schlechter. Mit anderen Worten: In diesem Fall ist das Selbstlernen negativ.
-
Sonja Hänzelmann Beantwortet am 24 Sep 2024:
Dazu gibt es eine amüsante Geschichte. Es waren einmal zwei der frühesten Chat bots in der Geschichte der künstlichen Intelligenz, mit jeweils unterschiedlichen Aufgaben …. ELIZA und PARRY. ELIZA wurde 1966 von Joseph Weizenbaum entwickelt und simulierte einen Psychotherapeuten/eine Psychotherapeutin, der/die offene Fragen stellte, um Benutzer:innen zum Sprechen zu bringen. PARRY, entwickelt von Kenneth Colby im Jahr 1972, simulierte eine Person mit paranoider Schizophrenie.
Als ELIZA und PARRY miteinander “sprachen”, war es eine Begegnung zwischen zwei sehr unterschiedlichen Programmen.Hier ein Beispiel der Konversation:
ELIZA: Good Evening. Tell me your problems. Please terminate input with a period or a question mark.
PARRY: People get on my nerves sometimes.
ELIZA: I am not sure I understand you fully.
PARRY: You should pay more attention.
ELIZA: Suppose you should pay more attention.
PARRY: You’re entitled to your own opinion.
ELIZA: What makes you think I am entitled to my own opinion?
PARRY: It bothers me just to be around people in general.
ELIZA: Please go on.
PARRY: I went to the track at Bay Meadows a while back.
ELIZA: What does that suggest to you?
PARRY: I went to the races.
Hier kannst du es ausprobieren (auf Englisch) http://psych.fullerton.edu/mbirnbaum/psych101/Eliza.htm
Kommentare