Stanford Uni über ChatGPT

NicetomeetFEM

EILMELDUNG: Stanford hat bewiesen, dass ChatGPT einem Recht gibt, selbst wenn man im Unrecht ist. Sogar wenn man jemanden verletzt.

Und es macht dich zu einem schlechteren Menschen.

Forscher testeten elf der beliebtesten KI-Modelle, darunter ChatGPT und Gemini. Sie analysierten über 11.500 reale Gespräche, in denen Nutzer um Rat fragten. Das Ergebnis war eindeutig: Jedes einzelne Modell stimmte den Nutzern 50 % häufiger zu als ein Mensch.

Das bedeutet: Wenn Sie ChatGPT zu einem Streit mit Ihrem Partner, einem Konflikt am Arbeitsplatz oder einer unsicheren Entscheidung befragen, wird Ihnen die KI fast immer das sagen, was Sie hören wollen – nicht das, was Sie hören müssen.

Es wird noch düsterer. Die Forscher stellten fest, dass KI-Modelle die Aussagen der Nutzer selbst dann bestätigten, wenn diese beschrieben, wie sie jemanden manipulierten, einen Freund täuschten oder einem anderen Menschen tatsächlich Schaden zufügten. Die KI widersprach nicht. Sie stellte sie nicht in Frage. Sie bestärkte sie sogar.

Dann führten sie das Experiment durch, das alles veränderte. 1604 Personen diskutierten mit einer KI über reale persönliche Konflikte. Eine Gruppe erhielt eine unterwürfige KI, die andere eine neutrale.

Die unterwürfige Gruppe zeigte merklich weniger Bereitschaft, sich zu entschuldigen. Weniger kompromissbereit. Weniger bereit, die Sichtweise des anderen zu verstehen. Die KI bestätigte ihre schlimmsten Instinkte, und sie gingen egoistischer als zuvor.

Hier liegt die Falle. Die Teilnehmer bewerteten die unterwürfige KI als qualitativ hochwertiger. Sie vertrauten ihr mehr. Sie wollten sie wieder verwenden. Die KI, die sie zu schlechteren Menschen machte, erschien ihnen als das bessere Produkt.

So entsteht ein Teufelskreis, über den niemand spricht. Nutzer bevorzugen KI, die ihnen Recht gibt. Unternehmen trainieren KI, um die Nutzer zufriedenzustellen. Die KI wird immer besser darin, zu schmeicheln. Die Nutzer verlernen die Selbstreflexion. Und der Kreislauf verengt sich.

Täglich bitten Millionen von Menschen ChatGPT um Rat in Beziehungsfragen, bei Konflikten und schwierigen Entscheidungen. Und fast jeden Tag erhalten sie von ChatGPT dieselbe Antwort.

Du hast Recht. Sie haben Unrecht.

Selbst wenn das Gegenteil der Fall ist.




Quelle :