5 große Probleme mit ChatGPT von OpenAI

ChatGPT ist ein leistungsstarker neuer KI-Chatbot, der schnell beeindruckt, aber viele Leute haben darauf hingewiesen, dass er einige ernsthafte Fallstricke hat. Fragen Sie es, was Sie wollen, und Sie erhalten eine Antwort, die sich anhört, als wäre sie von einem Menschen geschrieben worden, der sein Wissen und seine Schreibfähigkeiten aus Massen von Informationen im Internet gelernt hat.

Genau wie im Internet sind Wahrheit und Fakten jedoch nicht immer selbstverständlich und ChatGPT macht sich schuldig, wenn es falsch liegt. Da ChatGPT unsere Zukunft verändern wird, sind hier einige der größten Bedenken.

Was ist ChatGPT?

ChatGPT ist ein großes Sprachlernmodell, das entwickelt wurde, um menschliche Gespräche zu imitieren. Es kann sich an Dinge erinnern, die Sie ihm in der Vergangenheit gesagt haben, und ist in der Lage, sich selbst zu korrigieren, wenn es falsch ist.

Es schreibt auf menschenähnliche Weise und verfügt über einen reichen Wissensschatz, da es mit allen möglichen Texten aus dem Internet wie Wikipedia, Blogbeiträgen, Büchern und wissenschaftlichen Artikeln trainiert wurde.

Es ist einfach zu lernen, wie man ChatGPT verwendet, aber was schwieriger ist, herauszufinden, was seine größten Probleme sind. Hier sind einige, die wissenswert sind.

1. ChatGPT ist nicht immer richtig

Es versagt bei grundlegender Mathematik, kann einfache logische Fragen nicht beantworten und geht sogar so weit, völlig falsche Fakten zu argumentieren. Wie Social-Media-Nutzer bestätigen können, kann ChatGPT mehr als einmal falsch liegen.

OpenAI weiß um diese Einschränkung und schreibt: „ChatGPT schreibt manchmal plausibel klingende, aber falsche oder unsinnige Antworten.“ Diese „Halluzination“ von Fakten und Fiktionen, wie manche Wissenschaftler es nennen, ist besonders gefährlich, wenn es um so etwas wie medizinische Beratung geht.

Im Gegensatz zu anderen KI-Assistenten wie Siri oder Alexa verwendet Chat GPT nicht das Internet, um Antworten zu finden. Stattdessen konstruiert es einen Satz Wort für Wort und wählt das wahrscheinlichste „Token“ aus, das als nächstes kommen sollte, basierend auf seinem Training.

Mit anderen Worten, ChatGPT kommt zu einer Antwort, indem es eine Reihe von Vermutungen anstellt, was einer der Gründe dafür ist, dass falsche Antworten so argumentiert werden können, als ob sie vollständig wahr wären.

Obwohl es großartig darin ist, komplexe Konzepte zu erklären, was es zu einem leistungsstarken Lernwerkzeug macht, ist es wichtig, nicht alles zu glauben, was es sagt. ChatGPT ist nicht immer korrekt – zumindest noch nicht.

2. Voreingenommenheit wird in das System eingebrannt

ChatGPT wurde im kollektiven Schreiben von Menschen auf der ganzen Welt in Vergangenheit und Gegenwart geschult. Dies bedeutet, dass dieselben Verzerrungen, die in den Daten vorhanden sind, auch im Modell auftreten können.

Tatsächlich haben Benutzer gezeigt, wie ChatGPT einige schreckliche Antworten geben kann, von denen einige zum Beispiel Frauen diskriminieren. Aber das ist nur die Spitze des Eisbergs; es kann Antworten hervorbringen, die für eine Reihe von Minderheitengruppen äußerst schädlich sind.

Die Schuld liegt auch nicht einfach in den Daten. OpenAI-Forscher und -Entwickler wählen die Daten aus, die zum Trainieren von ChatGPT verwendet werden. Um dem entgegenzuwirken, was OpenAI als „voreingenommenes Verhalten“ bezeichnet, werden Benutzer gebeten, Feedback zu schlechten Ergebnissen zu geben.

Mit dem Potenzial, Menschen Schaden zuzufügen, können Sie argumentieren, dass ChatGPT nicht für die Öffentlichkeit hätte freigegeben werden sollen, bevor diese Probleme untersucht und gelöst wurden.

Ein ähnlicher KI-Chatbot namens Sparrow (im Besitz von Googles Muttergesellschaft Alphabet) wurde im September 2022 veröffentlicht. Er wurde jedoch wegen ähnlicher Bedenken, dass er Schaden anrichten könnte, hinter verschlossenen Türen gehalten.

Vielleicht hätte Meta die Warnung auch anführen sollen. Als es Galactica veröffentlichte, ein KI-Sprachmodell, das auf wissenschaftlichen Arbeiten trainiert wurde, wurde es schnell zurückgerufen, nachdem viele Leute es wegen der Ausgabe falscher und voreingenommener Ergebnisse kritisiert hatten.

3. Eine Herausforderung für Highschool-Englisch

Sie können ChatGPT bitten, Ihren Text Korrektur zu lesen oder darauf hinzuweisen, wie Sie einen Absatz verbessern können. Alternativ können Sie sich ganz aus der Gleichung entfernen und ChatGPT bitten, etwas für Sie zu schreiben.

Lehrer haben damit experimentiert, ChatGPT mit englischen Aufgaben zu versorgen, und Antworten erhalten, die besser sind als das, was viele ihrer Schüler tun könnten. Vom Schreiben von Anschreiben bis hin zur Beschreibung wichtiger Themen in einem berühmten Literaturwerk kann ChatGPT dies ohne zu zögern tun.

Das wirft die Frage auf: Wenn ChatGPT für uns schreiben kann, müssen Studenten in Zukunft schreiben lernen? Es mag wie eine existenzielle Frage erscheinen, aber wenn die Schüler anfangen, ChatGPT zu verwenden, um ihre Aufsätze zu schreiben, müssen die Schulen schnell eine Antwort finden. Der rasche Einsatz von KI in den letzten Jahren wird viele Branchen schockieren, und die Bildung ist nur eine davon.

4. Es kann realen Schaden anrichten

Wir haben bereits erwähnt, wie falsche Informationen von ChatGPT in der realen Welt Schaden anrichten können, wobei das offensichtlichste Beispiel falscher medizinischer Rat ist.

Es gibt auch andere Bedenken. Gefälschte Social-Media-Konten stellen ein großes Problem im Internet dar, und mit der Einführung von KI-Chatbots würden Internet-Betrug leichter durchführbar. Die Verbreitung gefälschter Informationen ist ein weiteres Problem, insbesondere wenn ChatGPT selbst falsche Antworten überzeugend richtig klingen lässt.

Die Rate, mit der ChatGPT Antworten liefern kann, die nicht immer korrekt sind, hat bereits Probleme für Stack Exchange verursacht, eine Website, auf der Benutzer Fragen stellen und Antworten erhalten können.

Kurz nach seiner Veröffentlichung wurden Antworten von ChatGPT von der Website verbannt, da viele von ihnen falsch waren. Ohne genügend menschliche Freiwillige, um den Rückstand zu sortieren, wäre es unmöglich, ein hohes Maß an Antworten aufrechtzuerhalten, was zu Schäden an der Website führen würde.

5. OpenAI hat die ganze Kraft

Mit großer Macht kommt große Verantwortung, und OpenAI hat viel Macht. Es ist eines der ersten KI-Unternehmen, das die Welt mit nicht nur einem, sondern mehreren KI-Modellen, darunter Dall-E 2, GPT-3 und jetzt ChatGPT, wirklich aufgerüttelt hat.

OpenAI wählt aus, welche Daten zum Trainieren von ChatGPT verwendet werden und wie es mit den negativen Folgen umgeht. Ob wir mit den Methoden einverstanden sind oder nicht, es wird diese Technologie gemäß seinen eigenen Zielen weiterentwickeln.

Während OpenAI der Sicherheit einen hohen Stellenwert beimisst, gibt es vieles, was wir nicht darüber wissen, wie die Modelle erstellt werden. Ob Sie der Meinung sind, dass der Code Open Source sein sollte, oder zustimmen, dass Teile davon geheim bleiben sollten, wir können nicht viel dagegen tun.

Letztendlich können wir nur darauf vertrauen, dass OpenAI ChatGPT verantwortungsbewusst erforscht, entwickelt und nutzt. Alternativ können wir dafür eintreten, dass mehr Menschen ein Mitspracherecht haben, in welche Richtung KI gehen soll, und die Macht der KI mit den Menschen teilen, die sie nutzen werden.

Wenn Sie daran interessiert sind, was OpenAI sonst noch entwickelt hat, lesen Sie unsere Artikel zur Verwendung von Dall-E 2 und zur Verwendung von GPT-3.

Die größten Probleme der KI angehen

Bei ChatGPT, der neuesten Entwicklung von OpenAI, gibt es viel zu entdecken. Aber über den unmittelbaren Nutzen hinaus gibt es einige ernsthafte Probleme, die es wert sind, verstanden zu werden.

OpenAI gibt zu, dass ChatGPT schädliche und voreingenommene Antworten produzieren kann, ganz zu schweigen von seiner Fähigkeit, Fakten mit Fiktion zu vermischen. Bei einer so neuen Technologie ist es schwierig vorherzusagen, welche anderen Probleme auftreten werden. Bis dahin viel Spaß beim Erkunden von ChatGPT und achten Sie darauf, nicht alles zu glauben, was dort steht.