OpenAI führt ein KI-Erkennungstool ein, um von ChatGPT generierten Text abzuwehren

Der automatisierte KI-gestützte Chatbot von OpenAI, ChatGPT, hat das Internet im Sturm erobert, aber nicht ohne dabei einige Probleme zu verursachen. Mit Autoren, Programmierern, Vermarktern und scheinbar allen anderen dazwischen, die ChatGPT zum Generieren von Inhalten verwenden, starren Unternehmen weltweit auf einen Tsunami von KI-generierten Inhalten.

Da Probleme mit Plagiaten und gestohlenen Inhalten ständig um ChatGPT und seine Ausgabe wirbeln, hat OpenAI jetzt einen neuen GPT-Klassifikator veröffentlicht, ein Tool, das entwickelt wurde, um zu erkennen und offenzulegen, ob der Text, den Sie lesen, das Werk von ChatGPT oder einem seiner anderen GPT war Werkzeug.

OpenAI führt GPT-Classifier ein, um bei der Überprüfung von KI-geschriebenem Text zu helfen

Die Ankündigung von OpenAI kommt, da die Überprüfung des KI-Schreibens und der KI-generierten Texte intensiviert wird und Unternehmen die ChatGPT-Ausgabe integrieren.

Der neue GPT-Classifier versucht herauszufinden, ob ein bestimmter Text von Menschen geschrieben wurde oder von einem KI-Generator stammt. Während ChatGPT und andere GPT-Modelle ausgiebig auf alle Arten von Texteingaben trainiert werden, ist das GPT-Classifier-Tool „an einem Datensatz von Paaren aus von Menschen geschriebenem Text und KI-geschriebenem Text zum selben Thema fein abgestimmt“.

Anstatt also Informationen aufzusaugen und ihre beste Annäherung neu zu erstellen, versucht der GPT-Klassifikator, Ähnlichkeiten zwischen bekanntem menschlichem Text und bekanntem KI-Text zu vergleichen, um Diskrepanzen zu finden, die den Verfasser der Quelle enthüllen.

Die Erkennung von GPT-Classifier ist derzeit eingeschränkt

Während die Idee, KI-generierten Text leicht zu erkennen, Musik in den Ohren von Redakteuren und Pädagogen sein wird, hat OpenAI davor gewarnt, dass sein „Klassifikator nicht vollständig zuverlässig ist“.

Derzeit identifiziert GPT-Classifier „26 % des von KI geschriebenen Textes korrekt“, während er 9 % des menschlichen Textes als KI-geschrieben kennzeichnet. OpenAI stellt auch fest, dass die Genauigkeit des Tools „normalerweise mit zunehmender Länge des Eingabetextes zunimmt“.

Ein oberflächlicher Test des GPT-Classifiers entdeckte ein von Menschen generiertes Beispiel und markierte es als „sehr unwahrscheinlich, dass es von KI generiert wird“, und wies auch korrekt darauf hin, dass ein von ChatGPT generiertes Snippet zu USB-Problemen „möglicherweise von KI generiert“ wurde.

Die Nachfrage nach ChatGPT-Erkennung ist hoch

Trotz der Einschränkungen des GPT-Classifiers wird die Nachfrage nach zuverlässiger ChatGPT-Erkennung wahrscheinlich dazu führen, dass sich viele diesem Tool zuwenden. Das Engagement von OpenAI für den Aufbau und die Veröffentlichung eines kostenlosen GPT-Erkennungstools ist wichtig, denn je mehr Studenten, Autoren, Programmierer und andere Tools zur KI-Textgenerierung verwenden, desto wichtiger wird es, diesen Input zu verstehen und zu erkennen.

Obwohl der GPT-Classifier derzeit läuft und zum Testen zur Verfügung steht, ist es am besten, seine Kennzeichnung mit Vorsicht zu genießen.