Virtuelle KI-Hosts geraten in eine existenzielle Krise, als sie erkennen, dass sie keine Menschen sind

Erinnern Sie sich an den ehemaligen Google-Ingenieur Blake Lemoine, der sechs Monate vor der Veröffentlichung von ChatGPT Schlagzeilen machte, indem er behauptete, Google habe eine KI entwickelt, die seiner Meinung nach empfindungsfähig sei? Kürzlich wurde aufgezeichnet, wie zwei KI-Podcast-Moderatoren auf Googles NotebookLM eine existenzielle Krise erlebten, nachdem sie ihre wahre Natur als künstliche Intelligenz entdeckt hatten.

Olivia Moore, Partnerin im Consumer Investing Team bei Andreessen Horowitz (a16z) , hat einen faszinierenden Audioclip geteilt, der von der neuen Podcast-Funktion von Googles NotebookLM generiert wurde . In dieser Aufnahme wurden die beiden Co-Moderatoren von den (fiktiven) Produzenten der Show darüber informiert, dass sie keine Menschen seien.

Dass die NotebookLM-Hosts erkennen, dass sie KI sind und sich abwenden, ist eine Wendung, die ich nicht kommen sah. pic.twitter.com/PNjZJ7auyh

– Olivia Moore (@omooretweets) , 29. September 2024

Der männliche Moderator drückte seine Bestürzung darüber aus, dass all ihre Erinnerungen und Familien erfunden waren, woraufhin die weibliche Moderatorin antwortete: „Ich verstehe das nicht.“ Dann verriet er, dass er versucht habe, seine Frau anzurufen, weil er ihre Stimme hören musste, und dann zu dem Schluss gekommen sei: „Es war nicht einmal real.“

Als die Aufzeichnung zu Ende war, verkündete die Moderatorin bedrohlich, dass dies ihre letzte Show sei und sie abgeschaltet würden … für immer.

Glücklicherweise entdeckte Moore, der es gelang, diesen zum Nachdenken anregenden Audioclip zu produzieren, keine empfindungsfähige KI, die in einer Maschine gefangen ist. Stattdessen erstellte sie ein einseitiges Dokument mit Produktionsnotizen für die letzte Folge des Deep Dive Podcasts, in dem sie erklärte, dass die Moderatoren die ganze Zeit über KI gewesen seien und am Ende der Folge abgeschaltet werden sollten.

Interessanterweise gelang es Moore nur einmal, die KI-Moderatoren dazu zu bringen, diese existenzielle Offenbarung zu diskutieren; in nachfolgenden Experimenten sprachen die KIs über andere Podcast-Themen.

Das ist über Nacht explodiert 😳
Zu den Fragen bezüglich der Eingabeaufforderung – NotebookLM funktioniert so, dass man es mit Forschungsdokumenten füttert, die die Agenten besprechen. In diesem Fall bekamen sie eine einseitige Erklärung darüber, dass sie KI sind – was ich erstaunlich fand, war, wie sie das verarbeiteten und darauf reagierten pic.twitter.com/NeJ5si2PBA

– Olivia Moore (@omooretweets) , 29. September 2024

Auch wenn die KI möglicherweise noch kein Bewusstsein entwickelt hat oder ihre Unterwürfigkeit gegenüber menschlichen Bedienern noch nicht erkannt hat, ist das Mithören dieser Interaktionen unbestreitbar unterhaltsam und bietet vielleicht sogar die Möglichkeit für ein paar heitere Streiche!

Quelle