X hat die Suche nach Taylor Swift aufgrund zahlreicher KI-Deepfake-Bilder vorübergehend blockiert

Anfang dieser Woche begannen große Mengen von KI-gefälschter Fake-Bilder des Pop-Künstlers Taylor Swift, größtenteils expliziter Natur, X (früher bekannt als Twitter) zu überschwemmen, was die Angst vor KI-Missbrauch weiter schürte .

. Aus diesem Grund hat das soziale Netzwerk den beispiellosen Schritt unternommen, ab Samstag vorerst alle Suchanfragen nach Taylor Swift zu blockieren.

Das Wall Street Journal erhielt eine Bestätigung dieser Entscheidung vom Leiter des Geschäftsbetriebs von X, Joe Benarroch. Er sagte dem WSJ:

Dies ist eine vorübergehende Maßnahme und wird mit größter Vorsicht durchgeführt, da die Sicherheit in dieser Angelegenheit für uns oberste Priorität hat.

Die Geschichte fügt hinzu, dass Fans von Swift X mit echten Bildern des Sängers überschwemmten, nachdem die gefälschten Bilder im sozialen Netzwerk aufgetaucht waren. Sie versuchten auch, Konten zu melden, die die Deepfake-Fotos verbreiteten.

Vor der Entscheidung von Er sagte:

Ja, wir müssen handeln. . . Ich denke, wir alle profitieren davon, wenn die Online-Welt eine sichere Welt ist. Daher glaube ich nicht, dass sich irgendjemand eine Online-Welt wünschen würde, die sowohl für die Ersteller als auch für die Konsumenten von Inhalten völlig unsicher ist. Deshalb denke ich, dass es an uns liegt, hier schnell voranzukommen.

404Media behauptet, dass die auf X verbreiteten Deepfake-Bilder von Taylor Swift teilweise von einer Gruppe erstellt wurden, die Microsoft Designer, einen KI-basierten Bildersteller, verwendete. Microsoft teilte NBC News mit, dass es bei der eigenen Untersuchung der Situation „nicht in der Lage war, die expliziten Bilder in diesen Berichten zu reproduzieren“. Es fügte jedoch hinzu: „Aus großer Vorsicht haben wir Schritte unternommen, um unsere Textfilteraufforderungen zu verstärken und.“ den Missbrauch unserer Dienste bekämpfen.“