Unsichtbare Wasserzeichen für von DALL-E generierte Bilder im Azure OpenAI Service

Die DALL-E-Modelle von OpenAI können Bilder aus Texteingabeaufforderungen generieren. Der Azure OpenAI Service bietet REST-API-Zugriff auf die DALL-E-Modelle von OpenAI, sodass Entwickler programmgesteuert Bilder in ihren Anwendungen erstellen können. Heute hat Microsoft eine innovative integrierte Funktion im Azure OpenAI Service angekündigt , die als „Wasserzeichen“ bekannt ist. Diese neue Wasserzeichenfunktion fügt allen mit DALL·E erstellten Bildern unsichtbare Wasserzeichen hinzu, wodurch die Transparenz verbessert und KI-generierte Bilder geschützt werden.

Der jüngste Anstieg bei Bildgenerierungsmodellen hat zu einem deutlichen Anstieg von Desinformation und der Verbreitung von KI-generierten Deepfakes geführt. Daher ist die Fähigkeit, KI-generierte Inhalte zu erkennen, von entscheidender Bedeutung geworden. Das neu eingeführte unsichtbare Wasserzeichen, das in KI-generierte Bilder eingebettet ist, kann mit speziellen Tools erkannt werden, bleibt jedoch mit bloßem Auge unsichtbar, wodurch die Integrität des Bildes gewahrt bleibt. Darüber hinaus bleibt die Integrität des Wasserzeichens auch dann bestehen, wenn die Größe des KI-generierten Bildes geändert oder es zugeschnitten wird.

Die unsichtbaren Wasserzeichen enthalten Metadaten zum Ursprung des Bildes, dargestellt durch ein mit dem Bild verknüpftes Manifest. Dieses Manifest ist kryptografisch durch ein Zertifikat signiert, das auf den Azure OpenAI-Dienst verweist, und enthält die folgenden Details:

• „Beschreibung“ – Dieses Feld zeigt für alle von DALL-E-Modellen erstellten Bilder „KI-generiertes Bild“ an und bestätigt den KI-generierten Charakter des Bildes.
• „SoftwareAgent“ – Dieses Feld bezeichnet „Azure OpenAI DALL-E“ für alle Bilder, die von Modellen der DALL-E-Reihe erstellt wurden, die in den Azure OpenAI-Dienst integriert sind.
• „wann“ – Dieser Zeitstempel markiert, wann die Inhaltsanmeldeinformationen erstellt wurden, und hebt Ähnlichkeiten mit anderen Azure AI-Diensten hervor.

Dies ist nicht das erste Mal, dass Microsoft Wasserzeichen implementiert. Im vergangenen Jahr führte Microsoft Wasserzeichen für Sprachausgaben ein, die mit der persönlichen Sprachfunktion von Azure AI Speech generiert wurden. So können Benutzer erkennen, ob die Sprache mit Azure AI Speech synthetisiert wurde.

Darüber hinaus arbeitet Microsoft mit anderen namhaften Akteuren der KI-Branche zusammen, darunter Adobe, Truepic und die BBC, um plattformübergreifende Konsistenz bei Wasserzeichen, kryptografischen Metadaten und Erkennungstechniken zu gewährleisten.

Diese Initiative von Microsoft stellt einen entscheidenden Schritt hin zum verantwortungsvollen Einsatz von KI-Technologie und zur Bekämpfung des Missbrauchs von KI-generierten Inhalten dar.

Quelle