Google setzt die Bildgenerierung in Gemini aufgrund von Voreingenommenheitsbedenken vorübergehend aus

In der vergangenen Woche geriet die Konversations-KI von Google, Gemini, in die Kritik, weil sie in ihrer Fähigkeit, Bilder von Menschen zu generieren, voreingenommen war. Benutzer berichteten , dass die KI eher Figuren mit dunkleren Hauttönen darstellte, wenn sie Zwillinge baten, Menschen in historischen Kontexten oder fiktiven Szenarien darzustellen. Dies führte zu berechtigten Bedenken hinsichtlich einer möglichen Verzerrung des Systems.

In einer Erklärung räumte Google ein , dass Zwillinge keine guten Leistungen erbrachten, wenn es darum ging, Menschen unterschiedlicher Ethnien und Hintergründe auf ausgewogene und integrative Weise darzustellen. Das Unternehmen hat beschlossen, die Fähigkeit seines KI-Chatbots, Bilder für Personen zu generieren, vorübergehend zu deaktivieren.

Google erklärte, dass Inklusion und Vielfalt äußerst wichtige Grundsätze seien. Das Unternehmen wollte nicht, dass sich seine Technologien verbreiten oder in irgendeiner Weise einer Voreingenommenheit in der realen Welt ausgesetzt sind.

Wir arbeiten bereits daran, aktuelle Probleme mit der Bildgenerierungsfunktion von Gemini zu beheben. Während wir dies tun, werden wir die Bildgenerierung von Personen unterbrechen und bald eine verbesserte Version erneut veröffentlichen. https://t.co/SLxYPGoqOZ

– Google Communications (@Google_Comms), 22. Februar 2024

Wenn Benutzer Gemini nun auffordern, ein Bild zu erstellen, erhalten sie eine Nachricht mit der Erklärung, dass die Funktion derzeit nicht verfügbar ist, aber wieder verfügbar ist, sobald die Bias-Probleme angemessen behoben wurden.

Experten haben gesagt (über AP News ), dass KI-Bildgeneratoren aufgrund von Verzerrungen in ihren Trainingsdaten, in denen es häufig an Darstellungen von Menschen mit unterschiedlichem Hintergrund mangelt, mit der Diversität zu kämpfen haben. Google scheint entschlossen zu sein, diese Einschränkungen in Gemini zu beheben, bevor die Funktion wieder aktiviert wird. Es möchte sicherstellen, dass das System alle Arten von Menschen objektiv und ausgewogen repräsentieren kann.

Der Schritt wird als proaktiver Schritt hin zu einer fairen und integrativen Gestaltung von KI-Technologien angesehen . Als Teil dieser Bewegung hat die US-Regierung im Februar Schritte unternommen , um die sichere Entwicklung generativer KI zu fördern. Apple, OpenAI und Microsoft sind dem ersten Konsortium beigetreten, das sich mit Protokollen rund um KI befasst.