Laut Google sind zwei Dinge passiert, die diese Woche Probleme mit dem Gemini AI-Bildgenerator verursacht haben

Anfang dieser Woche begannen Leute zu berichten, dass die Bildgeneratorfunktion im Chatbot Gemini (ehemals Bard) von Google unangemessene Grafiken erstellte. Genauer gesagt stellte das System Menschen mit dunkler Hautfarbe in historischen oder fiktiven Rollen dar, die für diese Charaktere nicht geeignet waren.

Nachdem das Kunstwerk gemeldet wurde, kündigte Google an, dass es die Möglichkeit von Gemini, mit seinem Bildgenerator Kunstwerke von Menschen zu erstellen, vorübergehend abschalten werde. Am späten Freitag erklärte das Unternehmen in einem Blogbeitrag , was mit Gemini passiert ist .

Außerdem sollte der Chatbot keine Bilder von echten Menschen erstellen.

Gleichzeitig wollte Google Gemini auch erlauben, eine Reihe von Ethnien darzustellen, wenn eine Person den Chatbot nach allgemeineren Bildern fragte, etwa nach der Darstellung von Personen in einer Fußballmannschaft. Wenn eine Person eine bestimmte Art von Person darstellen möchte, etwa einen weißen Arzt oder einen schwarzen Lehrer, sollte Gemini auch in der Lage sein, dieses Kunstwerk zu schaffen.

Raghavan schrieb dann, dass zwei spezifische Dinge in Geminis Textaufforderungsleitplanken die Erstellung der unangemessenen Bilder dieser Woche ermöglichten:

Erstens haben wir bei unserer Optimierung, um sicherzustellen, dass Gemini eine Reihe von Personen anzeigt, Fälle nicht berücksichtigt, in denen eindeutig keine Reihe angezeigt werden sollte. Und zweitens wurde das Modell mit der Zeit viel vorsichtiger, als wir beabsichtigt hatten, und weigerte sich, bestimmte Eingabeaufforderungen vollständig zu beantworten – und interpretierte einige sehr harmlose Eingabeaufforderungen fälschlicherweise als sensibel.

Diese beiden Dinge führten dazu, dass das Modell in einigen Fällen überkompensierte und in anderen zu konservativ war, was zu peinlichen und falschen Bildern führte.

Es gibt kein Wort darüber, wie lange Google brauchen wird, um seine Leitplanken zu reparieren, damit das Erstellen von Kunst mit Menschen im Gemini-Bildgenerator wieder aktiviert wird. Raghavan erklärte zwar, dass er Gemini zwar nicht versprechen könne, niemals anstößige Kunstwerke zu erstellen, Google aber „weiterhin Maßnahmen ergreifen wird, wann immer wir ein Problem erkennen“.