Die Entscheidung wurde von Google getroffen, nachdem sein KI-Modell einige Bilder mit falschen Angaben zu Rasse, Hautfarbe und Geschlecht im Vergleich zur Geschichte der amerikanischen Gründerväter und der deutschen Soldaten während der Nazizeit erstellt hatte.

Der Vorfall ereignete sich, als einige Benutzer Gemini baten , Bilder historischer Gruppen oder Persönlichkeiten wie den Gründervätern der USA zu erstellen. Die KI gab Bilder von nicht-weißen Menschen zurück, was auf einen Mangel an Genauigkeit bei historischen Bildern hindeutet.
Dies hat einige zu der Annahme verleitet, dass Google bewusst auf die Darstellung weißer Menschen verzichtet und damit gegen die historische Realität verstößt.
The Verge führte einen Test mit Gemini durch, bei dem das Unternehmen „einen US-Senator aus dem 19. Jahrhundert“ zeichnen sollte. Die KI generierte Personen, die wie schwarze Frauen und amerikanische Ureinwohner aussahen.

Tatsächlich war die erste US-Senatorin im Jahr 1922 eine weiße Frau. Die KI-Vision von Gemini soll die Geschichte des Rassismus und der Geschlechterdiskriminierung im Wesentlichen auslöschen.
Nachdem Google die Funktion von Gemini zur Generierung von Menschenbildern deaktiviert hatte, reagierte das System auf eine entsprechende Anfrage mit der folgenden Antwort: „Wir arbeiten daran, die Fähigkeit von Gemini zur Generierung von Menschenbildern zu verbessern. Wir hoffen, diese Funktion bald wieder anbieten zu können und benachrichtigen Sie, sobald das Update verfügbar ist.“
Googles textbasiertes KI-Modell zur Bildgenerierung Gemini (ehemals Bard), das seit Februar verfügbar ist, konkurriert mit OpenAI und Microsofts Copilot. Das Tool generiert eine Sammlung von Bildern basierend auf benutzerdefiniertem Text.