Google setzt vorübergehend die Erzeugung von Personenbildern in Gemini aus, nachdem Bedenken hinsichtlich Vorurteilen aufgekommen sind

In der letzten Woche ist Googles Konversations-KI, Gemini, wegen eines Vorfalls unter die Lupe genommen worden, bei dem gezeigt wurde, dass die KI bei der Generierung von Bildern von Personen Vorurteile zeigt. Nutzer haben berichtet, dass Gemini, wenn sie darum baten, Menschen in historischen Kontexten oder fiktiven Situationen darzustellen, häufiger Figuren mit dunklerer Hautfarbe abbildete. Dadurch wurden berechtigte Bedenken hinsichtlich möglicher Vorurteile in dem System aufgeworfen.

In einer Erklärung hat Google anerkannt, dass Gemini nicht gut darin ist, Menschen unterschiedlicher Ethnien und Hintergründe auf eine ausgewogene und inklusive Weise darzustellen. Das Unternehmen hat beschlossen, vorübergehend die Fähigkeit seines KI-Chatbots zur Generierung von Bildern von Menschen zu deaktivieren.

Google hat erklärt, dass Inklusion und Vielfalt für das Unternehmen äußerst wichtige Prinzipien sind. Das Unternehmen möchte nicht, dass seine Technologien auf irgendeine Weise Vorurteile aus der realen Welt verbreiten oder ihnen ausgesetzt sind.

Wir arbeiten bereits daran, die aktuellen Probleme mit der Bildgenerierung von Gemini zu beheben. Währenddessen werden wir die Generierung von Bildern von Personen pausieren und bald eine verbesserte Version veröffentlichen. https://t.co/SLxYPGoqOZ — Google Communications (@Google_Comms) 22. Februar 2024

Wenn Nutzer jetzt Gemini bitten, ein Bild zu erstellen, erhalten sie eine Nachricht, in der erklärt wird, dass die Funktion derzeit nicht verfügbar ist, aber zurückkehren wird, sobald die Vorurteilsvorwürfe angemessen behandelt wurden.

Experten haben laut AP News festgestellt, dass KI-Bildgeneratoren aufgrund von Vorurteilen in ihren Trainingsdaten, die oft keine Repräsentationen von Menschen aus allen Bevölkerungsgruppen haben, Schwierigkeiten mit der Vielfalt haben. Google scheint entschlossen zu sein, diese Einschränkungen in Gemini anzugehen, bevor die Funktion wieder aktiviert wird. Es soll sichergestellt werden, dass das System alle Arten von Menschen objektiv und ausgewogen darstellen kann.

Dieser Schritt wird als proaktiver Schritt zur Herstellung fairer und inklusiver KI-Technologien angesehen. Im Rahmen dieser Bewegung hat die US-Regierung im Februar Maßnahmen ergriffen, um die sichere Entwicklung von generativer KI zu fördern. Apple, OpenAI und Microsoft traten dem ersten Konsortium bei, um Protokolle für KI zu berücksichtigen.

Quelle: neowin.net

 

[I.]

Blackwashing & Asianization Bot.