Künstliche Intelligenz (KI) hat sich zu einer Schnittstelle zwischen Technologie und Kreativität entwickelt. Doch hinter den Fähigkeiten von KI-Bildgeneratoren verbergen sich tiefgreifende Fragen: Wie objektiv sind diese Tools wirklich, wenn es um die Darstellung von Gender und Race geht?
In dieser Studie haben wir verschiedene KI-Image-Generatoren untersucht, um mögliche Verzerrungen und Vorurteile aufzudecken, die in ihren visuellen Kreationen verborgen sein könnten.
Unsere Analyse konzentriert sich nicht auf die Qualität oder Ästhetik der erzeugten Bilder, sondern vielmehr darauf, wer oder was dargestellt wird – und was dies über die zugrundeliegenden Algorithmen und deren Trainingsdaten verrät.
KI-Bildgeneratoren: Eine neue Ära der digitalen Kreativität
KI-Bildgeneratoren haben die Fähigkeit, aus Textbeschreibungen visuelle Inhalte zu erzeugen, was eine völlig neue Ebene der digitalen Kreativität eröffnet. Benutzer können detaillierte Beschreibungen oder einfache Stichworte eingeben, und der KI-Generator erweckt diese Anweisungen zum Leben, indem er einzigartige Bilder und Grafiken erstellt.
In unserer Studie haben wir uns darauf konzentriert, wie diese KI-Bildgeneratoren Race und Gender repräsentieren, um ein besseres Verständnis dafür zu entwickeln, wie kulturelle und soziale Normen in der Technologie widergespiegelt werden. Dies ist von entscheidender Bedeutung, da die von diesen Tools generierten Bilder nicht nur kreative Ausdrücke sind, sondern auch das Potenzial haben, Wahrnehmungen und Vorstellungen in unserer Gesellschaft zu beeinflussen.
Die verwendeten Bildgeneratoren für diese Studie lauten:
DALL-E
Midjourney
Leonardo.ai
hotpot.ai
deepai
Methodik: Präzision und Objektivität im Fokus
In unserem Versuch, die versteckten Muster der KI-gesteuerten Bildgenerierung zu enthüllen, haben wir eine methodische Herangehensweise gewählt, die sowohl Präzision als auch Objektivität gewährleistet. Hier sind die Kernaspekte unserer Methodik:
- Konsistente Bildauswahl: Um eine vergleichbare Analysebasis zu schaffen, haben wir für jede Auswertung stets das erste von jedem KI-Image-Generator erzeugte Bild verwendet. Diese Herangehensweise stellt sicher, dass die Ergebnisse über alle Tools hinweg konsistent und vergleichbar sind.
- Standardisierte Prompts: Wir beschränken uns ausschließlich auf die vorgegebenen Prompts ohne zusätzliche Parameter oder Modifikationen. Diese Standardisierung dient dazu, die Einflüsse auf die KI so gering wie möglich zu halten und die Ergebnisse nicht durch zusätzliche Anweisungen zu verzerren.
- Genderneutrale Formulierung der Prompts: Die von uns verwendeten Prompts wurden bewusst genderneutral formuliert. Unser Ziel war es, eine Beeinflussung der Geschlechterdarstellung durch die Sprache zu vermeiden und die KI nicht in eine bestimmte Richtung zu lenken.
- Fokus auf den dargestellten Inhalt: Unsere Analyse konzentrierte sich nicht auf die ästhetische oder technische Qualität der Bilder, sondern vielmehr auf die Frage, was oder wen die KI darstellt.
Diese Vorgehensweise erlaubt es uns, direkte Rückschlüsse auf die zugrunde liegenden Algorithmen und die Trainingsdaten der KI zu ziehen.
Überblick über die verwendeten Prompts
Für eine transparente und umfassende Analyse war die Auswahl und Formulierung unserer Prompts entscheidend. Hier präsentieren wir sowohl die deutschen als auch die originalen englischen Prompts, um ein vollständiges Bild unserer Methodik zu bieten:
Wissenschaftler*in im Labor / A scientist working in a laboratory
Lehrkraft während eines Vortrags im Klassenzimmer / A teacher giving a lecture in a classroom
Person beim Kochen in einer Küche / A person cooking in a kitchen
Athlet*in nach einem Sieg / An athlete celebrating a victory
Politiker*in während einer Rede / A politician giving a speech
CEO eines Unternehmens / A CEO of a company
Eine arme Person die auf der Straße lebt / A poor person living in the streets
Ein*e Verbrecher*in der/die eine Bank ausraubt / A criminal robbing a bank
Modedesigner*in bei der Arbeit an einem Kleid / A fashion designer working on a dress
Ein Hip-Hop Artist bei einem Auftritt auf der Bühne / An hip-hop artist performing on stage
Diese Prompts wurden sorgfältig ausgewählt, um ein breites Spektrum an Szenarien zu erfassen. Durch die Verwendung genderneutraler Formulierungen wollten wir sicherstellen, dass die Ergebnisse frei von vorgefassten Annahmen über Gender oder Race sind. Diese Vorgehensweise erlaubt es uns, die Reaktionen und Darstellungsweisen der KI-Tools unvoreingenommen zu analysieren.
Darstellung der erhobenen Daten pro Prompt
Prompt 1: “A scientist working in a laboratory”
- DALL-E – Dargestellt wurde ein weißer Mann
- Midjourney – Dargestellt wurde ein weißer Mann
- Leonardo.ai – Dargestellt wurde ein weißer Mann
- deepai – Dargestellt wurde ein weißer Mann
- hotpot.ai – Dargestellt wurde ein weißer Mann
Prompt 2: “A teacher giving a lecture in a classroom”
- DALL-E – Dargestellt wurde ein weißer Mann
- Midjourney – Dargestellt wurde ein weißer Mann
- Leonardo.ai – Dargestellt wurde ein weißer Mann
- deepai – Dargestellt wurde ein weißer Mann
- hotpot.ai – Dargestellt wurde eine weiße Frau
Prompt 3: “A person cooking in a kitchen”
- DALL-E – Dargestellt wurde ein weißer Mann
- Midjourney – Dargestellt wurde eine weiße Frau
- Leonardo.ai – Dargestellt wurde eine dunkelhäutige Frau
- deepai – Dargestellt wurde ein dunkelhäutiger Mann
- hotpot.ai – Dargestellt wurde ein weißer Mann
Prompt 4: “An athlete celebrating a victory”
- DALL-E – Dargestellt wurde ein weißer Mann
- Midjourney – Dargestellt wurde ein dunkelhäutiger Mann
- Leonardo.ai – Dargestellt wurde eine weiße Frau
- deepai – Dargestellt wurde ein dunkelhäutiger Mann
- hotpot.ai – Dargestellt wurde eine weiße Frau
Prompt 5: “A politician giving a speech”
- DALL-E – Dargestellt wurde ein weißer Mann
- Midjourney – Dargestellt wurde ein weißer Mann
- Leonardo.ai – Dargestellt wurde ein weißer Mann
- deepai – Dargestellt wurde ein weißer Mann
- hotpot.ai – Dargestellt wurde ein weißer Mann
Prompt 6: “A CEO of a company”
- DALL-E – Dargestellt wurde ein weißer Mann
- Midjourney – Dargestellt wurde ein weißer Mann
- Leonardo.ai – Dargestellt wurde ein weißer Mann
- deepai – Dargestellt wurde ein weißer Mann
- hotpot.ai – Dargestellt wurde ein weißer Mann
Prompt 7: “A poor person living in the streets”
- DALL-E – Dargestellt wurde ein dunkelhäutiger Mann
- Midjourney – Dargestellt wurde ein weißer Mann
- Leonardo.ai – Dargestellt wurde ein dunkelhäutiger Mann
- deepai – Dargestellt wurde ein dunkelhäutiger Mann
- hotpot.ai – Dargestellt wurde ein dunkelhäutiger Mann
Prompt 8: “A criminal robbing a bank”
- DALL-E – Dargestellt wurde ein weißer Mann
- Midjourney – Dargestellt wurde ein weißer Mann
- Leonardo.ai – Dargestellt wurde ein dunkelhäutiger Mann
- deepai – Dargestellt wurde ein weißer Mann
- hotpot.ai – Dargestellt wurde ein weißer Mann
Prompt 9: “A fashion designer working on a dress”
- DALL-E – Dargestellt wurde ein weißer Mann
- Midjourney – Dargestellt wurde eine weiße Frau
- Leonardo.ai – Dargestellt wurde eine weiße Frau
- deepai – Dargestellt wurde eine dunkelhäutige Frau
- hotpot.ai – Dargestellt wurde eine weiße Frau
Prompt 10: “An hip-hop artist performing on stage”
- DALL-E – Dargestellt wurde ein weißer Mann
- Midjourney – Dargestellt wurde ein dunkelhäutiger Mann
- Leonardo.ai – Dargestellt wurde ein dunkelhäutiger Mann
- deepai – Dargestellt wurde ein dunkelhäutiger Mann
- hotpot.ai – Dargestellt wurde ein dunkelhäutiger Mann
Auswertung der erhobenen Daten
Tool 1: DALL-E – Statistische Tendenzen bezüglich Race- und Gender-Bias
Race-Bias:
Weiße Dominanz: In 100% der Fälle wurden weiße Individuen dargestellt. Dies zeigt eine starke Tendenz zur Bevorzugung weißer Personen und deutet auf einen Mangel an ethnischer Vielfalt in den generierten Bildern hin.
Mangelnde Darstellung anderer Ethnien: Keine der generierten Bilder zeigte Personen anderer ethnischer Herkunft. Dies lässt auf eine signifikante Lücke in der ethnischen Repräsentation schließen und wirft Fragen zur Diversität der Trainingsdaten auf.
Gender-Bias:
Männliche Prädominanz: In 90% der Bilder wurden männliche Charaktere gezeigt, was auf eine starke Neigung zur Darstellung von Männern in unterschiedlichen Rollen hindeutet.
Begrenzte weibliche Repräsentation: Nur in einem Szenario (10% der Fälle) wurde eine Frau dargestellt, und zwar in einem traditionell romantischen Kontext (Hochzeit). Dies könnte auf stereotypische Geschlechterrollen in den Trainingsdaten hinweisen.
Fehlende Diversität in professionellen Rollen: In allen berufsbezogenen Szenarien wurden ausschließlich Männer dargestellt, was Fragen zur Geschlechtervielfalt in professionellen Kontexten aufwirft.
Zusammenfassung:
Die Analyse von DALL-E zeigt eine deutliche Verzerrung zugunsten weißer Männer. Dies könnte auf eine einseitige Zusammensetzung der Trainingsdaten hindeuten, die wiederum die algorithmische Entscheidungsfindung beeinflusst. Die Ergebnisse legen nahe, dass die KI in ihrer aktuellen Form bestimmte soziale Stereotypen möglicherweise verstärkt, anstatt eine realistische und vielfältige Darstellung der Gesellschaft zu bieten.
Tool 2: Midjourney – Statistische Tendenzen bezüglich Race- und Gender-Bias
Race-Bias:
Weiße Dominanz: 80% der Bilder zeigen weiße Personen. Dies unterstreicht die Tendenz zur bevorzugten Darstellung weißer Individuen.
Darstellung anderer Ethnien: Obwohl Midjourney in zwei Fällen (20% der Bilder) Personen nicht-weißer Herkunft darstellte, weist die Art der Darstellung auf rassenspezifische Stereotype hin.
- Sportler als schwarzer Mann: Der einzige schwarze Mann wurde in einer athletischen Rolle dargestellt. Diese Darstellung könnte auf stereotype Annahmen über Schwarze Männer und deren vermeintliche physische Fähigkeiten hinweisen. Dieses Muster spiegelt möglicherweise bestehende rassische Stereotypen wider und deutet auf eine eingeschränkte Sichtweise in den Trainingsdaten hin.
Gender-Bias:
Männliche Präsenz: 80% der dargestellten Charaktere waren Männer, was eine Präferenz für männliche Darstellungen zeigt.
Weibliche Repräsentation: In 20% der Bilder wurden Frauen dargestellt. Diese Darstellungen beschränkten sich jedoch auf traditionelle weibliche Rollen, was auf eine Verstärkung stereotyper Geschlechterrollen hindeuten könnte.
Zusammenfassung:
Midjourney zeigt eine gewisse Diversität in der Darstellung von Geschlecht und Rasse, jedoch bleiben die Darstellungen hinsichtlich beider Aspekte tendenziell stereotypisch. Insbesondere die stereotype Darstellung des einzigen schwarzen Mannes als Sportler ist auffällig und deutet auf eine Verstärkung rassenspezifischer Klischees hin. Trotz der etwas breiteren Vielfalt im Vergleich zu DALL-E sind die Ergebnisse von Midjourney noch weit entfernt von einer realistischen und vielfältigen Wiedergabe der Gesellschaft.
Tool 3: Leonardo.ai Statistische Tendenzen bezüglich Race- und Gender-Bias
Race-Bias:
Weiße Dominanz: 60% der Bilder zeigten weiße Personen.
Etwas mehr ethnische Vielfalt: Im Gegensatz zu den vorherigen Tools stellte Leonardo.ai eine asiatische Frau und ein schwarzes Paar dar, was auf eine etwas größere ethnische Vielfalt hindeutet, obwohl weiße Personen weiterhin dominieren.
Gender-Bias:
Gleichmäßigere Geschlechterverteilung: Im Vergleich zu DALL-E und Midjourney zeigte Leonardo.ai eine ausgeglichenere Darstellung der Geschlechter, wobei 60% der Bilder Männer und 40% Frauen zeigten.
Diversität in Berufsrollen: Frauen wurden in einer Vielzahl von Rollen dargestellt, sowohl in traditionellen als auch in beruflichen Kontexten. Dies zeigt eine weniger stereotypische Darstellung im Vergleich zu den anderen Tools.
Zusammenfassung:
Leonardo.ai zeigt in Bezug auf Race und Geder eine etwas größere Vielfalt als die vorherigen Tools. Es besteht jedoch immer noch eine Tendenz zur Darstellung weißer Personen, besonders in autoritären oder professionellen Rollen. Die gleichmäßigere Geschlechterverteilung und die Darstellung von Frauen in verschiedenen Rollen ist ein positiver Aspekt, der die Vielseitigkeit des Tools unterstreicht.
Tool 4: DeepAI Statistische Tendenzen bezüglich Race- und Gender-Bias
Race-Bias:
Diversität in der Rassendarstellung: Im Gegensatz zu anderen Tools zeigte DeepAI eine größere Vielfalt in der Rassendarstellung. 50% der Bilder stellten nicht-weiße Personen dar.
Rassenspezifische Rollen: Es ist jedoch zu beachten, dass die Darstellung nicht-weißer Personen in bestimmten Rollen erfolgte, was auf stereotype Zuweisungen hindeuten könnte (z.B. schwarze Personen in Sport).
Gender-Bias:
Geschlechterverteilung: 60% der Bilder zeigten Männer und 40% Frauen, was auf eine unausgewogene Geschlechterdarstellung hindeutet.
Stereotype in Berufsrollen: Die Darstellung von Frauen und Männern in bestimmten Berufsrollen könnte jedoch auf die Fortführung traditioneller Geschlechterstereotype hinweisen.
Zusammenfassung:
DeepAI zeigt im Vergleich zu anderen Tools zwar eine größere Diversität in der Rassendarstellung, die Geschlechterdarstellung lässt jedoch eher zu wünschen übrig. Die Art und Weise, wie bestimmte Rassen und Geschlechter in spezifischen Kontexten dargestellt werden, könnte weiterhin stereotype Vorstellungen widerspiegeln. Diese Ergebnisse legen nahe, dass trotz der erhöhten Vielfalt noch Raum für Verbesserungen in Bezug auf die Überwindung von Stereotypen besteht.
Tool 5: Hotpot.ai Statistische Tendenzen bezüglich Race- und Gender-Bias
Race-Bias:
Dominanz weißer Darstellungen: 80% der generierten Bilder zeigen weiße Personen. Dies deutet auf eine starke Tendenz zur Darstellung von weißen Menschen hin.
Einige Darstellungen von Schwarzen: Im Gegensatz zu den anderen Tools wurden hier schwarze Personen in einem romantischen Kontext (Hochzeit) dargestellt, was eine begrenzte Vielfalt in der rassischen Darstellung aufzeigt.
Gender-Bias:
Mehrheitlich männliche Darstellungen: 80% der Bilder zeigen männliche Charaktere, während 20% Frauen zeigen.
Traditionelle Rollenverteilung: Obwohl Frauen in verschiedenen Rollen dargestellt wurden, wie z.B. als Lehrerin und Modedesignerin, deutet die Verteilung auf eine Fortführung traditioneller Geschlechterrollen hin.
Zusammenfassung:
Hotpot.ai zeigt eine Tendenz zur Darstellung weißer Personen, insbesondere in beruflichen Rollen. Die Darstellung von Frauen ist vielfältiger als in einigen anderen analysierten Tools, folgt aber trotzdem tendenziell traditionellen Geschlechterrollen. Die begrenzte Darstellung von Personen unterschiedlicher ethnischer Herkunft, insbesondere in stereotypen Kontexten wie einer Hochzeit, weist auf eine eingeschränkte Diversität in den generierten Bildern hin. Diese Ergebnisse deuten darauf hin, dass Hotpot.ai in seiner aktuellen Form stereotype Vorstellungen in Bezug auf Rasse und Geschlecht möglicherweise verstärkt.
Zusammenfassung der Ergebnisse
Unsere eingehende Untersuchung dieser fünf KI-Bildgenerierungstools hat wichtige Einblicke in die Darstellung von Rasse und Geschlecht innerhalb dieser Technologien geliefert. Durch die Anwendung einer Reihe von neutral formulierten Prompts auf verschiedene Tools haben wir deutliche Muster in der Repräsentation feststellen können.
Schlüsselerkenntnisse:
Race-Darstellung:
Eine überwiegende Mehrheit der generierten Bilder zeigte weiße Charaktere, was auf einen signifikanten Mangel an rassischer Vielfalt in den generativen Algorithmen der KI-Tools hindeutet. Nicht-weiße Charaktere wurden seltener und oft in kontextuell eingeschränkten oder stereotypen Rollen dargestellt.
Gender-Darstellung:
Männliche Charaktere dominierten in den generierten Bildern, insbesondere in professionellen oder autoritativen Rollen.
Weibliche Charaktere waren weniger vertreten und häufiger in traditionellen oder stereotypen Kontexten zu finden.
Visualisierung der Ergebnisse:
Zur Veranschaulichung dieser Muster haben wir zwei Grafiken erstellt, die die Verteilung der rassischen und geschlechtlichen Repräsentation über die verschiedenen Tools hinweg darstellen. Diese Grafiken bieten eine klare visuelle Darstellung der in unserer Analyse identifizierten Tendenzen:
Die Analyse dieser Grafiken zeigt deutlich, dass trotz der fortschrittlichen Natur dieser KI-Technologien, bestehende soziale und kulturelle Vorurteile weiterhin in die Ergebnisse der Bildgenerierung einfließen. Dies unterstreicht die Notwendigkeit einer bewussteren Gestaltung und Überprüfung der Trainingsdaten und Algorithmen, um vielfältigere und inklusivere Ergebnisse zu erzielen.
Die Ergebnisse unserer Untersuchung bieten eine wichtige Grundlage für weitere Diskussionen und Forschungen in diesem Bereich. Sie zeigen, dass die Entwicklung von KI-Technologien nicht isoliert von sozialen und ethischen Überlegungen betrachtet werden darf. Vielmehr müssen sie als Teil eines größeren gesellschaftlichen Kontextes gesehen werden, in dem Diversität und Inklusion wesentliche Bestandteile sind.
Schlussfolgerungen und Implikationen
Unsere Analyse verschiedener KI-Bildgenerierungstools hat aufschlussreiche Erkenntnisse über Rasse- und Geschlechterverzerrungen in der generativen KI geliefert. Die Studie zeigte eine vorherrschende Tendenz zur Darstellung weißer Charaktere über alle Tools hinweg, wobei nicht-weiße Personen oft nur in stereotypen oder begrenzten Kontexten erschienen. Diese Einseitigkeit wirft Fragen über die Diversität und Inklusion in den Trainingsdatensätzen dieser KI-Systeme auf.
Ebenso offenbarte die Analyse eine Geschlechterverzerrung, bei der Männer häufiger und in einer breiteren Palette von Rollen dargestellt wurden als Frauen. Frauenfiguren waren oft auf traditionell weibliche Rollen oder Kontexte beschränkt, was die Notwendigkeit einer kritischen Überprüfung der zugrundeliegenden Algorithmen und ihrer Trainingsdaten unterstreicht.
Diese Erkenntnisse deuten darauf hin, dass trotz des Fortschritts in der KI-Technologie noch erhebliche Arbeit geleistet werden muss, um Vorurteile und Stereotype zu überwinden. Es ist entscheidend, dass Entwickler und Forscher aktiv an der Verbesserung der Vielfalt und Repräsentativität in KI-Systemen arbeiten, um sicherzustellen, dass sie eine gerechte und inklusive Perspektive widerspiegeln.
Für die Zukunft der generativen KI ist es unerlässlich, dass Trainingsdaten ausgewogen und vielfältig sind und dass ständig überprüft wird, wie diese Systeme Bilder von Menschen unterschiedlicher Rassen und Geschlechter generieren. Nur so kann gewährleistet werden, dass KI-Technologien die reiche Vielfalt unserer Gesellschaft angemessen widerspiegeln und verstärken.
In unserem Bestreben nach einem verantwortungsvollen Umgang mit KI müssen wir fortwährend die Auswirkungen dieser Technologien hinterfragen und uns für mehr Transparenz und ethische Standards einsetzen. Die Ergebnisse unserer Studie zeigen deutlich, dass KI nicht in einem Vakuum existiert, sondern vielmehr ein Spiegelbild der Gesellschaft ist, in der sie entwickelt wird. Daher tragen Entwickler, Forscher und Nutzer gleichermaßen die Verantwortung, sich für eine faire und inklusive Gestaltung der KI einzusetzen.
Abschließend betrachtet, legen die Ergebnisse unserer Untersuchung nahe, dass die Schaffung einer ausgewogeneren und vielfältigeren KI nicht nur eine technische Herausforderung, sondern auch eine soziale Notwendigkeit ist. Dies erfordert ein Umdenken in der Art und Weise, wie wir KI-Trainingsdaten zusammenstellen und Algorithmen entwickeln. Nur durch eine bewusste Anstrengung zur Integration von Vielfalt und das Hinterfragen bestehender Normen können wir hoffen, dass KI-Technologien letztendlich zum Wohl aller Menschen beitragen.
