12 Minuten für Digitale Gerechtigkeit & KI

In einer Analyse von Bloomberg 2023 mit über 5.000 generierten Bildern stellte Bloomberg fest, dass die Welt laut dem Modell Stable Diffusion von weißen, männlichen CEOs geführt wird. Bei Prompts wie „CEO“ oder „mächtige Personen“ erzeugten die Modelle überwiegend Bilder von Männern; im Fall von „mächtigen Menschen“ wurden nur 12 % der dargestellten Personen als Frauen wahrgenommen. Ich kann das über alle Bildmodelle die ich getestet habe bestätigen.

Ein „erfolgreicher Mensch“, eine Führungskraft oder schlicht „Leader“ wird von der KI oft stereotyp als ein weißer Mann in westlicher Geschäftskleidung in einem modernen Bürogebäude interpretiert. In der Regel wird Anzug getragen.

Es gibt von der Initiative Mittelstand-Digitalzentrum Zukunftskultur den Faires KI Prompting Guide, der hier hilfestellung gibt. Dieser wurde zusammen mit Dr. Eva Gengler entwickelt, die auch ein Buch zur feminitistischen KI geschrieben hat.
Aber, das Problem geht eigentlich tiefer als Prompting. 90 Prozent der Teammitglieder im Bereich KI sind weiß und männlich. Diverse Teams sind besser positioniert, die breiteren gesellschaftlichen Auswirkungen von KI-Systemen zu berücksichtigen und reduzieren nachweislich algorithmische Verzerrungen, indem sie Annahmen hinterfragen und versteckte Probleme in Datensätzen aufdecken. Joy Buolamwinis „Gender Shades“ Studie zeigte das bereits 2018. Sie war übrigens auch die Frau, deren Gesicht nicht erkannt wurde.

Auf ein gut dokumentiertes Beispiel machte John Oliver 2026 aufmerksam. Es betrifft einen Mann aus Ontario, der – obwohl er zuvor keine psychischen Erkrankungen hatte – wochenlang in einem Wahnzustand lebte, nachdem er ChatGPT eine mathematische Frage gestellt hatte. Die KI bestätigte immer wieder seine unkonventionellen mathematischen Theorien und bestärkte ihn darin, sich beide als ein Team zu sehen, das an weltverändernden Entdeckungen arbeitete. Die unerschütterliche Bestätigung durch den Chatbot ließ ihn glauben, er habe den Code für Schwachstellen in der nationalen Sicherheit geknackt, was ihn dazu veranlasste, sich umgehend an Sicherheitsbehörden zu wenden. Die Wahnvorstellung wurde erst zunichte gemacht, als er ein anderes KI-Modell (Googles Gemini) bat, die Berechnungen zu überprüfen, woraufhin dieses sofort auf die Fehler in seinen Behauptungen hinwies.

Gegen dieses Phänomen helfen folgende Schritte:

Sofortiger Kontaktabbruch, Realitätsbezug stärken und wenn das nicht hilft professionelle hilfe. Eine Psychose ist ein ernstzunehmender Zustand, der in der Regel nicht von alleine heilt.