• News

Erste ComAI Diversity Lecture: KI, Diskriminierung und Stereotype

Am 21. Mai 2026 hat die AG Diversity & Gender Equality der ComAI-Forschungsgruppe ihre neue interne Lecture Series gestartet. Den Auftakt machte Katharina Mosene vom Leibniz-Institut für Medienforschung | Hans-Bredow-Institut (HBI) und vom Humboldt-Institut für Internet und Gesellschaft (HIIG) mit einem Impulsvortrag zu KI, Diskriminierung und Stereotypen.

Ausgehend von einer intersektional-feministischen Perspektive zeigte Mosene, wie in historisch gewachsenen Trainingsdaten hegemoniale Weltanschauungen eingeschrieben sind, dominiert durch Inhalte aus dem globalen Norden und vorwiegend englischsprachige Quellen. Als analytischen Rahmen verwies sie auf das Konzept der (teils kritisierten) „Stochastic Parrots“ (Timnit Gebru et al.), das LLMs als Systeme beschreibt, die sprachliche Muster statistisch reproduzieren und dabei gesellschaftliche Stereotype tradieren statt sie zu hinterfragen.

An konkreten Beispielen illustrierte Mosene, wie Bild-KIs Berufsbilder systematisch verzerren: Berufe mit hohem gesellschaftlichem Ansehen werden überproportional männlich und weiß dargestellt, Pflege- und Haushaltsarbeit weiblich codiert. Auch Übersetzungssysteme reproduzieren Stereotype. Daneben beleuchtete sie algorithmische Diskriminierung in prädiktiver Polizeiarbeit sowie die unsichtbare Arbeit von Data Labellern im globalen Süden. Aus feministischer Perspektive greife auch der EU AI Act zu kurz, da er strukturelle Machtfragen nicht adressiere.

Den Abschluss bildete ein Beispiel aus dem Journalismus: Verschiedene LLMs wurden befragt, wie ein Schwangerschaftsabbruch in Deutschland abläuft. Die unterschiedlichen Reaktionen der Systeme – sachlich-begrenzte Auskunft hier, zunehmend abtreibungsgegnerische Inhalte dort – machten deutlich, wie relevant die Frage ist, wann Modelle kommunikative Grenzen setzen, gerade für vulnerable Gruppen, die sensible Themen zunehmend zuerst mit KI verhandeln.

In der anschließenden Diskussion wurden u. a. methodische Herausforderungen einer systematischen Bias-Messung, Ansätze des Participatory Prompting, Echokammer-Effekte in personalisierten Systemen sowie die dekoloniale Dimension der KI-Infrastruktur verhandelt.

Die nächste Veranstaltung der Lecture Series findet am 3. September 2026 um 16 Uhr statt, mit Lauren Klein (Emory University) zu Data Feminism. Am 18. Juni 2026 startet zudem eine neue interne Workshop-Reihe.