KI hat viele Gesichter. Und offenkundig auch Aspekte, die ich bislang vollkommen übersehen hatte.

📦 Kurzversion für Eilige und Maschinen

Diese Box enthält strukturierte Metadaten zum Artikel – maschinenlesbar und für einen schnellen Überblick.

Texttyp: Interview
Besprochenes Werk / Thema: Das Buch 'Feministische KI' von Eva Gengler untersucht, wie Künstliche Intelligenz bestehende Ungerechtigkeit verstärkt und welche strukturellen Veränderungen notwendig sind, um diskriminierungsfreie KI-Systeme zu schaffen.
Zentrales Argument: KI-Systeme verstärken durch Gender-Bias, rassistische Vorurteile und mangelnde intersektionale Perspektiven strukturelle Ungerechtigkeit. Feministische KI geht über technische Lösungen und ethische Prinzipien hinaus und zielt auf die Kritik und Transformation der Machtstrukturen ab, die KI-Entwicklung prägen. Nur durch echte Partizipation von Betroffenen, kontextspezifisches Design und intersektionale Governance können gerechte KI-Systeme entstehen.
Kernthese: Feministische KI erfordert eine grundlegende Transformation der Machtstrukturen in KI-Entwicklung und -Governance, nicht nur die Beseitigung technischer Biases.
Relevante Konzepte: Gender-BiasIntersektionalitätDesign JusticePartizipationKI-EthikMachtstrukturenmarginalisierte Menscheninformierte ZustimmungGeschlechterverträglichkeitsprüfungkontextspezifisches DesignEU AI Act
Empfohlen für: KI-Entwickler, Policy-Maker, Gleichstellungsprofessionals, Unternehmensführung, Entscheidungsgremien, Aktivisten und alle an gerechter KI-Governance Interessierten
Einordnung durch den Autor: Interdisziplinäre Forschung an der Schnittstelle von Gender Studies, KI-Ethik, kritischer Technologieforschung und politischer Ökonomie; zeitgenössischer wissenschaftlich-publizistischer Diskurs
Verweise im Text: Eva GenglerCaroline Sinders (Feminist Data Set)Design JusticeIBM KI-EthikboardKIDDBenthos.AIEU AI ActAnnalena Baerbock (Feministische Außenpolitik)

Es war ein ganz gewöhnlicher Morgen, meine Morgenroutine auf LinkedIn, der kurze Blick durch die Timeline zwischen erstem Schluck und dem Moment, in dem der Tag ernsthaft beginnt. Dann dieser Beitrag. Feministische KI. Ich habe zweimal hingeschaut, weil ich mir sicher war, dass ich mich verlesen hatte. Feministische Außenpolitik kannte ich, diesen Begriff hatte Annalena Baerbock ja beharrlich in die Öffentlichkeit getragen. Aber feministische KI?

Meine Neugier war geweckt, und das ist bei mir bekanntlich ein Zustand, der selten folgenlos bleibt.

Ich kam ins Gespräch mit Dr. Eva Gengler, deren Buch «Feministische KI – Warum Künstliche Intelligenz Ungerechtigkeit verstärkt und was wir dagegen tun müssen» in diesen Tagen erscheint. Beim Dietz Verlag gibt es noch signierte Exemplare, was ich durchaus erwähnenswert finde. Einige Fragen trieben mich intensiv um: Wie tief reicht der Gender-Bias in KI-Systemen wirklich? Was meint feministische KI überhaupt – und was hat sie mit den Machtstrukturen zu tun, die weit über Datensätze hinausgehen?

Mit Eva Gengler konnte ich das nachstehende Gespräch führen.

Mir hat es eine neue Sichtweise auf das Thema KI eröffnet. Ich bin gespannt, was es für euch bereithält.

Interview: Eva Gengler

1. Zum Ausgangspunkt und zur Diagnose

Wem begegnen Sie am häufigsten, wenn Sie sagen, KI verstärkt Ungerechtigkeit?

Ich halte Vorträge und gebe Impulse in wissenschaftlichen Räumen, in Unternehmen und Entscheidungsgremien, in verschiedensten Gleichstellungs- und Frauennetzwerken und auch im Bereich der politischen Arbeit. Da ich ganz konkret mit Beispielen arbeite, erlebe ich viel Verständnis in Bezug auf meine klare These, dass KI Ungerechtigkeit verstärkt. Ich habe die Erfahrung gemacht, dass solche Beispiele von KI, die diskriminierende Ergebnisse produziert, Benachteiligung automatisiert und unser Gefühl von Gerechtigkeit verletzt, sehr hilfreich sind, um auch skeptische Personen abzuholen.

Gender-Bias in KI ist bekannt – aber Sie gehen weiter. Was wird in der Mainstream-KI-Ethik-Debatte systematisch übersehen?

Tatsächlich ist Gender-Bias wie auch rassistische Voreingenommenheit in KI bereits recht bekannt. Ich erlebe dennoch immer noch häufig Ungläubigkeit, denn das Ausmaß dieses Problems ist vielen nicht bewusst. Viele denken bei KI an Systeme wie ChatGPT und nicht an Recruiting-Tools, Unterstützung bei Risikobewertung und Mechanismen in der Polizeiarbeit.

In unserer Forschung ist deutlich geworden, dass Debatten über technische Probleme wie Bias in Daten oder problematische Algorithmen zu kurz gedacht sind. Auch der Fokus auf Highlevel-Prinzipien ist nicht genug. Wir müssen uns damit beschäftigen, wie wir das ungerechte System hinter KI verändern können. Eine feministische KI geht daher über Ansätze wie ethische oder faire KI hinaus, denn sie kritisiert Machtstrukturen und zielt auf eine grundlegende Veränderung ab – es geht um weit mehr als Bias in Daten.

Intersektionalität ist akademisch etabliert – in der KI-Entwicklung kaum operationalisiert. Welche Hürden sehen Sie?

Intersektionalität ist in der Tat noch nicht in vielen wirtschaftlichen oder politischen Kontexten angekommen, obwohl es diese Perspektive schon lange gibt. In Bezug auf KI gibt es erst recht noch viel Nachholbedarf.

Hürden sehe ich insbesondere:

Awareness: Häufig erlebe ich Skepsis, wie technisch verschiedene Unterdrückungsformen gleichzeitig behoben werden können.
Organisatorisch: Es gilt, ein Bewusstsein zu schaffen und den Rahmen zu setzen, um kritische Gespräche rund um Privilegien und Benachteiligung führen zu können. Insbesondere müssen auch etablierte Hierarchien und Systeme innerhalb von Organisationen in den Blick genommen werden.
Politisch: Es fehlt an intersektionalen Perspektiven in Gesetzen und in der praktischen Umsetzung. Was es braucht, sind intersektionale Perspektiven in Ausschreibungen für Fördermittel – wenn hier intersektionale Perspektiven zur Pflicht werden, hat das einen Effekt auf viele zukünftige Projekte.

2. Zur feministischen Praxis

Was braucht feministische KI-Praxis strukturell, damit sie über Pilotprojekte hinauskommt?

Viele feministische KI-Projekte entstehen in kleinen Institutionen, in NGOs, aus Forschung oder in kleinen Unternehmen. Viele sind angewiesen auf öffentliche Förderungen, Ehrenamt und starkes Engagement über „normale“ Arbeitszeiten hinaus.

Gezielte Fördermittel aus der öffentlichen Hand können helfen, aber auch Anreize durch Gesetze, die Projekte mit feministischen Zielen explizit fördern und höhere Anforderungen an andere Projekte stellen. Was wir aber auch sehen: Viele feministische KI-Projekte setzen gerade nicht auf Skalierbarkeit, sondern darauf, kontextspezifisch und nachhaltig zu sein. Meines Erachtens kann dieses Vorgehen wegweisend für andere KI-Projekte sein, denn diese Form des Wirtschaftens und Designs von KI führt zu weniger teurem und ressourcenschonenderem Training und Betrieb von KI.

Design Justice verlangt, dass Betroffene mitentscheiden. Wo haben Sie gesehen, dass es wirklich funktioniert?

Echte Partizipation findet noch viel zu selten statt. Ein Gegenbeispiel ist das Projekt „Feminist Data Set“ von Caroline Sinders. Sie fokussiert sich auf das Sammeln feministischer Daten gemeinsam mit der Community in Workshops – mit explizit diversen Stimmen, ausgeglichener Repräsentation und inhaltlicher Inklusion.

Eine andere Möglichkeit sind Gremien der Vielfalt, die bereits in verschiedenen Kontexten und Unternehmen zum Einsatz kommen – so das KI-Projekt KIDD, die Schweizer Beratung Intersections, aber auch IBM mit seinem KI-Ethikboard, das divers besetzt und bei wichtigen Entscheidungen zu KI einbezogen wird.

Das Paradox of Exposure: Datensichtbarkeit für Gerechtigkeit vs. neue Überwachungsrisiken. Wie gehen Sie damit um?

Mehr Daten sind nicht notwendigerweise besser, insbesondere wenn es sich um marginalisierte Menschen handelt. Ich setze auf Einbindung auf Augenhöhe:

Menschen, die Daten teilen, sollten in deren Verwendung eingebunden sein und informierte Zustimmung geben.
Anstatt Datenextraktion sollten Daten auch den Menschen vor Ort nutzen.

Benthos.AI ist hier ein schönes Beispiel: Sie entwickeln KI-Systeme auf Basis von Daten mit Menschen vor Ort – und die Menschen vor Ort profitieren direkt von diesen Systemen. Was wichtig ist: Arbeit auf Augenhöhe, Schutz sensibler Daten, immer hinterfragen welche Daten erfasst werden (müssen) und wieso, echte informierte Zustimmung und der Nutzen für die Personen, die Daten teilen.

3. Zu Regulierung und Governance

Wie bewerten Sie den EU AI Act aus feministischer Perspektive?

Der EU AI Act ist ein wichtiger Schritt hin zu mehr verantwortungsvoller KI. Aber er geht aus einer feministischen Perspektive insbesondere in Bezug auf Nachhaltigkeit und Inklusivität nicht weit genug.

Aktuell bleibt zu hoffen – und von der Politik zu erwarten – dass wir nicht von den Zielen und Werten zurücktreten, die in dieser Regulierung definiert worden sind, sondern standhaft auch gegen Einmischung aus den USA sind. Besonders kommt es auf die Umsetzung an. In Gesprächen mit Unternehmen in Deutschland habe ich immer wieder festgestellt, dass viele den Schritt der Regulierung begrüßen, weil sie als Bürger:innen geschützt werden und als Unternehmen klare Regelungen vorfinden wollen.

Was müsste eine Geschlechterverträglichkeitsprüfung beinhalten, damit sie über Symbolpolitik hinausgeht?

Solche Prüfungen sind kontextabhängig und können daher nicht für alle Anwendungsfälle gleich sein. Aber wir sollten jedes KI-Projekt und jedes KI-Tool daraufhin hinterfragen, welche Konsequenzen es für Frauen und andere marginalisierte Menschen hat. Dazu gehört, dass wir es im gesamten Entwicklungsprozess ausgiebig testen – mit Blick auf intersektionale Faktoren.

Wer sollte das testen?

Unternehmen sind in erster Linie in der Pflicht, ihre Systeme selbst grundlegend zu hinterfragen.
Gremien der Vielfalt können sehr hilfreich sein und Externe und Betroffene einbinden.
Externe Audits versprechen objektivere Perspektiven – politisch initiiert oder von NGOs wie AlgorithmWatch.

Externe Blicke, die nicht sofort die Wirtschaftlichkeit und Liefergeschwindigkeit vertreten, sind meines Erachtens sehr wichtig.

Auf welcher Ebene – Ressourcen, Rechte oder Repräsentanz – sehen Sie aktuell den größten politischen Handlungsbedarf?

Ich sehe den größten Hebel darin, zu überlegen, wo und wie wir KI für feministische Zwecke einsetzen können. Wir brauchen dafür mehr Ressourcen, eine Stärkung von Rechten marginalisierter Menschen und mehr gerechte Repräsentanz. Ich würde aber anders ansetzen und den feministischen Zweck in den Vordergrund stellen – und dann überlegen, wie wir ihn mit dem Status quo am besten umsetzen können.

4. Zur Schnittstelle mit feministischer Außenpolitik

Sehen Sie eine reale Verbindung zwischen KI-Diplomatie und feministischer Außenpolitik?

Leider sehe ich seit der neuen Regierung in Deutschland und Friedrich Merz eher eine Abkehr von der feministischen Außenpolitik. Aber ich sehe die feministische Außenpolitik und feministische KI eng miteinander verbunden.

Eine Rede der damaligen Außenministerin Annalena Baerbock, die ich auch in meinem Buch aufgreife, ist für mich fast identisch auch auf feministische KI übertragbar:

„Rechte, Repräsentanz, Ressourcen. Darum geht es bei der feministischen Außenpolitik. Eine Politik, die einschließt und nicht ausschließt. Eine Politik von allen und für alle.“

Kristina Lunz, die die feministische Außenpolitik in Deutschland entschieden geprägt hat, hat auch ein Zitat für das Cover meines Buches beigesteuert. Ich denke, dass beides Hand in Hand geht.

Was müsste eine wirklich feministische digitale Entwicklungszusammenarbeit konkret anders machen?

Das führt mich zurück zum Arbeiten auf Augenhöhe – und zum Sichtbarmachen der Arbeit anderer. Aktuell schätzen wir die Arbeit, die im sogenannten Globalen Norden rund um KI passiert, viel mehr als die, die im sogenannten Globalen Süden geleistet wird. Das muss sich ändern.

Aktuell profitiert der Globale Norden, während der Globale Süden immer abhängiger und gleichzeitig ausgebeutet wird. Wir sehen eine neue Form der algorithmischen Kolonialisierung. Unternehmen sollten sich aktiv damit auseinandersetzen, woher die Daten kommen, mit denen sie KI trainieren, und wie sie in der gesamten Lieferkette Transparenz und Verantwortung auf Augenhöhe etablieren können.

Exportkontrolle für Cyber-Surveillance ist eigentlich ein feministisches Thema. Wird das zu wenig thematisiert?

Ich nehme wahr, dass feministische und intersektionale Perspektiven an vielen Stellen zu kurz kommen. Gerade der Schutz von LGBTQAI+-Personen wird viel zu oft vernachlässigt. Sie sind eine Gruppe, die ganz besonders stark negativ von KI betroffen sein kann – zum Beispiel bei Security-Checks am Flughafen oder bei Überwachung wie während der Budapest Pride Parade 2025.

Wir brauchen mehr Sensibilisierung für dieses Thema und klares politisches Commitment.

5. Zur Zukunft und zum Buch

Welche spezifischen feministischen Risiken sehen Sie bei generativer KI, die zu wenig Aufmerksamkeit bekommen?

In Bezug auf generative KI sprechen wir noch zu wenig von der Gefahr politischer Einflussnahme und gravierender Abhängigkeiten. Große Sprachmodelle, die oft aus den USA stammen, können gezielt mit Weltbildern und Wertvorstellungen gefüttert und durch Systemprompts ausgestattet werden, die alles andere als feministisch sind. Diese könnten uns subtil durch Antworten der Systeme in der täglichen Arbeit vermittelt werden.

Wir müssen uns fragen: Welche Wertvorstellungen sollen in einer demokratischen Gesellschaft automatisiert werden? Subtile Manipulation wird zunehmen und die Folgen sind kaum abzuschätzen. Ich denke gerade an die kürzlich veröffentlichte Studie zum Einfluss von TikTok auf Jungen in Deutschland – das ist eine große Gefahr für unsere Demokratie.

An wen richtet sich Ihr Buch – und was sollen Leserinnen und Leser am Ende anders sehen oder tun?

Mein Buch richtet sich an all die, die KI kritisch betrachten und verstehen wollen, die aber auch einen Schritt darüber hinausgehen und etwas verändern wollen. Es soll ein leidenschaftlicher Aufruf sein, Technologie kritisch zu denken und sie als Werkzeug für Gerechtigkeit und Empowerment zu nutzen.

Mein Ziel ist es, dass wir nicht länger passiv zuschauen, sondern aktiv werden, uns dabei zusammenschließen und nicht zulassen, dass die Vergangenheit mit KI in die Zukunft getragen wird.

Was gibt Ihnen Hoffnung?

Mir machen die vielen Menschen Hoffnung, die sich ebenfalls für feministische und gerechtere KI einsetzen:

Es gibt mittlerweile einen Sammelband zu feministischer KI.
Es gibt erste wissenschaftliche Konferenzen mit diesem Fokus.
Es gibt erste Zeitschriften-Ausgaben, Communities (so auch unsere feminist AI Community), gemeinsame Initiativen und feministische KI-Projekte von NGOs.
Ich nehme außerdem ein großes Interesse in Wirtschaft, Politik, Gesellschaft und Wissenschaft wahr – unter anderem durch viele Vortragsanfragen, Interviews und Portraitierungen.

Feministische KI beginnt langsam, von einem Nischenthema in den Fokus zu rücken. Das macht mich zutiefst optimistisch.

„Feministische KI – Warum Künstliche Intelligenz Ungerechtigkeit verstärkt und was wir dagegen tun müssen“

Dietz Verlag, 2026 | ISBN 978-3-8012-0719-9

Erhältlich beim örtlichen Buchhändler oder im Internet.

📂 Themenreihe Teil 2 von 2

Feminismus

In dieser Serie geht es um die Frage, wie Machstrukturen und Technologie Geschlechtergerechtigkeit beeinflussen – vom globalen Verhandlungstisch bis zur künstlichen Intelligenz. Ich setze mich mit Positionen auseinander, die mir vorher nicht auf dem Schirm waren. Weil es Zeit wird, diese Perspektiven ernster zu nehmen.

Die Welt wäre friedlicher. Wenn Frauen sie führten. 05.10.2025
Feministische KI – Ein Gespräch mit Dr. Eva Gengler ← dieser Artikel

→ Alle Artikel dieser Reihe

🕸️ Wissenskarte dieses Artikels

Artikel Kategorie Tag Konzept Plattform Verwandter Artikel Semantisch verwandt (KI)

Knoten sind verschiebbar · Hover für Details · Klick öffnet verlinkte Seite

🧭 Thesen dieses Artikels — und wo sie heute stehen

Künstliche Intelligenz verstärkt bestehende gesellschaftliche Ungerechtigkeit nicht nur durch Bias in Daten oder problematische Algorithmen, sondern durch tiefer liegende Machtstrukturen, die eine grundlegende Systemveränderung erfordern.

gilt · seit 05.03.2026

Feministische KI-Projekte, die auf Skalierbarkeit verzichten und stattdessen kontextspezifisch und nachhaltig vorgehen, sind ressourcenschonender und können als Modell für andere KI-Entwicklungen dienen.

gilt · seit 05.03.2026

Der EU AI Act ist aus feministischer Perspektive unzureichend, weil er in Bezug auf Nachhaltigkeit und Inklusivität nicht weit genug geht; entscheidend wird seine konsequente Umsetzung sein.

gilt · seit 05.03.2026

Generative KI-Systeme, insbesondere große Sprachmodelle aus den USA, können durch gezielte Systemprompts und Weltbilder subtil antifeministischer Wertvorstellungen in der täglichen Nutzung transportieren und stellen damit eine demokratiegefährdende Manipulationsgefahr dar.

gilt · seit 05.03.2026

Die globale KI-Entwicklung reproduziert koloniale Abhängigkeitsstrukturen, indem der Globale Norden von KI-Systemen profitiert, während der Globale Süden als Datenlieferant ausgebeutet wird – Eva Gengler bezeichnet dies als algorithmische Kolonialisierung.

gilt · seit 05.03.2026

Jede These ist ein Knoten im Kontext-Graphen von meiersworld.de: mit Gültigkeit, Belegen und Nachfolger, falls sie revidiert wurde.