Wie das konkret gelingen kann, thematisierte die Fachstelle für Gleichstellung 2026 bei zwei stadtinternen Veranstaltungen. Im März führte sie die Websession «KI verantwortungsvoll einsetzen: Gleichstellung mitdenken» für Mitarbeitende der Stadtverwaltung durch, und im Juni war sie am Digital Forum mit dem Stand «Gleichstellung und KI» an der KI-Werkschau vertreten. Im Zentrum standen dabei Fragen, die mit der zunehmenden Nutzung von KI auch für die Verwaltung wichtiger werden: Wer profitiert von KI – und wer wird dadurch möglicherweise benachteiligt? Welche Vorurteile und Ungleichheiten können sich mit dem Einsatz von KI-Systemen in der Verwaltung fortsetzen oder verstärken? Und wie lässt sich dies verhindern?
Ungleichheiten bestehen bereits beim Zugang zu digitalen Technologien. Der sogenannte «Digital Gender Gap» bezeichnet die geschlechtsspezifischen Unterschiede bei der Nutzung digitaler Technologien und bei den Kompetenzen, die dafür nötig sind. Mit der rasant steigenden Verwendung von generativer KI gewinnt diese Problematik zusätzlich an Brisanz.
Wer KI-Anwendungen häufiger nutzt, mehr Erfahrungen damit sammelt und dabei Vertrauen in die eigenen digitalen Fähigkeiten entwickelt, kann stärker von den neuen Möglichkeiten profitieren. Bestehende Ungleichheiten drohen sich dadurch weiter zu vergrössern.
Bildung ist ein wichtiger Hebel, um dieser Entwicklung entgegenzuwirken. Digitale Kompetenzen und Verständnis für KI sollten möglichst allen Menschen vermittelt werden, und dies bereits im Kindes- und Jugendalter.
Auch die Systeme selbst können Ungleichheiten reproduzieren. KI wird mit den vorhandenen Daten entwickelt. In diesen widerspiegeln sich die in unserer Gesellschaft bestehenden bewussten und unbewussten Vorurteile, sogenannte «Biases», sowie stereotype Geschlechterrollen und Diskriminierungen. Das zeigt sich beispielsweise bei KI-generierten Bildern: Führungskräfte werden häufiger als Männer, Personen in Pflegeberufen häufiger als Frauen dargestellt. Besonders weitreichend sind die Folgen, wenn algorithmische Systeme mitentscheiden, wer eine bestimmte Stelle erhält, wer Sozialleistungen beziehen kann oder welche Informationen angezeigt werden.
Dabei geht es nicht allein um Technik. KI ist ein sozio-technisches System: Ob sie diskriminierend wirkt, hängt davon ab, mit welchen Daten sie entwickelt wurde, wie sie gestaltet und eingesetzt wird und in welchem gesellschaftlichen Kontext dies geschieht.
Für die Verwaltung bedeutet das: Je stärker ein KI-System Entscheidungen über Menschen beeinflusst, desto sorgfältiger muss geprüft werden, wie es funktioniert und welche Auswirkungen es hat. Besonders bei sensiblen Entscheidungen muss nachvollziehbar bleiben, wie ein Ergebnis zustande kommt. Der Einsatz von KI-Systemen sollte überprüfbar sein und von Menschen kritisch begleitet und kontrolliert werden. Entscheidungen mit erheblichen Auswirkungen auf Menschen dürfen nicht vollständig automatisiert getroffen werden.
Gleichstellung darf deshalb nicht erst dann zum Thema werden, wenn ein System bereits im Einsatz ist, sondern muss bereits bei der Entwicklung und Auswahl von KI-Anwendungen mitgedacht werden. Dabei stellen sich zentrale Fragen: Welche Daten werden verwendet? Wer könnte dadurch benachteiligt werden? Sind unterschiedliche Lebensrealitäten dabei berücksichtigt? Wer überprüft die Ergebnisse – und nach welchen Kriterien geschieht dies?
Entscheidend ist also, wie wir die Technologie gestalten und nutzen. Richtig eingesetzt, kann KI Zugänge zu Wissen erleichtern, die Verwaltung bei administrativen Arbeiten unterstützen und neue Angebote ermöglichen.
Mit der Websession im März und dem Auftritt am Digital Forum im Juni hat die Fachstelle für Gleichstellung diese Perspektive gezielt in die digitale Transformation der Stadtverwaltung eingebracht. Denn KI lernt aus der Vergangenheit. Ob sie bestehende Ungleichheiten automatisch fortschreibt oder dazu beiträgt, sie abzubauen, hängt von den Entscheidungen ab, die wir heute treffen.
Die Websession zeigt, weshalb Gleichstellung beim Einsatz von künstlicher Intelligenz in der Verwaltung von Anfang an mitgedacht werden muss. Die Aufzeichnung ist im städtischen KI-Portal zugänglich.