KI-Strategie: Diskriminierungsrisiken im Blick

Die stellvertretende Landesfrauenbeauftragte Katharina Kunze begrüßt, dass der Senat heute die KI-Strategie für die öffentliche Verwaltung verabschiedet hat. "Wir wollen und müssen uns modern aufstellen. Doch ungesteuerte KI-Nutzung birgt hohe Risiken von Diskriminierung gesellschaftlicher Gruppen. Dem setzt die Bremer KI-Strategie mit ihrem Leitbild explizit die Ziele Transparenz, Nichtdiskriminierung, Kompetenzentwicklung und den menschlichen Faktor entgegen: KI soll so ausgestaltet werden, dass keine Gruppen benachteiligt werden. Sie soll nur dort eingesetzt werden, wo menschliche Kontrolle und Letztentscheidung gesichert sind. Und sie soll Verzerrungen in Daten und Analysen sichtbar und damit korrigierbar machen. Da es bei Künstlicher Intelligenz geschlechtsspezifische Unterschiede gibt, begrüßen wir sehr, dass die Strategie diesen Gender AI Gap berücksichtigt und einer gleichberechtigten Teilhabe aller Menschen in Bremen einen hohen Stellenwert einräumt. Frauen schätzen ihre KI-Kompetenzen subjektiv niedriger ein, nutzen und vertrauen seltener KI-Anwendungen und sind auch in der Entwicklung von KI deutlich unterrepräsentiert."

Die Erarbeitung der Strategie wurde flankiert von einer Befragung von Mitarbeitenden in der Verwaltung. Hier wurde deutlich, dass viele Beschäftigte sich Sorgen machen hinsichtlich möglicher Risiken durch die Anwendung von KI - die Befragung hatte auch aufgezeigt, dass die kritischen Vorbehalte bei weiblichen Beschäftigten größer sind als bei den männlichen. "Es ist gut, dass die KI-Strategie diese Rückmeldungen explizit aufgreift und nun einen Rahmen setzt, der Diskriminierung, Verzerrung und Ausschlussmechanismen bewusst macht und sie verhindern will", so Kunze weiter.

Die Zentralstelle der Landesfrauenbeauftragten (ZGF) hatte bei der Erstellung des Leitbildes mitgearbeitet, durch den Gleichstellungs- und Antidiskriminierungsblick konkrete Vorschläge zur Reduzierung von Folgefehlern eingebracht und wird die Umsetzung der Strategie in den verschiedenen Schwerpunktbereichen und Projekten weiter begleiten. Neben der Kompetenzentwicklung liegt hierbei der Fokus auf der Verankerung verbindlicher Standards für eine ethische, geschlechter- und diskriminierungssensible KI-Steuerung. Denn für den Einsatz von KI gilt: Kompetenzen und klare Regeln schaffen Akzeptanz und Vertrauen.

Ansprechpartnerin für die Medien:
Susanne Gieffers, ZGF Presse- und Öffentlichkeitsarbeit, Tel.: (0421) 361-6050, E-Mail: [email protected]