Diskriminierungsrisiken von Algorithmen
Algorithmisch geprägte Entscheidungen prägen zunehmend unseren Beruf und unsere Freizeit. Sie werden beispielsweise bei der Eröffnung von Konten, zielgerichteter Werbung im Internet oder oder bei der Bewerbendenauswahl eingesetzt.
Wo liegen hier Chancen, wo Gefahren? Die Antidiskriminierungsstelle des Bundes hat dazu die Studie „Diskriminierungsrisiken durch Verwendung von Algorithmen“, vorgelegt von Dr. Carsten Orwat, gefördert. Die Studie nimmt sowohl die Ursachen algorithmenbasierter Diskriminierung als auch Handlungsoptionen zum Schutz davor in den Blick. Dabei wird insbesondere auf die Möglichkeiten, die Antidiskriminierungsstellen hierbei haben, eingegangen.
Thematisiert werden beispielweise Algorithmen des Risikomanagements, welche das Kreditausfallrisiko, die Leistungsfähigkeit von Bewerbenden, das Mietausfallrisiko oder das Rückfallrisiko von Straftatbegehenden ermitteln und so zur Differenzierung von Personen verwendet werden. Aber auch Algorithmen zur zielgerichteten Werbung, der individuellen Entgeltgestaltung, der Kundenpflege oder deren Verwendung beim so genannten „De-Marketing“ können, wie die in der Studie vorgestellten Beispiele zeigen, Diskriminierungsrisiken beinhalten.
Zur Studie
Bei einem Fachgespräch, an dem Vertreter*innen aus Bundes- und Landesbehörden, der Bundesbeauftragte für Datenschutz, zivilgesellschaftliche Organisationen und der Wissenschaft teilnahmen, wurden die Ergebnisse der Studie vorgestellt, kommentiert und anschließend mit allen Teilnehmenden Lücken im bestehenden Diskriminierungsschutz diskutiert.
Zur Studie gibt es einen Steckbrief in deutscher Sprache sowie ein Factsheet in englischer Sprache.
Die Studie liegt auch in einer in die englische Sprache übersetzten Ausgabe vor.
Um Antidiskriminierungsberatungsstellen als zentrale Anlaufstellen für Betroffene von Diskriminierung in die Lage zu versetzen, Diskriminierungsrisiken durch automatisierte Entscheidungssysteme besser erkennen zu können, fördert die Antidiskriminierungsstelle des Bundes das Projekt „AutoCheck – Handlungsanleitung für den Umgang mit Automatisierten Entscheidungssystemen für Antidiskriminierungsstellen“. Im Rahmen des Projektes werden verständliche Anleitungen und Werkzeuge entwickelt sowie Fortbildungen konzipiert, die Mitarbeitende von Antidiskriminierungsberatungsstellen befähigen sollen, Risiken besser einzuschätzen und dadurch in konkreten Diskriminierungsfällen Betroffene besser unterstützen zu können.
Hier gelangen Sie zur Übersicht über die derzeit geförderten Projekte der Antidiskriminierungsstelle des Bundes.