Dokumentation des Fachgespräches „Diskriminierungsrisiken durch Verwendung von Algorithmen“

Am 16. September 2019 hat in Berlin ein Fachgespräch der Antidiskriminierungsstelle des Bundes zum Thema antidiskriminierungsrechtlicher Herausforderungen durch Algorithmen stattgefunden.

Algorithmen fällen oder bereiten Entscheidungen vor, die Menschen in ihren Chancen und Möglichkeiten massiv nachteilig beeinflussen können. In Zukunft werden sie dies in immer mehr Fällen tun wie zum Beispiel in Bewerbungsverfahren, bei der Vergabe von Wohnraum, in der Kreditwirtschaft oder in der Medizin.

Die von der Antidiskriminierungsstelle des Bundes geförderte Studie des Instituts für Technikfolgenabschätzung und Systemanalyse am Karlsruher Institut für Technologie hat dutzende Fallbeispiele analysiert und ist zu dem klaren Entschluss gekommen, dass erhebliche Diskriminierungsrisiken bestehen.

Der kommissarische Leiter der Antidiskriminierungsstelle des Bundes, Bernhard Franke, geht deshalb davon aus, dass diese technische Entwicklung auch den Tätigkeitsbereich der Antidiskriminierungsarbeit zentral verändern werde. Nach Franke sollte man daher bei einer Diskussion über den Schutz vor Diskriminierung durch Algorithmen auch über das bestehende Antidiskriminierungsrecht insgesamt sprechen, da das Allgemeine Gleichbehandlungsgesetz (AGG) auf Grundlage der Europäischen Antidiskriminierungsrichtlinien bereits heute eine klare Antwort gibt auf die Frage, wo unsere Gesellschaft mögliche Diskriminierung keinesfalls hinnehmen will.

In diesem Kontext werden daher folgende Fragen gestellt:

• Welche Möglichkeiten der Überprüfung von Entscheidungskriterien algorithmischer System muss es zwingend geben?
• Welche Dokumentationspflichten sind zu diesem Zweck unerlässlich?
• Wie kann präventiv verhindert werden, dass nach dem AGG verbotene Gründe direkt oder indirekt in Entscheidungen im Arbeitsleben oder beim freien Zugang zu Gütern und Dienstleistungen einfließen?
• An wen könnten sich Betroffene wenden?

Die Antidiskriminierungsstelle des Bundes möchte dabei mit allen an diesen Fragen Interessierten ins Gespräch kommen und dabei ihre Expertise im Bereich des Antidiskriminierungsrechts anbieten. Hier können Sie auf die vollständige Dokumentation des Fachgespräches zugreifen.