1. Intransparente Diskriminierung durch maschinelles Lernen
- Author
-
Heiner Koch
- Subjects
Diskriminierung ,maschinelles Lernen ,Algorithmen ,Explainable Artificial Intelligence ,statistische Diskriminierung ,Intransparenz ,Philosophy (General) ,B1-5802 - Abstract
Maschinelles Lernen kann zu Diskriminierungen anhand von völlig neuen Merkmalen führen. Diese Merkmale können uns außerdem nicht transparent sein. Um dies zu zeigen, werde ich argumentieren, dass Diskriminierung nicht nur anhand von Merkmalen in abschließenden Listen erfolgen kann, sondern grundsätzlich anhand beliebiger Merkmale, und dass Algorithmen trotz fehlender mentaler Eigenschaften diskriminierend sein können. Zudem werde ich die Probleme beschreiben, die damit einhergehen, dass diese neuen Formen der Diskriminierung nur schwer erkennbar sind, weil die eingesetzten Algorithmen intransparent sind. Hierbei sind drei Arten der Intransparenz zu unterschieden, die jeweils unterschiedliche Auswirkungen auf die Erkennbarkeit von Diskriminierungen haben: (i) Merkmale, anhand derer ungleich behandelt wird, können unbekannt sein (ii) Merkmale, anhand derer ungleich behandelt wird, können unverständlich sein (sie sind zu komplex oder „chaotisch“, um von Menschen sinnvoll erfasst werden zu können) (iii) es können Erklärungen dafür fehlen, wie und weshalb bestimmte Merkmale für eine Ungleichbehandlung herangezogen werden Gerade die Kombination aus Intransparenz und Diskriminierung anhand neuer Merkmale stellt eine besondere Herausforderung für die philosophische Debatte um Diskriminierung dar. Bisherige Ansätze beschränken sich darauf, verständliche Merkmale zu identifizieren oder zu erzeugen, die ihre Träger_innen unter expliziten Diskriminierungsschutz stellen. Damit geraten jedoch neue Diskriminierungen aus dem Blick, die in Zukunft erhebliche Auswirkungen haben können. Um intransparente Diskriminierungen aufzudecken, müssen unbekannte Merkmale identifiziert werden, unverständliche Merkmale hinreichend verständlich gemacht werden und Korrelationen und Trainingsverfahren erklärbar sein. Anschließend müssen die diskriminierenden Elemente des Algorithmus beseitigt werden können. Insofern keine angemessenen Lösungsstrategien vorliegen, muss darüber nachgedacht werden, für bestimmte Kontexte nur Formen des maschinellen Lernens zuzulassen, die sich hinreichend auf diskriminierende Konsequenzen untersuchen lassen.
- Published
- 2020
- Full Text
- View/download PDF