Diskriminierung durch Algorithmen? Kredit nur mit dem richtigen Vornamen?
Saarbrücken · Algorithmen arbeiten oft im Verborgenen. Die Entscheidungen, die sie treffen, bestimmen aber unser Leben. Zum Beispiel bei der Kreditvergabe.
Christian oder Thomas bekommen wohl einen Kredit, Justin und Kevin eher nicht. Das liegt nicht an der Willkür des Bankberaters, sondern immer häufiger an komplizierten Algorithmen, die in Sekundenschnelle darüber entscheiden, ob ein Kunde kreditwürdig ist oder nicht. Natürlich wird auch die Einkommenslage berücksichtigt und welche finanziellen Belastungen der Kunde zu schultern hat. Zusätzlich greift der Algorithmus auf riesige Datenmengen zurück, so zum Beispiel auch auf den Vornamen oder die Postleitzahl. Wenn in der Vergangenheit mehrere Kevins ihren Kredit nicht zurückgezahlt haben, hat der nächste Kevin schlechte Karten.
Vor allem sogenannte Fintech-Unternehmen bedienen sich Algorithmen, wie das Magazin Cicero berichtete. Fintech-Unternehmen sind Technologiefirmen, die seit einigen Jahren der etablierten Finanzindustrie ernsthafte Konkurrenz machen. In den vergangenen Jahren wurden Hunderte solcher Start-Ups gegründet, vor allem in den USA und in Großbritannien, aber auch in Deutschland.
Kreditech ist ein solches Kreditunternehmen in Deutschland. Gegründet hat es Sebastian Diemer. Sein Unternehmen greift auf Datenpunkte zurück, die die Kunden beispielsweise in sozialen Netzwerken hinterlassen haben. Selbst lernende Algorithmen ziehen dann daraus ihre Schlüsse. „Da geht es um extrem komplexe statistische Ketten, die uns ermöglichen, binnen weniger Sekunden die Kreditwürdigkeit eines Kunden festzustellen“, sagte Diemer dem Magazin Cicero. Algorithmen sind aber nicht ohne. So veröffentlichte die Princeton-Informatikerin Aylin Caliskan kürzlich eine Studie, nach der künstlich intelligente Systeme Rassismus und Sexismus reproduzieren. Frauen sah der Algorithmus näher an Blumen und Begriffen wie Krankenschwester und Familie, Männer in der Nähe von Ingenieuren und Wissenschaftlern. Afroamerikanische Vornamen wurden häufiger mit negativen Wörtern verbunden als alteuropäische.
Krishna Gummadi vom Max-Planck-Institut für Softwaresysteme in Saarbrücken widmet sich seit Jahren den Vorurteilen der Maschinen. „Man muss wissen, dass diese Algorithmen meist lernen, indem sie versuchen, die Entscheidungen von Menschen nachzuahmen“, sagte Gummadi in einem Interview mit dem Tagesspiegel. Dafür brauchen sie riesige Datenmengen. „Algorithmen, die einschätzen sollen, wie kreditwürdig jemand ist, lernen das, indem sie sich die Vergabe-Entscheidungen von Bankern anschauen. Auch die haben unter anderem nach Alter, Vermögen, Adresse, Geschlecht und Herkunft ausgewählt. In den USA werden oft schwarzen Menschen keine Kredite gegeben. Weil der Algorithmus aber ein Trainingsziel braucht, versucht er, sein Modell so zu optimieren, dass er die gleichen Entscheidungen trifft, die ein Mensch treffen würde“, sagte Gummadi. Der saarländische Sparkassenverband gibt indessen Entwarnung. „Bei uns bekommt Paul genauso einen Kredit wie Willi. Auch die Postleitzahl spielt bei der Entscheidung über eine Kreditvergabe keine Rolle“, teilte der Verband auf Anfrage mit. Kredite würden immer nach einer individuellen Überprüfung vergeben. Kunden würden nicht von vornherein negativ bewertet. „Natürlich fragen wir auch jede Menge Informationen ab, dazu sind wir auch nach dem Kreditwesengesetz verpflichtet“, sagt Verbandspräsident Christian Molitor. „Die werden dann zu einem Rating verdichtet.“
