20240906 Diskriminierung durch KI

06.09.2024 Diskriminierung durch KI

Frauen zahlen mehr!

Kaum ein Kredit wird heutzutage noch vom Bankberater - oder für Frauen vielleicht besser von einer Bankberaterin - vergeben. Irgendwelche Algorithmen berechnen die Kreditwürdigkeit und danach bestimmen sich die Kosten und Gebühren für den Kredit. Diese Algorithmen werden immer häufiger von KI-Systemen gesteuert.

Denn KI-Algorithmen können große Datenmengen schnell analysieren und "genauere Einschätzungen der Kreditwürdigkeit" liefern. Doch was liefern diese Systeme? Das haben Forscher der britischen Universität Bath herausgefunden:

Frauen werden systematisch diskriminiert

Als erstes fanden die Forscher bei der Untersuchung von Kreditentscheidungen in kanadischen Autohäusern heraus, dass der Einsatz von KI die Gewinne der Kreditgeber deutlich steigerte.
Dann zeigte sich, dass traditionelle Vorurteile, wie Rasse und Hautfarbe keinen merklichen Einfluss auf die Entscheidungen der KI hatte.
Frauen wurden von der KI jedoch wesentlich ungünstiger eingestuft. Kredite für Frauen waren nicht nur - wie üblich - um 20% ungünstiger, sondern bis zu 42%.

Auch Verkäufer handeln in der Regel für Frauen schlechtere Kreditbedingungen aus als für Männer. Dabei spielt allerdings oft die geringere Durchsetzungskraft von Frauen eine Rolle. Da die KI Systeme mit den Daten bisheriger Kreditentscheidungen trainiert werden, können sie überhaupt nicht "auf die Idee kommen" Frauen günstigere Bedingungen anzubieten.

Merke:

Vor jedem Einsatz von KI ist zu untersuchen, ob die Algorithmen alle Menschen gleich behandeln.
Auch im EU KI-Act muss eine Forderung zur Gleichbehandlung aller Menschen eingebaut werden.
Nur dann ist der Einsatz von KI verantwortungsvoll möglich.

Mehr dazu bei https://www.telepolis.de/features/Bits-und-Bias-Warum-KI-gesteuerte-Kredite-Frauen-teuer-zu-stehen-kommen-9858440.html