20181015 "Der" Roboter ist männlich

15.10.2018 "Der" Roboter ist männlich

KI diskriminiert auf Grund des Geschlechts

Amazon wollte sich die Arbeit leichter machen, ein Wunsch, der schon den Zauberlehrling im Faust an den Rand der Verzweiflung gebracht hat. Mit einem selbst entwickelten Machine-Learning-gestütztem Tool sollten die eingehenden Bewerbungen vorsortiert werden. Nur noch die in der Auswahl des Tools hervorstechenden BewerberInnen sollten eingeladen werden.

Man bemerkte jedoch sehr schnell ein Problem: Der Algorithmus hatte sexistische Tendenzen und bewertete Männer grundsätzlich mit einer höheren Punktzahl als Frauen. Diese Haltung hatte sich die "Künstliche Intelligenz" selbst beigebracht.

Das Attribut Frau wurde scheinbar vom Programm als schlecht bewertet und floss negativ in die Endwertung ein. Die Entwickler hatten dieses Verhalten schon 2015 festgestellt. Sie änderten daraufhin das Verhalten so, dass ihrer Meinung nach das Wort Frau als neutral angesehen wurde. Wie sich nun heraus stellte war das keine ausreichende Lösung.

Nicht nur Amazon kämpft mit dem Problem ungerechter KI-Systeme. Eine Forscherin am Massachussetts Institute of Technology (MIT) hat etwa herausgefunden, dass Bilderkennungssysteme von IBM und Microsoft unfair bewerten. So sind weiße Männer hervorragende Kandidaten für das KI-System, bei schwarzen Frauen ist jedoch die Fehlerquote ungleich höher.

Mmh, davon hat Heimatminister Seehofer wohl noch nchts gehört, der gerade sein Gesichtserkennungssystem mit 20% Fehlerrate als "durchschlagenden Erfolg" bezeichnet. Dabei waren seine Testpersonen auch noch fast alle weiß ...

Mehr dazu bei https://www.golem.de/news/machine-learning-amazon-verwirft-sexistisches-ki-tool-fuer-bewerber-1810-137060.html
und https://www.golem.de/news/maschinelles-lernen-gesichtserkennung-ist-zuverlaessig-bei-weissen-maennern-1802-132709.html