20221212 "Empfehlungsalgorithmen machen süchtig"

12.12.2022 "Empfehlungsalgorithmen machen süchtig"

KI kann uns steuern und manipulieren

"Empfehlungsalgorithmen" sind die Basis für Streaming-, Shoppingplattformen, soziale Netzwerke u.v.m im Internet. Mit wirklicher Intelligenz haben diese angeblichen KI-Werkzeuge auch wenig zu tun. Im wesentlichen sind sie tätig, um unsere Interessen, Vorlieben und Abneigungen zu klassifizieren und für ihre Zwecke auszunutzen. Dieser Nutzen ist (leider) nur monitär. Sie werden also alles versuchen, uns zu einem "weiter so" zu bewegen, damit wir mehr Geld auf dieser oder jener Plattform ausgeben.

Natürlich wäre und sind solche Algorithmen auch über den monitären Zweck hinaus ausnutzbar. Sie können uns auch politisch in eine Richtung manipulieren. Aus den Kosten für solche Plattformen ergibt sich in unserem kapitalistischen System von selbst, dass dies stets eine rechte Richtung sein wird.

Science.orf.at zitiert einen der bekanntesten KI-Forscher weltweit, den Informatiker Stuart Russell: "Diese Algorithmen hätten mehr Kontrolle über die menschliche Wahrnehmung und das Denken als jeder Diktator es je hatte."

Diese Aussage belegt er mit dem Argument, dass Algorithmen uns in Schubladen stecken müssen, wenn sie uns klassifizieren. Das geht am besten und sichersten, wenn sie uns "in die jeweilige extreme Ecke einer Schublade" bringen. Das ist nach Russells Meinung mehr als Menschen in eine Filterblase zu stecken: "Es geht darum, Menschen zu verändern, politisch und in Fragen ihrer Einstellungen in eine Richtung zu bewegen. Der Algorithmus will nur, dass Sie berechenbarer werden."

Dazu verwendet der Algorithmus Verstärkungslernen und die Menschen sind glücklich, weil sich ihre Vorlieben oder Befürchtungen verstärken. Damit können Algorithmen wie Drogen unser Urteilsvermögen verändern.

Stuart Russell bedauert, dass es zu den gesellschaftlichen Folgen der Interaktion von KI Programmen auf Gruppen von Menschen keine (wirtschaftlich unabhängige) grundlegende Forschung gibt, die es erlauben würde solche Effekte einzuschätzen.

Mehr dazu bei https://science.orf.at/stories/3216369/