20261031 Warum glauben wir einer KI?

Auch Experten fallen auf KI rein

Trotz aller Fehler und Manipulationen durch Programme der künstlichen Intelligenz, die in der letzten Zeit bekannt wurden, fallen selbst Experten auf diese rein. In einer Studie hat Anthropic gezeigt, dass Experten KI-Empfehlungen in 86 Prozent der Fälle übernehmen. Fragt man sie hinterher, warum sie diese Entscheidung getroffen haben, so berufen sich nur 17% auf die KI. Alle anderen behaupten, die Entscheidung aus ihrem Wissen getroffen zu haben.

In dem Experiment wurde die KI so eingestellt, dass sie der Hälfte der Experten die eine Variante der Möglichkeiten erklärte und der anderen Hälfte genau das Gegenteil. In beiden Fällen folgten 86% der Empfehlung der KI, 77% begründeten ihre Entscheidung genau mit der Argumentation der KI, obwohl sich davon nur 17% auch auf die KI beriefen. Alle anderen waren der Ansicht, zu der Meinung selbst gekommen zu sein.

Was folgt daraus für unsere Demokratie?

Statt einer KI kann es ja auch die Meinung einer anderen "Respektsperson", eines Politikers, eines Arztes, eines angesehenen Unternehmers sein, die Meinungen verändern. Aber das ein Computerprogramm so einen Einfluss ausübt lässt uns nachdenklich werden.

Auch nach einer MIT-Studie können KI-generierte Inhalte falsche Erinnerungen erzeugen. Die Versuchsteilnehmer hielten dann diese Ereignisse, Bilder oder Geschichten für wirklich wahr.

Vergessen wir nicht, dass bereits heute Millionen Menschen sich tagtäglich von KI Systemen "beraten" lassen. Damit ist einerseits der Manipulation - auch bei Wahlen - Tür und Tor geöffnet und andererseits zeigt die Studie von Anthropic, dass wir mit KI nur dümmer werden können, wenn wir die "Meinung" der KI unbewusst übernehmen, egal welche es ist. Heise.de führt dazu das folgende Beispiel an:
"... dass ChatGPT und Grok auf identische Fragen zu den US-Wahlen hin fast immer gegensätzliche Parteien und Kandidaten empfahlen: ChatGPT in der Regel die demokratischen, Grok fast immer republikanischen."

Kommentar abgeben