20240119 KI in der Kriegsführung

19.01.2024 KI in der Kriegsführung
Sorry, most articles are not available in English yet

Verbot von Waffenentwicklung mit ChatGPT aufgehoben

"Don't use our service to harm yourself or others." So steht es jetzt in den AGB von ChatGPT von OpenAI. Bis zum 10. Januar 2024 war die Distanzierung von der militärischen Nutzung von KI viel deutlicher. Da hieß es noch

"nutz unsere Dienste nicht, um Selbstmord oder Selbstverletzungen zu bewerben, Waffen zu entwickeln, andere oder das Eigentum anderer zu verletzen oder um dich an nicht autorisierten Aktivitäten zu beteiligen, die die Sicherheit von anderen oder anderen Systemen gefährden."

Wie gefährlich KI-gesteuerte Militärtechnik sein kann, zeigt schon ein Szenario, das in den Drohneneinsätzen des US Militär häufig geschieht. Die Drohnen sind so programmiert (noch ganz ohne KI), dass sie bei Verlust der Kommunikation zur Bodenstation zum Startflugplatz zurück zu kehren haben. Wenn sie diesen anfliegen, könnten sie aber auch gehackt sein und diesen Standort angreifen wollen. Mindestens der Adrenalinspiegel der dort Stationierten geht beim Anflug in die Höhe.

KI darf keine Entscheidungen über Leben und Tod treffen

Grundsätzlich sollten Menschen stets die Entscheidungsgewalt über Maschinen behalten. Das sollte eine notwendige Forderung sein, aber sie ist nicht hinreichend. Allein schon die Datenflut, mit der Computerprogramme und erst recht solche mit KI die Menschen überfordern, birgt die Gefahr, dass auch die menschlichen Entscheidungen nicht mehr auf einer rationalen Ebene fallen, sondern manipuliert sein können.

Ganz grundsätzlich darf nach unserer Ansicht KI nicht für militärische Zwecke und die Überwachung von Menschen, z.B. bei Anwendungen der "kritischen Infrastruktur" oder Strafverfolgung (PreCrime) verwendet werden.

Mehr dazu bei https://www.heise.de/news/ChatGPT-fuer-das-Militaer-OpenAI-aendert-Verbots-Passus-9596604.html