20260613 Fehler automatisierter Erkennung

False Positives?

Was soll man tun, wenn man vom BKA eine/n Brief/Mail bekommt, in dem folgendes steht: "dass sich auf den von Ihnen betriebenen Servern strafrechtlich relevante Inhalte befinden" und "ersucht dringlichst darum, diese schnellstmöglich zu entfernen."

So berichtet Netzpolitik.org von einem Vorfall beim Provider Flokinet. Die Betreiber kontrollierten die angegebenen URLs und stellten fest, dass der eine Link einen deutschen Komponisten zeigt, der Musik für einen Film produziert und das 2. Video das Lied eines spanischen Opernsängers enthält. Hinzu kommt, dass Flokinet nur einen Host für die Software Invidious betreibt und Videos von Youtube ohnen deren Datenhunger widerspiegelt - und damit nicht der Anspechpartner für deren Inhalte sein kann.

Die Betreiber haben dem BKA sofort innerhalb von 2 Stunden geantwortet und darauf verwiesen, dass nach ihrer Ansicht die Inhalte nicht strafbar sein können. Darauf haben sie keine Antwort erhalten. Die Forderung des BKA nach "unverzüglicher Löschung" beinhaltet in vielen Staaten eine Frist von 24 Stunden, bei terroristischen Inhalten müssen Anbieter innerhalb einer Stunde löschen.

Auf Nachfrage von Netzpolitik.org gab das BKA zu, dass in Einzelfällen auch Verlinkungen zu nicht strafbaren Inhalten automatisiert weitergegeben worden sein können. Das liegt wohl an den Mengen der Meldungen. So kommen viele Meldungen von der Beschwerdestellen im INHOPE-Netzwerk, werden durch die Polizei geprüft und dann an das BKA weitergeleitet. 2024 waren es 31.000 Meldungen. Die US-Organisation "Nationale Zentrum für vermisste und ausgebeutete Kinder" meldete im Jahr 2024 über 205.000 Hinweise. Das BKA stellte allerdings nur in der Hälfte der Fälle "eine strafrechtliche Relevanz fest".

Flokinet kritisiert, dass auch wenn die Zahl der Meldungen so hoch ist, jeder Einzelfall Beachtung finden muss und auf Antworten der Verdächtigten mindestens ebenfalls geantwortet werden sollte. Denn die ausführenden Stellen können ihre Fehlerquellen nur minimieren, wenn sie Falschmeldungen auch auf den Grund gehen. Dies gilt insbesondere, wenn zu befürchten ist, dass künftig - oder schon jetzt - KI-Programme bei der Erkennung beteiligt sind. Sollte die Anzahl dieser False Positives einstellige Prozentzahlen übersteigen, so kann man annehmen, dass die Polizei automatisiert ungeprüft Inhalte meldet und damit die Überprüfungsarbeit faktisch an die Provider auslagert. Bei den Meldungen aus den USA scheint das immerhin nicht der Fall zu sein, da das BKA hier selbst 50% als ohne Relevanz verwirft.

Aufrufe: 50

Kommentar abgeben