Clickandstop.ch: 63 % mehr Meldungen durch KI-generierte Missbrauchsdarstellungen

KI-Werkzeuge haben die Erstellung gefälschter Bild-, Video- und Audioinhalte, sogenannter Deepfakes, erheblich vereinfacht. Besonders problematisch ist der Einsatz von „Nudifier"-Apps, die Nacktbilder von Personen generieren, darunter auch von Minderjährigen. Das Cybersicherheitsunternehmen Deepstrike gibt an, dass die Zahl aufgedeckter Deepfake-Fälle von 500.000 im Jahr 2023 auf über acht Millionen im Folgejahr gestiegen ist.

Parallel dazu schuf die Rechtsprechung erstmals einen Präzedenzfall für KI-manipulierte Missbrauchsdarstellungen: Das Bundesgericht bestätigte 2024 die Verurteilung eines Mannes, der ein Video einer volljährigen Pornodarstellerin per digitalem Filter so verändert hatte, dass sie vorpubertär wirkte. Das Gericht stufte dies als „nicht tatsächliche Kinderpornografie" im Sinne von Artikel 197 des Strafgesetzbuches ein, der erste solche Entscheid im Zusammenhang mit digitaler Verjüngungstechnologie. Das Bundesgericht begründete dies unter anderem damit, dass derartige Darstellungen den realen Markt für Kinderpornografie fördern könnten.

Kinderschutz Schweiz unterstützt die Plattform Clickandstop.ch, die zur Erfassung von Cybermobbing und sexualisiertem Missbrauch an Kindern betrieben wird. Die Plattform nimmt Meldungen aus der Bevölkerung entgegen, darunter zunehmend Fälle, in denen KI eingesetzt wurde, um sexualisierte Inhalte zu erzeugen oder zu verbreiten. Clickandstop.ch verzeichnete einen Anstieg der gemeldeten Fälle um 63 Prozent innerhalb eines Jahres.

Die Plattform hält dazu fest: „Es melden sich immer mehr Menschen bei uns, weil Nacktfotos von ihnen mithilfe von KI erstellt und verbreitet wurden."

Die Quellen beschreiben keinen spezifischen technischen KI-Einsatz durch Kinderschutz Schweiz oder Clickandstop.ch selbst. Die Plattform dokumentiert und meldet Fälle, die KI-Komponente liegt auf Seiten der Täter, nicht des Erkennungssystems.

Auf gesellschaftlicher Ebene wird in der Schweiz über regulatorische Gegenmassnahmen diskutiert. Das Parlament nahm im Berichtszeitraum eine Motion an, die KI-Plattformen dazu verpflichten soll, „Risiko- und Schadensabschätzungen hinsichtlich der Erstellung von sexualisierten Deepfake-Inhalten vorzunehmen sowie Schutzmassnahmen zu ergreifen". Eine Prüfinstanz mit Sanktionsbefugnissen gegenüber nicht konformen Plattformen ist ebenfalls vorgesehen.

Der belegte Kernbefund ist der Anstieg der bei Clickandstop.ch gemeldeten Fälle um 63 Prozent innerhalb eines Jahres. Das Bundesgericht schuf zudem einen Präzedenzfall, der digitale Verjüngungstechnologie zur Herstellung scheinbarer Kinderpornografie ausdrücklich unter das bestehende Strafrecht stellt.

Die Fallstudie steht exemplarisch für eine Situation, in der zivilgesellschaftliche Organisationen mit wachsendem Fallaufkommen konfrontiert sind, das technologisch durch leicht zugängliche KI-Tools befeuert wird. Die rechtliche Lage in der Schweiz ist noch im Wandel: Während ein Teil der Politik auf neue Spezialgesetze drängt, plädieren andere Stimmen, etwa Anwalt David Vasella, dafür, bestehende Gesetze konsequenter durchzusetzen und Aufsichtsbehörden wie den Eidgenössischen Datenschutz- und Öffentlichkeitsbeauftragten zu stärken. Eine abschliessende gesetzliche Regelung fehlt zum Zeitpunkt der vorliegenden Quellen.