BfV beschafft KI-Software zur Erstellung von Bewegungs- und Verhaltensprofilen

Das Bundesamt für Verfassungsschutz (BfV) ist Deutschlands Inlandsnachrichtendienst und zuständig für Spionageabwehr, Terrorismusbekämpfung sowie die Beobachtung politischer und religiöser Extremismen. BfV-Präsident Sinan Selen hat öffentlich angekündigt, die „Toolbox" der Behörde zu erweitern. Parallel arbeitet die Bundesregierung an einer umfassenden Reform des Nachrichtendienstrechts: Ein 700 Seiten langer Referentenentwurf des Bundesinnenministeriums sieht vor, dass Künstliche Intelligenz künftig unter anderem zur Erstellung von Bewegungs- und Verhaltensprofilen eingesetzt werden soll, mit besonderen Qualitätsanforderungen für solche automatisierten Auswertungen.

Laut übereinstimmenden Berichten von WDR, NDR und Süddeutscher Zeitung hat das BfV eine neue Software zur Analyse großer Datenmengen beschafft. Die Wahl fiel demnach auf ein Produkt des französischen Unternehmens ChapsVision, und damit nicht auf den zuvor diskutierten US-Marktführer Palantir. Eine offizielle Bestätigung gibt es weder vom BfV noch von ChapsVision. Ein Sprecher des Bundesinnenministeriums erklärte gegenüber DW, das BfV kommentiere operative Angelegenheiten grundsätzlich nicht, da dies „ein Sicherheitsrisiko darstellen könnte, das Rückschlüsse auf die Arbeitsweisen des BfV zulassen würde". Die Entscheidung für eine bestimmte Software basiere auf den verfügbaren technischen Fähigkeiten; es gebe „keinen Fokus auf einen bestimmten Hersteller".

Das BfV benennt als Einsatzzweck KI-basierte Analyseprogramme für Spionageabwehr, Terrorismusbekämpfung und die Überwachung von Extremismus. Der geplante Rechtsrahmen sieht vor, dass KI zur automatisierten Erstellung von Bewegungs- und Verhaltensprofilen genutzt wird. Für solche Auswertungen sind im Gesetzentwurf besondere Qualitätsanforderungen vorgesehen.

Rechtsanwältin Franziska Görlitz von der Gesellschaft für Freiheitsrechte (GFF) beschreibt die eingesetzten Werkzeuge als „Black Boxes": „Wir wissen nicht, wie sie zu ihren Schlussfolgerungen kommen. Für uns ist nicht klar, wozu sie in der Lage sind. Wie sehr greifen sie in Grundrechte ein?" Sie warnt zudem vor einem Einschüchterungseffekt: Analysetools könnten Menschen dazu veranlassen, ihr Verhalten zu ändern, etwa eine Demonstration nicht zu besuchen oder Kontakte zu meiden, aus Furcht, in Datenbanken zu landen.

Konkrete Ergebniszahlen oder Wirkungsbelege liegen aus den verfügbaren Quellen nicht vor. Die Beschaffungsentscheidung zugunsten von ChapsVision gilt bislang als nicht offiziell bestätigt.

Der Einsatz solcher Software ist rechtlich und politisch umstritten. Die GFF hat bereits erfolgreich eine Verfassungsbeschwerde gegen die schrankenlose Nutzung von Palantir-Software durch deutsche Sicherheitsbehörden geführt: 2023 erklärte das Bundesverfassungsgericht die anlasslose automatisierte Datenauswertung im hessischen Kontext im Wesentlichen für verfassungswidrig. Weitere Beschwerden gegen Bayern und eine reformierte hessische Regelung sind noch anhängig.

Die Linken-Politikerin Clara Bünger kritisiert die Beschaffungsentscheidung als „Etikettenschwindel": „Das eigentliche Problem ist nicht, woher die Software kommt, sondern die dahinterstehende Logik: nämlich die automatisierte Zusammenführung und Durchleuchtung massiver Datenmengen durch einen Nachrichtendienst." Sie fordert klare gesetzliche Regelungen mit strengen Grenzen und wirksamer Kontrolle, andernfalls würden Grundrechte verletzt.

Für den geplanten Einsatz von KI im BfV sind noch umfangreiche gesetzliche Reformen erforderlich. Das Bundesparlament hat das abschließende Wort über die im Referentenentwurf vorgesehenen Befugnisse.