LfK durchsucht Plattformen mit KIVI nach Rechtsverstößen

Die Landesanstalt für Kommunikation Baden-Württemberg setzt automatisierte Systeme ein, um digitale Inhalte auf mögliche Verstöße gegen den Medienstaatsvertrag zu prüfen. Nach den vorliegenden Auszügen steht dieser Einsatz im Kontext der Medienaufsicht und einer parlamentarischen Anfrage zum KI-Einsatz durch Landesmedienanstalten.

Die LfK nutzt das KI-basierte Werkzeug KIVI. Das System durchsucht große Datenmengen auf sozialen Netzwerken und Videoplattformen nach rechtswidrigen Inhalten. In die Untersuchungen einbezogen sind X, TikTok, Facebook und YouTube.

Nach den vorliegenden Informationen erfasst und analysiert KIVI mehr als 10.000 Internetseiten und Nutzerprofile. Ziel der technologischen Unterstützung ist die Identifizierung von Inhalten, die gegen Bestimmungen des Medienstaatsvertrags verstoßen.

KIVI wird als KI-basiertes Werkzeug beschrieben. Es dient der systematischen Durchsuchung von Daten auf den genannten Plattformen. Der Ansatz ist auf die Verarbeitung von Datenmengen ausgerichtet, die durch rein manuelle Prüfprozesse kaum zu bewältigen wären.

Als belegter Umfang des Einsatzes werden mehr als 10.000 erfasste und analysierte Internetseiten sowie Nutzerprofile genannt. Konkrete Angaben zur Zahl identifizierter rechtswidriger Inhalte, zu eingeleiteten Verfahren oder zu Fehlerraten enthalten die vorliegenden Auszüge nicht.

Die parlamentarische Debatte umfasste auch die Frage einer Datenweitergabe an Sicherheitsbehörden. Nach Angaben des Innen- und des Justizministeriums werden keine konkreten Einzelinhalte an das Landesamt für Verfassungsschutz übermittelt. Zudem besteht nach diesen Angaben keine formale Vereinbarung zwischen der LfK und dem Nachrichtendienst über eine solche Zusammenarbeit.

Ein Sprecher des Verfassungsschutzes erklärte Ende Juni, es gebe einen regelmäßigen und engen Austausch mit der LfK. Die Auszüge stellen diese Angaben neben die Aussagen der Ministerien zur fehlenden formalen Vereinbarung. Angaben dazu, welche Inhalte KIVI konkret als rechtswidrig einstuft oder wie Prüfungsergebnisse weiterverarbeitet werden, liegen in den bereitgestellten Quellen nicht vor.