AlgorithmWatch bewertet EU-AI-Omnibus als Rückschritt bei KI-Regulierung

Der EU AI Act wurde nach jahrelangen Verhandlungen verabschiedet, doch noch bevor seine wichtigsten Schutzbestimmungen in Kraft traten, eröffnete die Europäische Kommission das Gesetz erneut, unter dem Schlagwort „Vereinfachung". Das Ergebnis ist das sogenannte AI Omnibus-Paket. AlgorithmWatch und mehrere europäische Partnerorganisationen bewerten diesen Vorgang als politisch folgenreich: Das Paket gehe „weit über technische Änderungen hinaus".

Konkret enthält der AI Omnibus laut der gemeinsamen Analyse folgende Eingriffe: Er verzögert Pflichten für Hochrisiko-KI-Systeme, schwächt die öffentliche Transparenz, verändert die Anwendbarkeit des AI Acts auf industrielle KI und fügt in letzter Minute neue verbotene Praktiken hinzu. Die Analyse betont, dass es sich dabei um „politische Entscheidungen mit realen Konsequenzen für Grundrechte und Rechenschaftspflicht" handelt.

AlgorithmWatch hat gemeinsam mit weiteren europäischen Organisationen eine gemeinsame Analyse des AI Omnibus veröffentlicht. Darin werden die Risiken und Mängel des verabschiedeten Pakets systematisch benannt. Die Analyse richtet sich gegen den Prozess selbst wie gegen die inhaltlichen Änderungen.

Darüber hinaus führt AlgorithmWatch eigenständige Untersuchungen zu KI-Einsatz in Regierungen durch: Mittels Informationsfreiheitsanfragen, etwa an das Bundesministerium des deutschen Digitalministers Karsten Wildberger, erhebt die Organisation Daten darüber, wie und in welchem Umfang Chatbots in staatlichen Entscheidungsprozessen eingesetzt werden. In einem konkreten Fall ergab eine solche Anfrage, dass Wildberger nach eigenen Angaben Chatbots täglich ein bis zwei Stunden zur Strukturierung seines Denkens nutzt, sein Ministerium auf Anfrage jedoch erklärte, er verwende Chatbots „in seiner Eigenschaft als Digitalminister" nicht. Diesen Widerspruch dokumentiert AlgorithmWatch als Beispiel für mangelnde Transparenz beim KI-Einsatz in der Regierung.

Ergänzend untersucht AlgorithmWatch, gemeinsam mit AlgorithmWatch CH, den Chatbot-Einsatz in Regierungen in Deutschland, der Schweiz und dem Vereinigten Königreich. Grundlage sind öffentlich zugängliche Transparenzregister wie der deutsche „Marktplatz der KI-Möglichkeiten", die Projektdatenbank des Schweizer CNAI sowie die britischen Algorithmic Transparency Records.

Die Methodik von AlgorithmWatch kombiniert mehrere Quellen: Auswertung öffentlicher Transparenzregister und Regierungsberichte, Informationsfreiheitsanfragen an Ministerien sowie eigene kleine Experimente mit großen Sprachmodellen (LLMs). Die Organisation bezeichnet ihren Ansatz selbst als „vorläufige Eindrücke und Sichtweisen auf Basis einer Kombination von Quellen, keine systematische Übersicht", und verweist explizit auf Einschränkungen durch begrenzte Datenzugänglichkeit und die schnelle Veränderlichkeit des Themenfeldes.

Im Bereich AI Omnibus identifiziert die Analyse konkrete Rückschritte: verzögerte Hochrisiko-Pflichten, geschwächte Transparenzanforderungen und veränderte Anwendungsregeln für industrielle KI. AlgorithmWatch wertet den gesamten Prozess als gefährlichen Präzedenzfall: „Wenn neu verabschiedete Gesetze zu digitalen Rechten wieder geöffnet werden können, bevor sie Anwendung finden, können mächtige Akteure die Umsetzung als zweite Chance nutzen, um Regeln abzuschwächen, die ihnen missfallen."

Für den Bereich Chatbot-Nutzung in Regierungen dokumentiert AlgorithmWatch eine strukturelle Lücke: Selbst dort, wo offizielle Nutzungsrichtlinien bestehen, bleibt die tatsächliche Praxis, etwa das informelle Nutzen von Chatbots zur Ideenstrukturierung, häufig unklar und unzureichend erfasst.

AlgorithmWatch positioniert sich mit diesen Arbeiten als kritische Beobachterin an der Schnittstelle von KI-Regulierung und demokratischer Rechenschaftspflicht. Die Analysen zielen nicht auf kommerzielle Anwendungsfälle, sondern auf staatliches Handeln: Wie werden KI-Systeme in politischen Entscheidungsprozessen eingesetzt, und welche Konsequenzen hat dies für Grundrechte und demokratische Kontrolle? Der AI-Omnibus-Bericht ist ein kollaboratives Produkt mehrerer europäischer Organisationen; die Chatbot-Studie ist als laufendes Forschungsprojekt angelegt, das auf bessere Richtlinien und Zusammenarbeit mit relevanten Partnern abzielt.