KI-Übersichten in der Schweizer Demokratie

Während des Abstimmungskampfs zur Initiative „Keine 10-Millionen-Schweiz“ untersuchten AlgorithmWatch CH und das Institut für Informatik der Universität Zürich die Rolle automatisierter KI-Übersichten bei der Informationssuche. Hintergrund ist die wachsende Bedeutung solcher Antworten für die demokratische Meinungsbildung. Nutzerinnen und Nutzer erhalten bei Suchmaschinen zunehmend nicht nur eine Liste von Links, sondern direkt eine generierte Antwort.

Das Institut für Informatik der Universität Zürich wertete gemeinsam mit AlgorithmWatch CH über 170.000 automatisiert generierte Suchanfragen aus. Die Untersuchung erfasste Suchanfragen bei Google und Bing und prüfte, wie häufig eine automatisierte KI-Übersichtsantwort erschien und auf welche Quellen sie verwies.

Zusätzlich untersuchten die Beteiligten die in den KI-Übersichten verlinkten Quellen. Dabei betrachteten sie unter anderem, ob diese Quellen ausgewogen waren und ob sie der Initiative „Keine 10-Millionen-Schweiz“ zustimmend oder kritisch gegenüberstanden.

Die Auswertung bezog sich auf automatisierte Suchanfragen und die darauf ausgegebenen KI-Übersichten. Erfasst wurde zunächst das Auftreten einer KI-Übersicht bei Google und Bing. Anschließend wurden die herangezogenen und verlinkten Quellen analysiert.

Bei rund einem Drittel der herangezogenen Quellen handelte es sich um ausgewogene Quellen, vor allem um journalistische Beiträge oder Webseiten von Behörden. Außerdem zeigte die Untersuchung, dass mehr der verwendeten Quellen der Initiative kritisch gegenüberstanden. AlgorithmWatch CH betonte jedoch, dass die Ausrichtung der Quellen keine Aussage darüber erlaubt, welche Schlagseite die jeweilige KI-Übersichtsantwort hatte.

Die quantitative Auswertung, wie ausgewogen die Antworten selbst sind, stand laut Quelle noch aus. Zwar listeten die KI-Übersichten in der Regel Argumente dafür und dagegen auf, die Darstellung konnte sich aber in der Textlänge und Gewichtung unterscheiden.

Bei 43 Prozent der Google-Anfragen erschien eine KI-Übersicht als Antwort. Rund ein Drittel der herangezogenen Quellen war ausgewogen. Zu den ausgewogenen Quellen zählten vor allem journalistische Beiträge und Behördenwebseiten.

Die Quellenanalyse ergab außerdem, dass mehr verwendete Quellen kritisch gegenüber der Initiative standen. Daraus lässt sich laut AlgorithmWatch CH jedoch nicht ableiten, ob die KI-Übersichten selbst eine entsprechende politische Schlagseite hatten. Eine abschließende quantitative Bewertung der Ausgewogenheit der Antworten lag noch nicht vor.

Die Untersuchung ordnet KI-Übersichten als Informationsquelle ein, die für die demokratische Meinungsbildung relevant ist. Als problematisch wird dabei beschrieben, dass Nutzerinnen und Nutzer bei Suchanfragen direkt eine plausibel und autoritativ wirkende KI-generierte Antwort sehen und die Suchmaschine nicht verlassen. Die Quelle verweist in diesem Zusammenhang auf zunehmende „Zero-Click-Searches“.

AlgorithmWatch CH fordert mehr Transparenz darüber, wie KI-Übersichten zustande kommen. Als offene Frage wird außerdem genannt, dass die Integration generativer KI in einem Schweizer Gesetzesentwurf über Kommunikationsplattformen und Suchmaschinen nicht ausdrücklich mitreguliert sei. Die Untersuchung liefert damit Daten zum Auftreten von KI-Übersichten und zu den von ihnen verwendeten Quellen; eine quantitative Bewertung der Ausgewogenheit der Antworten war zum beschriebenen Zeitpunkt noch nicht abgeschlossen.