Eine Woche war es damals noch bis zur Brexit-Abstimmung. Der schien eigentlich so gut wie abgewendet. Knapp, aber immerhin. Dann aber kippte binnen weniger Tage die Stimmung im Land, und der Brexit kam. Wie sich hinterher herausstellte, die entscheidenden Prozent bei der Abstimmung kamen über digitale Wählerbeeinflussung. Über illegal genutzte Facebook-Daten von Personen und eine Software von Cambridge Analytica, die zielgenau Falschinformationen an die Personen verteilte. Inzwischen haben wir KI für alle und mehr Social Media denn je. Und eine Wahl in Sachsen, die polarisiert.

Kommunikationswissenschaftler und KI-Experten schauen derzeit sehr genau hin, was sich da vor den beiden Landtagswahlen in Sachsen und Thüringen im Netz tut. „Künstliche Intelligenz und Tools wie ChatGPT haben aus meiner Sicht die Möglichkeit der Wahlbeeinflussung verstärkt“, sagt dazu Michael Färber, Informatikprofessor an der TU Dresden und im Team von Scads.AI. Dies ist eines von bundesweit fünf Kompetenzzentren für Künstliche Intelligenz in Dresden und Leipzig.

Nur, sehr viel bleibt selbst den KI-Spezialisten verborgen. Es gibt KI für jedermann. Es gibt immer mehr Dienste und Anbieter bei Social Media und damit wird alles immer weniger überschaubar. Es sei für die Forschung extrem schwierig herauszufinden, was da genau in den Gruppen vor sich gehe, wie das Land also tickt, sagt Sven Engesser. Er ist Professor für Wissenschaftskommunikation an der TU Dresden. Niemand wisse wirklich, was in welchem Maße wo genau an Inhalten zirkuliere. „Das ist eine Blackbox.“ Die Daten und Zugänge liegen bei den großen Tech-Firmen.

Wahlbeeinflussung in Sachsen

„Im Wahlkampf bedienen sich alle Parteien in Deutschland digitaler Plattformen“, sagt Marianne Kneuer, Professorin für politische Systeme und Systemvergleich an der TU. Auch sie ist beim KI-Center Scads.AI beteiligt. Prinzipiell unterscheiden müsse man aber diesen legitimen Wahlkampf in den digitalen Medien von den kriminellen Handlungen.Wenn personenbezogene Daten wie Wohnort, Alter, Religion, politische Haltung und so für zielgruppengenaue Wahlwerbung genutzt werden, ist dies illegal in Deutschland. Microtargeting heißt das. „Was wir aus den Studien wissen, halten sich die Parteien in Deutschland da noch sehr zurück“, sagt Kommunikationsforscher Engesser. Anders in den USA, wo dies möglich und für die Parteien absolut lohnenswert ist, diese Methode in bestimmten Swing-Staaten einzusetzen.

Der Wahlkampf von Donald Trump sei ein Beispiel gewesen, bestätigt auch die Politikwissenschaftlerin Kneuer. Dort seien die Menschen regelrecht geflutet worden mit Informationen, die nicht nur einseitig, sondern auch falsch waren. Desinformation ist das. Bei der Präsidentenwahl in der Slowakei war das unter anderem auch so geschehen. Marianne Kneuer hält Desinformationen für das derzeit Gefährlichste, um Meinungen zu manipulieren. Auch bei uns.

Handelsübliche Tools der KI machen vieles inzwischen möglich. Längst können Bilder und Videos nahezu perfekt manipuliert werden. Oder ein Text wird von einer ausgewählten Stimme verlesen. Desinformation funktioniert durchaus international. Sie kommt auch von außen zu uns. „Deutschland ist definitiv ein Zielland russischer Desinformationskampagnen. Und nicht erst jetzt und nicht nur im Zusammenhang von Wahlen“, sagt Kneuer. „Ich gehe davon aus, dass das daher auch bei den Wahlen in Ostdeutschland der Fall ist. Welche Dimension das hat, ist schwieriger zu beurteilen.“

Nicht nur die Forschung schaut in die sozialen Netzwerke. Noch tiefer taucht dort der Verfassungsschutz ein mit noch ganz anderen technischen Möglichkeiten. Details sind freilich geheim: „Im Interesse des Methodenschutzes kann keine Auskunft darüber erteilt werden, welche Beeinflussungsverfahren von uns detektiert werden können“, heißt es dazu auf SZ-Anfrage vom Bundesamt für Verfassungsschutz (BfV). Dem sächsischen Landesamt für Verfassungsschutz liegen nach dessen Auskunft bisher keine Erkenntnisse zur Manipulation der Sachsenwahl vor.

Das Bundesamt BfV bleibt dennoch gewarnt. Nicht zuletzt aus seinen Erkenntnissen von der Europawahl in diesem Jahr. Das BfV hatte sich unter anderem der russischen Einflussnahme gewidmet. Vor allem um die Aktivitäten des mutmaßlichen russischen Desinformationsnetzwerks „Doppelgänger“ sei es dabei im Vorfeld der Wahl gegangen, teilte das BfV auf Anfrage der SZ mit. „Das BfV konnte hinsichtlich konkreter Sachverhalte auch nachweisen, dass das Doppelgänger-Netzwerk in der Lage ist, schnell auf aktuelle Ereignisse in Deutschland zu reagieren und angepasste Desinformationskampagnen operativ gezielt umzusetzen.“ Es hat also tagesaktuell in die politische Debatte in Deutschland eingegriffen.

Doppelgänger aus Russland unterwegs in Deutschland

In einem 45-seitigen Bericht hat der bayerische Verfassungsschutz dargelegt, wie die russische Einflussnahme funktioniert. Mittels umfangreicher technischer Analysen wurde die Desinformationskampagne „Doppelgänger“ aufgedeckt. Es ging dabei um die Verbreitung bewusster Falschinformation und pro-russischer Haltungen, um in westlichen Gesellschaften Zweifel an liberalen demokratischen Werten zu säen, heißt es in der Studie. Hunderttausende gefälschte Nutzerprofile wurden dazu erstellt, um die Fakenews möglichst breit zu verteilen.

Dutzende Webseiten auch großer Medien wurden gefälscht. Diese gefälschten Informationen und Webseiten wurden dann vor allem über Facebook und X verbreitet.Server-Spuren, kyrillische Schriftzeichen, die als Fragmente erhalten blieben, haben die Spur nach Russland zurückverfolgen lassen. Und selbst die Arbeitszeiten des Doppelgänger-Teams waren rekonstruierbar, weil an die Moskauer Zeitzone angepasst, ebenso wie russische Feiertage.

Dennoch, „die Wirkung von KI und von Social Media sollte man nicht überschätzen. Das hält sich durchaus in Grenzen“, relativiert der Kommunikationsforscher Sven Engesser die Gefahr für Sachsen. Deutschland sei durch sein Verhältnis-Wahlsystem generell weniger attraktiv für Wahlmanipulation als andere Länder, in denen fundamentale Richtungsentscheidungen von einer Mehrheitswahlentscheidung abhängen. Wie bei Trump und Harris. „Deshalb ist die Gefahr bei uns und erst recht bei Landtagswahlen nicht so groß. Aber wir müssen es im Blick behalten.“ Sachsen sei möglicherweise dennoch aus einem ganz anderen Grund für solche Akteure aus dem In- und Ausland interessant: „Man könnte schon den Wahlkampf in Sachsen mal als Testfeld benutzen“, sagt Engesser.

Es gibt Forschung auch dazu, wie man diese digitalen Systeme sicherer machen kann gegen Fake News, berichtet TU-Softwareprofessor Michael Färber. „Artefakte, also digitale Fehler der Bearbeitung, können KI-Bearbeitung erkennbar machen. Daran wird gearbeitet.“ Aber gleichzeitig verbessern sich auch die technischen Möglichkeiten, diese Bearbeitung zu verbergen. „Das ist schon ein Katz-und-Maus-Spiel.“ Die Hoffnung auf eine Art Virenscanner für Deep Fakes und Desinformation bleibt, aber „das wird noch ein bisschen dauern.“

Solange kommt es vor allem auf die Menschen selbst an. „Wir alle müssen sensibler werden in Bezug auf Information und diese viel stärker hinterfragen“, sagt Politikwissenschaftlerin Marianne Kneuer. „Wir brauchen ein anderes Verständnis im Umgang mit Informationen. Wir können die nicht mehr wie vor zehn Jahren einfach so hinnehmen.“ Dem kann KI-Forscher Michael Färber nur zustimmen. „Es wichtig, dass man sensibel bleibt und nicht einfach alles so hinnimmt.“

Was die kommende Landtagswahl und Manipulationen angeht, wird sich manches nie, anderes später herausfinden lassen. Bis kommendes Jahr läuft bei Marianne Kneuer noch ein Forschungsprojekt, das untersucht, inwieweit Desinformationen über die sozialen Medien die Glaubwürdigkeit von demokratischen Institutionen beeinträchtigen. Damit könnte sich dann vielleicht zeigen lassen, ob dies auch bei der Sachsen-Wahl so versucht wurde.