Eine neue Untersuchung hat ergeben, dass eine pro-russische Desinformationskampagne, die als Operation Overload bekannt ist, kostenlose KI-Tools nutzt, um eine massive „Inhalts-Explosion“ zu erzeugen. Diese Kampagne zielt darauf ab, bestehende Spannungen rund um globale Wahlen, den Konflikt in der Ukraine und Themen wie Einwanderung zu verschärfen. Laut den Forschern wurde diese Kampagne, die viele Namen trägt, darunter auch Matryoshka, im Jahr 2023 ins Leben gerufen und steht in Verbindung mit der russischen Regierung.
Die Analyse, die letzte Woche veröffentlicht wurde, zeigt, dass die Kampagne in der Lage ist, Millionen von Aufrufen weltweit zu generieren. Der Hauptfokus liegt auf der Ukraine, aber auch andere demokratische Länder werden ins Visier genommen. Durch die Verwendung von KI-generierten Inhalten versucht die Kampagne, falsche Narrative durch die Nachahmung von Medienorganisationen zu verbreiten, was zu einer Spaltung in den betroffenen Ländern führen soll.
Hintergründe und Kontext
Operation Overload hat in den letzten Monaten an Schwung gewonnen, wobei von September 2024 bis Mai 2025 die Menge an durch die Kampagne produziertem Inhalt stark angestiegen ist. Forscher identifizierten 230 einzigartige Inhalte, die zwischen Juli 2023 und Juni 2024 beworben wurden, darunter Bilder, Videos und gefälschte Webseiten. Allein in den letzten acht Monaten wurden jedoch 587 einzigartige Inhalte erzeugt, meist mithilfe von KI-Tools.
Diese Entwicklung ist nicht nur eine technische Errungenschaft, sondern markiert auch einen Wendepunkt in der Art und Weise, wie Desinformation verbreitet wird. Die Forscher von Reset Tech, einer Londoner Non-Profit-Organisation, die sich mit der Verfolgung von Desinformationskampagnen befasst, und Check First, einem finnischen Softwareunternehmen, beschreiben diesen Trend als „eine Verschiebung hin zu skalierbareren, mehrsprachigen und zunehmend raffinierten Propagandatechniken“.
Die Verwendung von kostenlosen, benutzerfreundlichen KI-Tools hat es den Akteuren der Kampagne ermöglicht, Inhalte schneller und effizienter zu produzieren. Dies hat dazu geführt, dass mehr Geschichten in verschiedenen Formaten und Sprachen erstellt werden können, was die Reichweite und den Einfluss der Kampagne erheblich erhöht hat. Diese Technik, die als „Inhaltsamalgamierung“ bezeichnet wird, erlaubt es den Betreibern, mehrere Inhalte zu erstellen, die dasselbe Narrativ fördern, und verstärkt die propagandistische Wirkung.
Investigative Enthüllungen
Die Forscher waren überrascht von der Vielfalt der Tools und Inhalte, die von der Kampagne verwendet werden. Aleksandra Atanasova, die leitende Forscherin für Open-Source-Intelligenz bei Reset Tech, erklärte, dass die Vielfalt der Inhalte, die die Kampagne verwendet, bemerkenswert ist. „Es ist, als hätten sie ihre Palette diversifiziert, um verschiedene Perspektiven der Geschichten einzufangen. Sie schichten verschiedene Arten von Inhalten übereinander“, sagte sie im Interview.
Dabei wurden keine spezialisierten KI-Tools verwendet; die Kampagne bedient sich stattdessen allgemein zugänglicher KI-gestützter Sprach- und Bildgeneratoren. Diese Tools sind vor allem deshalb so effektiv, weil sie einer breiten Öffentlichkeit zugänglich sind. Dies stellt eine erhebliche Herausforderung für die Plattformen dar, die versuchen, diese Desinformation einzudämmen.
In ihren Recherchen konnten die Wissenschaftler ein bestimmtes Tool identifizieren, das von den Kampagnenteilnehmern verwendet wird: Flux AI. Dieses Text-zu-Bild-Generator-Tool wird von Black Forest Labs, einem in Deutschland ansässigen Unternehmen, entwickelt. Durch die Verwendung des SightEngine-Bildanalyse-Tools konnten die Forscher mit hoher Wahrscheinlichkeit feststellen, dass mehrere gefälschte Bilder, die von der Overload-Kampagne verbreitet wurden, mithilfe von Flux AI erstellt wurden.
Ein Beispiel für die durch Flux AI generierten Bilder sind solche, die angeblich Muslime zeigen, die in Berlin und Paris randalieren und Feuer legen. Die Forscher konnten Bilder generieren, die dem Stil der veröffentlichten Bilder ähnelten, indem sie diskriminierende Begriffe in die Bildbeschreibungen einfügten, wie etwa „wütende muslimische Männer“. Dieses Vorgehen verdeutlicht, wie KI-Modelle missbraucht werden können, um Rassismus zu propagieren und anti-muslimische Stereotype zu fördern.
Auswirkungen und Reaktionen
Die weitreichenden Folgen dieser Desinformationskampagne sind alarmierend. Sie beeinflusst nicht nur die öffentliche Meinung, sondern kann auch zu realen Konsequenzen in politischen und sozialen Kontexten führen. Die Verbreitung falscher Informationen kann das Vertrauen in Medien und Institutionen untergraben und zu einer weiteren Polarisierung der Gesellschaft führen.
Politische Analysten und Experten warnen, dass solche Kampagnen die demokratischen Prozesse destabilisieren können. Die Fähigkeit, in Echtzeit große Mengen an überzeugenden Inhalten zu generieren, stellt eine neue Herausforderung für Regierungen und Plattformen dar, die sich um die Aufrechterhaltung der Informationsintegrität bemühen. Experten bestätigen, dass die Bekämpfung dieser Bedrohung innovative Ansätze und internationale Zusammenarbeit erfordert.
Auch die sozialen Medien sind in der Pflicht. Plattformen wie Facebook und Twitter müssen eigene Maßnahmen ergreifen, um die Verbreitung von Desinformation einzudämmen. Die Verantwortung, die durch die Nutzung solcher Technologien entsteht, ist enorm, und es ist entscheidend, dass die Unternehmen effektive Strategien entwickeln, um diese Herausforderungen zu bewältigen.
Zukünftige Entwicklungen
Die Entwicklung der Technologie wird weiterhin einen bedeutenden Einfluss auf die Art und Weise haben, wie Desinformation verbreitet wird. Mit dem Aufkommen immer leistungsfähigerer KI-Tools könnte die Skalierung und Geschwindigkeit von Propagandakampagnen zunehmen. Dies stellt eine ernsthafte Bedrohung für demokratische Gesellschaften dar, die sich bereits mit den Auswirkungen von Fake News und Desinformation auseinandersetzen müssen.
Forscher und Analysten sind sich einig, dass es entscheidend ist, die Öffentlichkeit über die Mechanismen der Desinformation aufzuklären. Bildung und Aufklärung sind Schlüsselfaktoren im Kampf gegen diese Bedrohungen. Die Gesellschaft muss lernen, kritisch mit Informationen umzugehen und die Quellen zu hinterfragen, um den Einfluss solcher Kampagnen zu minimieren.
Operation Overload ist ein Beispiel dafür, wie technologische Innovationen für destruktive Zwecke genutzt werden können. Umso wichtiger ist es, dass Regierungen, Unternehmen und die Zivilgesellschaft gemeinsam Strategien entwickeln, um diese Herausforderungen anzugehen und die Integrität der Informationslandschaft zu schützen.
