Der Anruf, der nie stattfand

Blog · Hintergrund · 11. Mai 2026

Der Anruf, der nie stattfand

Eine Geschichte über vier Geister, fünfundzwanzig Millionen Dollar — und die unbequeme Wahrheit, dass die größte Gefahr unserer Zeit nicht von außen kommt, sondern auf unserem Bildschirm aufgeht.

1.300 der mächtigsten Köpfe der Welt trafen sich heimlich in einem Schweizer Bergdorf – was sie als zweitgrößte Gefahr für die Menschheit einstuften, hast du heute Morgen schon dreimal geteilt.

Es gibt keine Explosion, keinen Schuss und kein Erdbeben – und doch wankt gerade das Fundament, auf dem unsere Gesellschaften stehen. Die mächtigste Waffe des 21. Jahrhunderts braucht keinen Sprengstoff, keinen Soldaten und keinen Befehl – nur einen Daumen, der auf 'Teilen' tippt.

Hongkong, Januar 2024

Es war ein gewöhnlicher Donnerstagmorgen, als ein Finanzangestellter im Hongkonger Büro des britischen Ingenieurbüros Arup eine E-Mail erhielt. Der Chief Financial Officer – aus London – kündigte eine „vertrauliche Transaktion" an. Ein einzelner Mitarbeiter sollte sie ausführen. Schnell. Leise. Ohne Rückfragen ans Hauptbüro.

Etwas stimmte nicht. Der Mann wurde misstrauisch. Phishing-Versuche kannte er, dafür hatte das Unternehmen ihn geschult. Also schlug er eine Videokonferenz vor – um sich persönlich zu vergewissern.

Was dann auf seinem Bildschirm erschien, ließ jeden Zweifel verstummen: der CFO, mehrere Vorstandskollegen, vertraute Gesichter, vertraute Stimmen. Sie sprachen miteinander. Sie unterbrachen sich. Sie lachten an den richtigen Stellen. Sie wirkten gestresst, weil die Zeit drängte. Es war alles da, was eine echte Konferenz ausmacht – mit einer Ausnahme: Keiner von ihnen existierte.

In den folgenden Tagen führte der Mitarbeiter fünfzehn Überweisungen auf fünf Konten in Hongkong aus. Summe: 25 Millionen US-Dollar. Eine Woche später rief er beiläufig in London an, um eine Detailfrage zu klären – und erfuhr: Es hatte nie eine solche Konferenz gegeben. Jede einzelne Person auf seinem Bildschirm war eine KI-generierte Fälschung gewesen.

Arup ist nicht irgendein Unternehmen. Es hat das Sydney Opera House gebaut, das Pekinger Olympiastadion, das Centre Pompidou. Wenn ein Konzern dieser Klasse in Sekunden ausgehebelt werden kann, dann lautet die eigentliche Frage nicht mehr, ob das gleiche dir, deinem Arbeitgeber, deinem Staat passieren kann.

Die Frage lautet: Wann.

---

Was Davos heimlich vor sich her schiebt

Einmal im Jahr trifft sich die mächtigste Versammlung des Planeten in einem Schweizer Bergdorf, um über Risiken zu sprechen. Im Januar 2026, beim 21. Global Risks Report des World Economic Forum, geschah etwas, das wenig Beachtung in den Tagesschauen fand, aber das Fundament unserer Zeit beschreibt: Über 1.300 Risikoanalysten – aus Wirtschaft, Politik, Wissenschaft und Geheimdiensten – stuften Falsch- und Desinformation als das zweitgrößte unmittelbare Risiko für die Menschheit ein.

Vor bewaffneten Konflikten. Vor Cyberangriffen. Vor extremen Wetterereignissen. Übertroffen nur von der Eskalation großer Wirtschaftsmächte.

Und das ist kein Ausreißer: Es ist bereits das dritte Jahr in Folge, dass Fake News so weit oben in der Liste stehen. Auch im Zehn-Jahres-Ausblick bleiben sie unter den vier größten Bedrohungen – nur überschattet von der Klimakrise.

Eine Zeile im Bericht wirkt fast beiläufig, fasst aber alles zusammen:

„Vertrauen – die Währung der Kooperation – verliert an Wert."

Wenn das stimmt, dann ist Hongkong nicht nur Hongkong. Dann ist die Geschichte vom Anruf, der nie stattfand, die Geschichte unserer Zeit.

---

Warum eine Lüge schneller fliegt als die Wahrheit

2018 saßen drei Wissenschaftler am MIT vor ihren Bildschirmen und sahen sich an, was sie da gerade gefunden hatten. Sie hatten elf Jahre Twitter-Geschichte ausgewertet – 126.000 Geschichten, geteilt von drei Millionen Menschen, viereinhalb Millionen Mal. Was sie sahen, ließ ihnen, in den eigenen Worten von Mitautor Deb Roy, ehemaliger Twitter-Chefwissenschaftler, „den Atem stocken".

Falschmeldungen verbreiteten sich siebzig Prozent häufiger als wahre Nachrichten. Sie erreichten ihre ersten 1.500 Menschen sechsmal schneller. Und – die vielleicht beunruhigendste Erkenntnis: Es waren nicht die Bots. Als die Forscher alle automatisierten Konten aus dem Datensatz strichen, blieb der Unterschied bestehen.

Es waren Menschen. Du. Ich. Wir alle, die wir auf „Teilen" tippen, weil eine Schlagzeile uns ein bisschen mehr Adrenalin schenkt.

Lügen sind oft das, was die Wahrheit nicht sein kann: emotional, ungeheuerlich, eindeutig. Unser Gehirn belohnt das Neue, das Empörende, das Spektakuläre. Die Wahrheit ist zu kompliziert für einen Tweet.

Sinan Aral, Hauptautor der Studie, fasste es später bitter zusammen:

„Wir entdecken gerade, dass Polarisierung ein hervorragendes Geschäftsmodell ist."

---

Vier Fronten eines unsichtbaren Krieges

Wenn Desinformation ein „systemisches Risiko" ist – wie Analysten es nennen –, dann heißt das: Sie greift nicht an einer Stelle an, sondern an allen gleichzeitig. Vier Fronten sind besonders heiß. Auf jeder gibt es bereits Tote, Verletzte oder gigantische Verluste.

Front 1: Die Demokratie

Es war der 23. Januar 2024, ein kalter Dienstag in New Hampshire. Tausende Wählerinnen und Wähler hoben den Telefonhörer ab und hörten eine vertraute Stimme: „Wichtige Botschaft an alle Demokraten – heute nicht zur Vorwahl gehen." Die Stimme klang wie Joe Biden. Sie war es nicht.

Es war eine KI-Stimme, geklont mit Software, die heute frei im Netz verfügbar ist. Der Auftraggeber wurde später identifiziert und angeklagt. Die Frage, wie viele Menschen wegen dieses einen Anrufs nicht wählen gingen, lässt sich nicht beantworten. Sicher ist nur eins: Es war billiger, eine US-Vorwahl zu manipulieren, als ein gebrauchtes Auto zu kaufen.

Microsoft-Analyst Clint Watts dokumentiert, dass die Zahl der vom Kreml betriebenen Einflussoperationen seit 2016 von zwei auf über siebzig gewachsen ist. „Sie haben heute Tausende Menschen, die in diesem Bereich arbeiten", sagt er. Im September 2024 deckte das US-Justizministerium die „Tenet Media"-Operation auf: 9,7 Millionen Dollar russisches Geld, geflossen in eine verdeckte Kampagne, die amerikanische Influencer einspannte – einige wussten nicht einmal, für wen sie eigentlich arbeiteten.

In Deutschland ist es ähnlich. Vor der Bundestagswahl 2025 warnte das hessische Innenministerium unmissverständlich: „Ausländische Akteure versuchen, Wahlen und demokratische Prozesse zu beeinflussen." Die unbequeme Zahl aus einer repräsentativen IU-Studie: 13,9 Prozent der Deutschen geben an, schon einmal wegen Fake News falsch gewählt zu haben. In einer Demokratie, in der Mehrheiten manchmal auf wenige tausend Stimmen schmelzen, ist das keine Statistik – das ist eine Drohung.

Und das gefährlichste daran: Selbst wenn eine Manipulation scheitert, gewinnen die Angreifer. Denn das Vertrauen ins Ergebnis bröckelt schon vorher. „Stop the Steal" begann nicht am 6. Januar 2021. Es begann Monate früher, mit jedem Tweet, der die Auszählung in Zweifel zog.

Front 2: Die Freiheit

Im November 2015 stieg der ägyptische Investigativjournalist Ismail Alexandrani aus einem Flugzeug am Roten Meer. Er hatte ein Manuskript dabei – über den Sinai, über das Militär, über das, was dort wirklich passierte. Er kam nie zu Hause an. Die Anklage: „Verbreitung falscher Nachrichten."

Er sitzt bis heute in Haft.

Das ist der perfide Trick, mit dem die Welt sich gerade neu sortiert: Der Kampf gegen Fake News wird zur Waffe gegen die Wahrheit selbst. Zwischen 2019 und 2023 wurden weltweit 91 Anti-Fake-News-Gesetze erlassen oder verschärft – häufig in Ländern, in denen Bürgerrechte ohnehin schrumpfen. Ägypten. Bahrain. Bangladesch. Die Elfenbeinküste. Russland. Die Türkei. Überall dieselbe Logik: Wer kritisiert, verbreitet „falsche Nachrichten" – und kommt dafür ins Gefängnis.

Die Geschichte hat einen zweiten Akt, der vielen unbequem ist. Auch in etablierten Demokratien wird der Vorwurf „Fake News" inzwischen so inflationär gegen unbequemen Journalismus geschwungen, dass die Friedensnobelpreisträgerin Maria Ressa warnt: „Erst werden Reporter als kriminell dargestellt. Dann werden sie es offiziell."

Wenn jede unbequeme Wahrheit als „Fake" weggewischt werden kann, muss niemand mehr eine Zeitung verbieten. Es reicht, sie zu diskreditieren. Die Schere im Kopf macht den Rest.

Front 3: Der soziale Frieden

Am 4. Dezember 2016 stieg ein 28-jähriger Mann aus North Carolina ins Auto, ein AR-15-Sturmgewehr im Kofferraum. Er fuhr 560 Kilometer bis Washington, D.C. Sein Ziel: eine Pizzeria namens Comet Ping Pong, in der – so hatte er online gelesen – ein satanistischer Kinderhandelsring um Hillary Clinton operiere. Er wollte die Kinder befreien.

Es gab keine Kinder. Es gab keinen Keller, in dem sie hätten festgehalten werden können. Es gab nur eine Pizzeria, ihre Angestellten und ein paar überraschte Gäste. Edgar Welch schoss in einem Hinterzimmer mit seinem Sturmgewehr. Wie durch ein Wunder starb niemand.

Vier Jahre später wurde aus dieser einen verirrten Verschwörung eine ganze Bewegung: QAnon. Und am 6. Januar 2021 stürmten Tausende Menschen das US-Kapitol, weil sie an eine Wahllüge glaubten. Bilanz: fünf Tote, über 200 Verhaftungen – und ein verletzter Mythos der ältesten Demokratie der Welt.

Das ist die Spur, die Falschinformationen ziehen, wenn sie von Bildschirmen in die Straßen wandern. Aber sie tötet auch leiser: Schätzungen der Brown University zufolge wären in den USA zwischen Januar 2021 und April 2022 etwa 319.000 COVID-Tote vermeidbar gewesen, hätten sich die Betroffenen impfen lassen. Die Skepsis gegen die Masernimpfung – ausgelöst von einer einzigen, längst widerrufenen Studie – kostete Europa 2019 rund 100.000 Masernfälle.

Und dann sind da die unsichtbaren Schäden: Familien, die an Verschwörungstheorien zerbrechen. Junge Menschen, die unter Stress, Angst und Streit leiden, weil sie nicht mehr unterscheiden können, was wahr ist. Migration als Sündenbock, der mit erfundenen Verbrechensgeschichten konstruiert wird, bis Brandsätze in Asylunterkünfte fliegen.

Die WHO hat ein Wort für dieses Phänomen geprägt: Infodemie. Eine Pandemie der Falschinformation, die jede reale Pandemie tödlicher macht.

Front 4: Die Wirtschaft

23. April 2013, 13:07 Uhr Ortszeit New York. Der Twitter-Account der Nachrichtenagentur Associated Press verschickt eine Eilmeldung: „Breaking: Zwei Explosionen im Weißen Haus, Barack Obama verletzt."

Drei Minuten später hatte der S&P-500-Index 136 Milliarden Dollar Marktwert verloren.

Es gab keine Explosion. Der Account war gehackt. Die Nachricht wurde innerhalb von Minuten zurückgenommen – aber der Schaden war real, in einer Welt, in der Algorithmen in Mikrosekunden auf Schlagzeilen reagieren.

Eine Studie der University of Baltimore beziffert die jährlichen Kosten von Desinformation weltweit auf rund 78 Milliarden US-Dollar – durch Börsenturbulenzen, Fehlentscheidungen, Reputationsschäden. Allein Fake-Reviews verursachen weitere 152 Milliarden Dollar pro Jahr. 89 Prozent des globalen E-Commerce-Umsatzes hängen an Online-Bewertungen – ein Mechanismus, der inzwischen systematisch verzerrt wird.

Und dann ist da die Geschichte, mit der dieser Text begann: Arup, 25 Millionen Dollar, vier Geister auf einem Bildschirm. Es war kein Einzelfall. Es war ein Vorbote. Versicherungsexperten warnen heute, dass Cyberpolicen unfinanzierbar werden könnten, wenn Deepfake-Betrug, Stimm-Klone und Identitätsdiebstahl weiter exponentiell zunehmen. Die Konsequenz: Unternehmen werden zunehmend auf ihren Schäden sitzen bleiben.

Was für Unternehmen gilt, gilt für ganze Volkswirtschaften: Wenn niemand mehr weiß, welcher Markt manipuliert ist, welche Bewertung echt, welche Bilanz vertrauenswürdig – dann ist nicht eine Branche krank. Dann ist der gesamte Vertrauenskredit infrage gestellt, auf dem moderne Wirtschaft basiert.

---

Die unheimliche Allianz

Berlin, 29. August 2020, später Nachmittag. Vor dem Reichstagsgebäude drängt sich eine Menschenmenge – Tausende, viele in weißen Kleidern, manche mit Yogamatten unterm Arm, manche mit Klangschalen, manche mit Reichskriegsflaggen. Aus der Menge löst sich eine Gruppe und rennt die breite Treppe hinauf. Drei Polizistinnen und Polizisten halten sie minutenlang allein auf. Ein Bild geht um die Welt: Demonstrantinnen mit schwarz-weiß-roter Fahne auf den obersten Stufen des deutschen Parlaments.

Sie nannten sich Querdenker. Sie waren Yogalehrerinnen. Sie waren Hebammen. Sie waren Heilpraktiker. Sie waren aber auch Reichsbürger. Sie waren AfD-Funktionäre. Sie waren Neonazis. Auf derselben Demo. Mit denselben Parolen. „Frieden, Freiheit, keine Diktatur!"

Es war die seltsamste politische Allianz, die Deutschland seit Langem gesehen hatte. Und in ihr verdichten sich alle vier Fronten, die wir gerade beschrieben haben. Wer verstehen will, wie aus Desinformation eine reale Bewegung wird, muss nach Deutschland blicken – und auf drei Forscherinnen und Forscher hören, die genauer hinschauten, als es vielen lieb war.

Das Paradox des „libertären Autoritarismus"

Der Basler Soziologe Oliver Nachtwey und seine Mitautorin Carolin Amlinger haben für ihr Buch Gekränkte Freiheit (Suhrkamp 2022) das Milieu der Querdenker so akribisch untersucht wie kaum jemand sonst: über 1.150 Online-Fragebögen in einschlägigen Telegram-Gruppen, biographische Tiefeninterviews, ethnographische Beobachtungen. Was sie fanden, widersprach jedem Klischee.

Die Querdenker waren nicht ungebildet. Sie waren nicht arm. Sie waren überdurchschnittlich oft Akademiker, Selbstständige, freie Berufe. Rund sechzig Prozent waren Frauen. Viele hatten in Wahlen zuvor Grün gewählt, sich politisch als links oder alternativ verstanden.

Und doch marschierten sie mit Neonazis.

Nachtwey und Amlinger prägten für diesen Typus einen Begriff, der seitdem die deutsche Soziologie umtreibt: „libertärer Autoritarismus". Im Namen der Freiheit gegen die Freiheit gerichtet. Wer sich als absolut autonom versteht, verteidigt am Ende nicht die Demokratie. Er verteidigt die Befreiung von gesellschaftlicher Rücksichtnahme. „Frei zu sein" bedeutet in dieser Logik: frei von Maskenpflicht, von Wissenschaft, von Verbindlichkeit – und schließlich auch frei von Solidarität mit denen, die anders sind oder anders denken. Das Antiautoritäre wird, fast unbemerkt, autoritär.

Die Sozialfigur, die dabei sichtbar wird, ist nicht die unterwürfige, die Adorno und Horkheimer einst beschrieben. Sie folgt keinem Führer. Sie folgt einer übersteigerten Vorstellung von sich selbst. Und genau das macht sie für Demokratien so schwer greifbar.

Wenn die Klangschale auf die Reichskriegsflagge trifft

Wie konnte aus dem grün-alternativen Milieu eine Allianz mit dem rechten Rand wachsen? Hier kommt eine zweite Forschungslinie ins Spiel.

Die Sozialpsychologin Pia Lamberty – heute Geschäftsführerin des Thinktanks CeMAS – und die Publizistin Katharina Nocun haben mit drei Bestsellern eine Diagnose geschärft, die in Deutschland lange unbequem war: Fake Facts (2020), True Facts (2021) und vor allem Gefährlicher Glaube (2022). Ihre zentrale These: Esoterik ist kein harmloses Hobby.

Rund dreißig Prozent der Menschen in Deutschland glauben an Astrologie, Wunderheilung oder die Wirkung von Glücksbringern. Das mag belustigt klingen. Aber dieselben Untersuchungen zeigen: Jede zweite Person teilt wissenschaftsfeindliche Haltungen. 45 Prozent glauben an geheime Organisationen mit großem politischem Einfluss. Fast jeder fünfte Deutsche glaubt an Verschwörungserzählungen rund um Impfungen.

Genau hier verläuft die Verbindungslinie, die Lamberty und Nocun freilegen. Esoterik ist häufig das Einfallstor für etwas, das ganz und gar nicht spirituell ist. Wer der Schulmedizin grundsätzlich misstraut, glaubt schneller an eine „Pharma-Verschwörung". Wer an verborgenes Geheimwissen glaubt, glaubt auch eher, dass „die da oben" die Wahrheit zurückhalten. Wer die Welt in Lichtwesen und Dunkelmächte teilt, ist nur einen Schritt entfernt vom dualistischen Weltbild rechtsextremer Verschwörungserzählungen.

Matthias Pöhlmann, Sektenbeauftragter der bayerischen evangelischen Kirche, fasst es in einem Satz zusammen, den Lamberty und Nocun gern zitieren:

„Esoterik wird zum trojanischen Pferd für Rechtsextremismus, Verschwörungsglauben und Antisemitismus."

Übrigens benutzen Lamberty und Nocun bewusst nicht den Begriff „Verschwörungstheorie". Eine Theorie sei etwas Wissenschaftliches, das man widerlegen könne. Was hier zirkuliere, sei aber kein prüfbarer Erklärungsansatz, sondern ein geschlossenes Weltbild. Sie schlagen vor: Verschwörungserzählung oder Verschwörungsmythos.

Die historische Spur, die viele lieber nicht sehen

Diese Allianz hat eine Vorgeschichte, die in deutschen Bio-Läden ungern erzählt wird.

Die russische Okkultistin Helena Blavatsky, Begründerin der Theosophie, prägte im 19. Jahrhundert die Lehre von „Wurzelrassen" – einer spirituellen Hierarchie der Völker, an deren Spitze die „arische Wurzelrasse" stehen sollte. Diese Idee floss direkt in die Lehren Rudolf Steiners ein, des Begründers der Anthroposophie – jener Bewegung, die heute Waldorfschulen, Demeter-Landwirtschaft und anthroposophische Medizin trägt. Steiner selbst sortierte Menschen nach Hautfarbe, schrieb der „weißen Rasse" das „Denkleben" zu und verbreitete als junger Mann Verschwörungsmythen, die Juden die Schuld am Ersten Weltkrieg gaben. Historikerinnen und Historiker dokumentieren diese Bezüge seit Jahren – innerhalb der anthroposophischen Bewegung sind sie bis heute nicht aufgearbeitet.

Aus derselben okkulten Tradition speisten sich später Teile der NS-Ideologie. Der Kreis schließt sich in der Gegenwart: Die deutsch-russische Anastasia-Bewegung, eine ökologisch-esoterische Siedlungssekte, vereint heute Naturromantik, völkisches Denken und Antisemitismus in einem Paket, das auf Esoterikmessen so harmlos daherkommt wie ein Edelstein-Anhänger. Lamberty und Nocun beschreiben in Gefährlicher Glaube, wie sie selbst auf einer solchen Messe einkauften: Heilsteine gegen Krebs, Aufkleber gegen 5G-Strahlung, Beratungen für umgerechnet dreistellige Beträge. Daneben: rechte Verlage, Reichsbürger-Literatur, Schoa-leugnende Vortragende.

Wenn die Lüge tötet

Diese Allianz wird gefährlich, wenn sie aufhört, virtuell zu sein.

Am 9. Oktober 2019, dem höchsten jüdischen Feiertag Jom Kippur, versuchte ein 27-Jähriger in Halle an der Saale mit selbstgebauten Waffen in eine Synagoge einzudringen, in der 51 Gläubige Gottesdienst feierten. Die Tür hielt stand. Er erschoss daraufhin zwei Passantinnen und Passanten. In seinem Manifest, das er live ins Internet streamte, fanden sich genau jene antisemitischen Verschwörungsmythen, die Lamberty seit Jahren als Frühwarnsignal markiert hatte: George Soros, der „große Austausch", die „verjudete Schulmedizin".

In einer repräsentativen CeMAS-Umfrage aus dem Frühjahr 2022 stimmten 37,6 Prozent der Menschen mit hoher Querdenken-Protestbereitschaft der Aussage zu, die Corona-Maßnahmen seien mit dem Nationalsozialismus vergleichbar – eine Relativierung des Holocaust, die noch wenige Jahre zuvor in Deutschland undenkbar gewesen wäre.

Warum diese eine Bewegung alle vier Fronten zusammenbindet

Die Querdenker waren nicht nur ein deutsches Sonderphänomen. Sie waren ein Lehrstück. In ihnen lassen sich alle vier Fronten in einer einzigen Bewegung studieren:

• Demokratie: Eine messbare Wählerwanderung von ehemals grün-alternativen Milieus zur AfD, akribisch dokumentiert in Amlinger/Nachtweys Studien.
• Freiheit: Die paradoxe Berufung auf „Meinungsfreiheit", die Wissenschaft, Medien und demokratische Institutionen pauschal als korrupt diskreditiert – und so deren Schutzfunktion aushebelt.
• Sozialer Frieden: Zerrissene Familien, Anschläge wie Halle, eine messbar gestiegene Schwelle für antisemitische und gewaltsame Übergriffe.
• Wirtschaft: Ein Milliardenmarkt aus alternativer Medizin, Globuli, „5G-Schutz-Aufklebern" und esoterischen Coachings, der zugleich das Kapital für die Verbreitung der Erzählungen liefert.

Was die deutsche Forschung der letzten Jahre vor allem zeigt: Desinformation ist nicht nur eine Frage von Russland, von Trolls oder von Deepfakes. Sie wächst auch mitten in der eigenen Gesellschaft – in Yoga-Studios und auf Bio-Märkten, in Waldorfschulen und auf Esoterikmessen. Überall dort, wo der berechtigte Wunsch nach Selbstbestimmung in eine Allergie gegen jede gemeinsame Wirklichkeit umschlägt.

Es ist der unbequemste Befund all dieser Studien: Die Lüge braucht keine ausländischen Akteure, um zu siegen. Sie braucht nur ein Vakuum aus Kränkung, Misstrauen und dem stillen Verlust gemeinsamer Tatsachen. Und in dieses Vakuum strömt alles, was eine einfache, beruhigende oder schmeichelhafte Erklärung anbietet.

---

Der Brandbeschleuniger heißt KI

Wenn man die letzten drei Jahre in einem einzigen Satz zusammenfassen müsste, wäre es dieser: Die Werkzeuge zur Fälschung von Realität sind schneller gewachsen als unsere Fähigkeit, mit ihnen umzugehen.

Ein gefälschtes Video zeigt AfD-Politikerin Alice Weidel bei ihrer angeblichen Vereidigung als Bundeskanzlerin. Eine russlandnahe Kampagne dichtet der damaligen deutschen Außenministerin Annalena Baerbock eine Affäre auf einer Auslandsreise an. Drei von vier US-Wählerinnen und Wählern sagen, sie seien im letzten Wahlkampf auf Deepfakes gestoßen.

Im aktuellen WEF-Bericht ist das Risiko „Negative Folgen von KI-Technologien" innerhalb eines Jahres im Zehn-Jahres-Ausblick von Rang 30 auf Rang 5 gesprungen. Es ist der größte Risiko-Sprung in der gesamten 21-jährigen Geschichte des Berichts.

Wenn Vertrauen die Währung der Kooperation ist, dann ist Desinformation die Inflation – und KI ist die Druckerpresse, die diese Inflation ins Hyperstadium treibt.

---

Was bleibt zu tun?

Es gibt keine einfache Antwort, und wer eine verspricht, lügt schon wieder. Aber es gibt Hebel, und sie liegen auf unterschiedlichen Ebenen.

Politisch kommt mit dem EU AI Act ab August 2026 die erste verbindliche Kennzeichnungspflicht für KI-generierte Inhalte und Deepfakes – mit Bußgeldern von bis zu sechs Prozent des globalen Jahresumsatzes. Es ist ein Anfang, kein Ende.

Strukturell muss anerkannt werden, dass Polarisierung kein Nebenprodukt sozialer Medien ist, sondern ihr Geschäftsmodell. Solange Empörung mehr Werbeeinnahmen generiert als Differenzierung, wird sich der Algorithmus nicht von selbst zähmen.

Persönlich bleibt eine simple Regel, die in fast jeder Forschungsarbeit zur Verbreitung von Fake News auftaucht: Falschmeldungen wirken über Emotion. Wer einen Inhalt liest und ein heftiges Gefühl spürt – Wut, Triumph, Empörung, Angst – sollte erst eine Minute warten, bevor er teilt. Eine Minute kostet nichts. Sie unterbricht den Mechanismus, mit dem Lügen sechsmal schneller fliegen als die Wahrheit.

---

Der Klick, der zählt

Sinan Aral, der MIT-Forscher hinter der wohl berühmtesten Studie zu diesem Thema, sagte einmal:

„Wir haben jetzt die Werkzeuge, die Realität neu zu schreiben – die Frage ist, ob wir die Reife haben, sie zu nutzen."

Die Antwort auf diese Frage entscheidet darüber, ob die Geschichte vom Anruf in Hongkong eine Anekdote bleibt – oder ein Vorgeschmack ist. Sie entscheidet, ob die Demokratie 2030 noch das ist, was sie 2020 war. Ob unsere Kinder in einer Welt aufwachsen, in der „Wahrheit" mehr ist als ein Marketingbegriff.

Was Risikoanalysten gerade so eindringlich warnt, ist nicht die einzelne Lüge. Es ist das, was passiert, wenn genug Lügen sich überlagern, bis kein Boden mehr bleibt, auf dem man steht.

Vertrauen ist die unsichtbare Infrastruktur einer Zivilisation. Sie zerbricht nicht in einem großen Erdbeben. Sie zerbröselt – Klick für Klick.

Und die einzig wirklich gute Nachricht steht im selben Material wie die schlechte:

Wir sind es, die klicken.

---

Quellen

Studien und Forschungsberichte

• World Economic Forum: Global Risks Report 2026 (21. Ausgabe). Davos, Januar 2026.
• Soroush Vosoughi, Deb Roy, Sinan Aral: The spread of true and false news online. In: Science 359 (6380), 9. März 2018.
• University of Baltimore / CHEQ: The Economic Cost of Bad Actors on the Internet. Studienreihe, 2019 ff.
• Robert Cavazos: The Impact of Fake Reviews on Trust in Online Commerce. 2021.
• Brown University School of Public Health: Estimated Preventable COVID-19 Deaths by U.S. State. Mai 2022.
• Johns Hopkins Center for Health Security: Analysen zur Pandemie-Kommunikation, 2020–2024.
• IU Internationale Hochschule: Fakt oder Fake? Eine repräsentative Befragung zur Mediennutzung. 2025.
• Microsoft Threat Analysis Center (MTAC): laufende Lageberichte zu Einflussoperationen, Clint Watts u. a.

Bücher

• Carolin Amlinger, Oliver Nachtwey: Gekränkte Freiheit. Aspekte des libertären Autoritarismus. Suhrkamp, Berlin 2022.
• Oliver Nachtwey, Robert Schäfer, Nadine Frei: Politische Soziologie der Corona-Proteste. Universität Basel, Working Paper, 2020.
• Oliver Nachtwey, Nadine Frei u. a.: Quellen des Querdenkertums. Eine politische Soziologie der Corona-Protestbewegung. Heinrich-Böll-Stiftung Baden-Württemberg, 2021.
• Katharina Nocun, Pia Lamberty: Fake Facts. Wie Verschwörungstheorien unser Denken bestimmen. Quadriga, Köln 2020.
• Katharina Nocun, Pia Lamberty: True Facts. Was gegen Verschwörungserzählungen wirklich hilft. Quadriga, Köln 2021.
• Katharina Nocun, Pia Lamberty: Gefährlicher Glaube. Die radikale Gedankenwelt der Esoterik. Quadriga, Köln 2022.
• Matthias Pöhlmann: Rechte Esoterik. Wenn sich alternatives Denken und Extremismus gefährlich vermischen. Herder, Freiburg 2021.
• Andreas Speit: Verqueres Denken. Gefährliche Weltbilder in alternativen Milieus. Ch. Links Verlag, Berlin 2021.

Behörden, Institute und NGOs

• US Department of Justice: Anklageschrift im Verfahren Tenet Media (Russische Einflussoperation), September 2024.
• Europäische Kommission: EU AI Act (Verordnung 2024/1689), in Kraft ab 1. August 2026.
• EU Institute for Security Studies (EUISS): Analysen zu hybriden Bedrohungen.
• World Health Organization (WHO): Berichte zur Infodemie im Kontext der COVID-19-Pandemie.
• Hessisches Innenministerium: Warnung vor ausländischen Einflussoperationen, Bundestagswahl 2025.
• GIGA — German Institute for Global and Area Studies, Hamburg.
• V-Dem Institute, Universität Göteborg: Democracy Reports.
• CeMAS — Center für Monitoring, Analyse und Strategie, Berlin.
• Reporters Without Borders / Reporter ohne Grenzen.
• International Bar Association (IBA): Berichte zu Anti-Fake-News-Gesetzgebung.
• Committee to Protect Journalists (CPJ).

Medien (Einzelnachweise)

• Financial Times: Reportage zum Arup-Deepfake-Fall in Hongkong, Februar 2024.
• Hong Kong Police Force: Pressekonferenz und Lageberichte zum Arup-Fall, Februar 2024.
• Washington Post: Berichte zum „Pizzagate"-Vorfall und zur QAnon-Bewegung, 2016–2021.

Bücher zum Weiterlesen

Sechs Empfehlungen aus der Quellenliste oben — alle Titel sind sowohl im stationären Buchhandel als auch online erhältlich. Die hinterlegten Links führen zu Amazon und enthalten keine Affiliate-IDs.

Carolin Amlinger, Oliver Nachtwey

Gekränkte Freiheit. Aspekte des libertären Autoritarismus

Suhrkamp, 2022

Über 1.150 Online-Fragebögen aus dem Querdenker-Milieu — prägt den Begriff »libertärer Autoritarismus«.

bei Amazon →

Katharina Nocun, Pia Lamberty

Fake Facts. Wie Verschwörungstheorien unser Denken bestimmen

Quadriga, 2020

Bestseller über die Funktionsweise und Verbreitung von Verschwörungserzählungen — Pflichtlektüre für die Corona-Proteste.

bei Amazon →

Katharina Nocun, Pia Lamberty

True Facts. Was gegen Verschwörungserzählungen wirklich hilft

Quadriga, 2021

Praxisband: konkrete Strategien für Familie, Schule, Beruf und Politik gegen Verschwörungsglauben.

bei Amazon →

Katharina Nocun, Pia Lamberty

Gefährlicher Glaube. Die radikale Gedankenwelt der Esoterik

Quadriga, 2022

Wie aus Heilsteinen und Yoga politische Radikalisierung wird — das »trojanische Pferd« der Esoterik.

bei Amazon →

Matthias Pöhlmann

Rechte Esoterik. Wenn sich alternatives Denken und Extremismus gefährlich vermischen

Herder, 2021

Historische Wurzeln von Blavatsky über Steiner bis zur Anastasia-Bewegung.

bei Amazon →

Andreas Speit

Verqueres Denken. Gefährliche Weltbilder in alternativen Milieus

Ch. Links Verlag, 2021

Parallelen zwischen Querdenkern, anthroposophischen Bio-Milieus, rechten Kreisen und Tierrechtsbewegung.

bei Amazon →

Cover-Abbildungen: hotgelinkt vom Amazon-Produktbild-CDN; Rechte bei den jeweiligen Verlagen. Verwendung im Rezensions- und Empfehlungskontext gemäß § 51 UrhG (Bildzitat).