#fakenewsdeepfakes — Public Fediverse posts

Ist dieses Bild echt oder nicht? Forensische Methoden zur Fake-Erkennung

Wie erkennt man KI-generierte Bilder? Diese Frage treibt nicht nur mich, sondern auch einige meiner Kolleginnen und Kollegen um. Neulich wurde ich gefragt, was ich vom Image Verification Assistant von Mever halten würde. Meine ehrliche Antwort: Erst einmal nichts, da ich das nicht kannte.

Ich machte mich jedoch sogleich schlau: Mever steht für Media Analysis, Verification and Retrieval group und damit für eine Abteilung am Information Technologies Institute. Das wiederum ist eine 1998 gegründete gemeinnützige Organisation in Thessaloniki, die unter der Schirmherrschaft des Staates steht und sich mit Informatik, Telematik und Telekommunikation beschäftigt. Dessen Werkzeug wiederum wird im journalistischen Kontext zur Bildüberprüfung eingesetzt. Aber – und das wird schon auf den ersten Blick klar –, man darf von ihm keine simple Antwort im Stil von «Ja, dieses Bild ist KI-generiert» oder «Nein, dieses Bild ist authentisch» erwarten.

Stattdessen liefert es automatisiert die Resultate diverser Tests, die auf das fragliche Bild angewandt werden. Einige der Prüfungen mit den kombinierten Algorithmen weisen Fälschungswahrscheinlichkeit (Forgery Probability) in Form einer Prozentangabe aus, doch für die Interpretation sind wir auf uns selbst gestellt. Für sinnvolle Aussagen kommen wir nicht darum herum, uns mit den Testverfahren auseinanderzusetzen.

Eine bekannte Bildfälschung eines Mannes, der angeblich bei 9/11 auf einem der Twin Towers stand – hier eindeutig als falsch erkannt.

Das werde ich gleich ausführlich tun. Doch zuvor folgt hier – für die Ungeduldigen unter meinen Leserinnen – mein vorläufiges Fazit:

Der Image Verification Assistant ist ein Werkzeug, das unbedingt ein Lesezeichen wert ist. Es liefert uns Indizien, die uns helfen, die Glaubwürdigkeit eines Bildes zu beurteilen. Diese Indizien können deutlich ausfallen oder vage sein. Ein klares Resultat ist zu erwarten, wenn Material manipuliert wurde, das bereits im komprimierten JPEG-Format in den sozialen Medien kursierte und bei dem bestimmte Partien verändert oder ausgetauscht wurden. Deutlich weniger effektiv ist die Methode, wenn die Änderungen an unkomprimiertem Bildmaterial ausgeführt wurden: Manipulationen an RAW-Aufnahmen dürften sich kaum feststellen lassen. Hier würde höchstens die Noiseprint-Analyse einen subtilen Hinweis liefern können.

Auf den journalistischen Alltag bezogen, dürfte das selten zum Problem werden. Die routinemässig zu prüfenden Bilder weisen keine Manipulationen auf höchstem Niveau auf. Sie werden mit dem Material ausgeführt, das greifbar ist – und das sind JPEG-Dateien aus dem Web und den sozialen Medien.

Wie aus ersten Indizien ein echter Verdachtsfall wird

Wie ich bei meinen Tests (weiter unten) nachweise, schlagen die Algorithmen auch bei harmlosen Motiven an. Das führt uns zur wichtigen Einsicht, dass die forensische Beurteilung nicht bloss anhand der Tests erfolgen kann. Ein Verdachtsfall ergibt sich, wenn mehrere Befunde zusammenkommen:

1. Einer der Algorithmen meldet eine hohe Wahrscheinlichkeit für eine Manipulation.
2. Dieser Befund wird durch die gesamte forensische Analyse gestützt.
3. Der Befund erscheint in der menschlichen Begutachtung plausibel, insbesondere, weil wir uns einen Reim darauf machen könnten, was das Motiv hinter einer Fälschung sein könnte. Sprich: Die Algorithmen zeigen die Manipulation für einen massgeblichen Bildbereich an: für eine Person, einen bestimmten Vorgang, ein Symbol oder sonst ein aussagekräftiges Bildelement.
4. Der Abschluss sollte die visuelle Beurteilung bilden: Realweltliche Unstimmigkeiten sind deutlichere Hinweise auf eine Fälschung als die Werte einer technischen Analyse.

Was nun die Entdeckung von KI-Deepfakes angeht, eignet sich der Image Verification Assistant nur bedingt. KI-Bilder entstehen wie echte Fotos aus einem Guss; sie werden nicht nach dem klassischen Splicing zusammengebaut. Meistens werden sie nicht im JPEG-Format ausgeliefert, sondern unkomprimiert als PNG: Es gibt daher keine Artefakte, die überprüft werden könnten. Vielleicht könnte wiederum das Noiseprinting herangezogen werden, weil bei einer KI-generierten Aufnahme das Muster fehlt, das für einen echten Fotosensor typisch ist. Diese Bilder sind gewissermassen zu glatt.

Auch KI-Generatoren hinterlassen verräterische Spuren

Allerdings hinterlassen auch generative Bilderzeugungsmodelle gewisse «mikroskopische» Muster, die eine Identifizierung ermöglichen. Man spricht von GAN-Fingerprints, die sich aber von klassischem Bildrauschen unterscheiden. Diese werden von spezialisierten Detektoren wie der hier vorgestellten Sight Engine benutzt. Das erlaubt es, sogar das verwendete Modell mit einer gewissen Sicherheit zu benennen.

Es gibt dennoch gewisse Überschneidungen bei den Methoden, die in einem Hybrid-Ansatz genutzt werden könnten: Ich denke an logische Inkonsistenzen, die sowohl bei KI-Bildern als auch bei herkömmlichen Bildfälschungen auftreten: In beiden Fällen kann ein unplausibler Schattenverlauf ein Warnsignal sein: Wenn bei einer Bildfälschung in Photoshop insbesondere ein Gesicht ausgetauscht wurde, kommt es oft vor, dass der Lichteinfall nicht übereinstimmt und die Schatten auf Nase, Hals und Stirn nicht der Umgebung entsprechen. Auch bei KI-generierten Bildern sind die Lichtbedingungen oft nicht konsistent.

Das festgehalten, geht es wie angedroht ans Eingemachte: Wir tauchen ab in die schöne Welt der verlustbehafteten Bildkompression, die abgesehen vom «Noiseprinting» entscheidend ist für die forensischen Analysen. Als Nichtmathematiker stosse ich beim Verständnis relativ schnell an Grenzen. Doch auch für Laien wird klar, wie raffiniert diese Methoden sind. Sie reduzieren die Datenmengen digitaler Bilder so beträchtlich, dass an Übertragungen via Internet zu Zeiten des Analogmodems überhaupt zu denken war. Gleichzeitig sind sie der Dreh- und Angelpunkt für die Erkennung von Bildmanipulationen. Denn die Kompression hinterlässt in der Bilddatei eine Spur, die über die ganze Fläche identisch sein muss. Falls sie es nicht ist, deutet das auf eine Bearbeitung oder auf die Verwendung von Bildmaterial aus verschiedenen Quellen hin.

Die technischen Methoden zur Entlarvung von Bildfälschern

Das sind einige der Methoden, die beim Image Verification Assistant zum Zug kommen:

Die Error Level Analysis (ELA) macht unterschiedliche Kompressionsraten innerhalb eines Bildes sichtbar. Eine Eigenschaft des JPG-Formats ist die verlustbehaftete Bildverkleinerung, die je nach Kompressionsrate unterschiedlich ausfallen kann. Bei Bildmanipulationen wird typischerweise Material aus unterschiedlichen Quellen kombiniert. Wenn solche Unterschiede sichtbar gemacht werden können, ist das ein deutlicher Hinweis auf eine Manipulation.

Ähnlich funktioniert die Erkennung der JPEG Ghosts (GHOST). Auch sie setzt auf die Erkennung von Partien im Bild mit unterschiedlichen Kompressionsgraden (Qualitätsstufen). Dabei wird das Bild mehrfach in unterschiedlichen Stufen komprimiert, wodurch die Unterschiede bei ursprünglichen Qualitätsstufen als eine Art Geist sichtbar werden.

Die Methode des Noiseprint & PRNU setzt beim Kamerasensor an. Sie liefern herstellungsbedingt kleine Unregelmässigkeiten, die für uns Menschen unsichtbares, sehr dezentes Bildrauschen sorgen (PRNU steht für Photo Response Non-Uniformity). Dieses lässt sich sichtbar machen und müsste über das ganze Bild hinweg einheitlich sein. Grössere Unterschiede deuten wiederum darauf hin, dass die entsprechenden Partien aus einer anderen Quelle stammen oder aber durch Bildbearbeitungsmethoden so stark verändert wurden, dass das ursprüngliche Sensorrauschen verloren ging.

Die Double Quantization (DQ) / JPEG Blocking setzt beim JPEG-Format und der Tatsache an, dass für die Kompression Bilder in Blöcke von 8×8 Pixel zerlegt werden, die über die Quantisierungstabelle eingedampft werden. Durch lokale Bearbeitungen können an diesen Blöcken Veränderungen auftreten, die bei einem integral gespeicherten Bild nicht zu erwarten wären. Daraus lässt sich entsprechend eine Manipulation ableiten.

Die CMFD-Methode (Copy-Move Forgery Detection) sucht nach mehrfach vorhandenen Bildbereichen innerhalb eines Bildes. Die weisen auf eine beliebte Bildbearbeitungsmethode hin: Mit dem Stempelwerkzeug oder einem anderen Tool werden unerwünschte Elemente zum Verschwinden gebracht, indem man sie mit harmlosen Partien aus der gleichen Aufnahme überdeckt.

Ich habe den Image Verification Assistant auf einige meiner schon häufiger benutzten Bilder angesetzt, mit folgenden Ergebnissen:

1) Ein unbearbeitetes Fasnachtsfoto direkt aus meiner Kamera

Zu erwarten wäre ein komplett unauffälliges Resultat. Das ist nicht der Fall. Einige der Tests schlagen an, u. a. der Noiseprint-Algorithmus. Im Bereich Fusion, wo mehrere der Resultate kombiniert werden, gibt der Trufor-Algorithmus eine Fälschungswahrscheinlichkeit von 21 Prozent an. Das ist erstaunlich hoch und zeigt, dass authentische Aufnahmen nicht vor verdächtigen Mustern gefeit sind.

Ein echtes, unbearbeitetes Foto liefert einige Verdachtsmomente.

2) Eine KI-generierte Illustration

Die Testresultate für diese von Dall-e erzeugte Grafik ergeben kein klares Bild, was manipuliert sein könnte. Der Trufor-Wert weist immerhin eine Fälschungswahrscheinlichkeit von 56 Prozent auf. Ein Test mit einem dedizierten KI-Detektor ergibt hingegen das klare Resultat: «Likely AI generated».

Die Algorithmen sind nicht auf diese KI-Illustration ausgelegt.

3) Das echte Foto eines KI-Plakats

Ein Agenturfoto des KI-generierten Werbeplakats der FDP zeigte schon früher die Grenzen der technischen Mittel bei der Fake-Erkennung auf: Das Bild selbst ist authentisch, auch wenn es das abfotografierte Motiv nicht ist. Das Resultat von Image Verification Assistant ist unauffällig; Trufor gibt eine Fälschungswahrscheinlichkeit von zwölf Prozent aus, OMGFuser meldet 16 Prozent.

Bei diesem Motiv liefert die Prüfung einen uneinheitlichen Befund.

4) Ein kostenloses Stockfoto-Bild

Das fragliche Bild (hier als Beitragsbild verwendet) hat einen gewissen Kitschfaktor, wie ihn Bildgeneratoren mögen. Sie stammt jedoch von 2018, als die Bildgeneratoren noch nicht existierten. Image Verification Assistant unterstellt ihm eine hohe Fälschungswahrscheinlichkeit: 23 Prozent gemäss Trufor-Algorithmus und sogar 64 Prozent beim OMGFuser-Modul. Letzteres schlägt bei der Sitzbank an; die sieht für den Algorithmus höchst verdächtig aus.

Die Algorithmen stören sich an der Sitzbank – die aufs menschliche Auge harmlos wirkt.

Für mein Auge als menschlicher Betrachter ist dieser Befund nicht nachzuvollziehen. Die Aufnahme wurde sicherlich bei Belichtung und Farbe kräftig nachbearbeitet, aber eine weitergehende Manipulation ist nicht zu erkennen. Natürlich ist es nicht auszuschliessen, dass der Urheber an der Bank herumgedoktert hat. Vielleicht erschien ihm deren Farbe nicht passend fürs Gesamtbild, oder sie war in Wirklichkeit aus Plastik und hätte die Stimmung komplett zerstört. Das wäre zwar bedauerlich, würde dem Zweck eines Symbolbilds ohne tiefere Botschaft jedoch keinen Abbruch tun.

#FakenewsDeepfakes #Longread

Die SP und die Grünen haben sich im Gotthardtunnel komplett verfahren

Dieses Foto auf dem Flyer kam meinem Kollegen spanisch vor.

Vor zwei Wochen erhielt ich ein Mail eines ehemaligen Kollegen. Er hatte sich mit der Klimafonds-Initiative beschäftigt und war an dem Bild eines Flyers hängen geblieben. Es zeigt eine rote Lok und das Nordportal des Gotthardtunnels bei Göschenen. Die Beschriftung lautet: «Gotthard-Tunnel, Baubeginn: 1872 – Klimaschutz bauen».

Er frage sich, ob dieses Bild KI-generiert sei, teilte er mir mit. Er hatte mehrere Gründe für den Verdacht, insbesondere die zweite Tunneleinfahrt rechts oben. Auf Vergleichsbildern aus dem Internet war die nicht zu sehen.

Mein erster Eindruck war: Dieser Umstand lässt sich erklären. Ich fand zwar nicht das Originalbild des Bildes, das auf dem Flyer verwendet worden war, aber immerhin die Aufnahme, die mein Kollege zum Vergleich herangezogen hatte. Die stammt aus dem Staatsarchiv des Kantons Uri. Die Auflösung ist dort gut genug, dass man zum Schluss kommt: Es gibt diese zweite Tunneleinfahrt, auch wenn sie vom Stromabnehmer der Lok fast verdeckt wird.

Irgendwas ist faul in Göschenen

Das Vergleichsbild aus dem Staatsarchiv Uri: viele Ähnlichkeiten und Detailunterschiede.

Eigentlich wäre das Grund genug gewesen, um Entwarnung zu geben. Doch mir ging es genauso, wie dem ehemaligen Tagi-Kollegen. Mich liess die Sache nicht los. Ich forschte weiter und fand im (grossartigen) ETH-Bilderarchiv ein weiteres Foto mit einer ähnlichen Perspektive (als Beitragsbild zu sehen). Das ist in so hoher Auflösung verfügbar, dass die Beschriftung über dieser Tunneleinfahrt zu entziffern ist. Sie verweist auf die Schöllenenbahn, die zwischen 1913 und 1917 gebaut worden war. Ein Anhaltspunkt zur Datierung des Bildes ergibt sich aus den unübersehbaren Stromleitungen. Die Website des Nationalmuseums erklärt, die Elektrifizierung sei 1916 beschlossen worden. Auf alptransit-portal.ch erfahren wir, dass dieses Projekt 1924 abgeschlossen wurde. Damit ist klar: Das Foto auf dem Flyer ist nicht von 1872, sondern mindestens 52 Jahre älter.

Ist das ein Skandal? Vermutlich nicht, auch wenn ich finde, dass man diese Tatsache hätte transparent machen müssen. Parallel zu meinen Recherchen war mein Tagi-Kollege zum gleichen Schluss gekommen. Er schrieb: «1872 haben die Loks noch geraucht.» Klar, anfänglich fuhren sie mit Kohle, und dieses Motiv wäre denkbar ungeeignet gewesen, die Forderung zu illustrieren, den «Klimaschutz zu bauen».

So sah es wirklich aus, nachdem der Gotthardtunnel eröffnet worden war: Die Loks fuhren mit Kohle und die Schöllenenbahn war nicht gebaut. Aufnahme aus dem ETH-Archiv von 1880 bis 1885 (CC0).

Doch es kam noch dicker. Mich irritierte, dass ich nicht in der Lage war, das Original des Flyer-Fotos aufzutreiben, obwohl ich auch beim Schweizerischen Sozialarchiv ähnliche Motive gefunden hatte. Natürlich konnte der Gestalter in einem nicht öffentlichen Archiv fündig geworden sein – oder in einem Buch. Dafür gibt es Anzeichen, auf die ich weiter unten zu sprechen kommen werde. Aber für einen letzten Versuch wollte ich das Bild möglichst ohne eingeblendeten Text verwenden. Denn Google Lens ist bei der Rückwärtssuche treffsicherer, wenn das ganze Motiv möglichst unverändert benutzt werden kann.

Da passt gar nichts zusammen

Ich begab mich also auf www.klima-fonds.ch und betätigte in Firefox den praktischen Befehl Extras > Seiteninformationen: In der Rubrik Medien findet sich nämlich eine Liste aller verknüpften Bild-, Ton- und Videodateien, über die sich die gewünschte Datei herunterladen lässt.

Das Bild in voller Grösse: eine historische Aufnahme oder doch vor allem eine KI-Halluzination?

Und nun staunte ich nicht schlecht: Denn dieses Bild war offensichtlich massiv bearbeitet worden. Mein Eindruck ist, dass der Ausschnitt mit der Lok authentisch sein könnte, aber das ganze Drumherum so historisch ist wie die Sage zur Entstehung der Teufelsbrücke in der Schöllenenschlucht:

• Der Teil mit der Lok zeigt eine Musterung, die vielleicht daher rührt, dass das Bild ab einer gedruckten Vorlage eingescannt wurde und das Raster bzw. Moiré weggerechnet wurde.
• Diese Musterung verschwindet rechts und unten völlig; dort ist die Schärfe auch eine ganz andere. Und die Übergänge sind teils hanebüchen schlecht.
• Wie mir ein SBB-Kenner auf Facebook mitteilt, ist die Lok in Wahrheit grün oder braun, jedenfalls nicht rot. Das Originalbild war, wie zu vermuten war, schwarzweiss und wurde eingefärbt.
• Ich konnte mir leider nicht selbst vor Ort ein Bild verschaffen, aber die sonnenbeschienenen Berggipfel im Hintergrund sehen wahnsinnig fake aus.
• Als ob das nicht schlimm genug wäre, finden wir im unten rechten Quadranten einen zerquetschten Stern, der verdächtig nach dem Wasserzeichen aussieht, das Google bei Kreationen von Nano Banana in die Bilder einfügt.

Unstimmigkeiten, wohin man schaut: unterschiedliche Schärfen, und Rasterungen. Und die Kabel sind irgendwie mit den Berggipfeln verschmolzen.Das hier ist offensichtlich ein Überbleibsel des Wasserzeichens von Nano Banana, der Bilder-KI in Google Gemini. Zum Vergleich rechts das gleiche Wasserzeichen aus einem Bild, das ich selbst mit Gemini hergestellt habe.

Womit die eine Frage erneut im Raum steht: Ist das ein Skandal?

In einem journalistischen Kontext würde die Antwort auf alle Fälle Ja lauten. Bei der Website, die für eine Initiative wirbt, sieht es anders aus: Das Motiv hat illustrativen Charakter. Ob echt oder nicht, hat kaum einen Einfluss auf die politische Meinungsbildung. Trotzdem entsteht in Kombination mit der Bildlegende der Eindruck einer realen, historischen Szene. Auch wenn das Motiv juristisch kaum angreifbar ist, so halte ich die Verwendung dieses Bildes für einen groben Fehler – zumal ein Transparenzhinweis einen minimalen Aufwand bedeutet hätte.

Wo hört der KI-Irrsinn auf und fängt der menschliche Wahnsinn an?

Da vor der Abstimmung leider zu wenig Zeit blieb, diese Frage mit den Kollegen in der Redaktion aufzugreifen, handle ich sie nachträglich hier im Blog ab. Es geht mir hier weniger um den Skandal, als vielmehr um den Umgang mit den Möglichkeiten der KI-Bildbearbeitung und die Frage, was in Ordnung ist und was nicht. Trotzdem habe ich natürlich eine Anfrage an die Allianz Klimafonds-Initiative (Grüne Schweiz, SP Schweiz und Büro Albatros GmbH als Designpartner) gestellt und um Aufklärung gebeten. Bislang gab es keine Reaktion, doch falls sich das ändert, trage ich die Stellungnahme hier nach.

Mein Fazit: Der seriöse, reflektierte Umgang mit KI-Tools ist längst zu einer Art Lackmustest für Authentizität und Glaubwürdigkeit geworden: Man kann und darf diese Werkzeuge verwenden – sonst würde ich nicht so viel Mühe darauf verwenden, sie hier im Blog vorzustellen. Aber man muss es mit Sorgfalt und Augenmass tun und jederzeit auf eine ausreichende Trennschärfe zur Realität und zu echten Bildern mit dokumentarischem Wert achten. Wir sehen, dass es im politischen Spektrum die Akteure gibt, die die künstliche Intelligenz ohne jegliche Skrupel einsetzen: Donald Trump mit seinem Fäkalien-Video ist ohne Zweifel unrühmliche Galionsfigur dieser Fehlentwicklung, aber auch die AfD ist mir schon sehr negativ aufgefallen. In der Schweiz sorgte die FDP mit einem KI-generierten Plakatmotiv vermeintlicher Klimakleber im Juli 2023 für Ärger.

Die einzig vernünftige Strategie ist, mit Transparenz und Authentizität dagegenzuhalten. Es zählt die Abgrenzung gegenüber jenen Akteuren, bei denen man sich fragt, wo der KI-generierte Irrsinn aufhört und der menschliche, durch die Begeisterung für alternative Fakten ausgelöste Wahnsinn anfängt.

Beitragsbild: Ein Extrazug vom 3. Juni 1982 mit Doppellok Ae 8/14 11801 beim Verlassen des Gotthardtunnels in Göschenen (Hans-Peter Bärtschi/ETH-Bibliothek Zürich, CC BY-SA 4.0).

#DerOnlineShitDerWoche #FakenewsDeepfakes #Politik #Wochenkommentar

Die SP und die Grünen haben sich im Gotthardtunnel komplett verfahren

Dieses Foto auf dem Flyer kam meinem Kollegen spanisch vor.

Vor zwei Wochen erhielt ich ein Mail eines ehemaligen Kollegen. Er hatte sich mit der Klimafonds-Initiative beschäftigt und war an dem Bild eines Flyers hängen geblieben. Es zeigt eine rote Lok und das Nordportal des Gotthardtunnels bei Göschenen. Die Beschriftung lautet: «Gotthard-Tunnel, Baubeginn: 1872 – Klimaschutz bauen».

Er frage sich, ob dieses Bild KI-generiert sei, teilte er mir mit. Er hatte mehrere Gründe für den Verdacht, insbesondere die zweite Tunneleinfahrt rechts oben. Auf Vergleichsbildern aus dem Internet war die nicht zu sehen.

Mein erster Eindruck war: Dieser Umstand lässt sich erklären. Ich fand zwar nicht das Originalbild des Bildes, das auf dem Flyer verwendet worden war, aber immerhin die Aufnahme, die mein Kollege zum Vergleich herangezogen hatte. Die stammt aus dem Staatsarchiv des Kantons Uri. Die Auflösung ist dort gut genug, dass man zum Schluss kommt: Es gibt diese zweite Tunneleinfahrt, auch wenn sie vom Stromabnehmer der Lok fast verdeckt wird.

Irgendwas ist faul in Göschenen

Eigentlich wäre das Grund genug gewesen, um Entwarnung zu geben. Doch mir ging es genauso, wie dem ehemaligen Tagi-Kollegen. Mich liess die Sache nicht los. Ich forschte weiter und fand im (grossartigen) ETH-Bilderarchiv ein weiteres Foto mit einer ähnlichen Perspektive (als Beitragsbild zu sehen). Das ist in so hoher Auflösung verfügbar, dass die Beschriftung über dieser Tunneleinfahrt zu entziffern ist. Sie verweist auf die Schöllenenbahn, die zwischen 1913 und 1917 gebaut worden war. Ein Anhaltspunkt zur Datierung des Bildes ergibt sich aus den unübersehbaren Stromleitungen. Die Website des Nationalmuseums erklärt, die Elektrifizierung sei 1916 beschlossen worden. Auf alptransit-portal.ch erfahren wir, dass dieses Projekt 1924 abgeschlossen wurde. Damit ist klar: Das Foto auf dem Flyer ist nicht von 1872, sondern mindestens 52 Jahre älter.

Ist das ein Skandal? Vermutlich nicht, auch wenn ich finde, dass man diese Tatsache hätte transparent machen müssen. Parallel zu meinen Recherchen war mein Tagi-Kollege zum gleichen Schluss gekommen. Er schrieb: «1872 haben die Loks noch geraucht.» Klar, anfänglich fuhren sie mit Kohle, und dieses Motiv wäre denkbar ungeeignet gewesen, die Forderung zu illustrieren, den «Klimaschutz zu bauen».

So sah es wirklich aus, nachdem der Gotthardtunnel eröffnet worden war: Die Loks fuhren mit Kohle und die Schöllenenbahn war nicht gebaut. Aufnahme aus dem ETH-Archiv von 1880 bis 1885 (CC0).

Doch es kam noch dicker. Mich irritierte, dass ich nicht in der Lage war, das Original des Flyer-Fotos aufzutreiben, obwohl ich auch beim Schweizerischen Sozialarchiv ähnliche Motive gefunden hatte. Natürlich konnte der Gestalter in einem nicht öffentlichen Archiv fündig geworden sein – oder in einem Buch. Dafür gibt es Anzeichen, auf die ich weiter unten zu sprechen kommen werde. Aber für einen letzten Versuch wollte ich das Bild möglichst ohne eingeblendeten Text verwenden. Denn Google Lens ist bei der Rückwärtssuche treffsicherer, wenn das ganze Motiv möglichst unverändert benutzt werden kann.

Da passt gar nichts zusammen

Ich begab mich also auf www.klima-fonds.ch und betätigte in Firefox den praktischen Befehl Extras > Seiteninformationen: In der Rubrik Medien findet sich nämlich eine Liste aller verknüpften Bild-, Ton- und Videodateien, über die sich die gewünschte Datei herunterladen lässt.

Das Bild in voller Grösse: eine historische Aufnahme oder doch vor allem eine KI-Halluzination?

Und nun staunte ich nicht schlecht: Denn dieses Bild war offensichtlich massiv bearbeitet worden. Mein Eindruck ist, dass der Ausschnitt mit der Lok authentisch sein könnte, aber das ganze Drumherum so historisch ist wie die Sage zur Entstehung der Teufelsbrücke in der Schöllenenschlucht:

• Der Teil mit der Lok zeigt eine Musterung, die vielleicht daher rührt, dass das Bild ab einer gedruckten Vorlage eingescannt wurde und das Raster bzw. Moiré weggerechnet wurde.
• Diese Musterung verschwindet rechts und unten völlig; dort ist die Schärfe auch eine ganz andere. Und die Übergänge sind teils hanebüchen schlecht.
• Ich konnte mir leider nicht selbst vor Ort ein Bild verschaffen, aber die sonnenbeschienenen Berggipfel im Hintergrund sehen wahnsinnig fake aus.
• Als ob das nicht schlimm genug wäre, finden wir im unten rechten Quadranten einen zerquetschten Stern, der verdächtig nach dem Wasserzeichen aussieht, das Google bei Kreationen von Nano Banana in die Bilder einfügt.

Unstimmigkeiten, wohin man schaut: unterschiedliche Schärfen, und Rasterungen. Und die Kabel sind irgendwie mit den Berggipfeln verschmolzen.Das hier ist offensichtlich ein Überbleibsel des Wasserzeichens von Nano Banana, der Bilder-KI in Google Gemini. Zum Vergleich rechts das gleiche Wasserzeichen aus einem Bild, das ich selbst mit Gemini hergestellt habe.

Womit die eine Frage erneut im Raum steht: Ist das ein Skandal?

In einem journalistischen Kontext würde die Antwort auf alle Fälle Ja lauten. Bei der Website, die für eine Initiative wirbt, sieht es anders aus: Das Motiv hat illustrativen Charakter. Ob echt oder nicht, hat kaum einen Einfluss auf die politische Meinungsbildung. Trotzdem entsteht in Kombination mit der Bildlegende der Eindruck einer realen, historischen Szene. Auch wenn das Motiv juristisch kaum angreifbar ist, so halte ich die Verwendung dieses Bildes für einen groben Fehler – zumal ein Transparenzhinweis einen minimalen Aufwand bedeutet hätte.

Wo hört der KI-Irrsinn auf und fängt der menschliche Wahnsinn an?

Da vor der Abstimmung leider zu wenig Zeit blieb, diese Frage mit den Kollegen in der Redaktion aufzugreifen, handle ich sie nachträglich hier im Blog ab. Es geht mir hier weniger um den Skandal, als vielmehr um den Umgang mit den Möglichkeiten der KI-Bildbearbeitung und die Frage, was in Ordnung ist und was nicht. Trotzdem habe ich natürlich eine Anfrage an die Allianz Klimafonds-Initiative (Grüne Schweiz, SP Schweiz und Büro Albatros GmbH als Designpartner) gestellt und um Aufklärung gebeten. Bislang gab es keine Reaktion, doch falls sich das ändert, trage ich die Stellungnahme hier nach.

Mein Fazit: Der seriöse, reflektierte Umgang mit KI-Tools ist längst zu einer Art Lackmustest für Authentizität und Glaubwürdigkeit geworden: Man kann und darf diese Werkzeuge verwenden – sonst würde ich nicht so viel Mühe darauf verwenden, sie hier im Blog vorzustellen. Aber man muss es mit Sorgfalt und Augenmass tun und jederzeit auf eine ausreichende Trennschärfe zur Realität und zu echten Bildern mit dokumentarischem Wert achten. Wir sehen, dass es im politischen Spektrum die Akteure gibt, die die künstliche Intelligenz ohne jegliche Skrupel einsetzen: Donald Trump mit seinem Fäkalien-Video ist ohne Zweifel unrühmliche Galionsfigur dieser Fehlentwicklung, aber auch die AfD ist mir schon sehr negativ aufgefallen. In der Schweiz sorgte die FDP mit einem KI-generierten Plakatmotiv vermeintlicher Klimakleber im Juli 2023 für Ärger.

Die einzig vernünftige Strategie ist, mit Transparenz und Authentizität dagegenzuhalten. Es zählt die Abgrenzung gegenüber jenen Akteuren, bei denen man sich fragt, wo der KI-generierte Irrsinn aufhört und der menschliche, durch die Begeisterung für alternative Fakten ausgelöste Wahnsinn anfängt.

#DerOnlineShitDerWoche #FakenewsDeepfakes #Politik #Wochenkommentar

Facebook ersetzt Journalismus durch Kitsch

Vermutlich meint sie nicht ihren Milchkaffee.

Ist das ein echtes Problem?

Die Frage stellt sich beim heutigen Thema, weil auf der Meta-Plattform Threads solche Posts wie derjenige von Emily veröffentlicht werden und Tausende von Likes absahnen. Frau Owen posiert mit einem Coffee to go und der Aussage, sie sei stolz, weiss zu sein. Und obwohl ich nichts mit Emily zu tun habe und nicht die geringste Lust verspüre, mit ihr in eine Diskussion über stumpfsinnige Rassismusäusserungen einzutreten, präsentiert mir Mark Zuckerbergs Algorithmus diesen Post ungefragt in meiner Zeitleiste. Also: ein echtes, drängendes Problem.

Demgegenüber geht es in diesem Blogpost um eine Sache, die im Vergleich harmlos wirkt. Mark Zuckerberg reibt mir auf einer seiner anderen Plattformen (Facebook) automatisch Posts unter meine Nase, bei denen man annehmen könnte, sie seien ein Grund zur Freude. Es handelt sich um positive Meldungen aus einer immer schwierigeren, beängstigenderen Welt. Hier sind Leute am Werk, die den Glauben ans Gute anfachen. Oder?

Fünf herausragende Beispiele dieser Machart:

1) Auf Santorini dürfen dicke Touristen nicht mehr auf Eseln reiten

Wer hat kein Herz für Esel?

Klingt sinnvoll: Wer über hundert Kilogramm wiegt, sollte sich nicht auf einen armen Esel setzen und sich den Hang hochschleppen lassen dürfen.

Diese Geschichte, die das Herz aller Tierfreunde erwärmt, wurde von einer Facebook-Seite mit dem irritierend nichtssagenden Namen Typisch Bugra – FaxxenTV in Umlauf gebracht. Der Urheber präsentiert ein verwirrendes Durcheinander an Inhalten und hat aus mir völlig uneinsichtigen Gründen 1,3 Millionen Follower. Zum Vergleich: SRF hat nur einen Zehntel (133’800 Leute).

2) Ausgemusterte Busse werden zu mobilen Lebensmittelläden

Eine bessere Welt dank alten Bussen und Containern.

«My Hobby» schreibt, in Deutschland würden aus Schiffscontainern modulare Unterkünfte für obdachlose Menschen. Der Bildpost schneidet ein anderes, ähnlich gelagertes Thema an und berichtet, in Dänemark würden ausgemusterte Busse zu mobilen Lebensmittelläden umgebaut.

Hierzulande mag man sich an die Migros-Verkaufswagen erinnern, die vor mehr als hundert Jahren durch die Schweiz fuhren und in den 1970er-Jahren auch in meinem Dorf für eine willkommene Einkaufsgelegenheit sorgten.

3) Der treue Hund Hachikō an der Shibuya-Station

Kein Tag, an dem dieser Hund nicht auf Facebook anzutreffen ist.

Ein Hund wartete auch nach dem Tod seines Herrchens für Jahre an einer Bahnstation und wurde so zu einem Symbol für Treue. Diese Begebenheit ist auf Wikipedia dokumentiert.

Auf Facebook wird sie andauernd von allen möglichen und unmöglichen Accounts aufgewärmt. Hier von Video Trends oder hier bei PawLove mit einer besonders widersinnigen Betextung:

Kennst du diese Geschichten, die man nie vergisst, egal wie oft man sie hört 🐕

4) Der bekehrte Matador

Hier stimmt nichts – weder der Text noch das Bild.

Auch das ein Wiedergänger, der intensiven Facebook-Nutzern etwa dreimal am Tag begegnet: Álvaro Múnera Builes sei ein bekehrter Matador. Bei «Momente der Inspiration» liest sich das wie folgt:

Während eines angespannten Stierkampfes tat der Matador Álvaro Múnera das Unvorstellbare. Während die Menge vor Aufregung tobte und das nächste dramatische Manöver erwartete, trat er plötzlich vom Stier zurück, ging an den Rand der Arena und setzte sich hin. Stille legte sich über das Publikum.

Múnera habe dem Stierkampf den Rücken gekehrt und sei ein engagierter Tierschutzaktivist geworden, erfahren wir: ein Mensch, der von einer Sekunde auf die nächste sein Leben umkrempelte, vor den Augen des staunenden Publikums.

5) Die stillende Polizistin

Die Polizistin, die schnell mal ein hungriges Baby stillt.

Dieses Posting stammt von einem Facebook-User namens Hichäääm, von dem wir nichts weiter erfahren, als dass er eine «Person des öffentlichen Lebens» sei und 1,1 Millionen Follower habe. Er postet alte und neue Meldungen aus dem In- und Ausland, ohne dass ein Muster erkennbar wäre. Mal geht es um die AfD, mal um den nicht mehr finanzierbaren Sozialstaat, mal um Elon Musk, der seine Definition, was eine Frau sein sollte, zum Besten gibt.

Im fraglichen Beitrag geht es um eine argentinische Polizistin, die ein unterernährtes Baby selbst gestillt habe:

Die Polizistin Celeste Ayala zeigte damit, dass Mitgefühl und Verantwortung manchmal wichtiger sind als Dienstvorschriften.

Rührseliger Kitsch

Leider habe ich es nicht geschafft, euch diese Meldungen so neutral zu präsentieren, wie ich es mir vorgenommen hatte. Darum ahnt ihr vermutlich schon, in welche Richtung meine Kritik zielt.

Diese Geschichten haben eine Gemeinsamkeit: Sie haben alle einen wahren Kern, werden aber zu undifferenziert, rührselig und verkitscht dargestellt. Sie lassen alle Aspekte weg, die die angestrebte Wirkung beeinträchtigen würden. Konkret:

1. Die Esel:
   Es gibt die Regel zu ihrem Schutz, doch die wurde nicht auf Santorini eingeführt, sondern stammt von der griechischen Regierung. Und die Massnahme zum Tierwohl wird weder ausreichend kontrolliert noch konsequent durchgesetzt. Den Eseln geht es noch immer oft mies.
2. Die Container:
   Über diese Form der Notunterkünfte wird ernsthaft berichtet, hier von der deutschen Tagesschau. Auf den Fotos der ARD wirken die nicht, wie im Text behauptet, wie ein «würdevoller Zufluchtsraum». Von den angeblichen «Pflanzen und Lichterketten» ist nichts zu sehen. Ausserdem erfahren wir nicht, in welcher Stadt diese Container stehen, wer sie initiiert hat und welche Gruppen sie nutzen dürfen.
3. Hachikō:
   Der Hund mag wirklich als Hoffnungsträger dienen, aber die Vermenschlichung mit Begriffen wie «geduldig» und «stille Treue» ist unnötig. Die Lebenslektion zur «bedingungslosen Liebe» würde höchstens in die Sonntagspredigt passen.
4. Álvaro Múnera Builes:
   Der Matador gab seine Karriere nicht aus Mitgefühl für den Stier auf, sondern weil er schwer verletzt wurde und im Rollstuhl sitzt. Diese geschönte Kolportage wurde mehrfach widerlegt (hier und hier).
5. Celeste Ayala:
   Die Fakten werden korrekt wiedergegeben, doch die Moral – Mitgefühl sei wichtiger als Dienstvorschriften – impliziert, die Polizistin habe sich mit ihrer Tat Ärger eingehandelt. Das ist nicht der Fall, sie wurde im Gegenteil befördert. Das wahre Problem ist freilich, dass die eigentliche Ursache, die erschreckende Kinderarmut in Argentinien, komplett unter den Tisch gekehrt wird.

Ich möchte das grundsätzliche Problem anhand des zweitletzten Beispiels, Matador, weiter ausführen.

Diese Erzählung wurde früher oft mit einem Bild in Umlauf gebracht, das einen anderen Stierkämpfer zeigt. Heute verwendet man, natürlich, einen KI-Deepfake.

Wer hätte es gedacht?

«Alles kann auf Facebook monetarisiert werden»

Bei der Verbreitung von derlei Informationsmüll gibt es eine finanzielle Komponente. Das fragliche Posting wurde über 8800-mal geteilt und hat 56’700 Likes eingeheimst. Wie oft der Beitrag gesehen wurde, lässt sich daraus nicht direkt ableiten, aber immerhin schätzen: Die Zahl dürfte sich im Millionenbereich bewegen. Ich verrate kein Geheimnis, wenn ich sage, dass selbst die grossen Schweizer Newssites eine solche Reichweite kaum je mit einem einzelnen Beitrag erzielen. Bekanntlich lässt sich solcher Content bei Facebook zu Geld machen. Hier heisst es:

Jedes Content-Format kann monetarisiert werden, nicht nur Videos, sondern auch Fotos, Textbeiträge und Stories. (…)

Die Content-Monetarisierung auf Facebook verfügt über ein «performancebasiertes Auszahlungsmodell», bei dem deine Auszahlungen auf den Interaktionen deiner Zielgruppe basieren. Je besser deine Inhalte abschneiden, desto mehr Geld kannst du verdienen.

Stellt sich also die Frage: Hat der Betreiber der Seite «Momente der Inspiration» für diesen Beitrag – der inhaltlich keinerlei Eigenleistung beinhaltet – Geld bekommen? Die ehrliche Antwort ist, dass ich das nicht weiss. Falls es so sein sollte, würde ein Mindestmass an Transparenz gebieten, dass Facebook diesen Aspekt öffentlich macht.

Jedenfalls durchschaue ich trotz Studiums dieser Seite hier nicht, wie man die Einnahmen abschätzen könnte. Mein Experte für dieses Thema (Claude) meint, bei einer «guten Monetarisierungsstrategie» würden um die 2000 Euro drin liegen.

Wir kommen zum Schluss, dass Information, Berichterstattung und Faktenvermittlung nicht das Ziel solcher Wandersagen sind. Die Botschaft ist bloss Mittel zum Zweck. Es geht um die Emotionalisierung des Publikums – mutmasslich wegen der Umsatzbeteiligung –, und dafür wird alles weggelassen, was nicht ins Bild passt.

Damit zurück zur Ausgangsthese: Obwohl wir es nicht mit Hass zu tun haben, wie bei Emilys White Supremacy-Bekundung, ist in diesen Fällen die performative Zurschaustellung von Liebe zu Mensch und Tier nicht positiv zu werten.

Auch «positive» Fake News sind verheerend

Es hilft nicht, dass wir es nicht mit «harten» Fake News zu tun haben, mit denen die öffentliche Meinung gelenkt und manipuliert werden soll. Denn die «soften Fake News» wirken auf Dauer ebenfalls verheerend – vielleicht nicht so schnell, wie politische Lügen, aber dennoch so stark, dass wir sie auf keinen Fall unterschätzen dürfen:

• Pseudo-News-Beiträge relativieren die Realität. Sie bieten verkitschtes Storytelling im Gewand einer seriösen Berichterstattung.
• Sie erzeugen ein Hintergrundrauschen, in dem Wichtiges und Echtes untergeht und die Grenzen zwischen ernsthafter und regelbasierter Berichterstattung und publizistischem Jekami vermischt: Ich spreche von einer Aufmerksamkeitsverzerrung.
• Sie führen zu einer Überforderung: Selbst kritische, engagierte Nutzerinnen kommen mit Überprüfen und Widersprechen nicht mehr hinterher und kapitulieren.
• Leute, die ambivalente, uneindeutige und differenzierte Positionen vermitteln wollen, stehen auf verlorenem Posten.

Letztens und Schlimmstens: Die Politik hat kapituliert. Man prüft Alterslimits für soziale Medien, die dummerweise bei diesem Problem hier nicht im Geringsten etwas bewirken würden. Aber niemand hält es für diskussionswürdig, dass sich Meta mit der Monetarisierung hier direkt als Verleger betätigt, aber sich gleichzeitig mit der alten Ausrede, auf einer Plattform mit User Generated Content nur als Vermittler zu agieren, aus jeder Verantwortung stiehlt.

Aber gut, mit einem Medienminister, der auch nach der deutlichen Ablehnung der SRG-Initiative noch immer überzeugt ist, der Markt würde auch die Sache mit den Medien regeln,  haben wir es in der Schweiz nicht besser verdient.

#DerOnlineShitDerWoche #Facebook #FakenewsDeepfakes #Longread #Politik #SozialeMedien

Facebook ersetzt Journalismus durch Kitsch

Vermutlich meint sie nicht ihren Milchkaffee.

Ist das ein echtes Problem?

Die Frage stellt sich beim heutigen Thema, weil auf der Meta-Plattform Threads solche Posts wie derjenige von Emily veröffentlicht werden und Tausende von Likes absahnen. Frau Owen posiert mit einem Coffee to go und der Aussage, sie sei stolz, weiss zu sein. Und obwohl ich nichts mit Emily zu tun habe und nicht die geringste Lust verspüre, mit ihr in eine Diskussion über stumpfsinnige Rassismusäusserungen einzutreten, präsentiert mir Mark Zuckerbergs Algorithmus diesen Post ungefragt in meiner Zeitleiste. Also: ein echtes, drängendes Problem.

Demgegenüber geht es in diesem Blogpost um eine Sache, die im Vergleich harmlos wirkt. Mark Zuckerberg reibt mir auf einer seiner anderen Plattformen (Facebook) automatisch Posts unter meine Nase, bei denen man annehmen könnte, sie seien ein Grund zur Freude. Es handelt sich um positive Meldungen aus einer immer schwierigeren, beängstigenderen Welt. Hier sind Leute am Werk, die den Glauben ans Gute anfachen. Oder?

Fünf herausragende Beispiele dieser Machart:

1) Auf Santorini dürfen dicke Touristen nicht mehr auf Eseln reiten

Wer hat kein Herz für Esel?

Klingt sinnvoll: Wer über hundert Kilogramm wiegt, sollte sich nicht auf einen armen Esel setzen und sich den Hang hochschleppen lassen dürfen.

Diese Geschichte, die das Herz aller Tierfreunde erwärmt, wurde von einer Facebook-Seite mit dem irritierend nichtssagenden Namen Typisch Bugra – FaxxenTV in Umlauf gebracht. Der Urheber präsentiert ein verwirrendes Durcheinander an Inhalten und hat aus mir völlig uneinsichtigen Gründen 1,3 Millionen Follower. Zum Vergleich: SRF hat nur einen Zehntel (133’800 Leute).

2) Ausgemusterte Busse werden zu mobilen Lebensmittelläden

Eine bessere Welt dank alten Bussen und Containern.

«My Hobby» schreibt, in Deutschland würden aus Schiffscontainern modulare Unterkünfte für obdachlose Menschen. Der Bildpost schneidet ein anderes, ähnlich gelagertes Thema an und berichtet, in Dänemark würden ausgemusterte Busse zu mobilen Lebensmittelläden umgebaut.

Hierzulande mag man sich an die Migros-Verkaufswagen erinnern, die vor mehr als hundert Jahren durch die Schweiz fuhren und in den 1970er-Jahren auch in meinem Dorf für eine willkommene Einkaufsgelegenheit sorgten.

3) Der treue Hund Hachikō an der Shibuya-Station

Kein Tag, an dem dieser Hund nicht auf Facebook anzutreffen ist.

Ein Hund wartete auch nach dem Tod seines Herrchens für Jahre an einer Bahnstation und wurde so zu einem Symbol für Treue. Diese Begebenheit ist auf Wikipedia dokumentiert.

Auf Facebook wird sie andauernd von allen möglichen und unmöglichen Accounts aufgewärmt. Hier von Video Trends oder hier bei PawLove mit einer besonders widersinnigen Betextung:

Kennst du diese Geschichten, die man nie vergisst, egal wie oft man sie hört 🐕

4) Der bekehrte Matador

Hier stimmt nichts – weder der Text noch das Bild.

Auch das ein Wiedergänger, der intensiven Facebook-Nutzern etwa dreimal am Tag begegnet: Álvaro Múnera Builes sei ein bekehrter Matador. Bei «Momente der Inspiration» liest sich das wie folgt:

Während eines angespannten Stierkampfes tat der Matador Álvaro Múnera das Unvorstellbare. Während die Menge vor Aufregung tobte und das nächste dramatische Manöver erwartete, trat er plötzlich vom Stier zurück, ging an den Rand der Arena und setzte sich hin. Stille legte sich über das Publikum.

Múnera habe dem Stierkampf den Rücken gekehrt und sei ein engagierter Tierschutzaktivist geworden, erfahren wir: ein Mensch, der von einer Sekunde auf die nächste sein Leben umkrempelte, vor den Augen des staunenden Publikums.

5) Die stillende Polizistin

Die Polizistin, die schnell mal ein hungriges Baby stillt.

Dieses Posting stammt von einem Facebook-User namens Hichäääm, von dem wir nichts weiter erfahren, als dass er eine «Person des öffentlichen Lebens» sei und 1,1 Millionen Follower habe. Er postet alte und neue Meldungen aus dem In- und Ausland, ohne dass ein Muster erkennbar wäre. Mal geht es um die AfD, mal um den nicht mehr finanzierbaren Sozialstaat, mal um Elon Musk, der seine Definition, was eine Frau sein sollte, zum Besten gibt.

Im fraglichen Beitrag ist eine argentinische Polizistin die Heldin, die ein unterernährtes Baby selbst gestillt habe:

Die Polizistin Celeste Ayala zeigte damit, dass Mitgefühl und Verantwortung manchmal wichtiger sind als Dienstvorschriften.

Rührseliger Kitsch

Leider habe ich es nicht geschafft, euch diese Meldungen so neutral zu präsentieren, wie ich es mir vorgenommen hatte. Darum ahnt ihr vermutlich schon, in welche Richtung meine Kritik zielt.

Diese Geschichten haben eine Gemeinsamkeit: Sie haben alle einen wahren Kern, werden aber zu undifferenziert, rührselig und verkitscht dargestellt. Sie lassen alle Aspekte weg, die die angestrebte Wirkung beeinträchtigen würden. Konkret:

1. Die Esel:
   Es gibt die Regel zu ihrem Schutz, doch die wurde nicht auf Santorini eingeführt, sondern stammt von der griechischen Regierung. Und die Massnahme zum Tierwohl wird weder ausreichend kontrolliert noch konsequent durchgesetzt. Den Eseln geht es noch immer oft mies.
2. Die Container:
   Über diese Form der Notunterkünfte wird ernsthaft berichtet, hier von der deutschen Tagesschau. Auf den Fotos der ARD wirken die nicht, wie im Text behauptet, wie ein «würdevoller Zufluchtsraum». Von den angeblichen «Pflanzen und Lichterketten» ist nichts zu sehen. Ausserdem erfahren wir nicht, in welcher Stadt diese Container stehen, wer sie initiiert hat und welche Gruppen sie nutzen dürfen.
3. Hachikō:
   Der Hund mag wirklich als Hoffnungsträger dienen, aber die Vermenschlichung mit Begriffen wie «geduldig» und «stille Treue» ist unnötig. Die Lebenslektion zur «bedingungslosen Liebe» würde höchstens in die Sonntagspredigt passen.
4. Álvaro Múnera Builes:
   Der Matador gab seine Karriere nicht aus Mitgefühl für den Stier auf, sondern weil er schwer verletzt wurde und im Rollstuhl sitzt. Diese geschönte Kolportage wurde mehrfach widerlegt (hier und hier).
5. Celeste Ayala:
   Die Fakten werden korrekt wiedergegeben, doch die Moral – Mitgefühl sei wichtiger als Dienstvorschriften – impliziert, die Polizistin habe sich mit ihrer Tat Ärger eingehandelt. Das ist nicht der Fall, sie wurde im Gegenteil befördert. Das wahre Problem ist freilich, dass die eigentliche Ursache, die erschreckende Kinderarmut in Argentinien, komplett unter den Teppich gekehrt wird.

Ich möchte das grundsätzliche Problem anhand des zweitletzten Beispiels, Matador, weiter ausführen.

Diese Erzählung wurde früher oft mit einem Bild in Umlauf gebracht, das einen anderen Stierkämpfer zeigt. Heute verwendet man, natürlich, einen KI-Deepfake.

Wer hätte es gedacht?

«Alles kann auf Facebook monetarisiert werden»

Bei der Verbreitung von derlei Informationsmüll gibt es eine finanzielle Komponente. Das fragliche Posting wurde über 8800-mal geteilt und hat 56’700 Likes eingeheimst. Wie oft der Beitrag gesehen wurde, lässt sich daraus nicht direkt ableiten, aber immerhin schätzen: Die Zahl dürfte sich im Millionenbereich bewegen. Ich verrate kein Geheimnis, wenn ich sage, dass selbst die grossen Schweizer Newssites eine solche Reichweite kaum je mit einem einzelnen Beitrag erzielen. Bekanntlich lässt sich solcher Content bei Facebook zu Geld machen. Hier heisst es:

Jedes Content-Format kann monetarisiert werden, nicht nur Videos, sondern auch Fotos, Textbeiträge und Stories. (…)

Die Content-Monetarisierung auf Facebook verfügt über ein «performancebasiertes Auszahlungsmodell», bei dem deine Auszahlungen auf den Interaktionen deiner Zielgruppe basieren. Je besser deine Inhalte abschneiden, desto mehr Geld kannst du verdienen.

Stellt sich also die Frage: Hat der Betreiber der Seite «Momente der Inspiration» für diesen Beitrag – der inhaltlich keinerlei Eigenleistung beinhaltet – Geld bekommen? Die ehrliche Antwort ist, dass ich das nicht weiss. Falls es so sein sollte, würde ein Mindestmass an Transparenz gebieten, dass Facebook diesen Aspekt öffentlich macht.

Jedenfalls durchschaue ich trotz Studiums dieser Seite hier nicht, wie man die Einnahmen abschätzen könnte. Mein Experte für dieses Thema (Claude) meint, bei einer «guten Monetarisierungsstrategie» würden um die 2000 Euro drin liegen.

Wir kommen zum Schluss, dass Information, Berichterstattung und Faktenvermittlung nicht das Ziel solcher Wandersagen sind. Die Botschaft ist bloss Mittel zum Zweck. Es geht um die Emotionalisierung des Publikums – mutmasslich wegen der Umsatzbeteiligung –, und dafür wird alles weggelassen, was nicht ins Bild passt.

Damit zurück zur Ausgangsthese: Obwohl wir es nicht mit Hass zu tun haben, wie bei Emilys White Supremacy-Bekundung, ist in diesen Fällen die performative Zurschaustellung von Liebe zu Mensch und Tier nicht positiv zu werten.

Auch «positive» Fake News sind verheerend

Es hilft nicht, dass wir es nicht mit «harten» Fake News zu tun haben, mit denen die öffentliche Meinung gelenkt und manipuliert werden soll. Denn die «soften Fake News» wirken auf Dauer ebenfalls verheerend – vielleicht nicht so schnell, wie politische Lügen, aber dennoch so stark, dass wir sie auf keinen Fall unterschätzen dürfen:

• Pseudo-News-Beiträge relativieren die Realität. Sie bieten verkitschtes Storytelling im Gewand einer seriösen Berichterstattung.
• Sie erzeugen ein Hintergrundrauschen, in dem Wichtiges und Echtes untergeht und die Grenzen zwischen ernsthafter und regelbasierter Berichterstattung und publizistischem Jekami vermischt: Ich spreche von einer Aufmerksamkeitsverzerrung.
• Sie führen zu einer Überforderung: Selbst kritische, engagierte Nutzerinnen kommen mit Überprüfen und Widersprechen nicht mehr hinterher und kapitulieren.
• Leute, die ambivalente, uneindeutige und differenzierte Positionen vermitteln wollen, stehen auf verlorenem Posten.

Letztens und Schlimmstens: Die Politik hat kapituliert. Man prüft Alterslimits für soziale Medien, die dummerweise bei diesem Problem hier nicht im Geringsten etwas bewirken würden. Aber niemand hält es für diskussionswürdig, dass sich Meta mit der Monetarisierung hier direkt als Verleger betätigt, aber sich gleichzeitig mit der alten Ausrede, auf einer Plattform mit User Generated Content nur als Vermittler zu agieren, aus jeder Verantwortung stiehlt.

Aber gut, mit einem Medienminister, der auch nach der deutlichen Ablehnung der SRG-Initiative noch immer überzeugt ist, der Markt würde auch die Sache mit den Medien regeln,  haben wir es in der Schweiz nicht besser verdient.

Beitragsbild: Bei ihr hat es jedenfalls gewirkt (RobinHiggins, Pixabay-Lizenz).

#DerOnlineShitDerWoche #Facebook #FakenewsDeepfakes #Longread #Politik #SozialeMedien

Facebook ersetzt Journalismus durch Kitsch

Vermutlich meint sie nicht ihren Milchkaffee.

Ist das ein echtes Problem?

Die Frage stellt sich beim heutigen Thema, weil auf der Meta-Plattform Threads solche Posts wie derjenige von Emily veröffentlicht werden und Tausende von Likes absahnen. Frau Owen posiert mit einem Coffee to go und der Aussage, sie sei stolz, weiss zu sein. Und obwohl ich nichts mit Emily zu tun habe und nicht die geringste Lust verspüre, mit ihr in eine Diskussion über stumpfsinnige Rassismusäusserungen einzutreten, präsentiert mir Mark Zuckerbergs Algorithmus diesen Post ungefragt in meiner Zeitleiste. Also: ein echtes, drängendes Problem.

Demgegenüber geht es in diesem Blogpost um eine Sache, die im Vergleich harmlos wirkt. Mark Zuckerberg reibt mir auf einer seiner anderen Plattformen (Facebook) automatisch Posts unter meine Nase, bei denen man annehmen könnte, sie seien ein Grund zur Freude. Es handelt sich um positive Meldungen aus einer immer schwierigeren, beängstigenderen Welt. Hier sind Leute am Werk, die den Glauben ans Gute anfachen. Oder?

Fünf herausragende Beispiele dieser Machart:

1) Auf Santorini dürfen dicke Touristen nicht mehr auf Eseln reiten

Wer hat kein Herz für Esel?

Klingt sinnvoll: Wer über hundert Kilogramm wiegt, sollte sich nicht auf einen armen Esel setzen und sich den Hang hochschleppen lassen dürfen.

Diese Geschichte, die das Herz aller Tierfreunde erwärmt, wurde von einer Facebook-Seite mit dem irritierend nichtssagenden Namen Typisch Bugra – FaxxenTV in Umlauf gebracht. Der Urheber präsentiert ein verwirrendes Durcheinander an Inhalten und hat aus mir völlig uneinsichtigen Gründen 1,3 Millionen Follower. Zum Vergleich: SRF hat nur einen Zehntel (133’800 Leute).

2) Ausgemusterte Busse werden zu mobilen Lebensmittelläden

Eine bessere Welt dank alten Bussen und Containern.

«My Hobby» schreibt, in Deutschland würden aus Schiffscontainern modulare Unterkünfte für obdachlose Menschen. Der Bildpost schneidet ein anderes, ähnlich gelagertes Thema an und berichtet, in Dänemark würden ausgemusterte Busse zu mobilen Lebensmittelläden umgebaut.

Hierzulande mag man sich an die Migros-Verkaufswagen erinnern, die vor mehr als hundert Jahren durch die Schweiz fuhren und in den 1970er-Jahren auch in meinem Dorf für eine willkommene Einkaufsgelegenheit sorgten.

3) Der treue Hund Hachikō an der Shibuya-Station

Kein Tag, an dem dieser Hund nicht auf Facebook anzutreffen ist.

Ein Hund wartete auch nach dem Tod seines Herrchens für Jahre an einer Bahnstation und wurde so zu einem Symbol für Treue. Diese Begebenheit ist auf Wikipedia dokumentiert.

Auf Facebook wird sie andauernd von allen möglichen und unmöglichen Accounts aufgewärmt. Hier von Video Trends oder hier bei PawLove mit einer besonders widersinnigen Betextung:

Kennst du diese Geschichten, die man nie vergisst, egal wie oft man sie hört 🐕

4) Der bekehrte Matador

Hier stimmt nichts – weder der Text noch das Bild.

Auch das ein Wiedergänger, der intensiven Facebook-Nutzern etwa dreimal am Tag begegnet: Álvaro Múnera Builes sei ein bekehrter Matador. Bei «Momente der Inspiration» liest sich das wie folgt:

Während eines angespannten Stierkampfes tat der Matador Álvaro Múnera das Unvorstellbare. Während die Menge vor Aufregung tobte und das nächste dramatische Manöver erwartete, trat er plötzlich vom Stier zurück, ging an den Rand der Arena und setzte sich hin. Stille legte sich über das Publikum.

Múnera habe dem Stierkampf den Rücken gekehrt und sei ein engagierter Tierschutzaktivist geworden, erfahren wir: ein Mensch, der von einer Sekunde auf die nächste sein Leben umkrempelte, vor den Augen des staunenden Publikums.

5) Die stillende Polizistin

Die Polizistin, die schnell mal ein hungriges Baby stillt.

Dieses Posting stammt von einem Facebook-User namens Hichäääm, von dem wir nichts weiter erfahren, als dass er eine «Person des öffentlichen Lebens» sei und 1,1 Millionen Follower habe. Er postet alte und neue Meldungen aus dem In- und Ausland, ohne dass ein Muster erkennbar wäre. Mal geht es um die AfD, mal um den nicht mehr finanzierbaren Sozialstaat, mal um Elon Musk, der seine Definition, was eine Frau sein sollte, zum Besten gibt.

Im fraglichen Beitrag geht es um eine argentinische Polizistin, die ein unterernährtes Baby selbst gestillt habe:

Die Polizistin Celeste Ayala zeigte damit, dass Mitgefühl und Verantwortung manchmal wichtiger sind als Dienstvorschriften.

Rührseliger Kitsch

Leider habe ich es nicht geschafft, euch diese Meldungen so neutral zu präsentieren, wie ich es mir vorgenommen hatte. Darum ahnt ihr vermutlich schon, in welche Richtung meine Kritik zielt.

Diese Geschichten haben eine Gemeinsamkeit: Sie haben alle einen wahren Kern, werden aber zu undifferenziert, rührselig und verkitscht dargestellt. Sie lassen alle Aspekte weg, die die angestrebte Wirkung beeinträchtigen würden. Konkret:

1. Die Esel:
   Es gibt die Regel zu ihrem Schutz, doch die wurde nicht auf Santorini eingeführt, sondern stammt von der griechischen Regierung. Und die Massnahme zum Tierwohl wird weder ausreichend kontrolliert noch konsequent durchgesetzt. Den Eseln geht es noch immer oft mies.
2. Die Container:
   Über diese Form der Notunterkünfte wird ernsthaft berichtet, hier von der deutschen Tagesschau. Auf den Fotos der ARD wirken die nicht, wie im Text behauptet, wie ein «würdevoller Zufluchtsraum». Von den angeblichen «Pflanzen und Lichterketten» ist nichts zu sehen. Ausserdem erfahren wir nicht, in welcher Stadt diese Container stehen, wer sie initiiert hat und welche Gruppen sie nutzen dürfen.
3. Hachikō:
   Der Hund mag wirklich als Hoffnungsträger dienen, aber die Vermenschlichung mit Begriffen wie «geduldig» und «stille Treue» ist unnötig. Die Lebenslektion zur «bedingungslosen Liebe» würde höchstens in die Sonntagspredigt passen.
4. Álvaro Múnera Builes:
   Der Matador gab seine Karriere nicht aus Mitgefühl für den Stier auf, sondern weil er schwer verletzt wurde und im Rollstuhl sitzt. Diese geschönte Kolportage wurde mehrfach widerlegt (hier und hier).
5. Celeste Ayala:
   Die Fakten werden korrekt wiedergegeben, doch die Moral – Mitgefühl sei wichtiger als Dienstvorschriften – impliziert, die Polizistin habe sich mit ihrer Tat Ärger eingehandelt. Das ist nicht der Fall, sie wurde im Gegenteil befördert. Das wahre Problem ist freilich, dass die eigentliche Ursache, die erschreckende Kinderarmut in Argentinien, komplett unter den Tisch gekehrt wird.

Ich möchte das grundsätzliche Problem anhand des zweitletzten Beispiels, Matador, weiter ausführen.

Diese Erzählung wurde früher oft mit einem Bild in Umlauf gebracht, das einen anderen Stierkämpfer zeigt. Heute verwendet man, natürlich, einen KI-Deepfake.

Wer hätte es gedacht?

«Alles kann auf Facebook monetarisiert werden»

Bei der Verbreitung von derlei Informationsmüll gibt es eine finanzielle Komponente. Das fragliche Posting wurde über 8800-mal geteilt und hat 56’700 Likes eingeheimst. Wie oft der Beitrag gesehen wurde, lässt sich daraus nicht direkt ableiten, aber immerhin schätzen: Die Zahl dürfte sich im Millionenbereich bewegen. Ich verrate kein Geheimnis, wenn ich sage, dass selbst die grossen Schweizer Newssites eine solche Reichweite kaum je mit einem einzelnen Beitrag erzielen. Bekanntlich lässt sich solcher Content bei Facebook zu Geld machen. Hier heisst es:

Jedes Content-Format kann monetarisiert werden, nicht nur Videos, sondern auch Fotos, Textbeiträge und Stories. (…)

Die Content-Monetarisierung auf Facebook verfügt über ein «performancebasiertes Auszahlungsmodell», bei dem deine Auszahlungen auf den Interaktionen deiner Zielgruppe basieren. Je besser deine Inhalte abschneiden, desto mehr Geld kannst du verdienen.

Stellt sich also die Frage: Hat der Betreiber der Seite «Momente der Inspiration» für diesen Beitrag – der inhaltlich keinerlei Eigenleistung beinhaltet – Geld bekommen? Die ehrliche Antwort ist, dass ich das nicht weiss. Falls es so sein sollte, würde ein Mindestmass an Transparenz gebieten, dass Facebook diesen Aspekt öffentlich macht.

Jedenfalls durchschaue ich trotz Studiums dieser Seite hier nicht, wie man die Einnahmen abschätzen könnte. Mein Experte für dieses Thema (Claude) meint, bei einer «guten Monetarisierungsstrategie» würden um die 2000 Euro drin liegen.

Wir kommen zum Schluss, dass Information, Berichterstattung und Faktenvermittlung nicht das Ziel solcher Wandersagen sind. Die Botschaft ist bloss Mittel zum Zweck. Es geht um die Emotionalisierung des Publikums – mutmasslich wegen der Umsatzbeteiligung –, und dafür wird alles weggelassen, was nicht ins Bild passt.

Damit zurück zur Ausgangsthese: Obwohl wir es nicht mit Hass zu tun haben, wie bei Emilys White Supremacy-Bekundung, ist in diesen Fällen die performative Zurschaustellung von Liebe zu Mensch und Tier nicht positiv zu werten.

Auch «positive» Fake News sind verheerend

Es hilft nicht, dass wir es nicht mit «harten» Fake News zu tun haben, mit denen die öffentliche Meinung gelenkt und manipuliert werden soll. Denn die «soften Fake News» wirken auf Dauer ebenfalls verheerend – vielleicht nicht so schnell, wie politische Lügen, aber dennoch so stark, dass wir sie auf keinen Fall unterschätzen dürfen:

• Pseudo-News-Beiträge relativieren die Realität. Sie bieten verkitschtes Storytelling im Gewand einer seriösen Berichterstattung.
• Sie erzeugen ein Hintergrundrauschen, in dem Wichtiges und Echtes untergeht und die Grenzen zwischen ernsthafter und regelbasierter Berichterstattung und publizistischem Jekami vermischt: Ich spreche von einer Aufmerksamkeitsverzerrung.
• Sie führen zu einer Überforderung: Selbst kritische, engagierte Nutzerinnen kommen mit Überprüfen und Widersprechen nicht mehr hinterher und kapitulieren.
• Leute, die ambivalente, uneindeutige und differenzierte Positionen vermitteln wollen, stehen auf verlorenem Posten.

Letztens und Schlimmstens: Die Politik hat kapituliert. Man prüft Alterslimits für soziale Medien, die dummerweise bei diesem Problem hier nicht im Geringsten etwas bewirken würden. Aber niemand hält es für diskussionswürdig, dass sich Meta mit der Monetarisierung hier direkt als Verleger betätigt, aber sich gleichzeitig mit der alten Ausrede, auf einer Plattform mit User Generated Content nur als Vermittler zu agieren, aus jeder Verantwortung stiehlt.

Aber gut, mit einem Medienminister, der auch nach der deutlichen Ablehnung der SRG-Initiative noch immer überzeugt ist, der Markt würde auch die Sache mit den Medien regeln,  haben wir es in der Schweiz nicht besser verdient.

#DerOnlineShitDerWoche #Facebook #FakenewsDeepfakes #Longread #Politik #SozialeMedien

Facebook ersetzt Journalismus durch Kitsch

Vermutlich meint sie nicht ihren Milchkaffee.

Ist das ein echtes Problem?

Die Frage stellt sich beim heutigen Thema, weil auf der Meta-Plattform Threads solche Posts wie derjenige von Emily veröffentlicht werden und Tausende von Likes absahnen. Frau Owen posiert mit einem Coffee to go und der Aussage, sie sei stolz, weiss zu sein. Und obwohl ich nichts mit Emily zu tun habe und nicht die geringste Lust verspüre, mit ihr in eine Diskussion über stumpfsinnige Rassismusäusserungen einzutreten, präsentiert mir Mark Zuckerbergs Algorithmus diesen Post ungefragt in meiner Zeitleiste. Also: ein echtes, drängendes Problem.

Demgegenüber geht es in diesem Blogpost um eine Sache, die im Vergleich harmlos wirkt. Mark Zuckerberg reibt mir auf einer seiner anderen Plattformen (Facebook) automatisch Posts unter meine Nase, bei denen man annehmen könnte, sie seien ein Grund zur Freude. Es handelt sich um positive Meldungen aus einer immer schwierigeren, beängstigenderen Welt. Hier sind Leute am Werk, die den Glauben ans Gute anfachen. Oder?

Fünf herausragende Beispiele dieser Machart:

1) Auf Santorini dürfen dicke Touristen nicht mehr auf Eseln reiten

Wer hat kein Herz für Esel?

Klingt sinnvoll: Wer über hundert Kilogramm wiegt, sollte sich nicht auf einen armen Esel setzen und sich den Hang hochschleppen lassen dürfen.

Diese Geschichte, die das Herz aller Tierfreunde erwärmt, wurde von einer Facebook-Seite mit dem irritierend nichtssagenden Namen Typisch Bugra – FaxxenTV in Umlauf gebracht. Der Urheber präsentiert ein verwirrendes Durcheinander an Inhalten und hat aus mir völlig uneinsichtigen Gründen 1,3 Millionen Follower. Zum Vergleich: SRF hat nur einen Zehntel (133’800 Leute).

2) Ausgemusterte Busse werden zu mobilen Lebensmittelläden

Eine bessere Welt dank alten Bussen und Containern.

«My Hobby» schreibt, in Deutschland würden aus Schiffscontainern modulare Unterkünfte für obdachlose Menschen. Der Bildpost schneidet ein anderes, ähnlich gelagertes Thema an und berichtet, in Dänemark würden ausgemusterte Busse zu mobilen Lebensmittelläden umgebaut.

Hierzulande mag man sich an die Migros-Verkaufswagen erinnern, die vor mehr als hundert Jahren durch die Schweiz fuhren und in den 1970er-Jahren auch in meinem Dorf für eine willkommene Einkaufsgelegenheit sorgten.

3) Der treue Hund Hachikō an der Shibuya-Station

Kein Tag, an dem dieser Hund nicht auf Facebook anzutreffen ist.

Ein Hund wartete auch nach dem Tod seines Herrchens für Jahre an einer Bahnstation und wurde so zu einem Symbol für Treue. Diese Begebenheit ist auf Wikipedia dokumentiert.

Auf Facebook wird sie andauernd von allen möglichen und unmöglichen Accounts aufgewärmt. Hier von Video Trends oder hier bei PawLove mit einer besonders widersinnigen Betextung:

Kennst du diese Geschichten, die man nie vergisst, egal wie oft man sie hört 🐕

4) Der bekehrte Matador

Hier stimmt nichts – weder der Text noch das Bild.

Auch das ein Wiedergänger, der intensiven Facebook-Nutzern etwa dreimal am Tag begegnet: Álvaro Múnera Builes sei ein bekehrter Matador. Bei «Momente der Inspiration» liest sich das wie folgt:

Während eines angespannten Stierkampfes tat der Matador Álvaro Múnera das Unvorstellbare. Während die Menge vor Aufregung tobte und das nächste dramatische Manöver erwartete, trat er plötzlich vom Stier zurück, ging an den Rand der Arena und setzte sich hin. Stille legte sich über das Publikum.

Múnera habe dem Stierkampf den Rücken gekehrt und sei ein engagierter Tierschutzaktivist geworden, erfahren wir: ein Mensch, der von einer Sekunde auf die nächste sein Leben umkrempelte, vor den Augen des staunenden Publikums.

5) Die stillende Polizistin

Die Polizistin, die schnell mal ein hungriges Baby stillt.

Dieses Posting stammt von einem Facebook-User namens Hichäääm, von dem wir nichts weiter erfahren, als dass er eine «Person des öffentlichen Lebens» sei und 1,1 Millionen Follower habe. Er postet alte und neue Meldungen aus dem In- und Ausland, ohne dass ein Muster erkennbar wäre. Mal geht es um die AfD, mal um den nicht mehr finanzierbaren Sozialstaat, mal um Elon Musk, der seine Definition, was eine Frau sein sollte, zum Besten gibt.

Im fraglichen Beitrag ist eine argentinische Polizistin die Heldin, die ein unterernährtes Baby selbst gestillt habe:

Die Polizistin Celeste Ayala zeigte damit, dass Mitgefühl und Verantwortung manchmal wichtiger sind als Dienstvorschriften.

Rührseliger Kitsch

Leider habe ich es nicht geschafft, euch diese Meldungen so neutral zu präsentieren, wie ich es mir vorgenommen hatte. Darum ahnt ihr vermutlich schon, in welche Richtung meine Kritik zielt.

Diese Geschichten haben eine Gemeinsamkeit: Sie haben alle einen wahren Kern, werden aber zu undifferenziert, rührselig und verkitscht dargestellt. Sie lassen alle Aspekte weg, die die angestrebte Wirkung beeinträchtigen würden. Konkret:

1. Die Esel:
   Es gibt die Regel zu ihrem Schutz, doch die wurde nicht auf Santorini eingeführt, sondern stammt von der griechischen Regierung. Und die Massnahme zum Tierwohl wird weder ausreichend kontrolliert noch konsequent durchgesetzt. Den Eseln geht es noch immer oft mies.
2. Die Container:
   Über diese Form der Notunterkünfte wird ernsthaft berichtet, hier von der deutschen Tagesschau. Auf den Fotos der ARD wirken die nicht, wie im Text behauptet, wie ein «würdevoller Zufluchtsraum». Von den angeblichen «Pflanzen und Lichterketten» ist nichts zu sehen. Ausserdem erfahren wir nicht, in welcher Stadt diese Container stehen, wer sie initiiert hat und welche Gruppen sie nutzen dürfen.
3. Hachikō:
   Der Hund mag wirklich als Hoffnungsträger dienen, aber die Vermenschlichung mit Begriffen wie «geduldig» und «stille Treue» ist unnötig. Die Lebenslektion zur «bedingungslosen Liebe» würde höchstens in die Sonntagspredigt passen.
4. Álvaro Múnera Builes:
   Der Matador gab seine Karriere nicht aus Mitgefühl für den Stier auf, sondern weil er schwer verletzt wurde und im Rollstuhl sitzt. Diese geschönte Kolportage wurde mehrfach widerlegt (hier und hier).
5. Celeste Ayala:
   Die Fakten werden korrekt wiedergegeben, doch die Moral – Mitgefühl sei wichtiger als Dienstvorschriften – impliziert, die Polizistin habe sich mit ihrer Tat Ärger eingehandelt. Das ist nicht der Fall, sie wurde im Gegenteil befördert. Das wahre Problem ist freilich, dass die eigentliche Ursache, die erschreckende Kinderarmut in Argentinien, komplett unter den Teppich gekehrt wird.

Ich möchte das grundsätzliche Problem anhand des zweitletzten Beispiels, Matador, weiter ausführen.

Diese Erzählung wurde früher oft mit einem Bild in Umlauf gebracht, das einen anderen Stierkämpfer zeigt. Heute verwendet man, natürlich, einen KI-Deepfake.

Wer hätte es gedacht?

«Alles kann auf Facebook monetarisiert werden»

Bei der Verbreitung von derlei Informationsmüll gibt es eine finanzielle Komponente. Das fragliche Posting wurde über 8800-mal geteilt und hat 56’700 Likes eingeheimst. Wie oft der Beitrag gesehen wurde, lässt sich daraus nicht direkt ableiten, aber immerhin schätzen: Die Zahl dürfte sich im Millionenbereich bewegen. Ich verrate kein Geheimnis, wenn ich sage, dass selbst die grossen Schweizer Newssites eine solche Reichweite kaum je mit einem einzelnen Beitrag erzielen. Bekanntlich lässt sich solcher Content bei Facebook zu Geld machen. Hier heisst es:

Jedes Content-Format kann monetarisiert werden, nicht nur Videos, sondern auch Fotos, Textbeiträge und Stories. (…)

Die Content-Monetarisierung auf Facebook verfügt über ein «performancebasiertes Auszahlungsmodell», bei dem deine Auszahlungen auf den Interaktionen deiner Zielgruppe basieren. Je besser deine Inhalte abschneiden, desto mehr Geld kannst du verdienen.

Stellt sich also die Frage: Hat der Betreiber der Seite «Momente der Inspiration» für diesen Beitrag – der inhaltlich keinerlei Eigenleistung beinhaltet – Geld bekommen? Die ehrliche Antwort ist, dass ich das nicht weiss. Falls es so sein sollte, würde ein Mindestmass an Transparenz gebieten, dass Facebook diesen Aspekt öffentlich macht.

Jedenfalls durchschaue ich trotz Studiums dieser Seite hier nicht, wie man die Einnahmen abschätzen könnte. Mein Experte für dieses Thema (Claude) meint, bei einer «guten Monetarisierungsstrategie» würden um die 2000 Euro drin liegen.

Wir kommen zum Schluss, dass Information, Berichterstattung und Faktenvermittlung nicht das Ziel solcher Wandersagen sind. Die Botschaft ist bloss Mittel zum Zweck. Es geht um die Emotionalisierung des Publikums – mutmasslich wegen der Umsatzbeteiligung –, und dafür wird alles weggelassen, was nicht ins Bild passt.

Damit zurück zur Ausgangsthese: Obwohl wir es nicht mit Hass zu tun haben, wie bei Emilys White Supremacy-Bekundung, ist in diesen Fällen die performative Zurschaustellung von Liebe zu Mensch und Tier nicht positiv zu werten.

Auch «positive» Fake News sind verheerend

Es hilft nicht, dass wir es nicht mit «harten» Fake News zu tun haben, mit denen die öffentliche Meinung gelenkt und manipuliert werden soll. Denn die «soften Fake News» wirken auf Dauer ebenfalls verheerend – vielleicht nicht so schnell, wie politische Lügen, aber dennoch so stark, dass wir sie auf keinen Fall unterschätzen dürfen:

• Pseudo-News-Beiträge relativieren die Realität. Sie bieten verkitschtes Storytelling im Gewand einer seriösen Berichterstattung.
• Sie erzeugen ein Hintergrundrauschen, in dem Wichtiges und Echtes untergeht und die Grenzen zwischen ernsthafter und regelbasierter Berichterstattung und publizistischem Jekami vermischt: Ich spreche von einer Aufmerksamkeitsverzerrung.
• Sie führen zu einer Überforderung: Selbst kritische, engagierte Nutzerinnen kommen mit Überprüfen und Widersprechen nicht mehr hinterher und kapitulieren.
• Leute, die ambivalente, uneindeutige und differenzierte Positionen vermitteln wollen, stehen auf verlorenem Posten.

Letztens und Schlimmstens: Die Politik hat kapituliert. Man prüft Alterslimits für soziale Medien, die dummerweise bei diesem Problem hier nicht im Geringsten etwas bewirken würden. Aber niemand hält es für diskussionswürdig, dass sich Meta mit der Monetarisierung hier direkt als Verleger betätigt, aber sich gleichzeitig mit der alten Ausrede, auf einer Plattform mit User Generated Content nur als Vermittler zu agieren, aus jeder Verantwortung stiehlt.

Aber gut, mit einem Medienminister, der auch nach der deutlichen Ablehnung der SRG-Initiative noch immer überzeugt ist, der Markt würde auch die Sache mit den Medien regeln,  haben wir es in der Schweiz nicht besser verdient.

Beitragsbild: Bei ihr hat es jedenfalls gewirkt (RobinHiggins, Pixabay-Lizenz).

#DerOnlineShitDerWoche #Facebook #FakenewsDeepfakes #Longread #Politik #SozialeMedien

Facebook ersetzt Journalismus durch Kitsch

Vermutlich meint sie nicht ihren Milchkaffee.

Ist das ein echtes Problem?

Die Frage stellt sich beim heutigen Thema, weil auf der Meta-Plattform Threads solche Posts wie derjenige von Emily veröffentlicht werden und Tausende von Likes absahnen. Frau Owen posiert mit einem Coffee to go und der Aussage, sie sei stolz, weiss zu sein. Und obwohl ich nichts mit Emily zu tun habe und nicht die geringste Lust verspüre, mit ihr in eine Diskussion über stumpfsinnige Rassismusäusserungen einzutreten, präsentiert mir Mark Zuckerbergs Algorithmus diesen Post ungefragt in meiner Zeitleiste. Also: ein echtes, drängendes Problem.

Demgegenüber geht es in diesem Blogpost um eine Sache, die im Vergleich harmlos wirkt. Mark Zuckerberg reibt mir auf einer seiner anderen Plattformen (Facebook) automatisch Posts unter meine Nase, bei denen man annehmen könnte, sie seien ein Grund zur Freude. Es handelt sich um positive Meldungen aus einer immer schwierigeren, beängstigenderen Welt. Hier sind Leute am Werk, die den Glauben ans Gute anfachen. Oder?

Fünf herausragende Beispiele dieser Machart:

1) Auf Santorini dürfen dicke Touristen nicht mehr auf Eseln reiten

Wer hat kein Herz für Esel?

Klingt sinnvoll: Wer über hundert Kilogramm wiegt, sollte sich nicht auf einen armen Esel setzen und sich den Hang hochschleppen lassen dürfen.

Diese Geschichte, die das Herz aller Tierfreunde erwärmt, wurde von einer Facebook-Seite mit dem irritierend nichtssagenden Namen Typisch Bugra – FaxxenTV in Umlauf gebracht. Der Urheber präsentiert ein verwirrendes Durcheinander an Inhalten und hat aus mir völlig uneinsichtigen Gründen 1,3 Millionen Follower. Zum Vergleich: SRF hat nur einen Zehntel (133’800 Leute).

2) Ausgemusterte Busse werden zu mobilen Lebensmittelläden

Eine bessere Welt dank alten Bussen und Containern.

«My Hobby» schreibt, in Deutschland würden aus Schiffscontainern modulare Unterkünfte für obdachlose Menschen. Der Bildpost schneidet ein anderes, ähnlich gelagertes Thema an und berichtet, in Dänemark würden ausgemusterte Busse zu mobilen Lebensmittelläden umgebaut.

Hierzulande mag man sich an die Migros-Verkaufswagen erinnern, die vor mehr als hundert Jahren durch die Schweiz fuhren und in den 1970er-Jahren auch in meinem Dorf für eine willkommene Einkaufsgelegenheit sorgten.

3) Der treue Hund Hachikō an der Shibuya-Station

Kein Tag, an dem dieser Hund nicht auf Facebook anzutreffen ist.

Ein Hund wartete auch nach dem Tod seines Herrchens für Jahre an einer Bahnstation und wurde so zu einem Symbol für Treue. Diese Begebenheit ist auf Wikipedia dokumentiert.

Auf Facebook wird sie andauernd von allen möglichen und unmöglichen Accounts aufgewärmt. Hier von Video Trends oder hier bei PawLove mit einer besonders widersinnigen Betextung:

Kennst du diese Geschichten, die man nie vergisst, egal wie oft man sie hört 🐕

4) Der bekehrte Matador

Hier stimmt nichts – weder der Text noch das Bild.

Auch das ein Wiedergänger, der intensiven Facebook-Nutzern etwa dreimal am Tag begegnet: Álvaro Múnera Builes sei ein bekehrter Matador. Bei «Momente der Inspiration» liest sich das wie folgt:

Während eines angespannten Stierkampfes tat der Matador Álvaro Múnera das Unvorstellbare. Während die Menge vor Aufregung tobte und das nächste dramatische Manöver erwartete, trat er plötzlich vom Stier zurück, ging an den Rand der Arena und setzte sich hin. Stille legte sich über das Publikum.

Múnera habe dem Stierkampf den Rücken gekehrt und sei ein engagierter Tierschutzaktivist geworden, erfahren wir: ein Mensch, der von einer Sekunde auf die nächste sein Leben umkrempelte, vor den Augen des staunenden Publikums.

5) Die stillende Polizistin

Die Polizistin, die schnell mal ein hungriges Baby stillt.

Dieses Posting stammt von einem Facebook-User namens Hichäääm, von dem wir nichts weiter erfahren, als dass er eine «Person des öffentlichen Lebens» sei und 1,1 Millionen Follower habe. Er postet alte und neue Meldungen aus dem In- und Ausland, ohne dass ein Muster erkennbar wäre. Mal geht es um die AfD, mal um den nicht mehr finanzierbaren Sozialstaat, mal um Elon Musk, der seine Definition, was eine Frau sein sollte, zum Besten gibt.

Im fraglichen Beitrag geht es um eine argentinische Polizistin, die ein unterernährtes Baby selbst gestillt habe:

Die Polizistin Celeste Ayala zeigte damit, dass Mitgefühl und Verantwortung manchmal wichtiger sind als Dienstvorschriften.

Rührseliger Kitsch

Leider habe ich es nicht geschafft, euch diese Meldungen so neutral zu präsentieren, wie ich es mir vorgenommen hatte. Darum ahnt ihr vermutlich schon, in welche Richtung meine Kritik zielt.

Diese Geschichten haben eine Gemeinsamkeit: Sie haben alle einen wahren Kern, werden aber zu undifferenziert, rührselig und verkitscht dargestellt. Sie lassen alle Aspekte weg, die die angestrebte Wirkung beeinträchtigen würden. Konkret:

1. Die Esel:
   Es gibt die Regel zu ihrem Schutz, doch die wurde nicht auf Santorini eingeführt, sondern stammt von der griechischen Regierung. Und die Massnahme zum Tierwohl wird weder ausreichend kontrolliert noch konsequent durchgesetzt. Den Eseln geht es noch immer oft mies.
2. Die Container:
   Über diese Form der Notunterkünfte wird ernsthaft berichtet, hier von der deutschen Tagesschau. Auf den Fotos der ARD wirken die nicht, wie im Text behauptet, wie ein «würdevoller Zufluchtsraum». Von den angeblichen «Pflanzen und Lichterketten» ist nichts zu sehen. Ausserdem erfahren wir nicht, in welcher Stadt diese Container stehen, wer sie initiiert hat und welche Gruppen sie nutzen dürfen.
3. Hachikō:
   Der Hund mag wirklich als Hoffnungsträger dienen, aber die Vermenschlichung mit Begriffen wie «geduldig» und «stille Treue» ist unnötig. Die Lebenslektion zur «bedingungslosen Liebe» würde höchstens in die Sonntagspredigt passen.
4. Álvaro Múnera Builes:
   Der Matador gab seine Karriere nicht aus Mitgefühl für den Stier auf, sondern weil er schwer verletzt wurde und im Rollstuhl sitzt. Diese geschönte Kolportage wurde mehrfach widerlegt (hier und hier).
5. Celeste Ayala:
   Die Fakten werden korrekt wiedergegeben, doch die Moral – Mitgefühl sei wichtiger als Dienstvorschriften – impliziert, die Polizistin habe sich mit ihrer Tat Ärger eingehandelt. Das ist nicht der Fall, sie wurde im Gegenteil befördert. Das wahre Problem ist freilich, dass die eigentliche Ursache, die erschreckende Kinderarmut in Argentinien, komplett unter den Tisch gekehrt wird.

Ich möchte das grundsätzliche Problem anhand des zweitletzten Beispiels, Matador, weiter ausführen.

Diese Erzählung wurde früher oft mit einem Bild in Umlauf gebracht, das einen anderen Stierkämpfer zeigt. Heute verwendet man, natürlich, einen KI-Deepfake.

Wer hätte es gedacht?

«Alles kann auf Facebook monetarisiert werden»

Bei der Verbreitung von derlei Informationsmüll gibt es eine finanzielle Komponente. Das fragliche Posting wurde über 8800-mal geteilt und hat 56’700 Likes eingeheimst. Wie oft der Beitrag gesehen wurde, lässt sich daraus nicht direkt ableiten, aber immerhin schätzen: Die Zahl dürfte sich im Millionenbereich bewegen. Ich verrate kein Geheimnis, wenn ich sage, dass selbst die grossen Schweizer Newssites eine solche Reichweite kaum je mit einem einzelnen Beitrag erzielen. Bekanntlich lässt sich solcher Content bei Facebook zu Geld machen. Hier heisst es:

Jedes Content-Format kann monetarisiert werden, nicht nur Videos, sondern auch Fotos, Textbeiträge und Stories. (…)

Die Content-Monetarisierung auf Facebook verfügt über ein «performancebasiertes Auszahlungsmodell», bei dem deine Auszahlungen auf den Interaktionen deiner Zielgruppe basieren. Je besser deine Inhalte abschneiden, desto mehr Geld kannst du verdienen.

Stellt sich also die Frage: Hat der Betreiber der Seite «Momente der Inspiration» für diesen Beitrag – der inhaltlich keinerlei Eigenleistung beinhaltet – Geld bekommen? Die ehrliche Antwort ist, dass ich das nicht weiss. Falls es so sein sollte, würde ein Mindestmass an Transparenz gebieten, dass Facebook diesen Aspekt öffentlich macht.

Jedenfalls durchschaue ich trotz Studiums dieser Seite hier nicht, wie man die Einnahmen abschätzen könnte. Mein Experte für dieses Thema (Claude) meint, bei einer «guten Monetarisierungsstrategie» würden um die 2000 Euro drin liegen.

Wir kommen zum Schluss, dass Information, Berichterstattung und Faktenvermittlung nicht das Ziel solcher Wandersagen sind. Die Botschaft ist bloss Mittel zum Zweck. Es geht um die Emotionalisierung des Publikums – mutmasslich wegen der Umsatzbeteiligung –, und dafür wird alles weggelassen, was nicht ins Bild passt.

Damit zurück zur Ausgangsthese: Obwohl wir es nicht mit Hass zu tun haben, wie bei Emilys White Supremacy-Bekundung, ist in diesen Fällen die performative Zurschaustellung von Liebe zu Mensch und Tier nicht positiv zu werten.

Auch «positive» Fake News sind verheerend

Es hilft nicht, dass wir es nicht mit «harten» Fake News zu tun haben, mit denen die öffentliche Meinung gelenkt und manipuliert werden soll. Denn die «soften Fake News» wirken auf Dauer ebenfalls verheerend – vielleicht nicht so schnell, wie politische Lügen, aber dennoch so stark, dass wir sie auf keinen Fall unterschätzen dürfen:

• Pseudo-News-Beiträge relativieren die Realität. Sie bieten verkitschtes Storytelling im Gewand einer seriösen Berichterstattung.
• Sie erzeugen ein Hintergrundrauschen, in dem Wichtiges und Echtes untergeht und die Grenzen zwischen ernsthafter und regelbasierter Berichterstattung und publizistischem Jekami vermischt: Ich spreche von einer Aufmerksamkeitsverzerrung.
• Sie führen zu einer Überforderung: Selbst kritische, engagierte Nutzerinnen kommen mit Überprüfen und Widersprechen nicht mehr hinterher und kapitulieren.
• Leute, die ambivalente, uneindeutige und differenzierte Positionen vermitteln wollen, stehen auf verlorenem Posten.

Letztens und Schlimmstens: Die Politik hat kapituliert. Man prüft Alterslimits für soziale Medien, die dummerweise bei diesem Problem hier nicht im Geringsten etwas bewirken würden. Aber niemand hält es für diskussionswürdig, dass sich Meta mit der Monetarisierung hier direkt als Verleger betätigt, aber sich gleichzeitig mit der alten Ausrede, auf einer Plattform mit User Generated Content nur als Vermittler zu agieren, aus jeder Verantwortung stiehlt.

Aber gut, mit einem Medienminister, der auch nach der deutlichen Ablehnung der SRG-Initiative noch immer überzeugt ist, der Markt würde auch die Sache mit den Medien regeln,  haben wir es in der Schweiz nicht besser verdient.

#DerOnlineShitDerWoche #Facebook #FakenewsDeepfakes #Longread #Politik #SozialeMedien