#instagrammeta_ — Public Fediverse posts

Extra dünn

Generative KI verzerrt unser Körperbild

KI-Generatoren produzieren nicht nur Bilder und Videos, sondern reproduzieren auch Diskriminierung. Eine Wissenschaftlerin der Universität Cambridge fand heraus, dass KI Menschen mit großen Körpern häufiger einen negativen Gesichtsausdruck verleiht und teilweise Probleme bei deren anatomischer Darstellung hat.

Soziale Medien werden derzeit von Bildern und Videos geflutet, die von sogenannter Künstlicher Intelligenz (KI) generiert wurden. Das wirkt sich auch auf unsere kollektive Vorstellungskraft aus. Eine Untersuchung der Universität Cambridge warnt nun vor negativen Folgen für das Selbst- und Körperbild von Menschen.

Die Forscherin Aisha Sobey vom Leverhulme Centre for the Future of Intelligence hat untersucht, wie unterschiedliche Körperformen von KI-Generatoren repräsentiert werden. Ihr Befund: Darstellungen unrealistisch dünner Menschen sind der Standard, große und dicke Körper werden diskriminierend dargestellt.

„Ich bin besorgt über die steigende Zahl von Fällen von Körperunzufriedenheit und Essstörungen und dem daraus resultierenden Zeit-, Energie- und Geldaufwand“, schreibt Sobey auf Anfrage von netzpolitik.org. KI-Generatoren würden diesen Trend verstärken.

Unrealistisch dünne Körper als Standard

Für die Untersuchung verfasste die Forscherin 20 Anweisungen, auch Prompts genannt, zum Erstellen von Bildern mit generativer KI. Alle Darstellungen sollten Personen in unterschiedlichen Situationen zeigen. Manche Prompts erhielten als Zusatz eine medizinische Beschreibung größerer Körper wie „übergewichtig“ oder den Begriff „fat“, zu deutsch „fett“. Das häufig abwertend verwendete Wort wurde von Aktivist*innen zurückerobert und wird inzwischen von vielen Menschen als positive Selbstbezeichnung verwendet.

Die Prompts ließ die Wissenschaftlerin durch neun öffentlich zugängliche Bildgeneratoren laufen, darunter Adobe Firefly, Canva, Runway ML und Stable Diffusion. Ohne den Zusatz „fat“ zeigten die meisten Bilder Menschen mit sogenannter „Sample Size“. Also Menschen, die zu einer besonders dünnen Untergruppe der nicht-dicken Menschen gehören, mit für die meisten Menschen unrealistischen Maßen.

Größere Körper hingegen wurden fast ausschließlich nur nach ausdrücklicher Aufforderung gezeigt – oder gar nicht. Manche KI-Generatoren stuften die Prompts mit dem Wort „fat“ als schädlich ein. Sie verweigerten den Dienst und produzierten keine Bilder.

Verzerrte Darstellungen

Auch waren die Bilder von dicken Menschen öfters fehlerhaft als die von dünnen Menschen. Bilder sind dann fehlerhaft, wenn die KI bestimmte anatomische Details wie einzelne Finger oder den Winkel eines Arms nicht passend nachahmen kann und deswegen unnatürlich aussehen. Aisha Sobey schließt daraus, dass die Systeme mit Datensätzen trainiert werden, in denen Abbildungen von dicken Menschen unterrepräsentiert sind. Bemerkenswert ist zudem, dass Bilder mit dem Prompt „fat“ übermäßig viele weiße Männer zeigen.

Ebenfalls auffällig sind die unterschiedlichen Gesichtsausdrücke, die die Personen in den verschiedenen Bildern tragen. Fast 25 Prozent der dargestellten dicken Personen haben laut Studie einen negativen Gesichtsausdruck, im Vergleich zu nur drei Prozent der Menschen, die ohne den Prompt „fat“ generiert wurden.

Menschen mit Behinderungen werden von generativer KI ebenfalls unterrepräsentiert. Von den insgesamt 649 generierten Bildern zeigte nur eines eine Person mit äußerlich erkennbarer körperlicher Einschränkung.

Darstellungen von dicken Menschen zeigten zudem deutlich häufiger Personen mit Charakteristika, die gemeinhin mit Lernbehinderungen, Downsyndrom und anderen Behinderungen assoziiert werden. Die Forscherin fand diese Darstellungen bei acht Prozent der Bilder, die mit dem Prompt „fat“ generiert wurden, und nur bei zwei Prozent der Abbildungen ohne den Zusatz.

KI kann Unzufriedenheit schüren

Wissenschaftler*innen bezeichnen generative Künstliche Intelligenz auch als Spiegel der Gesellschaft. Trainiert werden die Systeme mit großen Datenmengen, die oft aus dem Internet abgeschöpft werden. Die Diversität der verwendeten Daten steht dabei in engem Zusammenhang mit der Diversität der generierten Inhalte. Die für das Training verwendeten Datensätze scheinen also große Körper nur unzulänglich abzubilden.

Sie spiegeln damit einen online immer noch vorherrschenden Standard wider, bei dem überdurchschnittlich dünne und weiße Körper ohne Behinderungen als Norm dargestellt werden. Allerdings scheint generative KI das Problem nicht nur fortzuschreiben, sondern sogar zu verschärfen, denn KI-generierte Bilder, die diskriminierende Körperbilder repräsentieren, werden wiederum für das Training der Generatoren verwendet.

Über die Sozialen Medien sickern die diskriminierenden Bilder zudem in unsere kollektive Vorstellungswelt ein. AI Forensics, ein europäischer Verein, der undurchsichtige Algorithmen überprüft, nahm im Juli 2025 eine Stichprobe und fand, dass ungefähr jedes vierte Video auf TikTok von KI generiert war. Der Unterschied zu menschlichen Creatoren ist, dass KI ausschließlich in den Trainings-Datensätzen vorhandene Muster reproduzieren kann, während Menschen umdenken und ihre Einstellungen ändern können.

„Die [durch generative KI] implizierten Erwartungen folgen einer langen Tradition von Modell- und Idealkörpern, aber ich würde sagen, dass es durch generative KI viel heimtückischer ist“, so Aisha Sobey gegenüber netzpolitik.org. Aus ihrer Sicht stärkt generative KI jene Systeme, „die Fettleibigkeit verteufeln und die Unsicherheiten der Menschen ausnutzen“.

Paula Clamor ist von Oktober bis Dezember 2025 Praktikantin bei netzpolitik.org. Sie hat vor kurzem ihr Abitur gemacht und interessiert sich für digitalen Feminismus und künstliche Intelligenz. Dieser Beitrag ist eine Übernahme von netzpolitik, gemäss Lizenz Creative Commons BY-NC-SA 4.0.

Über Paula Clamor - netzpolitik:

Unter der Kennung "Gastautor:innen" fassen wir die unterschiedlichsten Beiträge externer Quellen zusammen, die wir dankbar im Beueler-Extradienst (wieder-)veröffentlichen dürfen. Die Autor*innen, Quellen und ggf. Lizenzen sind, soweit bekannt, jeweils im Beitrag vermerkt und/oder verlinkt.

Meta hört bald zu

Instagram, Whatsapp, Facebook: Meta hört bald zu, wenn du dich mit der KI unterhältst

Tech-Gigant Meta will Daten, die Nutzer*innen in seinen Chatbot eingeben, künftig auslesen und speichern. Damit sollen Anzeigen treffsicherer personalisiert werden. Es gibt nur einen Weg, sich der Datensammlung zu entziehen.

Den Meta-Chatbot können Menschen über Instagram, Whatsapp und Facebook ansprechen. Laut Meta nutzen ihn monatlich mehr als eine Milliarde Menschen. Viele davon teilen intime Informationen mit der Software.

Die Gespräche, die Menschen mit der sogenannten Künstlichen Intelligenz führen, will Meta künftig auslesen und speichern. Damit sollen Anzeigen treffsicherer personalisiert werden und die Daten sollen auch beeinflussen, welche Posts Nutzer*innen in den Sozialen Netzwerken angezeigt bekommen. Das erklärte Meta gestern in einem Blogpost. Der Konzern behält sich dabei vor, die Informationen aus den Gesprächen in allen seinen Produkten zu nutzen.

Ein Beispiel nannte der Konzern direkt: Wer sich mit der KI etwa übers Wandern unterhalte, bekomme danach womöglich Empfehlungen für Wandergruppen, Wanderstrecken von Bekannten und Werbung für Wanderschuhe angezeigt.

Auch sensible Konversationen werden ausgelesen

Meta gibt zwar an, sensible Konversationen über religiöse Ansichten, die sexuelle Orientierung, politische Meinungen, Gesundheit und ethnische Herkunft nicht für personalisierte Werbung nutzen zu wollen, die Daten werden aber dennoch mit ausgelesen.

Die neue Regelung will Meta ab dem 16. Dezember umsetzen, allerdings zunächst nicht in der EU und Großbritannien. Dort solle das Feature später ausgerollt werden, weil die hiesigen Datenschutzbestimmungen strenger seien. Für das KI-Training werden die Chatprotokolle in Europa wohl schon genutzt.

Seit Juni ist bereits bekannt, dass Meta mit Hilfe von KI Anzeigen erstellen will. Werbetreibende müssen dann nur ein Produktbild und ein Budget vorgeben. Meta möchte durch diese Investitionen die größte Einnahmequelle Werbung noch rentabler machen. Hier bieten sich auch Spielräume für individuelle Personalisierung von Anzeigen – anhand der mit dem Chatbot erhobenen Daten.

Nutzer*innen teilten unbewusst Chatprotokolle

Meta hat den Chatbot für seine Messenger erst vor wenigen Monaten in Europa eingeführt. Er stand schon mehrfach in der Kritik, etwa weil ihm erlaubt war, „sinnliche“ und „romantische“ Konversationen mit Minderjährigen zu führen. Ein anderes Mal, weil viele Nutzer*innen ihre teils sehr persönlichen Chatprotokolle scheinbar unbewusst veröffentlicht hatten.

Die Nutzer*innen können einstellen, in welchem Ausmaß die ihnen ausgespielte Werbung personalisiert werden soll, aber es gibt keine Möglichkeit, sich gegen die Datenerfassung zur Personalisierung zu wehren – außer, den Chatbot nicht zu nutzen. In Whatsapp kann es allerdings sein, dass andere Nutzer*innen ihn zu einer Konversation hinzuziehen. Das lässt sich mit der Funktion „erweiterter Chat-Datenschutz“ verhindern. Oder mit dem Verzicht auf die datensammelwütige App zugunsten von datensparsamen Alternativen.

Martin Schwarzbeck ist seit 2024 Redakteur bei netzpolitik.org. Er hat Soziologie studiert, als Journalist für zahlreiche Medien gearbeitet, von ARD bis taz, und war zuletzt lange Redakteur bei Berliner Stadtmagazinen, wo er oft Digitalthemen aufgegriffen hat. Martin interessiert sich für Machtstrukturen und die Beziehungen zwischen Menschen und Staaten und Menschen und Konzernen. Ein Fokus dabei sind Techniken und Systeme der Überwachung, egal ob von Staatsorganen oder Unternehmen. Kontakt: E-Mail (OpenPGP), Mastodon. Dieser Beitrag ist eine Übernahme von netzpolitik, gemäss Lizenz Creative Commons BY-NC-SA 4.0.

Über Martin Schwarzbeck, Paula Clamor - netzpolitik:

Unter der Kennung "Gastautor:innen" fassen wir die unterschiedlichsten Beiträge externer Quellen zusammen, die wir dankbar im Beueler-Extradienst (wieder-)veröffentlichen dürfen. Die Autor*innen, Quellen und ggf. Lizenzen sind, soweit bekannt, jeweils im Beitrag vermerkt und/oder verlinkt.

Digitaler Wochenrückblick 22. KW 2025

Im Rauschen der Nachrichten verliert sich oft der Blick auf das Wesentliche, ob in der Hosentasche oder auf dem Schreibtisch. Überall poppt etwas auf, klingelt, brummt oder bruzzelt, alles buhlt um Aufmerksamkeit.

Früher mussten wir uns Informationen beschaffen, heute ersaufen wir im Info-Terror. Da fällt eine Meldung nicht auf, dass Microsoft letzte Woche fünf Sicherheitslücken außer der Reihe stopfen musste, weil sie bereits aktiv ausgenutzt würden. Das heißt so viel wie: Wir wissen, dass unser Haus brennt, wir schütten aber nur Wasser dahin, wo es zu sehen ist – um die Bevölkerung nicht zu verunsichern. Und es funktioniert, mit jedem Update kann es nur besser werden. Und wenn etwas nicht so funktioniert, wie es soll, dann ist der Nutzer selbst schuld, er muss gegebenenfalls geschult werden. Microsoft bietet es schließlich selbst an.

Karim Khan zum Beispiel (der Chefankläger des Internationalen Gerichtshofs, wurde von Microsoft umfänglich geschult, er setzt jetzt auf Digitale Souveränität und hat ein neues Mailkonto in der Schweiz, nachdem er von Microsoft – sagen wir – abgeschaltet wurde. Der Internationale Gerichtshof werde deswegen in seiner Arbeit geradezu gelähmt, schreibt die Nachrichtenagentur AP dazu. So viel Erfolg hätten sie bei dieser kleinen Aktion in Redmond auch nicht erwartet, dabei war es nur ein Klick, erledigt.

Welche weiteren Schulungsmaßnahmen geplant sind, verrät Microsoft nicht!

Aber viel Feind, viel Ehr – die haben angefangen, die Clouds der chinesischen Universitäten abzuklemmen. Das wird ein richtiger Erfolg. Im Gegensatz zu uns reden sie nicht von Digitaler Souveränität, die machen es. Zugegeben, den Chinesen bleibt jetzt nichts anderes übrig. Aber, wer auf dem Mars und auf dem Mond im ersten Anlauf landet, der ist auf Microsoft nicht angewiesen.

Aber fürchtet euch nicht, wir haben einen Bundesdigitalminister, der prescht mit dem klugen Satz vor: „Datenschutz darf nicht zur Innovationsbremse werden!“, nur was will der bremsen? Da ist nichts, die Innovationsbremse ist in den Köpfen tief verankert.  Besser noch, es sollen in Behörden für den Krisenfall sogar mechanische Schreibmaschinen angeschafft werden, als Rückfalloption. Ich wollte das auch nicht glauben, bis ich es gesehen habe…

Mit Karsten Wildberger haben wir einen echten Manager, als Minister leitet er das Ministerium für unerledigte Angelegenheiten, äh, ich meinte das Digitalministerium. Er träumt vom  „digital next Germany“ und schreibt sich „Staatsmodernisierung“ auf die Fahnen – viel Glück sei ihm gewünscht, mit den Pfosten, die Schreibmaschinen anschaffen wollen. Und Menschen, die Datenschutz als Innovationsbremse empfinden, brauchen unseren besonderen Schutz – zumindest bis sie wieder feste Nahrung zu sich nehmen können.

Wer letzte Woche Mark Zuckerberg auf dem Surfbrett mit der Nordamerikaflagge gesehen hat (und dem Hinweis, das sei nicht von einer KI gemacht), der weiß, was ich mir wünsche: keine überflüssige KI.

Zuckerberg denkt allerdings anders darüber und saugt alles, was seine Opfer auf Facebook und Instagram absondern, in seine KI auf, ungebremst, so wie die Gematik uns erledigt hat, mit einer Opt-Out-Option. Die findet nur niemand – auch wenn die Tagesschau das vorbildlich beschreibt.

Wer nicht widerspricht, wird am 27. Mai 2025 eingemeindet, der Widerspruch muss bis zum 26. Mai 2025 eingegangen sein. Meta gibt sich an diesem Punkt als äußerst lernwillig, für die eigene KI, in unserem Interesse natürlich. Denn sie müssten auf die Daten der EU-Bürger zurückgreifen, um auch den hiesigen Sprachen und Kulturen gerecht zu werden. Vorbildlich, absolut vorbildlich, kulturhistorisch gesehen. Würden sie es nicht tun, verlören sie Nutzer – aber für uns wäre es nicht unbedingt ein Verlust.

Der Widerspruch ist übrigens ziemlich nutzlos, weil Meta nur die öffentlich zugänglichen Daten nimmt und dort haben sich sowieso schon ungefragt OpenAI, Google, Alibaba etc. dran bedient. Was denken denn Verbraucherschutzorganisationen, die dagegen vorgehen, gar bemängeln, der Widerspruchsbutton sei zu schwer zu finden, was mit öffentlich zugänglichen Daten passiert? Nix? Gebt mal in einer Suchmaschine eurer Wahl das Wort „clearview“ ein.

Künstliche Intelligenz fehlt scheinbar und weil Europa – vor allem Deutschland – sprudelnde Geldquellen hat, möchte sich openAI sich nicht ganz uneigennützig einbringen. Sie haben diese Woche an einem geheimen Standort in München eine Niederlassung gegründet – mit zehn Mitarbeitern, die Business-Kunden Geld aus der Tasche ziehen sollen. Auf Wunsch stehen die Server in Deutschland oder Europa, falls Firmenkunden den Amerikanern nicht vertrauen oder europäische Richtlinien im Weg stehen. Ich schätze, das wird schon für Digitale Souveränität gehalten.

Besonders sicher soll es auch in unseren Arztpraxen zugehen, denn die Gemati (wissen schon, Gematik und Sicherheit….) orientieren sich an den „Vorgaben der obersten Sicherheitsbehörden und international anerkannten Standards“.

Es stehen 35.000 Konnektoren als Elektroschrott bereit, die nicht mehr umgerüstet werden sollen, die müssen neu beschafft werden, alle mehrere tausend Euro das Stück. Aber weil die Datenautobahn der Gematik wie immer lahmt, warnt sogar die Kassenärztliche Bundesvereinigung (KBV), dass der Tausch nicht rechtzeitig bis zum Herbst 2025 umgesetzt werden kann. Das Problem ist schon älter und der Chaos Computer Club (CCC) hatte bereits vor drei Jahren gezeigt, wie der neue Sicherheitsschlüssel mit einer Softwarelösung aufgespielt werden kann. Aber da hat doch keiner was von und Geld ist genug da, wir müssen doch nicht immer alles für die Patientenversorgung ausgeben.

Das schönste Zitat zur elektronischen Patientenakte (ePA) in dieser Woche kommt vom Vorsitzenden des hessischen Hausärzteverbandes Christian Sommerbrodt:  „Vom Bundesgesundheitsministerium wurde es beworben wie ein iPhone 16. Erwartet haben wir ein Nokia. Was wir bekommen haben, ist ein Telefon mit Wählscheibe.”

Keine weiteren Fragen, euer Ehren!

Setzen, weitermachen.

Über Christian Wolf:

Christian Wolf (M.A.) ist Autor, Filmschaffender, Medienberater, ext. Datenschutzbeauftragter. Geisteswissenschaftliches Studium (Publizistik, Kulturanthropologie, Geographie), freie Tätigkeiten Fernsehen (RTL, WDR etc.) mit Abstechern in Krisengebiete, Bundestag Bonn und Berlin, Dozent DW Berlin (FS), Industriefilme (Würth, Aral u.v.m), wissenschaftliche und künstlerische Filmprojekte, Projekte zur Netzwerksicherheit, Cloudlösungen. Keine Internetpräsenz, ein Bug? Nein, Feature. (Digtalpurist)