#bildgeneratoren — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #bildgeneratoren, aggregated by home.social.
-
K2 arbeitet an einer Präsentation für die Schule. Der Lehrer sagt, er soll dafür mit KI eine Grafik erzeugen - sagt ihm aber nicht, wie und mit welchem Tool. Wahrscheinlich setzen Lehrer heute voraus, dass alle Kids das können und für jeden Mist einen eigenen Account haben…
Lacht mich aus, aber ich habe wirklich keine Ahnung 🤷♀️ Was nehmen wir da jetzt… also K2.(Eltern sollen übrigens nicht helfen)
-
Jo Hippo kauft ein: KI-Modelle im Vergleich
Irgendwie überkam mich, nachdem ich für diesen Beitrag das Maskottchen »Jo Hippo« habe generieren lassen, das Bedürfnis, meine Testreihe mit KI-Bildgeneratoren (Teil 1 und Teil 2) noch einmal aufzunehmen. Denn da einige Dienstleister, wie zum Beispiel OpenArt.ai, viele Modelle bereitstellen, wollte ich testen, was diese Modelle leisten oder nicht leisten und worin sie sich unterscheiden. https://kantel.github.io/posts/2026012001_jo_hippo_2/ #KünstlicheIntelligenz #Bildgeneratoren
-
Der malende Teddy (2); KI-Bildgenerierung für Dummies fortgesetzt
In Ergänzung zu dem Beitrag von gestern möchte ich Euch noch zeigen, wie die beiden von mir favorisierten KI-Bildgeneratoren OpenArt.ai und Scenario sich geschlagen haben. Da es für beide keinen kostenlosen Plan gibt, liefen sie nur außer Konkurrenz mit, jeweils mit dem gleichen Prompt von gestern (mit nude model). https://kantel.github.io/posts/2025121702_ki-bildgenerierung_2/ #KünstlicheIntelligenz #Bildgeneratoren #OpenArtAI #Scenario #Flux2 #NanoBanana
-
Generative KI verzerrt unser Körperbild
KI-Generatoren produzieren nicht nur Bilder und Videos, sondern reproduzieren auch Diskriminierung. Eine Wissenschaftlerin der Universität Cambridge fand heraus, dass KI Menschen mit großen Körpern häufiger einen negativen Gesichtsausdruck verleiht und teilweise Probleme bei deren anatomischer Darstellung hat.
Soziale Medien werden derzeit von Bildern und Videos geflutet, die von sogenannter Künstlicher Intelligenz (KI) generiert wurden. Das wirkt sich auch auf unsere kollektive Vorstellungskraft aus. Eine Untersuchung der Universität Cambridge warnt nun vor negativen Folgen für das Selbst- und Körperbild von Menschen.
Die Forscherin Aisha Sobey vom Leverhulme Centre for the Future of Intelligence hat untersucht, wie unterschiedliche Körperformen von KI-Generatoren repräsentiert werden. Ihr Befund: Darstellungen unrealistisch dünner Menschen sind der Standard, große und dicke Körper werden diskriminierend dargestellt.
„Ich bin besorgt über die steigende Zahl von Fällen von Körperunzufriedenheit und Essstörungen und dem daraus resultierenden Zeit-, Energie- und Geldaufwand“, schreibt Sobey auf Anfrage von netzpolitik.org. KI-Generatoren würden diesen Trend verstärken.
Unrealistisch dünne Körper als Standard
Für die Untersuchung verfasste die Forscherin 20 Anweisungen, auch Prompts genannt, zum Erstellen von Bildern mit generativer KI. Alle Darstellungen sollten Personen in unterschiedlichen Situationen zeigen. Manche Prompts erhielten als Zusatz eine medizinische Beschreibung größerer Körper wie „übergewichtig“ oder den Begriff „fat“, zu deutsch „fett“. Das häufig abwertend verwendete Wort wurde von Aktivist*innen zurückerobert und wird inzwischen von vielen Menschen als positive Selbstbezeichnung verwendet.
Die Prompts ließ die Wissenschaftlerin durch neun öffentlich zugängliche Bildgeneratoren laufen, darunter Adobe Firefly, Canva, Runway ML und Stable Diffusion. Ohne den Zusatz „fat“ zeigten die meisten Bilder Menschen mit sogenannter „Sample Size“. Also Menschen, die zu einer besonders dünnen Untergruppe der nicht-dicken Menschen gehören, mit für die meisten Menschen unrealistischen Maßen.
Größere Körper hingegen wurden fast ausschließlich nur nach ausdrücklicher Aufforderung gezeigt – oder gar nicht. Manche KI-Generatoren stuften die Prompts mit dem Wort „fat“ als schädlich ein. Sie verweigerten den Dienst und produzierten keine Bilder.
Verzerrte Darstellungen
Auch waren die Bilder von dicken Menschen öfters fehlerhaft als die von dünnen Menschen. Bilder sind dann fehlerhaft, wenn die KI bestimmte anatomische Details wie einzelne Finger oder den Winkel eines Arms nicht passend nachahmen kann und deswegen unnatürlich aussehen. Aisha Sobey schließt daraus, dass die Systeme mit Datensätzen trainiert werden, in denen Abbildungen von dicken Menschen unterrepräsentiert sind. Bemerkenswert ist zudem, dass Bilder mit dem Prompt „fat“ übermäßig viele weiße Männer zeigen.
Ebenfalls auffällig sind die unterschiedlichen Gesichtsausdrücke, die die Personen in den verschiedenen Bildern tragen. Fast 25 Prozent der dargestellten dicken Personen haben laut Studie einen negativen Gesichtsausdruck, im Vergleich zu nur drei Prozent der Menschen, die ohne den Prompt „fat“ generiert wurden.
Menschen mit Behinderungen werden von generativer KI ebenfalls unterrepräsentiert. Von den insgesamt 649 generierten Bildern zeigte nur eines eine Person mit äußerlich erkennbarer körperlicher Einschränkung.
Darstellungen von dicken Menschen zeigten zudem deutlich häufiger Personen mit Charakteristika, die gemeinhin mit Lernbehinderungen, Downsyndrom und anderen Behinderungen assoziiert werden. Die Forscherin fand diese Darstellungen bei acht Prozent der Bilder, die mit dem Prompt „fat“ generiert wurden, und nur bei zwei Prozent der Abbildungen ohne den Zusatz.
KI kann Unzufriedenheit schüren
Wissenschaftler*innen bezeichnen generative Künstliche Intelligenz auch als Spiegel der Gesellschaft. Trainiert werden die Systeme mit großen Datenmengen, die oft aus dem Internet abgeschöpft werden. Die Diversität der verwendeten Daten steht dabei in engem Zusammenhang mit der Diversität der generierten Inhalte. Die für das Training verwendeten Datensätze scheinen also große Körper nur unzulänglich abzubilden.
Sie spiegeln damit einen online immer noch vorherrschenden Standard wider, bei dem überdurchschnittlich dünne und weiße Körper ohne Behinderungen als Norm dargestellt werden. Allerdings scheint generative KI das Problem nicht nur fortzuschreiben, sondern sogar zu verschärfen, denn KI-generierte Bilder, die diskriminierende Körperbilder repräsentieren, werden wiederum für das Training der Generatoren verwendet.
Über die Sozialen Medien sickern die diskriminierenden Bilder zudem in unsere kollektive Vorstellungswelt ein. AI Forensics, ein europäischer Verein, der undurchsichtige Algorithmen überprüft, nahm im Juli 2025 eine Stichprobe und fand, dass ungefähr jedes vierte Video auf TikTok von KI generiert war. Der Unterschied zu menschlichen Creatoren ist, dass KI ausschließlich in den Trainings-Datensätzen vorhandene Muster reproduzieren kann, während Menschen umdenken und ihre Einstellungen ändern können.
„Die [durch generative KI] implizierten Erwartungen folgen einer langen Tradition von Modell- und Idealkörpern, aber ich würde sagen, dass es durch generative KI viel heimtückischer ist“, so Aisha Sobey gegenüber netzpolitik.org. Aus ihrer Sicht stärkt generative KI jene Systeme, „die Fettleibigkeit verteufeln und die Unsicherheiten der Menschen ausnutzen“.
Paula Clamor ist von Oktober bis Dezember 2025 Praktikantin bei netzpolitik.org. Sie hat vor kurzem ihr Abitur gemacht und interessiert sich für digitalen Feminismus und künstliche Intelligenz. Dieser Beitrag ist eine Übernahme von netzpolitik, gemäss Lizenz Creative Commons BY-NC-SA 4.0.
Über Paula Clamor - netzpolitik:
Unter der Kennung "Gastautor:innen" fassen wir die unterschiedlichsten Beiträge externer Quellen zusammen, die wir dankbar im Beueler-Extradienst (wieder-)veröffentlichen dürfen. Die Autor*innen, Quellen und ggf. Lizenzen sind, soweit bekannt, jeweils im Beitrag vermerkt und/oder verlinkt.
-
Generative KI verzerrt unser Körperbild
KI-Generatoren produzieren nicht nur Bilder und Videos, sondern reproduzieren auch Diskriminierung. Eine Wissenschaftlerin der Universität Cambridge fand heraus, dass KI Menschen mit großen Körpern häufiger einen negativen Gesichtsausdruck verleiht und teilweise Probleme bei deren anatomischer Darstellung hat.
Soziale Medien werden derzeit von Bildern und Videos geflutet, die von sogenannter Künstlicher Intelligenz (KI) generiert wurden. Das wirkt sich auch auf unsere kollektive Vorstellungskraft aus. Eine Untersuchung der Universität Cambridge warnt nun vor negativen Folgen für das Selbst- und Körperbild von Menschen.
Die Forscherin Aisha Sobey vom Leverhulme Centre for the Future of Intelligence hat untersucht, wie unterschiedliche Körperformen von KI-Generatoren repräsentiert werden. Ihr Befund: Darstellungen unrealistisch dünner Menschen sind der Standard, große und dicke Körper werden diskriminierend dargestellt.
„Ich bin besorgt über die steigende Zahl von Fällen von Körperunzufriedenheit und Essstörungen und dem daraus resultierenden Zeit-, Energie- und Geldaufwand“, schreibt Sobey auf Anfrage von netzpolitik.org. KI-Generatoren würden diesen Trend verstärken.
Unrealistisch dünne Körper als Standard
Für die Untersuchung verfasste die Forscherin 20 Anweisungen, auch Prompts genannt, zum Erstellen von Bildern mit generativer KI. Alle Darstellungen sollten Personen in unterschiedlichen Situationen zeigen. Manche Prompts erhielten als Zusatz eine medizinische Beschreibung größerer Körper wie „übergewichtig“ oder den Begriff „fat“, zu deutsch „fett“. Das häufig abwertend verwendete Wort wurde von Aktivist*innen zurückerobert und wird inzwischen von vielen Menschen als positive Selbstbezeichnung verwendet.
Die Prompts ließ die Wissenschaftlerin durch neun öffentlich zugängliche Bildgeneratoren laufen, darunter Adobe Firefly, Canva, Runway ML und Stable Diffusion. Ohne den Zusatz „fat“ zeigten die meisten Bilder Menschen mit sogenannter „Sample Size“. Also Menschen, die zu einer besonders dünnen Untergruppe der nicht-dicken Menschen gehören, mit für die meisten Menschen unrealistischen Maßen.
Größere Körper hingegen wurden fast ausschließlich nur nach ausdrücklicher Aufforderung gezeigt – oder gar nicht. Manche KI-Generatoren stuften die Prompts mit dem Wort „fat“ als schädlich ein. Sie verweigerten den Dienst und produzierten keine Bilder.
Verzerrte Darstellungen
Auch waren die Bilder von dicken Menschen öfters fehlerhaft als die von dünnen Menschen. Bilder sind dann fehlerhaft, wenn die KI bestimmte anatomische Details wie einzelne Finger oder den Winkel eines Arms nicht passend nachahmen kann und deswegen unnatürlich aussehen. Aisha Sobey schließt daraus, dass die Systeme mit Datensätzen trainiert werden, in denen Abbildungen von dicken Menschen unterrepräsentiert sind. Bemerkenswert ist zudem, dass Bilder mit dem Prompt „fat“ übermäßig viele weiße Männer zeigen.
Ebenfalls auffällig sind die unterschiedlichen Gesichtsausdrücke, die die Personen in den verschiedenen Bildern tragen. Fast 25 Prozent der dargestellten dicken Personen haben laut Studie einen negativen Gesichtsausdruck, im Vergleich zu nur drei Prozent der Menschen, die ohne den Prompt „fat“ generiert wurden.
Menschen mit Behinderungen werden von generativer KI ebenfalls unterrepräsentiert. Von den insgesamt 649 generierten Bildern zeigte nur eines eine Person mit äußerlich erkennbarer körperlicher Einschränkung.
Darstellungen von dicken Menschen zeigten zudem deutlich häufiger Personen mit Charakteristika, die gemeinhin mit Lernbehinderungen, Downsyndrom und anderen Behinderungen assoziiert werden. Die Forscherin fand diese Darstellungen bei acht Prozent der Bilder, die mit dem Prompt „fat“ generiert wurden, und nur bei zwei Prozent der Abbildungen ohne den Zusatz.
KI kann Unzufriedenheit schüren
Wissenschaftler*innen bezeichnen generative Künstliche Intelligenz auch als Spiegel der Gesellschaft. Trainiert werden die Systeme mit großen Datenmengen, die oft aus dem Internet abgeschöpft werden. Die Diversität der verwendeten Daten steht dabei in engem Zusammenhang mit der Diversität der generierten Inhalte. Die für das Training verwendeten Datensätze scheinen also große Körper nur unzulänglich abzubilden.
Sie spiegeln damit einen online immer noch vorherrschenden Standard wider, bei dem überdurchschnittlich dünne und weiße Körper ohne Behinderungen als Norm dargestellt werden. Allerdings scheint generative KI das Problem nicht nur fortzuschreiben, sondern sogar zu verschärfen, denn KI-generierte Bilder, die diskriminierende Körperbilder repräsentieren, werden wiederum für das Training der Generatoren verwendet.
Über die Sozialen Medien sickern die diskriminierenden Bilder zudem in unsere kollektive Vorstellungswelt ein. AI Forensics, ein europäischer Verein, der undurchsichtige Algorithmen überprüft, nahm im Juli 2025 eine Stichprobe und fand, dass ungefähr jedes vierte Video auf TikTok von KI generiert war. Der Unterschied zu menschlichen Creatoren ist, dass KI ausschließlich in den Trainings-Datensätzen vorhandene Muster reproduzieren kann, während Menschen umdenken und ihre Einstellungen ändern können.
„Die [durch generative KI] implizierten Erwartungen folgen einer langen Tradition von Modell- und Idealkörpern, aber ich würde sagen, dass es durch generative KI viel heimtückischer ist“, so Aisha Sobey gegenüber netzpolitik.org. Aus ihrer Sicht stärkt generative KI jene Systeme, „die Fettleibigkeit verteufeln und die Unsicherheiten der Menschen ausnutzen“.
Paula Clamor ist von Oktober bis Dezember 2025 Praktikantin bei netzpolitik.org. Sie hat vor kurzem ihr Abitur gemacht und interessiert sich für digitalen Feminismus und künstliche Intelligenz. Dieser Beitrag ist eine Übernahme von netzpolitik, gemäss Lizenz Creative Commons BY-NC-SA 4.0.
Über Paula Clamor - netzpolitik:
Unter der Kennung "Gastautor:innen" fassen wir die unterschiedlichsten Beiträge externer Quellen zusammen, die wir dankbar im Beueler-Extradienst (wieder-)veröffentlichen dürfen. Die Autor*innen, Quellen und ggf. Lizenzen sind, soweit bekannt, jeweils im Beitrag vermerkt und/oder verlinkt.
-
Generative KI verzerrt unser Körperbild
KI-Generatoren produzieren nicht nur Bilder und Videos, sondern reproduzieren auch Diskriminierung. Eine Wissenschaftlerin der Universität Cambridge fand heraus, dass KI Menschen mit großen Körpern häufiger einen negativen Gesichtsausdruck verleiht und teilweise Probleme bei deren anatomischer Darstellung hat.
Soziale Medien werden derzeit von Bildern und Videos geflutet, die von sogenannter Künstlicher Intelligenz (KI) generiert wurden. Das wirkt sich auch auf unsere kollektive Vorstellungskraft aus. Eine Untersuchung der Universität Cambridge warnt nun vor negativen Folgen für das Selbst- und Körperbild von Menschen.
Die Forscherin Aisha Sobey vom Leverhulme Centre for the Future of Intelligence hat untersucht, wie unterschiedliche Körperformen von KI-Generatoren repräsentiert werden. Ihr Befund: Darstellungen unrealistisch dünner Menschen sind der Standard, große und dicke Körper werden diskriminierend dargestellt.
„Ich bin besorgt über die steigende Zahl von Fällen von Körperunzufriedenheit und Essstörungen und dem daraus resultierenden Zeit-, Energie- und Geldaufwand“, schreibt Sobey auf Anfrage von netzpolitik.org. KI-Generatoren würden diesen Trend verstärken.
Unrealistisch dünne Körper als Standard
Für die Untersuchung verfasste die Forscherin 20 Anweisungen, auch Prompts genannt, zum Erstellen von Bildern mit generativer KI. Alle Darstellungen sollten Personen in unterschiedlichen Situationen zeigen. Manche Prompts erhielten als Zusatz eine medizinische Beschreibung größerer Körper wie „übergewichtig“ oder den Begriff „fat“, zu deutsch „fett“. Das häufig abwertend verwendete Wort wurde von Aktivist*innen zurückerobert und wird inzwischen von vielen Menschen als positive Selbstbezeichnung verwendet.
Die Prompts ließ die Wissenschaftlerin durch neun öffentlich zugängliche Bildgeneratoren laufen, darunter Adobe Firefly, Canva, Runway ML und Stable Diffusion. Ohne den Zusatz „fat“ zeigten die meisten Bilder Menschen mit sogenannter „Sample Size“. Also Menschen, die zu einer besonders dünnen Untergruppe der nicht-dicken Menschen gehören, mit für die meisten Menschen unrealistischen Maßen.
Größere Körper hingegen wurden fast ausschließlich nur nach ausdrücklicher Aufforderung gezeigt – oder gar nicht. Manche KI-Generatoren stuften die Prompts mit dem Wort „fat“ als schädlich ein. Sie verweigerten den Dienst und produzierten keine Bilder.
Verzerrte Darstellungen
Auch waren die Bilder von dicken Menschen öfters fehlerhaft als die von dünnen Menschen. Bilder sind dann fehlerhaft, wenn die KI bestimmte anatomische Details wie einzelne Finger oder den Winkel eines Arms nicht passend nachahmen kann und deswegen unnatürlich aussehen. Aisha Sobey schließt daraus, dass die Systeme mit Datensätzen trainiert werden, in denen Abbildungen von dicken Menschen unterrepräsentiert sind. Bemerkenswert ist zudem, dass Bilder mit dem Prompt „fat“ übermäßig viele weiße Männer zeigen.
Ebenfalls auffällig sind die unterschiedlichen Gesichtsausdrücke, die die Personen in den verschiedenen Bildern tragen. Fast 25 Prozent der dargestellten dicken Personen haben laut Studie einen negativen Gesichtsausdruck, im Vergleich zu nur drei Prozent der Menschen, die ohne den Prompt „fat“ generiert wurden.
Menschen mit Behinderungen werden von generativer KI ebenfalls unterrepräsentiert. Von den insgesamt 649 generierten Bildern zeigte nur eines eine Person mit äußerlich erkennbarer körperlicher Einschränkung.
Darstellungen von dicken Menschen zeigten zudem deutlich häufiger Personen mit Charakteristika, die gemeinhin mit Lernbehinderungen, Downsyndrom und anderen Behinderungen assoziiert werden. Die Forscherin fand diese Darstellungen bei acht Prozent der Bilder, die mit dem Prompt „fat“ generiert wurden, und nur bei zwei Prozent der Abbildungen ohne den Zusatz.
KI kann Unzufriedenheit schüren
Wissenschaftler*innen bezeichnen generative Künstliche Intelligenz auch als Spiegel der Gesellschaft. Trainiert werden die Systeme mit großen Datenmengen, die oft aus dem Internet abgeschöpft werden. Die Diversität der verwendeten Daten steht dabei in engem Zusammenhang mit der Diversität der generierten Inhalte. Die für das Training verwendeten Datensätze scheinen also große Körper nur unzulänglich abzubilden.
Sie spiegeln damit einen online immer noch vorherrschenden Standard wider, bei dem überdurchschnittlich dünne und weiße Körper ohne Behinderungen als Norm dargestellt werden. Allerdings scheint generative KI das Problem nicht nur fortzuschreiben, sondern sogar zu verschärfen, denn KI-generierte Bilder, die diskriminierende Körperbilder repräsentieren, werden wiederum für das Training der Generatoren verwendet.
Über die Sozialen Medien sickern die diskriminierenden Bilder zudem in unsere kollektive Vorstellungswelt ein. AI Forensics, ein europäischer Verein, der undurchsichtige Algorithmen überprüft, nahm im Juli 2025 eine Stichprobe und fand, dass ungefähr jedes vierte Video auf TikTok von KI generiert war. Der Unterschied zu menschlichen Creatoren ist, dass KI ausschließlich in den Trainings-Datensätzen vorhandene Muster reproduzieren kann, während Menschen umdenken und ihre Einstellungen ändern können.
„Die [durch generative KI] implizierten Erwartungen folgen einer langen Tradition von Modell- und Idealkörpern, aber ich würde sagen, dass es durch generative KI viel heimtückischer ist“, so Aisha Sobey gegenüber netzpolitik.org. Aus ihrer Sicht stärkt generative KI jene Systeme, „die Fettleibigkeit verteufeln und die Unsicherheiten der Menschen ausnutzen“.
Paula Clamor ist von Oktober bis Dezember 2025 Praktikantin bei netzpolitik.org. Sie hat vor kurzem ihr Abitur gemacht und interessiert sich für digitalen Feminismus und künstliche Intelligenz. Dieser Beitrag ist eine Übernahme von netzpolitik, gemäss Lizenz Creative Commons BY-NC-SA 4.0.
Über Paula Clamor - netzpolitik:
Unter der Kennung "Gastautor:innen" fassen wir die unterschiedlichsten Beiträge externer Quellen zusammen, die wir dankbar im Beueler-Extradienst (wieder-)veröffentlichen dürfen. Die Autor*innen, Quellen und ggf. Lizenzen sind, soweit bekannt, jeweils im Beitrag vermerkt und/oder verlinkt.
-
Generative KI verzerrt unser Körperbild
KI-Generatoren produzieren nicht nur Bilder und Videos, sondern reproduzieren auch Diskriminierung. Eine Wissenschaftlerin der Universität Cambridge fand heraus, dass KI Menschen mit großen Körpern häufiger einen negativen Gesichtsausdruck verleiht und teilweise Probleme bei deren anatomischer Darstellung hat.
Soziale Medien werden derzeit von Bildern und Videos geflutet, die von sogenannter Künstlicher Intelligenz (KI) generiert wurden. Das wirkt sich auch auf unsere kollektive Vorstellungskraft aus. Eine Untersuchung der Universität Cambridge warnt nun vor negativen Folgen für das Selbst- und Körperbild von Menschen.
Die Forscherin Aisha Sobey vom Leverhulme Centre for the Future of Intelligence hat untersucht, wie unterschiedliche Körperformen von KI-Generatoren repräsentiert werden. Ihr Befund: Darstellungen unrealistisch dünner Menschen sind der Standard, große und dicke Körper werden diskriminierend dargestellt.
„Ich bin besorgt über die steigende Zahl von Fällen von Körperunzufriedenheit und Essstörungen und dem daraus resultierenden Zeit-, Energie- und Geldaufwand“, schreibt Sobey auf Anfrage von netzpolitik.org. KI-Generatoren würden diesen Trend verstärken.
Unrealistisch dünne Körper als Standard
Für die Untersuchung verfasste die Forscherin 20 Anweisungen, auch Prompts genannt, zum Erstellen von Bildern mit generativer KI. Alle Darstellungen sollten Personen in unterschiedlichen Situationen zeigen. Manche Prompts erhielten als Zusatz eine medizinische Beschreibung größerer Körper wie „übergewichtig“ oder den Begriff „fat“, zu deutsch „fett“. Das häufig abwertend verwendete Wort wurde von Aktivist*innen zurückerobert und wird inzwischen von vielen Menschen als positive Selbstbezeichnung verwendet.
Die Prompts ließ die Wissenschaftlerin durch neun öffentlich zugängliche Bildgeneratoren laufen, darunter Adobe Firefly, Canva, Runway ML und Stable Diffusion. Ohne den Zusatz „fat“ zeigten die meisten Bilder Menschen mit sogenannter „Sample Size“. Also Menschen, die zu einer besonders dünnen Untergruppe der nicht-dicken Menschen gehören, mit für die meisten Menschen unrealistischen Maßen.
Größere Körper hingegen wurden fast ausschließlich nur nach ausdrücklicher Aufforderung gezeigt – oder gar nicht. Manche KI-Generatoren stuften die Prompts mit dem Wort „fat“ als schädlich ein. Sie verweigerten den Dienst und produzierten keine Bilder.
Verzerrte Darstellungen
Auch waren die Bilder von dicken Menschen öfters fehlerhaft als die von dünnen Menschen. Bilder sind dann fehlerhaft, wenn die KI bestimmte anatomische Details wie einzelne Finger oder den Winkel eines Arms nicht passend nachahmen kann und deswegen unnatürlich aussehen. Aisha Sobey schließt daraus, dass die Systeme mit Datensätzen trainiert werden, in denen Abbildungen von dicken Menschen unterrepräsentiert sind. Bemerkenswert ist zudem, dass Bilder mit dem Prompt „fat“ übermäßig viele weiße Männer zeigen.
Ebenfalls auffällig sind die unterschiedlichen Gesichtsausdrücke, die die Personen in den verschiedenen Bildern tragen. Fast 25 Prozent der dargestellten dicken Personen haben laut Studie einen negativen Gesichtsausdruck, im Vergleich zu nur drei Prozent der Menschen, die ohne den Prompt „fat“ generiert wurden.
Menschen mit Behinderungen werden von generativer KI ebenfalls unterrepräsentiert. Von den insgesamt 649 generierten Bildern zeigte nur eines eine Person mit äußerlich erkennbarer körperlicher Einschränkung.
Darstellungen von dicken Menschen zeigten zudem deutlich häufiger Personen mit Charakteristika, die gemeinhin mit Lernbehinderungen, Downsyndrom und anderen Behinderungen assoziiert werden. Die Forscherin fand diese Darstellungen bei acht Prozent der Bilder, die mit dem Prompt „fat“ generiert wurden, und nur bei zwei Prozent der Abbildungen ohne den Zusatz.
KI kann Unzufriedenheit schüren
Wissenschaftler*innen bezeichnen generative Künstliche Intelligenz auch als Spiegel der Gesellschaft. Trainiert werden die Systeme mit großen Datenmengen, die oft aus dem Internet abgeschöpft werden. Die Diversität der verwendeten Daten steht dabei in engem Zusammenhang mit der Diversität der generierten Inhalte. Die für das Training verwendeten Datensätze scheinen also große Körper nur unzulänglich abzubilden.
Sie spiegeln damit einen online immer noch vorherrschenden Standard wider, bei dem überdurchschnittlich dünne und weiße Körper ohne Behinderungen als Norm dargestellt werden. Allerdings scheint generative KI das Problem nicht nur fortzuschreiben, sondern sogar zu verschärfen, denn KI-generierte Bilder, die diskriminierende Körperbilder repräsentieren, werden wiederum für das Training der Generatoren verwendet.
Über die Sozialen Medien sickern die diskriminierenden Bilder zudem in unsere kollektive Vorstellungswelt ein. AI Forensics, ein europäischer Verein, der undurchsichtige Algorithmen überprüft, nahm im Juli 2025 eine Stichprobe und fand, dass ungefähr jedes vierte Video auf TikTok von KI generiert war. Der Unterschied zu menschlichen Creatoren ist, dass KI ausschließlich in den Trainings-Datensätzen vorhandene Muster reproduzieren kann, während Menschen umdenken und ihre Einstellungen ändern können.
„Die [durch generative KI] implizierten Erwartungen folgen einer langen Tradition von Modell- und Idealkörpern, aber ich würde sagen, dass es durch generative KI viel heimtückischer ist“, so Aisha Sobey gegenüber netzpolitik.org. Aus ihrer Sicht stärkt generative KI jene Systeme, „die Fettleibigkeit verteufeln und die Unsicherheiten der Menschen ausnutzen“.
Paula Clamor ist von Oktober bis Dezember 2025 Praktikantin bei netzpolitik.org. Sie hat vor kurzem ihr Abitur gemacht und interessiert sich für digitalen Feminismus und künstliche Intelligenz. Dieser Beitrag ist eine Übernahme von netzpolitik, gemäss Lizenz Creative Commons BY-NC-SA 4.0.
Über Paula Clamor - netzpolitik:
Unter der Kennung "Gastautor:innen" fassen wir die unterschiedlichsten Beiträge externer Quellen zusammen, die wir dankbar im Beueler-Extradienst (wieder-)veröffentlichen dürfen. Die Autor*innen, Quellen und ggf. Lizenzen sind, soweit bekannt, jeweils im Beitrag vermerkt und/oder verlinkt.
-
Generative KI verzerrt unser Körperbild
KI-Generatoren produzieren nicht nur Bilder und Videos, sondern reproduzieren auch Diskriminierung. Eine Wissenschaftlerin der Universität Cambridge fand heraus, dass KI Menschen mit großen Körpern häufiger einen negativen Gesichtsausdruck verleiht und teilweise Probleme bei deren anatomischer Darstellung hat.
Soziale Medien werden derzeit von Bildern und Videos geflutet, die von sogenannter Künstlicher Intelligenz (KI) generiert wurden. Das wirkt sich auch auf unsere kollektive Vorstellungskraft aus. Eine Untersuchung der Universität Cambridge warnt nun vor negativen Folgen für das Selbst- und Körperbild von Menschen.
Die Forscherin Aisha Sobey vom Leverhulme Centre for the Future of Intelligence hat untersucht, wie unterschiedliche Körperformen von KI-Generatoren repräsentiert werden. Ihr Befund: Darstellungen unrealistisch dünner Menschen sind der Standard, große und dicke Körper werden diskriminierend dargestellt.
„Ich bin besorgt über die steigende Zahl von Fällen von Körperunzufriedenheit und Essstörungen und dem daraus resultierenden Zeit-, Energie- und Geldaufwand“, schreibt Sobey auf Anfrage von netzpolitik.org. KI-Generatoren würden diesen Trend verstärken.
Unrealistisch dünne Körper als Standard
Für die Untersuchung verfasste die Forscherin 20 Anweisungen, auch Prompts genannt, zum Erstellen von Bildern mit generativer KI. Alle Darstellungen sollten Personen in unterschiedlichen Situationen zeigen. Manche Prompts erhielten als Zusatz eine medizinische Beschreibung größerer Körper wie „übergewichtig“ oder den Begriff „fat“, zu deutsch „fett“. Das häufig abwertend verwendete Wort wurde von Aktivist*innen zurückerobert und wird inzwischen von vielen Menschen als positive Selbstbezeichnung verwendet.
Die Prompts ließ die Wissenschaftlerin durch neun öffentlich zugängliche Bildgeneratoren laufen, darunter Adobe Firefly, Canva, Runway ML und Stable Diffusion. Ohne den Zusatz „fat“ zeigten die meisten Bilder Menschen mit sogenannter „Sample Size“. Also Menschen, die zu einer besonders dünnen Untergruppe der nicht-dicken Menschen gehören, mit für die meisten Menschen unrealistischen Maßen.
Größere Körper hingegen wurden fast ausschließlich nur nach ausdrücklicher Aufforderung gezeigt – oder gar nicht. Manche KI-Generatoren stuften die Prompts mit dem Wort „fat“ als schädlich ein. Sie verweigerten den Dienst und produzierten keine Bilder.
Verzerrte Darstellungen
Auch waren die Bilder von dicken Menschen öfters fehlerhaft als die von dünnen Menschen. Bilder sind dann fehlerhaft, wenn die KI bestimmte anatomische Details wie einzelne Finger oder den Winkel eines Arms nicht passend nachahmen kann und deswegen unnatürlich aussehen. Aisha Sobey schließt daraus, dass die Systeme mit Datensätzen trainiert werden, in denen Abbildungen von dicken Menschen unterrepräsentiert sind. Bemerkenswert ist zudem, dass Bilder mit dem Prompt „fat“ übermäßig viele weiße Männer zeigen.
Ebenfalls auffällig sind die unterschiedlichen Gesichtsausdrücke, die die Personen in den verschiedenen Bildern tragen. Fast 25 Prozent der dargestellten dicken Personen haben laut Studie einen negativen Gesichtsausdruck, im Vergleich zu nur drei Prozent der Menschen, die ohne den Prompt „fat“ generiert wurden.
Menschen mit Behinderungen werden von generativer KI ebenfalls unterrepräsentiert. Von den insgesamt 649 generierten Bildern zeigte nur eines eine Person mit äußerlich erkennbarer körperlicher Einschränkung.
Darstellungen von dicken Menschen zeigten zudem deutlich häufiger Personen mit Charakteristika, die gemeinhin mit Lernbehinderungen, Downsyndrom und anderen Behinderungen assoziiert werden. Die Forscherin fand diese Darstellungen bei acht Prozent der Bilder, die mit dem Prompt „fat“ generiert wurden, und nur bei zwei Prozent der Abbildungen ohne den Zusatz.
KI kann Unzufriedenheit schüren
Wissenschaftler*innen bezeichnen generative Künstliche Intelligenz auch als Spiegel der Gesellschaft. Trainiert werden die Systeme mit großen Datenmengen, die oft aus dem Internet abgeschöpft werden. Die Diversität der verwendeten Daten steht dabei in engem Zusammenhang mit der Diversität der generierten Inhalte. Die für das Training verwendeten Datensätze scheinen also große Körper nur unzulänglich abzubilden.
Sie spiegeln damit einen online immer noch vorherrschenden Standard wider, bei dem überdurchschnittlich dünne und weiße Körper ohne Behinderungen als Norm dargestellt werden. Allerdings scheint generative KI das Problem nicht nur fortzuschreiben, sondern sogar zu verschärfen, denn KI-generierte Bilder, die diskriminierende Körperbilder repräsentieren, werden wiederum für das Training der Generatoren verwendet.
Über die Sozialen Medien sickern die diskriminierenden Bilder zudem in unsere kollektive Vorstellungswelt ein. AI Forensics, ein europäischer Verein, der undurchsichtige Algorithmen überprüft, nahm im Juli 2025 eine Stichprobe und fand, dass ungefähr jedes vierte Video auf TikTok von KI generiert war. Der Unterschied zu menschlichen Creatoren ist, dass KI ausschließlich in den Trainings-Datensätzen vorhandene Muster reproduzieren kann, während Menschen umdenken und ihre Einstellungen ändern können.
„Die [durch generative KI] implizierten Erwartungen folgen einer langen Tradition von Modell- und Idealkörpern, aber ich würde sagen, dass es durch generative KI viel heimtückischer ist“, so Aisha Sobey gegenüber netzpolitik.org. Aus ihrer Sicht stärkt generative KI jene Systeme, „die Fettleibigkeit verteufeln und die Unsicherheiten der Menschen ausnutzen“.
Paula Clamor ist von Oktober bis Dezember 2025 Praktikantin bei netzpolitik.org. Sie hat vor kurzem ihr Abitur gemacht und interessiert sich für digitalen Feminismus und künstliche Intelligenz. Dieser Beitrag ist eine Übernahme von netzpolitik, gemäss Lizenz Creative Commons BY-NC-SA 4.0.
Über Paula Clamor - netzpolitik:
Unter der Kennung "Gastautor:innen" fassen wir die unterschiedlichsten Beiträge externer Quellen zusammen, die wir dankbar im Beueler-Extradienst (wieder-)veröffentlichen dürfen. Die Autor*innen, Quellen und ggf. Lizenzen sind, soweit bekannt, jeweils im Beitrag vermerkt und/oder verlinkt.
-
Ein Elephant im grünen Morgenmantel: Bildgenerierung mit OpenArt.ai
Nachdem mich Felix Schwenzel jüngst als Beispiel für jemanden, der KI-Bilder in seinem Blog Kritzelheft nutzt, erwähnt hatte, dachte ich, es wäre an der Zeit, einmal einen Einblick in meinen Werkzeugkasten zu geben, mit dem ich die Bildchen generiere: https://kantel.github.io/posts/2025101901_green_elephant/ #ki #bilder #OpenArtAi #GenerativeArt #Bildgeneratoren
-
Umgang mit #Conni- #Memes im #Internet:
Zweite Klarstellung des #Carlsen- #Verlags
Dank #KI- #Bildgeneratoren werden in #sozialenNetzen #Memes unter Bezug auf die #Kinderbuchfigur #Conni verbreitet. Der #Verlag hat sich dazu geäußert.
-
Umgang mit #Conni- #Memes im #Internet:
Zweite Klarstellung des #Carlsen- #Verlags
Dank #KI- #Bildgeneratoren werden in #sozialenNetzen #Memes unter Bezug auf die #Kinderbuchfigur #Conni verbreitet. Der #Verlag hat sich dazu geäußert.
-
Umgang mit #Conni- #Memes im #Internet:
Zweite Klarstellung des #Carlsen- #Verlags
Dank #KI- #Bildgeneratoren werden in #sozialenNetzen #Memes unter Bezug auf die #Kinderbuchfigur #Conni verbreitet. Der #Verlag hat sich dazu geäußert.
-
Umgang mit #Conni- #Memes im #Internet:
Zweite Klarstellung des #Carlsen- #Verlags
Dank #KI- #Bildgeneratoren werden in #sozialenNetzen #Memes unter Bezug auf die #Kinderbuchfigur #Conni verbreitet. Der #Verlag hat sich dazu geäußert.
-
Nun sag’, wie hast du’s mit der #KI?
In der Redaktion setzen wir auf #Bildgeneratoren. In Bilddatenbanken finden wir kein passendes Bild zu Fällen wie „Diebstahl an der Wursttheke“ oder „Bienenwachsfontäne“.
Aber Probleme bei der Nutzung von #TextzuBildGeneratoren sorgen in unserer Redaktion immer wieder für Diskussionen. Von #Algorithmus & #geistigesEigentum bis #Umweltschutz.
Was meint ihr? Sollten wir die Finger davon lassen?
-
Nun sag’, wie hast du’s mit der #KI?
In der Redaktion setzen wir auf #Bildgeneratoren. In Bilddatenbanken finden wir kein passendes Bild zu Fällen wie „Diebstahl an der Wursttheke“ oder „Bienenwachsfontäne“.
Aber Probleme bei der Nutzung von #TextzuBildGeneratoren sorgen in unserer Redaktion immer wieder für Diskussionen. Von #Algorithmus & #geistigesEigentum bis #Umweltschutz.
Was meint ihr? Sollten wir die Finger davon lassen?
-
Nun sag’, wie hast du’s mit der #KI?
In der Redaktion setzen wir auf #Bildgeneratoren. In Bilddatenbanken finden wir kein passendes Bild zu Fällen wie „Diebstahl an der Wursttheke“ oder „Bienenwachsfontäne“.
Aber Probleme bei der Nutzung von #TextzuBildGeneratoren sorgen in unserer Redaktion immer wieder für Diskussionen. Von #Algorithmus & #geistigesEigentum bis #Umweltschutz.
Was meint ihr? Sollten wir die Finger davon lassen?
-
Nun sag’, wie hast du’s mit der #KI?
In der Redaktion setzen wir auf #Bildgeneratoren. In Bilddatenbanken finden wir kein passendes Bild zu Fällen wie „Diebstahl an der Wursttheke“ oder „Bienenwachsfontäne“.
Aber Probleme bei der Nutzung von #TextzuBildGeneratoren sorgen in unserer Redaktion immer wieder für Diskussionen. Von #Algorithmus & #geistigesEigentum bis #Umweltschutz.
Was meint ihr? Sollten wir die Finger davon lassen?
-
Nun sag’, wie hast du’s mit der #KI?
In der Redaktion setzen wir auf #Bildgeneratoren. In Bilddatenbanken finden wir kein passendes Bild zu Fällen wie „Diebstahl an der Wursttheke“ oder „Bienenwachsfontäne“.
Aber Probleme bei der Nutzung von #TextzuBildGeneratoren sorgen in unserer Redaktion immer wieder für Diskussionen. Von #Algorithmus & #geistigesEigentum bis #Umweltschutz.
Was meint ihr? Sollten wir die Finger davon lassen?
-
Eine typische Erfahrung mit KI-Bildgeneratoren ist bei mir der Sprung von "Wow!" zu "puh". Die ersten Ergebnisse sind beeindruckend, aber wenn es dann was ganz Spezifisches sein soll: Pustekuchen. Hier ein Beispiel: Tanzende Pinguine, die ein T-Shirt mit der Aufschrift "c’t" tragen. Das Ergebnis ist zwar niedlich, aber so lala.
-
💡 Tipp: Have i been trained?
Die Website beantwortet eine interessante Frage: Wurden Bilder von mir aus den Web zum Training von Bild-KI's verwendet?
Dabei werden die beiden Datenbanken Laion-5B und Laion-400M durchsucht, die von den meisten KI-Bildgeneratoren (beispielsweise auch "stable diffusion") genutzt werden.
https://haveibeentrained.com/
Funfact: (mindestens) ein Bild von mir habe ich gefunden 🖼️📷
#KI #Bildgeneratoren #HaveIBeenTrained -
Flux und Scenario: Ein echter Game Changer?
Flux.1, der angeblich »neue Stern am Himmel der bildgenerierenden gekünstelten Intelligenzia«, war ja schon zwei mal Thema in diesem Blog Kritzelheft. Und auch Scenario, die derzeitige Künstliche Intelligenz meines Vertrauens, hat – erst vorsichtig, dann mit wachsender Begeisterung – Flux.1 in ihr Portfolio integriert. https://kantel.github.io/posts/2024102201_flux_scenario/ #Scenario #Flux1 #InteractiveFiction #GameDev #Bildgeneratoren
-
Apple zensuriert! Warum ich wieder Rembg brauche
Da hatte ich doch vor ein paar Wochen stolz verkündet, daß ich mit meinem »neuen« Mac Mini auf die Python-Bibliothek Rembg zum Freistellen von Hintergründen verzichten könne, da Apples Vorschau dies ebensogut erledigen würde. Nun muß ich allerdings zurückrudern, denn Apples Vorschau zensuriert! https://kantel.github.io/posts/2024091601_apple_zensuriert/ #Rembg #Bildgeneratoren #KünstlicheIntelligenz #Apple #Zensur
-
‼️ Einbrecher erklären, dass es unmöglich wäre, sich an gestohlenem #Eigentum zu bereichern, ohne den Zugriff auf fremde #Wohnungen.
#OpenAI hat erklärt, dass es unmöglich wäre, fortschrittliche KI-Tools wie #ChatGPT ohne den Zugriff auf #urheberrechtlich geschütztes Material zu entwickeln. #Chatbots wie ChatGPT und #Bildgeneratoren wie #StableDiffusion werden mit riesigen Datenmengen aus dem Internet trainiert
#Urheberrecht #Autoren #bookstodon #buchbubble
https://www.theguardian.com/technology/2024/jan/08/ai-tools-chatgpt-copyrighted-material-openai
-
Kann das, was #Bildgeneratoren ausspucken, wirklich #Kunst sein? Was muss hinzukommen, damit ein Kunststatus zugesprochen werden kann? Und wo verläuft die Grenze zwischen künstlicher Kreativität, Kopie und Plagiat? Das besprechen wir mit @amreibahr und Danny Frede!
Anhand eines Textes von @dvg strukturieren wir unsere Gedanken und begeben uns weit über unseren naturwissenschaftlich geprägten Horizont hinaus. Hört gern rein!
-
„Erinnerungen sind ein bisschen wie Träume“, das sagt Pau Garcia. Er hat das Projekt „Synthetic Memories“ initiiert. Es soll etwa geflüchteten Menschen Bilder ihrer Vergangenheit liefern, die bisher nicht als Foto festgehalten wurden.
Hier geht es zum Artikel: 👉 https://t3n.de/news/wie-generative-ki-aus-erinnerungen-fotos-macht-die-nie-existiert-haben-1619309/
-
3️⃣ KI ist kein Zufall
Verrate ich zu viel, wenn ich sage, dass meine Top-3-Artikel alle vom Thema #KünstlicheIntelligenz handeln? Oh, sorry, habe nichts gesagt! Also: Psst!An vielen Stellen setzen #Chatbots und #Bildgeneratoren Zufallszahlen ein. Sie sind aber nicht deswegen unzuverlässig. Ein Einblick in die schöne Welt der Zufallszahlen und ihren Einsatz bei #KI. Und wieso man nicht alles in einen Topf werfen darf.
#GenAI #AI #LLM
📰 https://dnip.ch/2023/05/08/ki-ist-kein-zufall/
Mehr zu #KI: https://marcel-waldvogel.ch/ki -
Das #LanguageTool hat verstanden, wie die #Bildgeneratoren funktionieren. 😜
-
LESEN! Ein offenbar gefälschtes Foto einer Explosion nahe dem Pentagon hat auf Twitter für Verwirrung gesorgt. Der Vorfall wirft abermals Fragen auf rund um die Authentizität auf der Plattform unter Eigentümer Elon Musk auf, so #FAZnet
Das wird kein Einzelfall bleiben und ist nicht nur ein #ElonMusk und #Twitter-Problem, ein Beispiel, was auf uns zukommt inklusive Fake-Bloomberg-Account
#Ai #KI #Bildgeneratoren #FakeNews
https://m.faz.net/aktuell/wirtschaft/unternehmen/explosion-am-pentagon-gefaelschtes-bild-verwirrt-twitter-nutzer-18913965.html -
Ich hatte meinen früheren Beruf zu einem schönen Hobby umfunktioniert. Aus Fotos habe ich am PC Teile ausgeschnitten und neu zusammen gefügt, um neue Welten zu erschaffen. Jetzt gibt jemand einer #KI ein paar Stichworte und schwupp, ist die Idee umgesetzt. 🤷🏻♂️ Auch wenn es in den Fingern kribbelt, Ideen umzusetzen, für die meine Technik nicht reichte, ich hab Schwierigkeiten mit #openAI und Co warm zu werden.
#künstlicheinteligenz
#Bildgeneratoren
Ich mach weiter wie bisher:
😜 -
Diese #KI #Bildgeneratoren sind so unglaublich fantastisch.
Es gint nichts, was die nicht können.Zwei sehr attraktive, nackte Nonnen in einer Dunkelkammer auf der Suche nach dem Schalter für das rote Licht.
-
Ich bin mir ganz sicher. #KI und #Bildgeneratoren wurde entwickelt um mich süchtig zu machen.
Klappt aber nicht. Wenn ich merke, dass ich süchtig bin, dann höre ich sofort damit auf. Aber SOFORT!!!
😎😂✌️
-
Auch, wenn mir die #KI #Bildgeneratoren total viel Spaß bringen und viele Leute, sehr geile Bilder damit produzieren, fällt mir dennoch auf, dass noch einiges fehlt. Entweder bei der KI oder bei mir, da ich es nicht hinbekommen habe, dass eine Kuh ein Glas Milch mit einem Strohhalm aus einem Glas trinkt.
-
Nachdem ich #KI #Bildgeneratoren anfangs total langweilig und doof fand, habe ich mich damit jetzt etwas ausführlicher beschäftigt.
Kaum stolpere ich über das Thema #Prompt und #Negative #Prompts, wird das Thema plötzlich total spannend und geil 🤩Kurz gesagt:“Ich habe jetzt ein neues Hobby!“ 😎✌️
#Künstliche #Kunst #KiKunst
#EigeneCovers erstellen -
Wer voller Neid auf die diffusionbee.com-App für Macs schaut: Auch Windows-Besitzer haben mit https://artroom.ai/ die Möglichkeit, Stable Diffusion ganz einfach lokal zum Laufen zu bringen. Noch nicht getestet. #ki #bildgeneratoren #stablediffusion
-
Dass ich von der Ein-Klick-alles-gemacht-und-läuft-auch-auf-M1-#stablediffusion-GUI https://diffusionbee.com/ über einen Post von @andreasschepers auf Facebook(!) erfahren musste, ist ja irgendwie auch sehr 2012. (Trotzdem faszinierend!) #ki #bildgeneratoren