#wasserzeichen — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #wasserzeichen, aggregated by home.social.
-
Was die neuen KI-Labels bringen und was nicht
Um mehr Vertrauen im Umgang mit digitalen Medien zu schaffen, gilt ab Sonntag die neue Pflicht zur Kennzeichnung von KI-Inhalten. Unter anderem Label und Wasserzeichen sollen offenlegen, dass Texte oder Bilder nicht menschengemacht sind. Viele begrüßen das, doch der Ansatz hat auch Lücken.
Demnächst werden im Internet neue Symbole und Hinweise auftauchen. Am Sonntag treten weite Teile der KI-Verordnung in Kraft, und mit ihr neue Pflichten für die Kennzeichnung synthetisch generierter Inhalte. Ob Texte, Bilder, Video- oder Audiomaterial: In vielen Fällen müssen Anbieter, die KI-erstellte Inhalte in die Welt pusten, ausweisen und dokumentieren, ob und inwieweit bei der Erstellung Roboter im Spiel waren.
Grundsätzlich soll dies Desinformation eindämmen und zugleich das öffentliche Vertrauen steigern, wie es die EU-Kommission darlegt. Dazu sollen neben der Kennzeichnungspflicht sowie in KI-Inhalte eingewobene Markierungen auch weitere Ansätze beitragen. Nutzer:innen müssen etwa transparent darüber informiert werden, wenn sie mit einem KI-Chatbot und nicht mit einer realen Person sprechen, beispielsweise in Supportfällen. KI-Anbieter müssen zudem offenlegen, wenn sie automatisiert Emotionen oder, auf Basis biometrischer Daten, etwa das Alter oder Geschlecht zu erkennen versuchen.
Die Regeln stammen aus der EU-Verordnung zur Künstlichen Intelligenz (AI Act), die seit ihrer Verabschiedung vor gut zwei Jahren schrittweise in Kraft tritt. Abschließende Details dazu, wen die Kennzeichnungspflicht genau trifft und welche Inhalte auf welche Art markiert werden müssen, hat die Kommission indes erst kürzlich veröffentlicht. Gleich vorneweg: Private Nutzer:innen, die ihre Weihnachtskarten oder Mails von KI-Tools erstellen lassen, sind von den Auflagen ausgenommen. Sie gelten abgestuft für die Anbieter von KI-Modellen („Provider“) sowie für berufliche Nutzer:innen, die solche Modelle im Einsatz haben („Deployer“).
Detailliertes Regelwerk mit Löchern
Trotz des etwas spät nachgereichten Feinschliffs kommen die Regeln nicht überraschend, viele Unternehmen oder gleich ganze Branchen bereiten sich seit geraumer Zeit darauf vor. Nicht von ungefähr hat etwa die deutsche Musikindustrie jüngst angekündigt, Logos für gänzlich oder teilweise mit KI generierte Musikstücke einzuführen. Selbst wenn dies manche Expert:innen als ersten Schritt bewerten, der Hörer:innen Orientierung geben kann, wird auch Kritik laut: Schließlich verschwimmen im Produktionsprozess zunehmend die Grenzen, sodass sich mitunter nur schwer festhalten lässt, was menschliche Handarbeit und was synthetischer Output ist.
Genau diese Grauzonen sollen die Leitlinien aufhellen helfen. Das mit zahlreichen Beispielen garnierte, 51 Seiten lange Papier stellt einigermaßen klar, was von den Regeln erfasst wird und was nicht. Solange ein KI-System lediglich dazu eingesetzt wird, um unterstützende Editier-Funktionen zu nutzen oder die Bearbeitung das Ausgangsmaterial nicht substanziell verändert, entfällt die Logo-Pflicht. Dies gilt etwa, wenn eine KI-gestützte Grammatikprüfung über einen Text gelassen oder ein Video-Clip in ein neues Seitenformat umgerechnet wird.
Ebenfalls ausgespart bleiben Inhalte, bei denen offensichtlich sein sollte, dass sie nicht echt sind. Wenn in einem Werbeclip etwa zwei Mäuse über die Vorzüge einer bestimmten Käsesorte diskutieren, muss dies nicht ausdrücklich als künstlich generiert ausgewiesen werden. Anders bei KI-manipulierten Bildern, die etwa zwei echte Fußballer vor einem Stadium zeigen, die dort so nie standen: Dies gilt als Deep Fake und muss, um Desinformation zu vermeiden, entsprechend markiert werden.
Transparenz nur ein Baustein
Grundsätzlich sei die Kennzeichnungspflicht ein „sinnvoller Baustein, um mehr Transparenz in Bezug auf veröffentlichte Inhalte zu schaffen“, sagt Raphael Fischer, der an der Technischen Universität Dortmund zu solchen Fragen geforscht hat. Vertrauen entstehe allerdings nicht allein durch ein solches Label, sondern vor allem auch durch „Transparenz und Nachvollziehbarkeit von KI-Systemen und einen verantwortungsvollen Umgang mit dieser mächtigen Technologie“, so Fischer. KI-Labels könnten die Frage beantworten, ob KI eingesetzt wurde, „allerdings nicht, ob das Ergebnis korrekt, fair oder zuverlässig ist oder wie und wofür die Inhalte erstellt wurden.“
Forschung zeige, dass Kennzeichnungen vor allem als Orientierungshilfe wahrgenommen werden. „Sie können den Einstieg in eine informierte Bewertung erleichtern, sind aber kein Garant für Vertrauen oder Glaubwürdigkeit“, sagt Fischer. Zwar ließe sich im Idealfall auf einen Blick erkennen, ob KI an der Erstellung eines Inhalts beteiligt war. Doch Labels ersetzen „weder eine kritische Bewertung des Inhalts selbst noch schaffen sie Transparenz zur Funktionsweise oder Auswirkungen von KI“, so Fischer.
Hinzu kommt, dass die EU zwar entsprechende Icons vorgeschlagen hat, diese aber nicht verbindlich sind. Anbieter können also weiter eigene Süppchen kochen und beliebige eigene Kennzeichnungen verwenden, solange sie im Rahmen des KI-Gesetzes bleiben. Das gibt ihnen Spielraum bei der Gestaltung, untergräbt aber den größten Vorteil von Standardisierung: „Nutzende sollten nicht für jede Plattform ein neues Kennzeichnungssystem erlernen müssen“, sagt Fischer.
„Wenn Unternehmen parallel eigene Labels oder Symbole einführen, besteht die Gefahr eines Flickenteppichs, der auch eine gezielte Täuschung ermöglicht, wie zum Beispiel bei Bio-Zertifikaten oder Vertrauens-Siegeln“, warnt der Forscher. Für ein abschließendes Urteil ist es aber noch zu früh. „Wie stark die Icons tatsächlich wahrgenommen werden und das Verhalten beeinflussen, wird sich erst im praktischen Einsatz zeigen“, sagt Fischer.
Ansatz mit Grenzen
Ohnehin merkt man dem KI-Gesetz an, dass es sich um die Grenzen des eigenen Ansatzes bewusst ist: Im Blick hat es hier ein Ökosystem von Anbietern, die sich im Großen und Ganzen an die Regeln halten, um bei Verstößen drohenden Millionenstrafen aus dem Weg zu gehen. Gegen Desinformationskampagnen, die etwa Zweifel an Demokratien oder am Klimawandel säen, werden diese Regeln nichts ausrichten.
Auch die Entscheidung, digitalen Wasserzeichen oder KI-Detektoren eine verhältnismäßig untergeordnete Rolle zuzuweisen, zeigt in diese Richtung. Solche Ansätze wurden vor nicht allzu langer Zeit noch heiß debattiert – mit dem Ergebnis, dass die Technik unzuverlässig ist und KI-Fälschungen zugleich immer raffinierter werden. Ganz außen vor ist das Thema jedoch nicht: Vom Gesetz erfasste KI-Inhalte müssen in einem maschinenlesbaren Format preisgeben, dass eine KI ihre Finger im Spiel hatte.
Auch hier werden sich bösartige Akteure von den Regeln wohl nicht abschrecken lassen. Legitime Online-Dienste können diese Informationen jedoch zumindest theoretisch nutzen. Vorstellbar sind etwa soziale Netzwerke, die auf Wunsch KI-generierte Inhalte ausblenden oder Musik-Streamingdienste, auf denen Nutzer:innen „AI Slop“ aus ihren Playlisten verbannen können.
Medienkompetenz wichtiger denn je
Sich allein auf die Labels zu verlassen, greift aber zu kurz und kann sogar kontraproduktiv sein, wie die Forschung zeigt. Schließlich gibt ein KI-Label keine Auskunft darüber, ob ein Inhalt richtig oder falsch ist. Einer Studie zufolge können KI-Labels etwa dazu beitragen, dass Nutzer:innen falschen Inhalten mit KI-generierten Bildern seltener glauben. Zugleich ließ sich jedoch das Phänomen beobachten, dass falsche, aber ungekennzeichnete Inhalte eher als wahr eingeschätzt wurden, während wahre Inhalte mit KI-Labeln häufiger angezweifelt wurden.
„Ob die geplanten Kennzeichnungen der richtige Weg sind, wird sich noch herausstellen müssen“, sagt Rainer Rehak vom Weizenbaum-Institut: „Transparenz ist ja kein Selbstzweck“. Grundsätzlich sei die Grundmotivation unterstützenswert, denn letztendlich gehe es um „Authentizität, Orientierung und Verantwortlichkeit von Interaktion, ob direkt oder mediiert“, sagt Rehak. Hierbei sei reine Transparenz „natürlich der naheliegenste und vergleichsweise einfachste Weg“, so der Wissenschaftler – jedenfalls im Vergleich zu den Ansätzen, die er bevorzugt hätte, nämlich „weitergehenden Produktbeschränkungen, konkreteren Systemgestaltungsvorgaben oder oder auch klaren Verboten“.
So weit wollte die EU indes nicht gehen. Ähnlich den unzähligen KI-Produkten, die in den vergangenen Jahren aus dem Boden geschossen sind, gleichen die neuen Transparenzregeln eher einem Experiment, wie sich diese Technologie in die Gesellschaft integrieren lässt. „Die KI-Verordnung soll ja explizit KI ermöglichen, und jetzt müssen wir erst einmal damit umgehen“, sagt Rehak.
Tomas Rudl ist in Wien aufgewachsen, hat dort für diverse Provider gearbeitet und daneben Politikwissenschaft studiert. Seine journalistische Ausbildung erhielt er im Heise-Verlag, wo er für die Mac & i, c’t und Heise Online schrieb. Kontakt: E-Mail (OpenPGP), Bluesky. Dieser Beitrag ist eine Übernahme von netzpolitik, gemäss Lizenz Creative Commons BY-NC-SA 4.0.
-
📬 Amazon sperrt Kindle-Lizenzen auf alten Geräten – Kunden bleiben auf ihren E-Books sitzen
#EBooks #Abhängigkeit #AmazonÖkosystem #drm #KindleLizenzen #Kundendienst #Wasserzeichen https://sc.tarnkappe.info/3e436a -
📬 Amazon sperrt Kindle-Lizenzen auf alten Geräten – Kunden bleiben auf ihren E-Books sitzen
#EBooks #Abhängigkeit #AmazonÖkosystem #drm #KindleLizenzen #Kundendienst #Wasserzeichen https://sc.tarnkappe.info/3e436a -
KI im Wahlkampf
Avatare diskriminieren politische Gegner
Mehr dazu bei https://www.commondreams.org/news/gop-talarico-deepfake
a-fsa.de/d/3Ny
Link zu dieser Seite: https://www.a-fsa.de/de/articles/9468-20260314-ki-im-wahlkampf.html
Link im Tor-Netzwerk: http://a6pdp5vmmw4zm5tifrc3qo2pyz7mvnk4zzimpesnckvzinubzmioddad.onion/de/articles/9468-20260314-ki-im-wahlkampf.html
Tags: #KI #AI-Act #USA #Wahlkampf #Texas #Schumer #Republikaner #Simulation #Wasserzeichen #Kennzeichnung #Manipulation #Verbraucherdatenschutz #Datenschutz #Datensicherheit #Datenpannen #Datenskandale #Energieverschwendung -
KI im Wahlkampf
Avatare diskriminieren politische Gegner
Mehr dazu bei https://www.commondreams.org/news/gop-talarico-deepfake
a-fsa.de/d/3Ny
Link zu dieser Seite: https://www.a-fsa.de/de/articles/9468-20260314-ki-im-wahlkampf.html
Link im Tor-Netzwerk: http://a6pdp5vmmw4zm5tifrc3qo2pyz7mvnk4zzimpesnckvzinubzmioddad.onion/de/articles/9468-20260314-ki-im-wahlkampf.html
Tags: #KI #AI-Act #USA #Wahlkampf #Texas #Schumer #Republikaner #Simulation #Wasserzeichen #Kennzeichnung #Manipulation #Verbraucherdatenschutz #Datenschutz #Datensicherheit #Datenpannen #Datenskandale #Energieverschwendung -
"Gesichtserkennung für Ochsenköpfe – Erprobung und Einsatz von Computer Vision für die Bestimmung historischer #Wasserzeichen"
https://blog.sbb.berlin/wasserzeichenerkennung/ -
"Gesichtserkennung für Ochsenköpfe – Erprobung und Einsatz von Computer Vision für die Bestimmung historischer #Wasserzeichen"
https://blog.sbb.berlin/wasserzeichenerkennung/ -
Frisch von der DFG bewilligt. Freue mich auf unser Projekt ‚Gesichtserkennung für Ochsenköpfe – Erprobung und Einsatz von Computer Vision für die Bestimmung historischer Wasserzeichen‘!
#wasserzeichen -
🤔 Schwierige Fälle der Qualitätsbewertung bzw. Messbarkeit, so Henning Scholz, sind z.B. die unterschiedlichen Book Viewer, Objekte mit #Wasserzeichen oder ganz grundsätzlich die Diversität der Titel und Beschreibungen.
💡 Mit der Metis Sandbox gibt es eine Testumgebung, um den Ingestion Prozess zu simulieren.nfdi4culture.de/events/forum-measuring-the-quality-of-cultural-data-but-how-concepts-methods-potentials-and-the-nfdi4culture-approach.html
#NFDI4Culture #NFDIrocks #datenqualitat
^gp
-
🤔 Schwierige Fälle der Qualitätsbewertung bzw. Messbarkeit, so Henning Scholz, sind z.B. die unterschiedlichen Book Viewer, Objekte mit #Wasserzeichen oder ganz grundsätzlich die Diversität der Titel und Beschreibungen.
💡 Mit der Metis Sandbox gibt es eine Testumgebung, um den Ingestion Prozess zu simulieren.nfdi4culture.de/events/forum-measuring-the-quality-of-cultural-data-but-how-concepts-methods-potentials-and-the-nfdi4culture-approach.html
#NFDI4Culture #NFDIrocks #datenqualitat
^gp
-
ChatGPT testet Wasserzeichen für generierte Bilder.
🖼️ #OpenAI testet derzeit #Wasserzeichen für das #Bildgenerierungsmodell von #ChatGPT-4o, das inzwischen auch für kostenlose Nutzer verfügbar ist.
🆓 Während Plus-Abonnenten Bilder weiterhin ohne Wasserzeichen speichern können, sollen kostenlose Nutzer künftig markierte Bilder erhalten.
🎨 Hintergrund ist die massive Nutzung des Modells für die Erstellung von Bildern im Stil von Studio Ghibli, was weltweit für Aufmerksamkeit sorgt. (1/2)
-
🧠 Das Modell basiert auf einem großen Trainingsdatensatz aus Bildern und Texten und erzeugt besonders kontextbewusste, hochwertige Visualisierungen.
🛠️ Zusätzlich arbeitet #OpenAI an einer #API, mit der Entwickler eigene Anwendungen auf Basis des Bildgenerators aufbauen können.
⚙️ Ob die Einführung des #Wasserzeichen|s dauerhaft umgesetzt wird, ist noch offen, da sich OpenAI-Pläne häufig ändern.
👉 https://eicker.TV #Technik #Medien #Politik #Wirtschaft (2/2)
-
1. Vereinbarung geschlossener KI-Systeme: die eigenen Daten bleiben hier in einem "Silo".
2. #Anonymisierung der eigenen Daten: aufwändig und meistens letztlich nicht wirksam genug (verbleibende Rest-Informationen können de-anonymisiert werden).
3. Schutz der eigenen Daten vor KI-#Scraping durch #Wasserzeichen und Widerspruchs-Hinweise – leider nur sehr eingeschränkt wirksam.Die Frage, die sich jede Organisation stellen sollte: Wie schütze ich meine IP vor "datenhungrigen" KI-Anbietern?
-
Hinterlistige Nutzer verwenden die neue Bildgenerierungsfunktion des KI-Modells "Gemini 2.0 Flash" von Google, um Wasserzeichen aus Bildern zu entfernen, auch von Bildern von Getty Images und anderen bekannten Stock-Media-Anbietern.
#google #ki #ai #gemini #wasserzeichen #watermark #watermarkremover #scam #bildschutz #copyright #stockimages #media
-
Hinterlistige Nutzer verwenden die neue Bildgenerierungsfunktion des KI-Modells "Gemini 2.0 Flash" von Google, um Wasserzeichen aus Bildern zu entfernen, auch von Bildern von Getty Images und anderen bekannten Stock-Media-Anbietern.
#google #ki #ai #gemini #wasserzeichen #watermark #watermarkremover #scam #bildschutz #copyright #stockimages #media
-
Ich fordere ein digitales #Wasserzeichen für #KI-generierte Bilder.
-
Ich fordere ein digitales #Wasserzeichen für #KI-generierte Bilder.
-
Im #FraunhoferSIT findet am 16. Mai der CAST-Workshop "Künstliche Intelligenz und #Cybersicherheit" statt. Mit dabei unser Experte Prof. Martin Steinebach der in seinem Vortrag die Herausforderungen und wissenschaftlichen Ansätze zur Erkennung von #KI-basierten #Manipulationen in Mediendaten beleuchtet.
Mehr Informationen zur Veranstaltung und das Anmeldeformular finden Sie hier: https://cast-forum.de/workshops/programm/335?ts=1713524335725
#deepfake #kuenstlicheIntelligenz #Wasserzeichen -
Im #FraunhoferSIT findet am 16. Mai der CAST-Workshop "Künstliche Intelligenz und #Cybersicherheit" statt. Mit dabei unser Experte Prof. Martin Steinebach der in seinem Vortrag die Herausforderungen und wissenschaftlichen Ansätze zur Erkennung von #KI-basierten #Manipulationen in Mediendaten beleuchtet.
Mehr Informationen zur Veranstaltung und das Anmeldeformular finden Sie hier: https://cast-forum.de/workshops/programm/335?ts=1713524335725
#deepfake #kuenstlicheIntelligenz #Wasserzeichen -
📬 TraceMark von Denuvo soll Leaker überführen
#Denuvo #Gaming #GameDeveloperConference #Irdeto #TraceMark #TraceMarkforGames #Wasserzeichen https://sc.tarnkappe.info/2ca587 -
📬 TraceMark von Denuvo soll Leaker überführen
#Denuvo #Gaming #GameDeveloperConference #Irdeto #TraceMark #TraceMarkforGames #Wasserzeichen https://sc.tarnkappe.info/2ca587 -
Vor der US-Wahl wurde ein gefälschter Anruf mit Joe Biden veröffentlicht, der anscheinend mithilfe von KI erstellt wurde. Nun diskutieren Techfirmen die Einführung von KI-Kennzeichnungen für Inhalte. Unser Experte Prof. Martin Steinebach teilt in einem Artikel der @DIE ZEIT seine Einschätzung zu diesem Thema.
Hier kommen Sie direkt zum Artikel: https://www.zeit.de/digital/2024-02/ki-wahlkampf-joe-biden-kennzeichnung/komplettansicht
#Wasserzeichen #KI #Kennzeichnung #USA #Wahlkampf #USWahl #Biden #Tech -
Vor der US-Wahl wurde ein gefälschter Anruf mit Joe Biden veröffentlicht, der anscheinend mithilfe von KI erstellt wurde. Nun diskutieren Techfirmen die Einführung von KI-Kennzeichnungen für Inhalte. Unser Experte Prof. Martin Steinebach teilt in einem Artikel der @DIE ZEIT seine Einschätzung zu diesem Thema.
Hier kommen Sie direkt zum Artikel: https://www.zeit.de/digital/2024-02/ki-wahlkampf-joe-biden-kennzeichnung/komplettansicht
#Wasserzeichen #KI #Kennzeichnung #USA #Wahlkampf #USWahl #Biden #Tech -
Erkennen wir echt vs. KI-generierte Inhalte? Der Artikel von Prof. Martin Steinebach im Tagesspiegel Background Cybersecurity diskutiert Ansätze wie digitale Wasserzeichen sowie den Wettstreit zwischen Sicherheitsmechanismen und Angreifenden.
👉 https://background.tagesspiegel.de/cybersecurity/der-richtige-umgang-mit-ki-generierten-inhalten
#KI #kuenstliche Intelligenz #Tagesspiegel #digital #digitaleWasserzeichen #Wasserzeichen -
Erkennen wir echt vs. KI-generierte Inhalte? Der Artikel von Prof. Martin Steinebach im Tagesspiegel Background Cybersecurity diskutiert Ansätze wie digitale Wasserzeichen sowie den Wettstreit zwischen Sicherheitsmechanismen und Angreifenden.
👉 https://background.tagesspiegel.de/cybersecurity/der-richtige-umgang-mit-ki-generierten-inhalten
#KI #kuenstliche Intelligenz #Tagesspiegel #digital #digitaleWasserzeichen #Wasserzeichen -
Viele #KI-generierte Bilder lassen sich kaum noch als solche erkennen. Mehrere Konzerne setzen daher auf #Wasserzeichen, die sie in die Bilder einbetten. Doch es gibt erhebliche Zweifel, ob der technische Ansatz funktioniert. Im Gespräch mit @netzpolitik_feed empfehlen Fachleute, darunter unser Experte Prof. Martin Steinebach, gesellschaftliche Lösungen.. 👉 https://netzpolitik.org/2023/kuenstliche-intelligenz-mit-wasserzeichen-gegen-die-babylonische-verwirrung/
-
Viele #KI-generierte Bilder lassen sich kaum noch als solche erkennen. Mehrere Konzerne setzen daher auf #Wasserzeichen, die sie in die Bilder einbetten. Doch es gibt erhebliche Zweifel, ob der technische Ansatz funktioniert. Im Gespräch mit @netzpolitik_feed empfehlen Fachleute, darunter unser Experte Prof. Martin Steinebach, gesellschaftliche Lösungen.. 👉 https://netzpolitik.org/2023/kuenstliche-intelligenz-mit-wasserzeichen-gegen-die-babylonische-verwirrung/
-
Tipps zur #Wasserzeichen-Funktion in #Word und im #LibreOffice #Writer. Inklusive #Workaround zur fehlenden #Bildwasserzeichen-Funktion im Writer.
https://www.pctipp.ch/praxis/office/wasserzeichen-in-word-libreoffice-writer-2000083.html -
Tipps zur #Wasserzeichen-Funktion in #Word und im #LibreOffice #Writer. Inklusive #Workaround zur fehlenden #Bildwasserzeichen-Funktion im Writer.
https://www.pctipp.ch/praxis/office/wasserzeichen-in-word-libreoffice-writer-2000083.html -
An die deutschen Verlage: Vielen Dank, dass ihr keinen #Adobe DRM-Kopierschutz bei euren eBooks benutzt. ❤️
Internationale Verlage sollten sich von euch eine Scheibe abschneiden!
#Verlag #DeutscheVerlage #KeinAdobeDRM #AdobeDRM #DRM #Wasserzeichen #eBooks #Danke
-
An die deutschen Verlage: Vielen Dank, dass ihr keinen #Adobe DRM-Kopierschutz bei euren eBooks benutzt. ❤️
Internationale Verlage sollten sich von euch eine Scheibe abschneiden!
#Verlag #DeutscheVerlage #KeinAdobeDRM #AdobeDRM #DRM #Wasserzeichen #eBooks #Danke
-
Ich habe die letzten Tage zweimal von @eskensaskia gehört, welche ich im übrigen sehr schätze, dass Wasserzeichen eine mögliche Lösung gegen Fake News durch KI generierte Bilder sein könnten.
Aber warum sollten sich Menschen welche Fake News verbreiten wollen an eine Wasserzeichen-Pfllicht halten?
Mich erinnert das an Phil Zimmermann's Aussage: "If privacy is outlawed, only outlaws will have privacy"
-
PDF mit Wasserzeichen versehen
Mehrere Versuche, um unter eine PDF-Datei ein Wasserzeichen zu legen.
-
PDF mit Wasserzeichen versehen
Mehrere Versuche, um unter eine PDF-Datei ein Wasserzeichen zu legen.