#ncmec — Public Fediverse posts

Automatisierte Falschmeldungen

BKA meldet Kinderpornografie, die keine ist

Das Bundeskriminalamt wirft einem Hosting-Unternehmen vor, strafbare Kinderpornografie zu verbreiten. Es geht um zwei legale YouTube-Videos. Die Polizei hat die Inhalte offensichtlich nicht geprüft. Erst nachdem wir nachfragen, gibt das BKA den Fehler zu. Der Fall zeigt grundlegende Probleme.

Das Bundeskriminalamt bekämpft Kinder- und Jugendpornografie im Internet. Es ist die Zentralstelle für Bund und Länder.

Letztes Jahr hat das Bundeskriminalamt dem freundlichen Hosting-Unternehmen Flokinet vorgeworfen, strafbare Kinderpornografie zu verbreiten.

Polizei meldet Straftaten

Das Referat für Ermittlungen zu Gewalt- und Sexualdelikten verschickte eine „Meldung zu kriminellen Inhalten, die auf ihren Servern zur Verfügung gestellt werden“. Flokinet hat die Meldung jetzt veröffentlicht.

Das BKA schreibt, „dass sich auf den von Ihnen betriebenen Servern strafrechtlich relevante Inhalte befinden“, und ersucht „dringlichst“ darum, „diese schnellstmöglich zu entfernen“. Der Brief listet zwei URLs mit angeblicher Kinderpornografie:

• https://invidious.flokinet.to/watch?v=4edXqbz-41Y
• https://invidious.flokinet.to/watch?v=cvlJBLakJfg

Doch die Polizei liegt falsch. Die Inhalte der Videos sind nicht strafbar.

YouTube-Videos mit Musik

Auf dem Web-Server invidious.flokinet.to läuft die Software Invidious. Diese bietet ein „alternatives Front-End für YouTube“. Weder Invidious noch Flokinet hosten dort eigene Videos. Die hostet YouTube.

Das erste Video zeigt den deutschen Komponisten Hans Zimmer, der Musik für einen Film produziert. Das zweite Video ist ein Lied eines spanischen Opernsängers.

Beide Inhalte sind weder Kinderpornografie noch strafbar.

Darüber hinaus war der Web-Dienst zum Zeitpunkt der BKA-Meldung bereits seit einem halben Jahr kaputt und offline.

Wie prüft die Polizei?

Kinderpornografie ist ein schlimmes Verbrechen und die Verbreitung solcher Inhalte ein ernster Vorwurf. Internet-Dienste müssen rechtswidrige Inhalte „unverzüglich“entfernen. Einige Staaten schreiben eine Frist von 24 Stunden vor.

Das BKA verschickt die Mail an einem Montag. Zwei Stunden nach Eingang der Mitteilung teilt Flokinet dem BKA mit, dass die genannten Inhalte nicht verfügbar, nicht gehostet und nicht strafbar sind. Doch nach 24 Stunden hat das BKA noch immer nicht geantwortet.

Am Dienstag schicken wir dem BKA eine Reihe an Fragen. Enthalten die gemeldeten URLs wirklich Straftaten? Wann hat das BKA die URLs geprüft? Wann antwortet das BKA dem Anbieter?

Polizei meldet „automatisiert“

Am Mittwoch erhalten wir eine Antwort der Pressestelle. Das BKA äußert sich „grundsätzlich nicht zu laufenden Ermittlungsverfahren“. Zu den beiden URLs sagt es nichts.

Der Sprecher erklärt nur allgemein:

In Ermittlungsverfahren im Phänomenbereich Kinderpornografie, bei welchen große Datenmengen sichergestellt werden, erhebt das BKA Verlinkungen aus den kriminellen Plattformen automatisiert und regt diese zur Löschung durch den Provider an. Dabei können in Einzelfällen auch Verlinkungen zu nicht strafbaren Inhalten weitergegeben worden sein, die sich auf den in Rede stehenden kriminellen Plattformen befunden haben.

Die Polizei meldet „automatisiert“ alle Links auf „kriminellen Plattformen“. Das BKA prüft nicht, ob ein Link strafbar ist oder nicht.

Doch offensichtlich führt unsere Anfrage zu einer Überprüfung. Am Donnerstag antwortet das BKA dem Anbieter, vier Tage nach der ersten Meldung. „Bei den gemeldeten URLs handelt es sich nicht um kinderpornografische Inhalte. Bitte betrachten Sie unseren Löschantrag als irrelevant.“

Damit ist der konkrete Fall zwar gut ausgegangen. Aber er zeigt grundlegende Probleme.

Viele Meldungen nicht strafbar

Das BKA erhält Hinweise auf Kinderpornografie unter anderem von Beschwerdestellen im INHOPE-Netzwerk. Diese nehmen Hinweise entgegen und „prüfen diese auf ihre strafrechtliche Relevanz“. Erst danach leiten sie geprüfte Hinweise an das BKA. Im Jahr 2024 erhielt das BKA so über 31.000 Hinweise zu kinderpornografischen Inhalten im Internet.

Noch mehr Meldungen erhält das BKA vom „Nationalen Zentrum für vermisste und ausgebeutete Kinder“. Die US-Organisation meldete ebenfalls 2024 über 205.000 Hinweise an das BKA. Diese prüft das BKA. Doch nur „in 106.353 Fällen wurde eine strafrechtliche Relevanz festgestellt“. Die Hälfte der NCMEC-Meldungen war gar nicht strafbar.

Im Fall von Flokinet hat das BKA selbst „Verlinkungen aus den kriminellen Plattformen automatisiert [erhoben]“. Überprüft hat das BKA die Inhalte offensichtlich nicht.

In anderen Fällen erfährt das BKA von Kinderpornografie, löscht die Inhalte aber nicht.

Trotzdem fordert das BKA Netz-Sperren, Vorratsdatenspeicherung und Chatkontrolle– immer wegen Kinderpornografie.

Keine Konsequenz für Falschmeldungen

Flokinet kritisiert, dass das Einreichen einer falschen Meldung keinerlei Konsequenzen hat. Es ist angemessen, dass Hoster Straftaten wie Kinderpornografie zeitnah entfernen müssen. Doch das kann nur funktionieren, wenn die Hinweise der Polizei auch korrekt sind.

Wenn die Polizei automatisiert ungeprüft Inhalte meldet, „lagert der Absender die Überprüfungsarbeit faktisch an uns aus. Das ist kein praktikables System.“ Diese offenbar notwendige Überprüfung ist rechtlich heikel: Bereits der Besitz kinderpornografische Inhalte ist strafbar, unabhängig von der Intention.

Laut Flokinet benachteiligt dieses System außerdem kleine Internet-Dienste gegenüber Big Tech. „Große Plattformen können die Kosten für die Bearbeitung automatisierter Anfragen durch KI-Moderation und Inhaltsüberprüfungs-Teams auffangen. Unternehmen wie Flokinet können das nicht.“

Flokinet weist auch darauf hin, dass die Polizei erst reagiert hat, nachdem wir nachgefragt haben. „Ohne den Druck von Medien wäre die Falschmeldung wahrscheinlich nicht offiziell anerkannt worden.“

Andre Meister ist investigativer Journalist. Er hat netzpolitik.org mit aufgebaut, Auszeichungen erhalten und Strafanzeigen gestellt wie kassiert. Andre ist Gründungsmitglied der Vereine netzpolitik.org, Gesellschaft für Freiheitsrechte und Digitale Gesellschaft, Mitglied im Chaos Computer Club, Beobachter bei European Digital Rights und Beirat beim Centre for Democracy & Technology Europe. Nebenbei arbeitet er als System-Administrator. Kontakt: E-Mail (OpenPGP), Signal, Mastodon, Bluesky, FragDenStaat. Dieser Beitrag ist eine Übernahme von netzpolitik, gemäss Lizenz Creative Commons BY-NC-SA 4.0.

Six Months Of ‘AI CSAM Crisis’ Headlines Were Based On Misleading Data

https://fed.brid.gy/r/https://www.techdirt.com/2026/02/02/six-months-of-ai-csam-crisis-headlines-were-based-on-misleading-data/

#CrimeCon2025 coverage: "Emerging CSA Violence Against Children" There were no safeguards at the beginning of the internet & social media. History is repeating itself with AI. No protections, laws, or regulations. (TW) #NCMEC #ChildRescueCoalition https://www.amberunmasked.com/crimecon2025-caai/

@GossiTheDog

Perhaps... Its's also, This, which #NCMEC warned against, ⚠️👇Kevin?

https://infosec.exchange/@infosec_jcp/115065055823837825

Hey, anyone see the #MetaAI news about #CustomerTrainingData chats with #children?

#NCMEC

#BoomerDataAsMetaAIChatBots in yer #DMs used for #MetaAITrainingDataSets 🤖♻️👨‍⚖️👩‍⚖️⚖️👮

https://www.socialmediatoday.com/news/meta-ai-personal-dm-data-usage/740018/

Citations:

*DON'T. CLICK. READ MORE. DON'T! 👀👀

¹ Reuters:
https://www.reuters.com/investigates/special-report/meta-ai-chatbot-guidelines/

² BBC
https://www.bbc.co.uk/news/articles/c3dpmlvx1k2o

³ NY Post
https://nypost.com/2025/08/20/business/senators-press-mark-zuckerberg-over-metas-ai-bots-sensual-chats-with-kids/

⁴ CNBC
https://www.cnbc.com/2025/08/15/meta-ai-bot-child-investigation.html

⁵ Gizmodo
https://gizmodo.com/senator-launches-investigation-into-meta-ais-acceptance-of-sensual-chats-with-children-2000643975

Apparently Mark didn't see what happens when his data, like Reddit User Data is to Norman*, meets & has a #MechaHitler🤝#Grok moment. 🤦‍♂️🤦

* NORMAN BATES**** from that movie**. 🔪

** #MIT remembers🤖🔪 & so did ... Wait, wot***?!?

*** https://arstechnica.com/tech-policy/2025/07/groks-mechahitler-meltdown-didnt-stop-xai-from-winning-200m-military-deal/

**** 🤖🔪
https://www.media.mit.edu/projects/norman/overview/

For example, relying on #UK #GammaGroup for compartmentmentalization of #childabuse & #fraud & #identitytheft on #republicanwebhosting, aka, #SocialMedia *

#FunFacts about #RepublicanWebHosting
* Both #Meta & #Twitter are #republican owned web hosting, #MARCOM'D as, #SocialMedia , aka, #CorporateSocialMedia. Both #Meta ( aka #Facebook, #Instagram & #WhatsApp ) & #Twitter are #NCMEC listed as the top 1 ( #Facebook) , 2 (#Instagram) & 3 ( #Twitter, formally #X ) #RepublicanWebHosting #ChildAbuseInc #webhosting sites hosting THE. MOST. #CHILDPORN.

Read the reports!

Citations:
¹ https://en.wikipedia.org/wiki/National_Center_for_Missing_%26_Exploited_Children
² https://www.missingkids.org/ourwork/ncmecdata

📱 Intime Bilder im Netz – was tun? Das Online-Tool „Take It Down“ hilft Jugendlichen dabei, freizügige und intime Aufnahmen anonym aus dem Internet entfernen zu lassen – weltweit und kostenlos.

Das National Center for Missing & Exploited Children #NCMEC entwickelte das Tool und stellt damit ein hilfreiches Angebot im Bereich des digitalen Kinder- und Jugendmedienschutzes bereit.

🔗 https://takeitdown.ncmec.org/de/

#Jugendmedienschutz #Kinderrechte #FediEltern

@EINS_Institute

Does this mean that number 3 on #NCMECnews list, third to #Facebook (#1 #NCMEC listed ) & #2 #NCMEC listed #Instagram ( both owned by #MarkZuckerburg's #Meta ) has a new #3CSAMCEO that's owned by #ElonMusk, again?

#ChildAbuseIncLists #CSAMCEO #republicans

#Trump-Regierung möchte dem National Center for Missing and Exploited Children alle Mittel streichen, falls es LGBTQ+-Themen nicht entfernt und transgender Kinder mit ihrem „Deadname“ bezeichnet. Die Kürzung würde die CyberTipline lahmlegen, ein zentrales Tool gegen Kindesmissbrauch.

https://www.techdirt.com/2025/02/07/magas-sickening-hypocrisy-from-save-the-children-to-defund-the-org-that-actually-saves-children/

#Kinderschutz #Maga #LGBTQ #TransRights #ChildProtection #SaveTheChildren #CyberSafety #HumanRights #NCMEC #StopTheHate #Justice #Equality #TransRechte #Kinderschutz #Menschenrechte

#Zeteo:
"
This Week in Democracy – Week 3: Shadow President Elon Musk in Full Control

Zeteo's new project to document the ongoing, week-by-week growth of authoritarianism in the Trump second term.
"
https://zeteo.com/p/this-week-in-democracy-week-3-musk-trump-usaid-fbi-doe

8.2.2025

#ACLU #authoritarianism #CIA #ConstitutionalEmergency #DEI #Democracy #DOGE #DOJ #EPA #FBI #FCC #Menschenfeindlichkeit #Musk #NARA #NCMEC #NOAA #Staatskrise #TheKennedyCenter #UNRWA #USA #USAID

Source: The Verge

From the article: "The National Center for Missing and Exploited Children (NCMEC), a child safety nonprofit that works closely with the government and major tech platforms, has recently removed publications that reference queer and transgender children from its website. The removals come amid reports that NCMEC was ordered to cull mentions of LGBTQ+ issues under threat of losing government funding, part of President Donald Trump’s push to eradicate recognition of trans people in the US."

#USPolitics #ThePoliticsOfHate #Project2025
#NationalCenterForMissingAndExploitedChildren #NCMEC
#TransgenderDiscrimination #Transgender #LGBT #LGBTQ #LGBTQIAPlus

https://www.theverge.com/policy/608278/ncmec-removes-reports-lgbtq-transgender-children-government-funding-threats

Source: The Advocate

From the article: "The Trump administration’s relentless campaign against transgender Americans has taken another dangerous turn. The National Center for Missing and Exploited Children, a critical resource for tracking and protecting at-risk youth, has erased all references to LGBTQ+ and particularly trans children from its public materials. The Verge reports that the purge came after the Department of Justice threatened to pull the organization’s federal funding if it didn’t comply with the administration’s anti-trans directives."

#USPolitics #ThePoliticsOfHate #Project2025
#NationalCenterForMissingAndExploitedChildren #NCMEC
#TransgenderDiscrimination #Transgender #LGBT #LGBTQ #LGBTQIAPlus

https://www.advocate.com/politics/missing-exploited-lgbtq-kids-removed

Source: TechDirt

From the article: "After years of screaming “save the children” while baselessly accusing others of exploiting kids, the Trump administration is now trying to destroy the actual infrastructure that saves children. This one crosses from standard MAGA hypocrisy into genuinely evil territory."

#USPolitics #ThePoliticsOfHate #Project2025
#NationalCenterForMissingAndExploitedChildren #NCMEC
#TransgenderDiscrimination #Transgender #LGBT #LGBTQ #LGBTQIAPlus

https://www.techdirt.com/2025/02/07/magas-sickening-hypocrisy-from-save-the-children-to-defund-the-org-that-actually-saves-children/

Good grief, now they're threatening NCMEC:

"This creates an impossible choice: either we lose the primary infrastructure for fighting online child exploitation, or we institutionalize discrimination that puts already-vulnerable children at even greater risk. Both outcomes achieve exactly the opposite of what any legitimate child protection effort should do."

https://www.techdirt.com/2025/02/07/magas-sickening-hypocrisy-from-save-the-children-to-defund-the-org-that-actually-saves-children/

#NCMEC #USPol #CSAM #DoomScrolling

Trump's DOJ told the National Center for Missing and Exploited Children (NCMEC) that they would lose their funding if they failed to public-facing content related to LGBTQIA+ issues. This is according to reporting by Marisa Kabas.

"Staff were told they need to deadname trans kids in their reports to comply."

#NCMEC #TrumpAdministration #CSAM #DOJ

Another facet of the evil that now infests the US administration.

https://bsky.app/profile/marisakabas.bsky.social/post/3lhkny4mjdk2r

#US #Politics #LGBTQIA #NCMEC #DOJ

The Many Reasons Why NCMEC’s Board Is Failing Its Mission, From A NCMEC Insider | Techdirt

If you work in Trust & Safety, OMG this podcast is eye-opening, and it’s a must-listen.

I’ve heard gossip before re: a lack of ability to execute, but this explains so much about NCMEC and its haphazard and ill-considered approach to technology regulation.

https://www.techdirt.com/2024/08/08/the-many-reasons-why-ncmecs-board-is-failing-its-mission-from-a-ncmec-insider/

https://alecmuffett.com/article/110212

#ncmec #trustAndSafety

Automatic content scanning with #NCMEC ordered by law must stop. Whoever wrote this private organization into law is a fool.

Here is another example (2022) of a parent who took a photo of his toddler for the doctor being flagged as "criminal" with serious consequences.

Automated photo scanning MUST STOP. It is just plain wrong. Why should I move data to a remote storage facility when it is scanned and when flagged a police report is filed? WHY?

https://www.nytimes.com/2022/08/21/technology/google-surveillance-toddler-photo.html

https://www.youtube.com/watch?v=CE0EB5bXj14

Extremist Linked to Site Selling Discord Messages, AI making it harder for The NCMEC - HTTAY 89 Dave

#httay #discord #extremism #ai #ncmec #csam #law #dystopia

https://youtu.be/QEHnVXTRelQ?si=ZaWAK1ao8SjGcnQ-

So let me get this right: Europol wants to not have E2EE because it would prevent them finding CSAM / CSE (among other things), but Europol also doesn't have a CyberTipline API for organisations to report CSAM / CSE to law enforcement?

So you aren't receiving reports of CSAM / CSE efficiently from existing services, but arguing you want to violate everyone's privacy to "find CSAM / CSE"

Did I get that right?

#eupol #csam #cse #NCMEC