#biometrischegesichtserkennung — Public Fediverse posts

Gesichtserkennung bei Demos

LKA Baden-Württemberg: Kritik an Gesichtserkennung bei Demo-Teilnehmenden

Als ein Polizist gegen Palästina-Aktivist:innen ermittelte, soll er auch unbeteiligte Teilnehmer:innen einer Demo per Gesichtserkennung identifiziert haben. Die Gesellschaft für Freiheitsrechte hält das für rechtswidrig: „Die Polizei ermittelt ins Blaue hinein.“

Ein aktueller Fall aus Ulm wirft die Frage auf, wie leicht Teilnehmende einer Demonstration ins Visier von Gesichtserkennung durch die Polizei geraten können. So hat ein Beamter des Landeskriminalamts Baden-Württemberg nach eigener Aussage Aufnahmen einer angemeldeten Demonstration in Ulm ausgewertet. Dabei habe er neben zwei Angeklagten im sogenannten Ulm5-Prozess vier weitere Personen identifiziert, die bis heute nicht mit dem Verfahren in Verbindung stehen. An diesem Vorgehen gibt es nun Kritik.

Im Ulm5-Prozess müssen sich fünf Palästina-Aktivist:innen vor dem Landgericht Stuttgart verantworten. Sie sollen vor rund einem Jahr in den deutschen Standort des israelischen Rüstungskonzerns Elbit Systems in Ulm eingebrochen sein. Über die Hauptverhandlung hat die Kontext:Wochenzeitung aus Stuttgart berichtet. Wir haben zudem mit dem Verteidiger der Angeklagten, Mathes Breuer, gesprochen.

Demnach enthalte die Ermittlungsakte auch von den unbeteiligten Personen Fotos der Gesichter, Namen, Geburtsdaten und vollständige Anschriften. Außerdem soll die Polizei weitere Vermerke zu den Personen gemacht haben, zum Beispiel: „überregional bekannt“, oder: die Teilnahme an der Demonstration dürfte auf „persönliche Betroffenheit durch Geburtsort Gaza zurückzuführen sein“

Vier weitere Personen in der Ermittlungsakte

Die fünf Angeklagten wiederum sitzen seit rund einem Jahr in Untersuchungshaft. Vor Gericht erklärten die Angeklagten, sie hätten aus humanitären Motiven gehandelt und die Produktion von Waffen stören wollen, die Israel in Gaza gegen Zivilist:innen einsetze. Außerdem hätten sie darauf aufmerksam machen wollen, dass der deutsche Staat Kriegsverbrechen und Verbrechen gegen die Menschlichkeit ermögliche und davon profitiere.

Der LKA-Beamte habe nach eigener Aussage überprüfen wollen, ob die Angeklagten schon vor dem Einbruch bei Elbit Systems polizeilich aufgefallen seien. Dabei habe er weiteres Bildmaterial herangezogen, das auch andere Personen zeigt. Nach eigener Aussage sei er einem „Grundsatz der Vollständigkeit“ gefolgt und habe geprüft, wen der Computer neben den Angeklagten noch erkennen könne.

Auf welcher Rechtsgrundlage?

Auf die Nachfrage, wer den Bildabgleich angeordnet habe und auf welcher Rechtsgrundlage er erfolgt sei, soll sich der Zeuge im Gerichtssaal nicht geäußert haben.

„Es gibt keinen ‚Grundsatz der Vollständigkeit’, der es der Polizei erlauben würde, alle Menschen zu identifizieren, die einmal zusammen mit einer tatverdächtigen Person demonstriert haben.“ erklärt David Werdermann, Rechtsanwalt bei der Gesellschaft für Freiheitsrechte (GFF), auf Anfrage von netzpolitik.org.

Bereits die Abfrage der Bilder von der Demonstration greife in die Versammlungsfreiheit und die informationelle Selbstbestimmung ein. Dieser Eingriff wiege besonders schwer, wenn diese Bilder auch noch automatisch abgeglichen würden. „Ohne konkrete Anhaltspunkte dafür, dass es sich um Mittäter*innen handelt, sind solche Ermittlungsmaßnahmen rechtswidrig. Die Polizei ermittelt ins Blaue hinein – und das in einem grundrechtlich sensiblen Bereich“, erklärt Werdermann.

Das Landeskriminalamt Baden-Württemberg teilte auf Anfrage von netzpolitik.org mit, es könne sich zu dem laufenden Verfahren nicht äußern. Die Erhebung personenbezogener Daten richte sich nach den einschlägigen gesetzlichen Bestimmungen. Auf unsere Frage nach dem „Grundsatz der Vollständigkeit” ging das LKA nicht ein.

Gesichtserkennung wird immer häufiger eingesetzt

Der Fall rückt in den Mittelpunkt, welche Grenzen die Polizei beim Einsatz von Gesichtserkennung wahren muss. Das Bundeskriminalamt (BKA) betreibt seit 2008 ein Gesichtserkennungssystem (GES), das unbekannte Personen anhand von Bildern identifizieren soll. Dafür wird ein vorliegendes Bild, etwa von einer Überwachungskamera oder ein Fahndungsfoto, mit den gespeicherten Bildern im polizeilichen Informationssystem (INPOL) verglichen. Das System übersetzt die anatomischen Merkmale eines Gesichts in sogenannte Templates, erstellt eine Liste mit möglichen Treffern und ordnet sie nach ihrer Ähnlichkeit.

Im Januar 2026 enthielt INPOL Einträge zu rund 5,4 Millionen Menschen mitinsgesamt 7,6 Millionen Lichtbildern. Zugleich nimmt der Einsatz der Gesichtserkennung deutlich zu: 2025 führten die Kriminalämter von Bund und Ländern rund 313.500 Suchläufe durch, 2024 waren es noch 121.000. Seit September 2024 kommt dabei sogenannte Künstliche Intelligenz zum Einsatz, wodurch die Fehlerquote der Gesichtserkennung auf unter ein Prozent gesunken sein soll.

Polizei soll auch Bilder aus dem Internet abgleichen dürfen

Bislang gleicht das GES vorliegende Bilder mit polizeilich gespeicherten Lichtbildern ab, etwa aus erkennungsdienstlichen Behandlungen. Die Bundesregierung will allerdings die Möglichkeiten der Ermittlungsbehörden ausweiten. In Zukunft soll die Polizei Fahndungsfotos auch mit öffentlich zugänglichen Bildern im Internet abgleichen können. So könnten etwa auch Fotos aus sozialen Netzwerken zur Identifizierung von Personen herangezogen werden.

Die Pläne stoßen auf Ablehnung. Die Gesellschaft für Freiheitsrechte (GFF) warnt in einer Stellungnahme vor „Instrumenten zur potenziellen Massenüberwachung“ und hält die Pläne der Bundesregierung für „zum Großteil verfassungswidrig“. Auch andere Organisationen wie Amnesty International und der Chaos Computer Clubpositionieren sich gegen neue Befugnisse für die Sicherheitsbehörden.

Von September bis Dezember 2026 ist Carla Rochel Praktikantin bei netzpolitik.org. Sie studiert Kommunikations- und Medienwissenschaften in Leipzig und interessiert sich besonders für Soziale Bewegungen und digitalen Protest. Kontakt: E-Mail (OpenPGP). Dieser Beitrag ist eine Übernahme von netzpolitik, gemäss Lizenz Creative Commons BY-NC-SA 4.0.

Gesichtersuchmaschine PimEyes

Ein Verbot, das niemand durchsetzt

Seit mehr als einem Jahr verbietet die EU bestimmte Formen biometrischer Gesichtsdatenbanken. Doch die Suchmaschine PimEyes macht einfach weiter. Die zuständige Bundesnetzagentur hält sich bedeckt – und die Bundesregierung laviert gar um das Verbot herum.

Ein einzelnes Foto eines Gesichtes reicht. Lädt man es in die Suchmaschine PimEyes hoch, hakt ein paar Kästchen ab, um den Nutzungsbestimmungen zuzustimmen, und drückt dann auf „Suchen“, erscheint wenige Sekunden später eine Übersicht. Darauf Fotos von Gesichtern, die eine Ähnlichkeit aufweisen, samt der Links zu den Fundstellen im Netz – egal wo und wie obskur.

Wenn das Internet ein Heuhaufen ist, wie die New York Times damals schrieb, dann ist PimEyes ein Magnet. Eine Technologie, mit der sich Fotos noch aus den hintersten versteckten Winkeln des Netzes ziehen lassen.

netzpolitik.org nannte die Suchmaschine in einem ersten Bericht vor sechs Jahren einen „Angriff auf die Anonymität“.

Ein Verbot wie gemacht für PimEyes

Seitdem hat sich einiges getan. PimEyes hat nicht nur den Besitzer gewechselt und gehört jetzt einem georgischen Geschäftsmann. Auch die EU hat reagiert. In der KI-Verordnung – dem großen Regelwerk, das den Einsatz von KI in der Union regeln soll – steht in einer Liste von verbotenen Dingen explizit auch einen Absatz, der direkt auf biometrische Suchmaschinen wie PimEyes zielt.

Verboten sind demnach: „KI-Systeme, die Datenbanken zur Gesichtserkennung durch das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungsaufnahmen erstellen oder erweitern.“ Wenn man es nicht besser wüsste, man könnte meinen: Gemeint ist PimEyes.

Das EU-Parlament, das sich besonders für dieses Verbot eingesetzt hat, warnte vor den gesellschaftlichen Auswirkungen. Solche Suchmaschinen könnten das Gefühl von Massenüberwachung verstärken und seien eine Gefahr für Grundrechte wie die Privatsphäre. So steht es in der Begründung des Verbotes. Auch der Rat der Mitgliedstaaten und die EU-Kommission haben dem zugestimmt.

Erstmal niemand zuständig

Sprung drei Jahre in die Zukunft: Es ist der 2. Februar 2025, und die Verbote aus der KI-Verordnung werden anwendbar. Doch noch gibt es niemanden, der sie durchsetzen könnte. Die einzelnen Mitgliedstaaten, so sieht es die Verordnung vor, müssen erst eine Stelle benennen, die offiziell für die Aufsicht über das Regelwerk und seine Verbote zuständig ist.

PimEyes ist derweil weiter online und bietet etwa Nutzer*innen in Deutschland ein Monatsabo für 32,90 Euro, mit dem man bis zu 75 Gesichter am Tag suchen kann.

Im Sommer 2026 ist es dann soweit. Die Bundesregierung bestimmt mit einem neuen Gesetz die Bundesnetzagentur zur offiziellen Aufsichtsbehörde. Sie ist damit für die Aufsicht über diejenigen zuständig, die KI-Systeme in Deutschland entwickeln oder anbieten: für Innovationsförderung, für Beschwerden – und auch für die Einhaltung der Verbote.

Werkzeug für Stalking und Einschüchterung

Seit unseren ersten Berichten über PimEyes im Jahr 2020 hat sich bei der öffentlich zugänglichen Gesichtersuchmaschine im Kern wenig verändert. Nach wie vor braucht man nur einen Screenshot oder ein flüchtiges Foto, um eine Person per PimEyes zu suchen.

Die Suchmaschine erfasst die biometrischen Eigenheiten des Gesichts, etwa die Abstände von Augen, Nase und Mund, und vergleicht diese mit den Templates von Milliarden anderen Gesichtern, die es im Netz gefunden und auf dieselbe Weise vermessen hat. Sie basiert damit sehr wahrscheinlich auf eben der Technologie, die laut KI-Verordnung in der EU verboten ist.

Kritiker*innen sehen in PimEyes vor allem eine große Bedrohung. Weil die Fotofundstellen im Netz sehr wahrscheinlich zu weiteren Informationen wie Namen, Wohnorten, Arbeitsstellen führen, machen sie alle, die im öffentlichen Raum unterwegs sind, wiedererkennbar und angreifbar: „jederzeit, überall und durch beliebige Dritte“.

„Damit existiert eine Infrastruktur, die tief in Grundrechte von vielen Millionen Menschen eingreift und Missbrauch Tür und Tor öffnet“, warnt der Chaos Computer Club, „etwa für Stalking, Einschüchterung oder umfassende Verhaltensanalyse – selbstredend ohne Wissen und ohne Einwilligung der Betroffenen.“

Die Behörde hätte viele Möglichkeiten

Die Bundesnetzagentur könnte jetzt aktiv werden. Als Aufsichtsbehörde könnte sie eine Untersuchung von PimEyes einleiten. Dafür muss sie nicht darauf warten, dass sich einzelne Betroffene über PimEyes beschweren – bislang liegt laut BNetzA eine solche Beschwerde vor. Sie kann aber einfach selbst tätig werden.

Doch auf Nachfrage von netzpolitik.org hält sich die Behörde bedeckt. „Bitte haben Sie Verständnis, dass wir uns zu geplanten und aktuellen Verfahren nicht äußern.“

Dabei hätte die BNetzA viele Möglichkeiten. Sie könnte in einem ersten Schritt die Frage klären, ob PimEyes überhaupt unter das Verbot fällt. Dazu könnte sie von dem Unternehmen Auskunft verlangen, Unterlagen anfordern, eine technische Prüfung einleiten. Selbst Vor-Ort-Termine sieht das Gesetz vor.

Laut den Leitlinien der EU-Kommission greift das Verbot, wenn ein System alle der folgenden Bedingungen erfüllt: Es sammelt Gesichtsbilder ungezielt aus dem Netz oder aus Überwachungsaufnahmen. Es erstellt daraus eine Datenbank zur Gesichtserkennung oder erweitert diese. Und das passiert mit Hilfe eines KI-Systems.

Sollte bei der Prüfung herauskommen, dass die Suchmaschine diese Bedingungen erfüllt und somit gegen die EU-Regeln verstößt, könnte die Aufsichtsbehörde die nächste Phase einleiten.

Weil PimEyes seine Suche nicht nur in Deutschland anbietet, sondern in der gesamten EU, müsste die BNetzA sich mit anderen nationalen Behörden und dem „AI Office“ der EU-Kommission koordinieren. „Möglich wäre auch ein gemeinsames Vorgehen von Aufsichtsbehörden mehrerer EU-Mitgliedstaaten,“ schrieb die Behörde auf eine frühere Anfrage von netzpolitik.org.

Das Unternehmen würde dann aufgefordert, die verbotenen Handlungen in der EU einzustellen, also damit aufzuhören, weiter wahllos Gesichter im Netz zu vermessen und die Daten in seine Datenbanken zu kippen. Wenn das nicht passiert, käme danach die Aufforderung, das Angebot in der EU vom Markt zu nehmen.

Bleibt das Angebot dennoch im Netz, folgt eine Kaskade von möglichen Sanktionen – bis hin zu Geldstrafen von bis zu 7 Prozent des weltweiten jährlichen Umsatzes. Je länger im Netz, je weniger das Unternehmen kooperiert, umso höher kann die Strafe ausfallen. So in der Theorie.

Außerhalb der EU, außer Reichweite?

In der Praxis sitzt PimEyes allerdings nicht in der EU. Das ursprünglich in Polen gegründete Unternehmen, das zwischenzeitlich auch auf den Seychellen gemeldet war, soll seinen Sitz inzwischen in Dubai haben. So genau weiß das offenbar derzeit niemand.

Das würde es schwieriger machen, diese Maßnahmen auch durchzusetzen. Es wäre allerdings nicht unmöglich. Das sagt der Leiter der NGO AlgorithmWatch, Matthias Spielkamp, und verweist auf die Erfahrungen in Fällen von Steuerhinterziehung.

Und das sagt auch der Hamburger IT-Sicherheitsexperte und Aktivist Matthias Marx, der sich seit Jahren gegen die Suchmaschinen engagiert.

Marx hatte sein Gesicht 2020 in den Datenbanken von PimEyes wiedergefunden und versucht seitdem, die Hamburger Datenschutzbehörde zu einem Verfahren gegen die Suchmaschine zu bewegen. Denn nicht nur mit der KI-Verordnung könnte PimEyes über Kreuz liegen. Auch die Europäischen Datenschutzregeln (DSGVO) verbieten es, die biometrischen Daten einer Person ohne deren Einverständnis einfach aus dem Netz zu klauben.

Die Hamburger Behörde hat das Verfahren nach fünf Jahren allerdings eingestellt. Die Begründung: Die Suchmaschine handle zwar rechtswidrig, reagiere aber aus Dubai nicht auf Anfragen. Marx will das nicht akzeptieren und klagt derzeit mit Unterstützung der österreichischen NGO noyb und des Chaos Computer Clubs gegen den Bescheid.

Er glaubt, die Behörde hätte durchaus Möglichkeiten, Sanktionen durchzusetzen. So nutze PimEyes für die Abwicklungen der Abo-Zahlungen einen Dienstleister, der unter anderem eine Niederlassung in den Niederlanden hat. Gelder in Europa könnten eingefroren werden oder Maßnahmen direkt gegen den georgischen Geschäftsführer verhängt werden.

Die Untätigkeit der Hamburger Behörde sendet aus seiner Sicht ein gefährliches Signal: „Wenn Aufsichtsbehörden bei so klaren Rechtsverstößen nicht handeln, entsteht ein gefährlicher Präzedenzfall.“ Biometrische Massenüberwachung dürfe sich nicht allein deshalb durchsetzen, weil ihre Anbieter auf die Untätigkeit der Behörden spekulieren.

Sollte die Klage erfolgreich sein, müsste die Behörde erneut über Marx’ ursprüngliche Beschwerde entscheiden und voraussichtlich Maßnahmen gegen PimEyes treffen.

Bundesregierung will Gesichtersuche für die Polizei

Skurril wirkt der Umgang mit PimEyes aber noch aus einem weiteren Grund. Denn die Bundesregierung vertritt keineswegs die Haltung, dass die biometrische Gesichtersuche nach Art von PimEyes verboten gehört. Spätestens seitdem Journalist*innen das frühere RAF-Mitglied Daniela Klette mit Hilfe von PimEyes auf Facebook fanden und identifizierten, waren Begehrlichkeiten geweckt.

Das Bundeskriminalamt und die Bundespolizei sollen deswegen demnächst selbst mit solchen Suchmaschinen im Netz fahnden dürfen. Sie dürften dann nach Beschuldigten schwerer Straftaten suchen, aber auch nach Zeug*innen. So will es die Bundesregierung und hat dafür schon ein Gesetzespaket auf den Weg gebracht. Explizit sollen die Behörden dafür auch Drittanbieter nutzen dürfen. Wie PimEyes.

Dass sich dieses Begehren mit der KI-Verordnung schwer vereinbaren lässt, dessen ist man sich offensichtlich auch in den Ministerien bewusst. Deswegen hat man sich eine argumentative Hintertür gebaut. Ein Verbot durch die KI-Verordnung gelte nicht, „sofern für das Auslesen der Daten keine KI-Systeme eingesetzt werden“, schreibt das Bundesjustizministerium in der Gesetzesbegründung.

Diese Lesart findet sich auch in einem Gutachten der Wissenschaftlichen Dienste des Deutschen Bundestages. Demnach verbiete die KI-Verordnung nicht den Aufbau einer Datenbank per se, sondern nur das „ungezielte Auslesen von Gesichtsbildern mittels KI“. Solche Datenbanken könnten auch ohne Künstliche Intelligenz erstellt werden, schreiben die Wissenschaftlichen Dienste weiter.

„Der Einsatz von KI ist also nicht zwingend erforderlich, um einen biometrischen Abgleich mit Bildern aus dem Internet durchzuführen“, so das Fazit. Es komme „auf die konkrete Ausgestaltung und technische Umsetzung des in den Gesetzesentwürfen vorgesehenen biometrischen Abgleichs an“. Wer hier wen inspiriert hat, ist nicht klar.

Abgeordnete sind anderer Meinung

Der EU-Abgeordnete Tiemo Wölken (SPD) hat die KI-Verordnung im Parlament mit verhandelt. Er hat wenig Verständnis für das Zaudern und Infragestellen. „Der AI Act ist eindeutig: Das Erstellen von Datenbanken mit Gesichtsbildern aus dem Internet ist seit dem 2. Februar 2025 verboten“, sagt Wölken.

Die Definition von KI-System in der Verordnung sei dabei bewusst so breit formuliert, dass sie auch Analysesoftware wie PimEyes erfasse. „Eine anderslautende Bewertung durch die Aufsichtsbehörden ginge direkt gegen den Willen des Gesetzgebers. Ich erwarte deshalb von der Bundesnetzagentur, dass sie aktiv wird und PimEyes endlich verbietet.“

Auch die EU-Abgeordnete Alexandra Geese (Die Grünen/EFA) erwartet ein klares Verbot von PimEyes. „Der Geist der KI-Verordnung entspricht sehr klar dem Wunsch der großen Mehrheit der Menschen in einer freiheitlichen Gesellschaft: keine Überwachung im öffentlichen Raum und keine Bedrohung durch Technologie, die es fremden Menschen ermöglicht, uns ohne unser Wissen in der Menge identifizieren und vor der Haustür oder am Arbeitsplatz aufzulauern.“

Sollte die Aufsichtsbehörde tatsächlich zu der Auffassung gelangen, die KI-Verordnung decke PimEyes nicht ab, „müssen wir als Gesetzgeber dringend über weitere Maßnahmen zum Schutz unserer Freiheit nachdenken“.

Nicht nur aus dem EU-Parlament, auch aus dem Bundestag kommen klare Worte. Johannes Schätzl, digitalpolitischer Sprecher der SPD-Fraktion im Bundestag, sagt Datenbanken wie PimEyes basierten seinem Verständnis nach auf einer durch die KI-Verordnung verbotenen Praktik. „Aus meiner Sicht müsste die BNetzA mögliche Verstöße gegen die KI-VO überprüfen.“

Sollte sich dabei herausstellen, dass das Verbot nicht greift, müsste man „in der Tat auf europäischer Ebene nachjustieren, denn es war der ausdrückliche Wille des europäischen Gesetzgebers, diese Praktik in Europa auszuschließen. Ein Einsatz wäre nur möglich, wenn dieses Recht aktiv umgangen wird.“

„Dies sollte auch in deutschen Gesetzesentwürfen nicht angelegt sein“, sagt Schätzl. Und stellt sich damit auch gegen seine eigene Partei, die in der Regierungsverantwortung an dem Verbot sägt.

Chris Köver recherchiert und schreibt über Netzpolitik, Überwachungstechnologien, digitale Gewalt und Jugendschutz. Recherche-Anregungen und Hinweise gerne per Mail oder via Signal (ckoever.24). Seit 2018 bei netzpolitik.org. Hat Kulturwissenschaften studiert und bei Zeit Online mit dem Schreiben begonnen, später das Missy Magazine mitgegründet und geleitet. Ihre Arbeit wurde ausgezeichnet mit dem Journalistenpreis Informatik, dem Grimme-Online-Award, dem Rainer-Reichert-Preis zum Tag der Pressefreiheit und dem Datenschutz-Medienpreis. Kontakt: E-Mail (OpenPGP), BlueSky, Mastodon, Signal: ckoever.24. Dieser Beitrag ist eine Übernahme von netzpolitik, gemäss Lizenz Creative Commons BY-NC-SA 4.0.

Wer dein Gesicht scannt

LinkedIn, Etsy, Roblox: Wer dein Gesicht scannt, wenn du dich online verifizierst

Beim Verifizieren des eigenen Profils oder Alters auf vertrauten Plattformen geben Nutzende sensible biometrische Informationen an dritte Unternehmen weiter. Eines dieser Unternehmen ist das US-amerikanische Persona, dessen Prüfungen weit über bloße Identitätskontrollen hinausgehen.

Drei Jahre lang verkauft Johanna digitale Nähanleitungen auf Etsy, einem beliebten Online-Marktplatz für Kunsthandwerk und hochwertige Waren. Vor einigen Wochen fordert Etsy sie auf, ihre Daten zu bestätigen. „Ok, Etsy will sicherstellen, dass die Daten aktuell sind“, denkt sie. Als sie jedoch ein Foto von ihrem Ausweis hochladen und ein Live-Selfie von sich machen soll, bricht sie den Vorgang sofort ab, erzählt Johanna.

Johanna, die in Wirklichkeit anders heißt und anonym bleiben möchte, wird nicht nur deshalb stutzig, weil sie ihre sensiblen biometrischen Daten preisgeben soll. „Ich habe noch einen der letzten Personalausweise ohne Fingerabdruck, kaufe schon seit über zwanzig Jahren nicht mehr bei Amazon und habe noch nie ein Foto von mir irgendwo hochgeladen“, erzählt sie.

Johanna stellt bei Nachforschungen außerdem fest, dass nicht Etsy selbst, sondern eine andere ihr gänzlich unbekannte Firma diese Daten erheben und verarbeiten soll: Persona Identities, Inc, mit Sitz in San Francisco, Kalifornien. Persona ist der externe Dienstleister, den Etsy damit beauftragt hat, die Identität von Verkäufer*innen wie Johanna zu verifizieren.

Immer mehr digitale Plattformen kontrollieren die Identität oder das Alter ihrer Nutzer*innen. Oder besser gesagt: Sie lassen es kontrollieren. Eines der Unternehmen, das sich darauf spezialisiert hat und von dieser Entwicklung profitiert, ist Persona. Seine Technologien sind mittlerweile in vielen Branchen im Einsatz: Finanzdienstleistungen, Online-Marktplätze, Videospiele, Lernplattformen oder Soziale Medien. Auch an einem Verfahren für Alterskontrollen in Australien, wo seit letztem Herbst ein Social-Media-Verbot für unter 16-Jährige gilt, ist Persona beteiligt.

Der Trend zu Identitäts- und Alterskontrollen wirft grundsätzliche Fragen auf: Wenn wir unsere Gesichter – wie wir das etwa von einer biometrischen Kontrolle am Flughafen oder der Eröffnung eines neuen Bankkontos kennen – nun auch scannen lassen müssen, um selbst gemachte Kunst zu verkaufen, mit Freund*innen zu chatten oder Online-Spiele zu spielen, macht es das Internet tatsächlich sicherer? Lassen sich Deepfakes, Bots und gestohlene Identitäten mit biometrischen Kontrollen kommerzieller Anbieter bekämpfen, die biometrische Daten von Millionen von Menschen sammeln und damit zu einem begehrten Ziel für Hacker*innen und Identitätsdiebstahl werden? Und welche Auswirkungen hat die konkrete Umsetzung solcher Kontrollen – von Datenschutz bis zu politischen Fragen, wenn unsere persönlichen Informationen in den Händen von US-Unternehmen liegen?

Gesichtszüge, der Abstand zwischen den Augen, die Form des Kinns und andere biometrische Merkmale gehören zu den sensibelsten personenbezogenen Informationen überhaupt. Anders als ein Passwort oder eine PIN kann man sie nach einem Datenleck nicht einfach zurücksetzen oder neu vergeben. Gleichzeitig werden Datenlecks solcher sensibler Informationen immer mehr Teil unseres Alltags – wie zuletzt in Polen, wo Gesundheitsdaten von rund 19 Millionen Menschen kompromittiert wurden, oder nach einem Datenleck von biometrischen Informationen im Jahr 2019, bei dem eine Million Fingerabdrücke und Daten zur Gesichtserkennung offen im Netz standen.

Über 1 Milliarde Verifizierungen

Etsy, LinkedIn, Reddit, Roblox, OpenAI mit ChatGPT sowie seit neustem Anthropic mit Claude. Das sind nur einige Beispiele für Plattformen des modernen digitalen Lebens, die die Identität oder das Alter ihrer Nutzenden von Persona verifizieren lassen. Sie gehören zu den mittlerweile mehr als 4.000 Unternehmen, die solche Kontrollen über Persona abwickeln. Vergangenes Jahr hat Persona die Marke von einer Milliarde Verifizierungen überschritten.

Ihren Shop hat Johanna ins Leben gerufen, noch bevor Etsy im Jahr 2024 die biometrische Identitätskontrolle über Persona zur Bedingung für eine Shop-Eröffnung machte. Damals habe sie eine Kopie ihres Führerscheins hochgeladen. „Das barg für mich ein geringes Risiko“, erinnert sie sich. Im Frühjahr hat der US-amerikanische Online-Marktplatz sodann damit begonnen, einige bereits aktive Verkäufer*innen in der EU zur Bestätigung ihrer Daten aufzufordern. So traf es auch Johanna und ihren Shop.

Anlass sind offenbar Fake-Shops, die auf Etsy billig produzierte Massenware vertreiben und diese als handgemachte Unikate deklarieren. Laut eigenen Angaben möchte Etsy durch die Datenüberprüfungen gegen Betrug vorgehen und gesetzlichen Verpflichtungen nachkommen. Auf unsere Frage, was der konkrete Anlass für die Verifizierungen bereits bestehender Verkäufer*innen ist, hat Etsy nicht reagiert. Neben der Abfrage nach Steuer- und Kontodaten gehört auch die Prüfung der Identität durch Persona dazu.

Wer steckt hinter Persona?

Seit der Gründung im Jahr 2018 ist Persona enorm gewachsen. Gegründet haben das Unternehmen zwei frühere Mitbewohner: Rick Song, ehemals Softwareentwickler beim US-amerikanischen Zahlungsdienstleser Square im Bereich der Identitätsbetrugsbekämpfung, und Charles Yeh, ehemals Softwareentwickler bei Dropbox.

Die Firma konnte nicht zuletzt dank der Risikokapitalgesellschaft „Founders Fund“ expandieren, die unter anderem von Peter Thiel gegründet wurde. Der rechtsautoritäre Tech-Milliardär ist Mitbegründer des Überwachungs- und Datenanalyseunternehmens Palantir. Sein Founders Fund ist neben anderen Risikokapitalgesellschaften ein wichtiger Geldgeber von Persona: Mehrere Investitionsrunden in Höhe von insgesamt 350 Millionen US-Dollar führte der Founders Fund mit an. Nach der letzten Finanzierungsrunde ist der Wert von Persona auf zwei Milliarden US-Dollar geklettert.

Persona hat jegliche Verbindungen zu Palantir und der US-Regierung bestritten und beteuert, dass Thiel weder direkt in den Geschäftsbetrieb noch in Entscheidungen der Firma involviert sei. Wie viele Firmenanteile der Founders Fund an Persona hält, ist nicht öffentlich bekannt. Auf unsere Frage, wie viel strategischen Einfluss die Risikokapitalgesellschaft auf die Firma ausübt, wollte Persona nicht öffentlich antworten – ebenso wie auf viele weitere Fragen, die wir dem Unternehmen gestellt haben.

Johanna hat der Kapitalgeber aber in ihrem Entschluss bekräftigt, die Identitätskontrolle mit Persona nicht durchzuführen: „Ich werde meine persönlichsten Daten wie Gesichtsbiometrie und Ausweisdokumente nicht über Etsy an eine Firma geben, mit der Peter Thiel zu tun hat“, erklärt sie. Da Etsy nicht zulässt, den Shop ohne die geforderte Identitätskontrolle weiterzubetreiben, hat sie sich entschieden, Etsy zuvorzukommen und ihren Shop zu schließen. „So viel kann ich bei Etsy gar nicht verdienen, dass es mir das wert ist.“ Für sie war der Shop „eine schöne Möglichkeit, ein passives Einkommen zu generieren“. Pläne, ihre digitalen Nähanleitungen woanders zu vertreiben, habe sie nicht.

„Ich musste von meinem Ersparten leben“

Janine hingegen hat ihren Etsy-Shop zum Beruf gemacht. Sie ist nicht nur Verkäuferin in Vollzeit und lebt seit mehr als einem Jahrzehnt von den Einnahmen, die sie aus dem Verkauf von Kurzwaren für Bastelarbeiten erzielt. Sie ist auch Starverkäuferin: Ihr Shop trägt ein besonderes Abzeichen, da sie sich durch kontinuierlich gute Bewertungen hervorgetan hat. Der kleine lila Stern neben ihrem Shop-Namen soll den Käufer*innen auf den ersten Blick Zuverlässigkeit und Vertrauen signalisieren.

Als Etsy Janine zur Verifizierung ihrer Daten auffordert, kann sie das nachvollziehen. „In einem geschäftlichen Verhältnis möchte man wissen, wer gegenüber sitzt und ob das auch wirklich die Person ist.“ Fake-Shops, die den besonderen Charakter von Etsy schädigen, machten ihr selbst zu schaffen und haben negative Auswirkungen auf die Kund*innen, erklärt sie.

Janine macht sich also für die Verifizierung bereit. Foto vom Ausweis hochladen, ein Echtzeit-Selfie aufnehmen, fertig – Personas Identitätskontrolle soll in wenigen Klicks erledigt sein. Die Gesichtserkennungssoftware extrahiert die Gesichtsmerkmale aus dem Ausweisfoto und dem Selfie und vergleicht diese Gesichtsgeometrie miteinander. So will Persona sicher stellen, dass das Gesicht zu der Person auf dem Ausweis gehört.

Allerdings scheitert Janine bereits am ersten Schritt. Jedes Mal, wenn sie ein Foto von ihrem deutschen Ausweis oder Reisepass hochlädt, erklärt Persona ihre Dokumente für nicht gültig. Nach „unzähligen verzweifelten“ Versuchen wendet sie sich an den Kundensupport von Etsy. Doch dann findet sie sich in einer „KI-Loop der Hölle“ wieder, erzählt Janine. Mehrere Wochen lang versucht sie vergeblich, zu einem echten Menschen im Support durchzukommen. Auch die Legal Abteilung von Etsy kontaktiert sie – wieder ohne Erfolg.

Schließlich tritt die von Etsy angekündigte Frist ein: „Etsy hat meinen Shop dann einfach in den Ferienmodus geschickt“, erzählt Janine. „Meine ganzen Produkte waren unsichtbar. Es war praktisch nur noch eine Art digitale Visitenkarte von mir da“. Zwei Monate lang befindet sich Janines Shop im Ferienmodus, zwangspausiert. Für sie bedeutet das einen kompletten zweimonatigen Verdienstausfall. „Ich musste von meinem Ersparten leben und auch meine Krankenkasse davon bezahlen“, erzählt sie weiter.

Erst nachdem ein Anwalt Etsy in Janines Namen kontaktiert, reagiert der US-amerikanische Konzern. Sie solle die Identitätsverifizierung noch mal machen, lautet die Antwort. Diesmal funktioniert es. Was zuvor schiefgelaufen war, weiß sie nicht. 30 Tage mehr und Etsy hätte ihren Shop geschlossen.

Weder eine Entschädigung noch eine Entschuldigung hat Janine bis heute erhalten. Janine heißt in Wirklichkeit anders. Aus Angst, dass Etsy ihren Shop wegen dieses Artikels sperren könnte, will sie anonym bleiben.

„Ich wollte das blaue Häkchen auf LinkedIn“

Die Identitätsverifikation wird so zur Arbeitsvoraussetzung auf Etsy: Bis Anfang 2027 wird der Konzern die Verifizierungswelle in der EU fortsetzen.

Nicht immer geht es bei Identitätskontrollen um so etwas Essenzielles wie den Lebensunterhalt und wirtschaftliche Teilhabe. Und sie ist nicht immer verpflichtend. Auf dem Berufsnetzwerk LinkedIn etwa soll das blaue Häckchen nach der Verifizierung signalisieren, dass hinter dem Profil wirklich die Person ist, für die man sich ausgibt – und nicht etwa ein Fake-Profil oder ein*e falsche*r Personalvermittler*in.

LinkedIn betont, die Verifizierung durch Persona sei vollständig freiwillig, die Datenverarbeitung beruht also auf der Einwilligung der Nutzenden. Gleichzeitig wirbtdie Tochterfirma von Microsoft damit, dass verifizierte Mitglieder im Durchschnitt 60 Prozent mehr Profilaufrufe erhalten und das Engagement um 50 Prozent steigern. Diese Anreize zeigen offenbar Wirkung: Seitdem LinkedIn die Verifizierung im Jahr 2024 eingeführt hat, haben sich nach Angaben von LinkedIn weltweit mehr als 100 Millionen Nutzende verifiziert.

Unter ihnen ist auch der Zürcher Mastodon-Nutzer, der sich „rogi“ nennt und in einem Blog namens „The Local Stack“ über „Überwachungskapitalismus“ schreibt. „Ich wollte das blaue Häkchen auf LinkedIn“, schreibt rogi. „Dann tat ich, was wahrscheinlich sonst kaum jemand tut: Ich habe mir die Datenschutzerklärung und die Nutzungsbedingungen durchgelesen“, erklärt er. Und zwar die von Persona, nicht die von LinkedIn. Sein Beitrag ist viral gegangen und hat eine breite Debatte darüber ausgelöst, was mit den persönlichen Informationen von LinkedIn-Nutzenden tatsächlich passiert.

Was passiert, wenn man auf „Verifizieren“ klickt?

Persona erfasst laut den Datenschutzbestimmungen für die LinkedIn-Verifizierung den vollständigen Namen, den Personalausweis samt Foto, ein Echtzeit-Selfie, die daraus extrahierte biometrische Gesichtsgeometrie, Ausweisnummer, Geschlecht, Nationalität, Geburtsdatum, Alter, E‑Mailadresse, Telefonnummer, Postanschrift, IP-Adresse, Gerätetyp, MAC-Adresse, Browser, Betriebssystemversion, Sprache sowie Standortdaten, die aus der IP-Adresse abgeleitet werden.

Außerdem verfolgt Persona, wie die Nutzenden die Verifizierung durchlaufen – etwa wie lange sie dafür brauchen und ob sie Informationen per Copy-and-Paste einfügen. Neben der physiologischen Biometrie des Gesichts erfasst Persona also auch sogenannte verhaltensbiometrische Daten.

Zusätzlich behält sich Persona vor, Daten über Nutzende aus einem „globalen Netzwerk vertrauenswürdiger Datenquellen von Drittanbietern“ zu beziehen und abzugleichen: behördliche Datenbanken, nationale Ausweisregister, Kreditauskunfteien, Versorgungsunternehmen, Mobilfunkanbieter und Postadressdatenbanken. „Ich habe meinen Reisepass gescannt, um ein Häkchen zu erhalten, und Persona hat einen Hintergrundcheck durchgeführt“, kommentiert rogi in seinem Beitrag dazu.

„Geht weit über eine einfache Identitätsprüfung hinaus“

Der CEO von Persona Rick Song hat auf die Vorwürfe in der Recherche reagiert und unter anderem erklärt, dass Ausweise europäischer Nutzer*innen nicht für KI-Training verwendet würden. Die entsprechende Passage, dass „berechtigte Interessen“ Persona dazu legitimieren, Ausweis-Bilder zur Verbesserung der Dienste zu nutzen, hat Persona aus der Datenschutzrichtlinie entfernt. Sie findet sich auf einer archivierten Version der Seite. Außerdem würden laut Song biometrische Daten sofort nach der Verarbeitung gelöscht und andere personenbezogene Daten maximal 30 Tage gespeichert.

Michael Mrak vom Verein österreichischer betrieblicher und behördlicher Datenschutzbeauftragter kommt zu der Einschätzung, dass das Ausmaß der Datensammlung und ‑Verarbeitung „weit über das hinausgeht, was für eine einfache Identitätsprüfung erforderlich wäre“. Außerdem sagt er: „Ein Häkchen auf LinkedIn wiegt grundrechtlich nicht schwer genug, um diesen Umfang an Datenverarbeitung zu rechtfertigen“.

Nach der Verifizierung erhält LinkedIn wiederum nach Einwilligung der Nutzer*innen einige der Daten von Persona. Dazu gehören der vollständige Name, die Art des amtlichen Ausweises und die ausstellende Behörde sowie gegebenenfalls die Telefonnummer. Biometrische Daten sowie Fotos aus dem Ausweis gehören laut LinkedIn nicht dazu. Wie lange das Karriere-Netzwerk die Daten speichert, dazu wollte sich der Sprecher auf unsere Anfrage nicht äußern.

Etsy hingegen informiert darüber, dass biometrische Daten von Verkäufer*innen bis zu einem Jahr lang gespeichert werden – von Persona. Auch Etsy selbst geht nicht leer aus. Das Selfie und das Ausweisbild bewahrt Etsy 6 Jahre lang nach Schließung des Shops auf.

269 Hintergrundchecks und 3 Jahre Speicherfrist

Im Februar hatte Song alle Hände voll damit zu tun, auf harsche Kritik zu reagieren. Denn parallel zur Kontroverse um LinkedIn entfaltete sich eine weitere um Personas Alterskontrollen auf Discord in Großbritannien. Sicherheitsforscher*innen entdeckten ein Frontend von Persona im Netz, das Persona später als Testumgebung bezeichnete.

Der Fund offenbarte, dass Persona bis zu 269 verschiedene Prüfungen durchführen kann: darunter das Gesicht mit Fotos im Internet sowie in behördlichen Datenbanken, Fahndungslisten und Listen politisch exponierter Personen abgleichen, auf negative Medienberichte scannen sowie jeder Person einen Risikowert zuweisen.

Persona hat daraufhin klargestellt, dass keine Partnerplattform alle 269 Hintergrundchecks durchführt. Sie stellten lediglich eine Auswahl an möglichen Überprüfungen dar und würden nicht auf jede einzelne Person angewendet. Monate später ließ Persona den eigenen Quellcode von der unabhängigen IT-Security-Firma Trails of Bits prüfen. Dort heißt es: „Die 269 Check sind ein konfigurierbares Menü und nicht universell angewandt.“ Welche Abgleiche des Gesichts und persönlicher Informationen mit welchen Datenbanken wann greifen, legt Persona nicht offen.

Discord hat die Zusammenarbeit mit Persona nach der einmonatigen Testphase im Frühjahr beendet. Man habe als neuen Maßstab gesetzt, dass „Altersschätzung anhand des Gesichts […] vollständig auf dem Gerät selbst durchgeführt werden muss“. Persona erfülle diese Anforderungen nicht. Reddit und Roblox nutzen Personas Alterskontrollen weiterhin. Die persönlichen Informationen, die Persona möglicherweise bei einer Alterskontrolle sammelt und auswertet, ähneln denen, die bei einer Identitätskontrolle von LinkedIn-Nutzer*innen erfasst werden.

„Die Angaben von Persona sind sehr vage“, sagt Felix Mikolasch gegenüber netzpolitik.org. Er ist Datenschutzjurist bei der Wiener Datenschutzorganisation Noyb. Es sei unklar, welche Daten wann konkret verarbeitet werden. Die vollständige Liste aller möglichen Daten wirke äußerst umfangreich. „Eine so umfangreiche Datenverarbeitung dürfte kaum oder nur sehr, sehr selten verhältnismäßig sein, um Alter oder Identität zu bestätigen“, sagt Mikolasch weiter.

Biometrische Daten von 75 Millionen Kindern und Jugendlichen

So verlangt die beliebte Videospiel-Plattform Roblox seit Anfang des Jahres eine Alterskontrolle, um chatten zu können. Roblox nutzt die Alterskontrolle von Persona außerdem, um Spielende in Altersgruppen einzusortieren und ihnen altersbasierte Konten zuzuweisen.

Entweder schätzt Persona das Alter anhand des Gesichts oder liest es aus dem Ausweis aus, wobei auch bei dieser Ausweisverifizierung ein Selfie her muss. Wer die Alterskontrolle nicht macht, kann bei Roblox nur auf ein eingeschränktes Spielangebot zugreifen. Auf diese Weise werden Millionen von Spieler*innen faktisch in den Biometrieprozess gedrängt.

Nach Angaben der Gaming-Plattform gegenüber netzpolitik.org haben bereits 57 Prozent der weltweit täglichen Nutzenden die Altersverifikation abgeschlossen. Bei 132 Millionen aktiven Nutzenden täglich bedeutet es, dass sensible biometrische Daten von rund 75 Millionen Spieler*innen an Personas Infrastruktur übertragen wurden ― die meisten davon dürften Kinder und Jugendliche sein.

Gefragt nach konkreten Speicherfristen, schweigt sich der Spieleanbieter aus: „Unser Anbieter Persona löscht Bilder und Videos, sobald sie sicher verarbeitet wurden“, sagte eine Sprecherin auf Anfrage von netzpolitik.org. Biometrische Daten insbesondere von Minderjährigen unterliegen einem besonderen Schutz. Versteckt im Kleingedruckten auf der Hilfeseite zur Ausweisverifizierung sowie in der Datenschutzrichtlinie von Roblox findet sich der Hinweis, dass Persona biometrische Daten bis zu 30 Tage lang speichere. Andere Plattformen benennen wiederum andere Fristen. Für Reddit etwa spricht Persona von einer automatischen Löschung nach drei Tagen.

Persona wirbt mit deutscher Jugendschutz-Zertifizierung

In Deutschland hat die Kommission für Jugendmedienschutz (KJM) Personas Konzept für das „Tool zur Alterseinschätzung mittels künstlicher Intelligenz“ 2024 als geeignet bewertet. Persona präsentiert das Logo der Behörde auf der eigenen Webseite.

In ihrer Bewertung beschreibt die KJM Personas Technologie als ein neuronales Netzwerk, das mittels einer Vielzahl von Gesichtsbildern dazu trainiert wurde, das Alter anhand biometrischer Daten einzuschätzen. Maßgeblich für die Positivbewertung ist, ob die Technologie eine „geschlossene Benutzergruppe für Erwachsene“ sicherstellen kann. In anderen Worten, ob sie Kinder ausschließen und gefährdende Inhalte nur Erwachsenen zugänglich machen kann.

Im Antrag habe Persona damals angegeben, die Datenrechte der betroffenen Personen zu beachten, sagte eine KJM-Sprecherin auf Anfrage von netzpolitik.org. Bei Personas Alters- und Identitätsverifikation ist „weder ein Vorhalten von Daten noch ein Datenbankabgleich erforderlich“ und „findet ausweislich des zur Bewertung vorgelegten Antrags auch nicht statt“, so die Sprecherin weiter. Die für die Altersschätzung erforderlichen Daten würden nach Abschluss des Vorgangs gelöscht, hieß es damals außerdem im Antrag.

Im Widerspruch zum europäischem Datenschutz

Joris Leander Kanowski und Michael Kolain vom Zentrum für Digitalrechte kritisieren, dass entgegen dem Prinzip „Privacy by Design“ Nutzende nicht kontrollieren können, wer in welchem Umfang auf ihre Daten zugreifen kann. Denn Persona legt die Daten an eine Reihe weiterer Tech-Unternehmen offen, die sie ebenfalls verarbeiten ― wiederum im Auftrag von Persona. Insgesamt zählt Persona 17 solcher Subunternehmen, darunter die KI-Unternehmen Anthropic, OpenAI und Groqcloud. An welche dieser Unternehmen Daten von Nutzer*innen geschickt werden, ist aus der veröffentlichten Liste nicht ersichtlich. Unter den Aufgaben, die die Subunternehmen ausführen, finden sich etwa Kreditkarten-Verarbeitung, Bildverarbeitung oder Datenbankdienste. Mit einer Ausnahme aus Kanada haben alle diese Subunternehmen ihren Hauptsitz in den USA.

Es bleibe unklar, auf welchen Rechenzentren und in welchen algorithmischen Systemen die Daten der Nutzer*innen zirkulieren, so Kanowski und Kolain weiter. „Das hat mit informationeller Selbstbestimmung nichts mehr zu tun“.

Laut Datenschutzjurist Felix Mikolasch steige dadurch außerdem das Risiko, dass die Daten für andere Zwecke als nur die Verifizierung von Alter oder Identität weiterverwendet werden. „Ob das geschieht, ist für Nutzende und für uns, zumindest derzeit, kaum nachvollziehbar“. Hinzu komme das Risiko, dass ein Unternehmen die Daten unabsichtlich öffentlich macht oder US-Behörden darauf zugreifen.

Sind biometrische Daten in den USA überhaupt sicher?

Damit spricht Mikolasch den Konflikt zwischen europäischem Datenschutz und der US-amerikanischen Gesetzgebung, dem sogenannten CLOUD Act, an. Im Kern geht es darum, dass US-Sicherheitsbehörden wie FBI, NSA, CIA und Co. sich Zugriff auf sensible Daten europäischer Bürger*innen verschaffen können. Auf Verlangen der Behörden müssen US-Unternehmen die Daten europäischer Nutzer*innen herausgeben, selbst wenn sie diese in Rechenzentren innerhalb der EU speichern.

Laut Mikolasch sind persönliche Informationen europäischer Nutzer*innen in den USA nicht sicher. Denn für die Übermittlung personenbezogener Daten in das Land sei „derzeit kein angemessenes Schutzniveau vorhanden“, sagte der Jurist gegenüber netzpolitik.org. Das Data Privacy Framework, das Abkommen zwischen der EU und den USA, das den Datentransfer regelt und auf das sich Persona bezieht, bietet laut dem Juristen „keinen wirklichen Schutz“.

Das Problem ist laut Noyb umso akuter, als dass die US-amerikanische Aufsichtsbehörde FTC, die die Einhaltung der Datenschutzpflichten durch Unternehmen überwachen und durchsetzen soll, nun direkt Trump untersteht. Das hat der Oberste Gerichtshof der USA Ende Juni entschieden. Die Unabhängigkeit dieser Behörde ist aber eine wichtige Voraussetzung für den transatlantischen Datendeal. Damit ist das rechtliche Konstrukt, das den Schutz biometrischen Daten europäischer Nutzer*innen garantieren soll, noch mehr in Frage gestellt, als es ohnehin schon war.

Nicht-biometrische Alternativen und öffentlicher Druck sind notwendig

Persona unterhält seit letztem Jahr neben einem Sitz in London auch einen Sitz in Dublin. Auch wenn die irische Datenschutzbehörde für ihre Zurückhaltung gegenüber Big Tech bekannt ist: zumindest rechtlich ist damit ein Zugriff auf das Unternehmen und seinen Umgang mit persönlichen Informationen europäischer Nutzer*innen möglich. Damit die Behörde aktiv wird, braucht es öffentlichen Druck.

Es gehört nicht nur zu Personas Geschäftsmodell, sensible biometrische Daten von Nutzer*innen zu verarbeiten. Anbieter von biometrischen Kontrollen wie Persona sowie Plattformen, die solche Kontrollen einführen, leisten auch der Normalisierung derartiger Verfizierungsmethoden im Internet insgesamt Vorschub.

Solange es keine verbindlichen Regelungen für Identitäts- und Alterskontrollen gibt, werden Unternehmen wie Persona den nachvollziehbaren Wunsch nach vertrauensvoller Kommunikation und verlässlichem Online-Handel mit Slogans wie „Das Internet menschlich halten“ nutzen, um biometrische Kontrollen als Versprechen gegen KI-Fakes, Bots und Betrug zu verkaufen.

Solange Nutzer*innen zu biometrischen Kontrollen faktisch gezwungen werden, bleibt ihnen die Wahl, entweder ihre Biometrie gegenüber US-Unternehmen preiszugeben oder – wie Johanna – die Plattformen zu verlassen oder nur eingeschränkt zu nutzen. Letztlich mit der Konsequenz, dass sie von essenziellen digitalen Diensten ausgeschlossen sind. Menschen, die auf die Dienste nicht verzichten wollen oder können – wie Janine – müssen ihre sensibelsten persönlichen Informationen gegenüber kommerziellen Unternehmen offenlegen. Sie müssen dann mit der Angst leben, dass ihre sensibelsten persönlichen Informationen in einem Datenleck offengelegt werden können.

Um Menschen nicht vor diese Wahl zu stellen, müssen Plattformen nicht-biometrische Alternativen anbieten und auf diese mindestens genauso prominent hinweisen wie auf biometrische Kontrollen.

Timur Vorkul ist seit September 2025 Volontär bei netzpolitik.org. Er hat Sozialwissenschaften und Kulturanthropologie studiert und zuletzt für den MDR gearbeitet. Neben seinem Volontariat macht er Beiträge für den Fernsehsender KiKA. Er interessiert sich für staatliche Überwachung, Migrationsregime und Ungleichheit. Kontakt: E-Mail (OpenPGP). Dieser Beitrag ist eine Übernahme von netzpolitik, gemäss Lizenz Creative Commons BY-NC-SA 4.0.

“Keine verfassungskonforme Ausgestaltung möglich”

Zivilgesellschaft warnt vor Plänen für KI-Fahndung

Amnesty International, Chaos Computer Club und weitere Organisationen fordern den Stopp neuer Befugnisse für Sicherheitsbehörden. Die geplanten Systeme zur biometrischen Suche und automatisierten Datenanalyse bedrohten Datenschutz, Versammlungsfreiheit und informationelle Selbstbestimmung.

Die Pläne der Bundesregierung, die Befugnisse für Sicherheitsbehörden bei der digitalen Fahndung auszuweiten, gefährden Grundrechte. Zu diesem Schluss kommen mehrere zivilgesellschaftliche Organisationen in ihrer gemeinsamen Stellungnahme zu den Gesetzentwürfen aus dem Bundesjustiz- und Bundesinnenministerium. „Wir betonen, dass eine grundrechtskonforme Ausgestaltung dieser Befugnisse auch durch Nachbesserungen im Verfahrensrecht nicht erreichbar wäre“, heißt es in der Stellungnahme: „Die genannten Mängel sind keine bloßen Ausgestaltungsfehler, sondern symptomatisch für das strukturelle Defizit des gesamten Regelungsvorhabens.“

Die Organisationen, darunter Amnesty International und der Chaos Computer Club, bemängeln unter anderem das Fehlen eines richterlichen Vorbehalts, die ungenügende Transparenz für Betroffene und unzureichende Dokumentation der Arbeitsweise der KI-Systeme. Es fehlten zudem Einschränkungen bei Form und Umfang der einbezogenen Daten und bei den Analysemethoden. Ferner drohten schwerwiegende Grundrechtseingriffe durch Privatunternehmen.

In der Konsequenz empfiehlt die Stellungnahme die vollständige Rücknahme der Gesetzesentwürfe und stattdessen ein gesetzliches Verbot „biometrischer Massenerkennungssysteme“ sowie verbindliche Regeln zu Transparenz, Kontrolle und Haftung für die algorithmische Datenanalyse.

Wer im Internet zu sehen ist, ist betroffen

Die Bundesregierung will der Polizei erlauben, für die Strafverfolgung und Terrorismusbekämpfung künftig das Internet nach Gesichtern zu durchsuchen. Ein Fahndungsfoto soll dafür mit allen im öffentlichen Internet auffindbaren Gesichtern biometrisch abgeglichen werden können. Bundesjustizministerin Stefanie Hubig (SPD) und Bundesinnenminister Alexander Dobrindt (CSU) haben sich dazu auf mehrere Gesetzentwürfe geeinigt.

Das Bündnis kritisiert, damit würde de facto die Infrastruktur für eine flächendeckende Verfolgbarkeit der Bevölkerung geschaffen. Der Einsatz von KI-Systeme wie PimEyes oder Clearview AI für die biometrische Fahndung bezeichnet die Stellungnahme als Eingriff „in das Recht auf informationelle Selbstbestimmung aller Menschen ein, die im Internet Fotos, Videos und andere Inhalte mit biometrischen Merkmalen veröffentlichen, ohne dass diese dafür einen Anlass gegeben hätten“. Mit dem Grundrecht auf informationelle Selbstbestimmung sowie dem Recht auf den Schutz personenbezogener Daten sei dies nicht vereinbar.

Selbst Personen, die ohne ihr eigenes Zutun im Hintergrund von öffentlich zugänglichem Bildmaterial auftauchten, drohe so die Verarbeitung ihrer biometrischen Daten. Indirekt werde damit auch die Meinungs- und Versammlungsfreiheit eingeschränkt: Wer befürchten muss, aufgrund der Teilnahme an einer Versammlung biometrisch erfasst zu werden, verzichte möglicherweise gänzlich – es drohe ein Abschreckungseffekt, der die Wahrnehmung der eigenen Grundrechte verhindere.

Empirische Daten zeigten zudem, dass insbesondere People of Color häufig zu Unrecht von polizeilichen Maßnahmen betroffen seien. Es drohe damit eine Gefährdung des Diskriminierungsverbots.

KI-Systeme sollen polizeiliche „Super-Datenbank“ schaffen

Ein weiterer Gesetzesentwurf sieht eine automatisierte Datenanalyse mittels KI-Systemen wie Palantir vor. Massenhafte Datenbestände der Bundes- und Landespolizeibehörden sollen dafür zusammengeführt und algorithmisch ausgewertet werden – unabhängig vom Einzelfall. Die Daten von Opfern, Zeug:innen und gänzlich unbeteiligten Personen würden dann Teil derselben „Super-Datenbank“. Das Resultat wären tiefgreifende Persönlichkeitsprofile auf der Basis algorithmisch ausgewerteter massenhafter Datenbestände.

Eine solche Analyse ermögliche Schlussfolgerungen, „die weit über die ursprünglichen Erhebungszwecke der analysierten Daten und auch über das Ziel der eigentlichen Suchanfrage an das Analysesystem hinausgehen“, heißt es in der Stellungnahme: „Solche Systeme sind strukturell fehleranfällig, intransparent und diskriminierungsfördernd. Dies gilt in verstärktem Maße für KI-Systeme, die auch nach Einführung weiterhin selbstlernend sind und in den Entwürfen nicht ausgeschlossen werden.“

Das Vorhaben der Bundesregierung knüpft an die Debatte um das sogenannte Sicherheitspaket im Herbst 2024 an. Die damalige Ampel-Regierung scheiterte mit ihren Plänen, weil den Ländern die geplanten Überwachungsbefugnisse nicht weit genug gingen.

Die Europäische Union verbietet laut KI-Verordnung eigentlich die massenhafte Verarbeitung von Gesichtsbildern zu biometrischen Datenbanken. Die aktuellen Entwürfe der Bundesregierung stellen demnach einen Versuch dar, das EU-Verbot zu umgehen. Auch die Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder (DSK) kritisiert die Gesetzesinitiativen zur Erweiterung digitaler Ermittlungsbefugnisse und kommt dabei ebenfalls zu dem Schluss: „In der vorgesehenen Form sind diese Befugnisse nicht mit den verfassungsrechtlichen Vorgaben vereinbar. Sie gefährden die verfassungsrechtlich geschützten Rechte Unbeteiligter erheblich.“

Denis Glismann ist von April bis Juni 2026 Praktikant bei netzpolitik.org. Er schließt aktuell seinen Master in Politikwissenschaft an der FU Berlin ab. Dieser Beitrag ist eine Übernahme von netzpolitik, gemäss Lizenz Creative Commons BY-NC-SA 4.0.

Biometrische Fotofahndung

Rechtlich fragwürdig: Bundesregierung will biometrische Fotofahndung im Netz

Die Polizei soll künftig Fahndungsfotos mit allen im Internet verfügbaren Bildern abgleichen dürfen. In der EU sind die technischen Grundlagen für diese Fotofahndung eigentlich verboten. Dennoch will die Bundesregierung Ermittlungsbehörden genau das nun erlauben.

Die Bundesregierung will der Polizei erlauben, für die Strafverfolgung und Terrorismusbekämpfung künftig das Internet nach Gesichtern zu durchsuchen. Ein Fahndungsfoto soll dafür mit allen im öffentlichen Internet auffindbaren Gesichtern biometrisch abgeglichen werden können. Bundesjustizministerin Stefanie Hubig (SPD) und Bundesinnenminister Alexander Dobrindt (CSU) haben sich dazu vergangenen Donnerstag auf drei Gesetzentwürfe geeinigt.

Biometrische Gesichtserkennung beruht darauf, dass jedes Gesicht einzigartige Merkmale hat, etwa den Abstand von Augen, Nasenspitze und Kinn. Diese Merkmale lassen ich vermessen und als Daten darstellen, das sogenannte Template. Diese Templates werden dann automatisiert miteinander verglichen.

Sicherheitspolitiker*innen fordern den Einsatz dieser Fahndungsmethode spätestens seitdem Journalist*innen Ende 2023 das untergetauchte mutmaßliche ehemalige RAF-Mitglied Daniela Klette aufspürten. Sie verwendeten dafür die kommerzielle Gesichtersuchmaschine PimEyes und fanden Bilder von Klette, die unter neuer Identität in Berlin lebte.

Allerdings verbietet die KI-Verordnung der Europäischen Union, Gesichtsbilder aus dem Internet wahllos einzusammeln und daraus biometrische Datenbanken zu erstellen. Die Ministerien wollen dieses Verbot offenbar gezielt umgehen. Sie betonen, dass für das Auslesen der Daten keine KI-Systeme genutzt würden. Außerdem würden beim geplanten „Ad-hoc-Vergleich“ keine Daten dauerhaft gespeichert. Wie dies technisch umgesetzt werden soll, geht aus den Gesetzentwürfen nicht hervor.

Das Vorhaben knüpft an die Debatte um das sogenannte Sicherheitspaket im Herbst 2024 an. Damals scheiterte die Ampel-Regierung mit ihren Plänen, weil den Ländern einige der geplanten Überwachungsbefugnisse nicht weit genug gingen.

Insgesamt bringt die Bundesregierung jetzt drei Gesetzentwürfe auf den Weg. Bundesjustizministerin Hubig stellte die geplanten Änderungen in der Strafprozessordnung (StPO) vor. Parallel kommen aus dem Bundesinnenministerium zwei Entwürfe mit vergleichbaren Befugnissen für die Polizeibehörden des Bundes.

Wie der biometrische Abgleich funktionieren soll

Laut den Plänen aus dem Justizministerium soll die Polizei die biometrische Fahndung einsetzen dürfen, um die Identität oder den Aufenthaltsort von Beschuldigten oder Zeug*innen festzustellen. Erlaubt sein soll das beim Verdacht einer Straftat von erheblicher Bedeutung – das sind etwa Mord und Vergewaltigung, aber auch Steuerhinterziehung, Geldwäsche oder Drogendelikte.

Einen Abgleich mit „öffentlich zugänglichen Echtzeitbildern“ schließt das Gesetz explizit aus. Außerdem darf der Abgleich nur auf Anordnung einer Staatsanwaltschaft erfolgen. Sollte der Einsatz keine Ermittlungsansätze, also Treffer, ergeben, müssen die Daten nach dem Abgleich wieder gelöscht werden.

Keine Datenbank mit Milliarden von Gesichtern

Um im öffentlichen Internet nach Personen suchen zu können, müssen Ermittlungsbehörden die öffentlich im Netz verfügbaren Fotos von Gesichtern zunächst durchsuchen, sammeln und in Templates umrechnen. Dabei entsteht eine Datenbank mit den biometrischen Entsprechungen von möglicherweise Milliarden von Gesichtern.

Das Ministerium betont, dass diese Vergleichsdatenbank bei dem geplanten „Ad-hoc-Abgleich“ nicht dauerhaft gespeichert würde. Die Templates müssten stattdessen für jeden Abgleich neu erstellt werden. Damit sei die „Erstellung einer dauerhaften Datenbank, die aus dem Internet erhobene Lichtbilder und/oder zugehörige Templates vorhält, […] ausgeschlossen“.

Allerdings steht das so nicht explizit im Gesetzentwurf. Dieser legt nur fest, dass die „beim Abgleich erhobenen und verarbeiteten Daten“ im Anschluss „unverzüglich“ zu löschen sind, wenn sie für die weiteren Ermittlungen nicht relevant sind. Die Referenzdatenbank selbst erwähnt der Text nicht explizit.

EU-KI-Verordnung: Warum das Vorhaben problematisch ist

Hinzu kommt: Artikel 5 der KI-Verordnung verbietet „das Inverkehrbringen, die Inbetriebnahme […] oder die Verwendung von KI-Systemen, die Datenbanken zur Gesichtserkennung durch das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungsaufnahmen erstellen oder erweitern“.

Aus Sicht von Dirk Lewandowski ist die Sache damit eindeutig. Der Professor für Information Research & Information Retrieval an der Hochschule für Angewandte Wissenschaften Hamburg hat für die Organisation AlgorithmWatch ein Gutachten erstellt. Darin kommt er zu dem Schluss, dass die KI-Verordnung es „ausnahmslos“ verbiete, „durch ein anlassloses Scraping von Gesichter-Aufnahmen Datenbanken zur Gesichtserkennung aufzubauen“.

Ohne eine solche Referenzdatenbank könne der Abgleich nicht sinnvoll duchgeführt werden. Laut Lewandowski scheitere ein solches Vorhaben damit rechtlich wie praktisch.

Bundestagsgutachten: Wie das Verbot umgangen werden könnte

Ein Gutachten der Wissenschaftlichen Dienste des Deutschen Bundestages kommt allerdings zu einem leicht anderen Schluss. Demnach verbiete die KI-Verordnung nicht den Aufbau einer Datenbank, sondern nur das „ungezielte Auslesen von Gesichtsbildern mittels KI […], da es die Privatsphäre und den Datenschutz der Betroffenen erheblich beeinträchtigt und das Gefühl ständiger Überwachung erzeugt“.

Das in der KI-Verordnung festgelegte Verbot gelte demnach nur dann, wenn die Strafverfolgungsbehörden die Datenbanken mit Hilfe von KI-Systemen erstellen. Werden dafür keine solchen Systeme verwendet, greife die Verordnung nicht. Die Kernfrage sei also, „ob – und wenn ja, wann – bei dem biometrischen Abgleich mit Bildern aus dem Internet KI ins Spiel kommt“.

Datenbanken von Bildern aus dem Internet könnten auch ohne Künstliche Intelligenz erstellt werden, schreiben die Wissenschaftlichen Dienste weiter. So können beispielsweise Bilder mit herkömmlichen Methoden aus dem Netz heruntergeladen und dann in einer Datenbank gespeichert werden.

„Der Einsatz von KI ist also nicht zwingend erforderlich, um einen biometrischen Abgleich mit Bildern aus dem Internet durchzuführen“, so das Fazit der Wissenschaftlichen Dienste, sondern es komme „auf die konkrete Ausgestaltung und technische Umsetzung des in den Gesetzesentwürfen vorgesehenen biometrischen Abgleichs an“.

Ministerium geht durch die Hintertür

Das Justizministerium argumentiert in die gleiche Richtung. In der Gesetzesbegründung schreibt das Ministerium, ein Verbot durch die KI-Verordnung gelte nicht, „sofern für das Auslesen der Daten keine KI-Systeme eingesetzt werden“.

Diese Auslegung vertritt auch die EU-Kommission in ihren Leitlinien zur Einhaltung der Verbote aus der KI-Verordnung. Die Sichtweise würde allerdings bedeuten, dass auch andere Datenbanken zur Gesichtersuche, etwa von kommerziellen Anbietern wie PimEyes und Clearview, in der EU nicht verboten wären.

Damit würde die Kommission explizit die erklärte Absicht des EU-Parlaments umgehen. Dieses hatte bei den Verhandlungen um die KI-Verordnung auf das Verbot bestanden, weil mit der Gesichtersuche die Anonymität im öffentlichen Raum bedroht wird und es die gesellschaftlichen Auswirkungen einer solchen Überwachungsmöglichkeit fürchtete.

Fachleute für den Schutz von Grundrechten weisen bereits seit Jahren auf die Gefahren hin, die mit der biometrischen Gesichtersuche einhergehen: Die biometrischen Merkmale eines Gesichtes sind unveränderlich. Mit Hilfe der Suche lassen sich Fotos einer Person im Internet finden – und darüber indirekt wahrscheinlich auch ihr Name, der Arbeitgeber oder der Wohnort. Ein Schnappschuss reicht dafür aus.

Das erhöht nicht nur das Risiko für Stalking, sondern kann dazu führen, dass man sich auch auf einer Demonstration, bei einem Arztbesuch oder in anderen Situationen ständig beobachtet fühlt und sein Verhalten entsprechend anpasst. Der Chaos Computer Club spricht in einer Stellungnahme von der „Idee einer allgegenwärtigen Überwachung und Datenrasterung, der niemand mehr ausweichen kann“.

Die Ministerien haben die Gesetzentwürfe jetzt an die Länder geschickt. Auch Verbände können jetzt bis Anfang April ihre Kritik und Verbesserungsvorschläge zu den Vorhaben einreichen – einiges davon könnte in die Entwürfe einfließen. Eines des Gesetze benötigt zudem die Zustimmung des Bundesrates.

Daniel Leisegang ist Politikwissenschaftler und Co-Chefredakteur bei netzpolitik.org. Zu seinen Schwerpunkten zählen die Gesundheitsdigitalisierung, Digital Public Infrastructure und die sogenannte Künstliche Intelligenz. Daniel war einst Redakteur bei den “Blättern”. 2014 erschien von ihm das Buch »Amazon – Das Buch als Beute«; 2016 erhielt er den Alternativen Medienpreis in der Rubrik “Medienkritik”. Er gehört dem Board of Trustees von Eurozine und dem Kuratorium der Stiftung Warentest an. Kontakt: E-Mail (OpenPGP), Mastodon, Bluesky, Threema ENU3SC7K, Telefon: +49-30-5771482-28‬ (Montag bis Freitag, jeweils 8 bis 18 Uhr). Chris Köver recherchiert und schreibt über Migration, biometrische Überwachung, digitale Gewalt und Jugendschutz. Recherche-Anregungen und -Hinweise gerne per Mail oder via Signal (ckoever.24). Seit 2018 bei netzpolitik.org. Hat Kulturwissenschaften studiert und bei Zeit Online mit dem Schreiben begonnen, später das Missy Magazine mitgegründet und geleitet. Ihre Arbeit wurde ausgezeichnet mit dem Journalistenpreis Informatik, dem Grimme-Online-Award und dem Rainer-Reichert-Preis zum Tag der Pressefreiheit. Kontakt: E-Mail (OpenPGP), BlueSky, Mastodon, Signal: ckoever.24. Dieser Beitrag ist eine Übernahme von netzpolitik, gemäss Lizenz Creative Commons BY-NC-SA 4.0.

@HonkHase (der Link scheint sich in der letzten Ziffer geändert zu haben)
Höchst bedenklich, wenn der #Staat die #BürgerInnen verfolgt, alle Mitglieder der Gesellschaft pauschal ausspioniert, deren höchst sensible und ganz persönliche Daten erfasst und verarbeitet. https://www.deutschlandfunk.de/ki-gesichtserkennung-in-deutschland-das-ende-von-anonym-102.html

Wer wann wo? Wer mit wem?
Was sie tun, welche Gefühle sie zeigen ... 😮 - Katastrophe!
#BiometrischeGesichtserkennung - Eingriff in #Grundrechte und die #Bewegungsfreiheit.

Der Kampf für #Datenschutz am #Arbeitsplatz gilt auch der #Totalüberwachung durch #Chatkontrolle und #Palantir

#Stop1984 #Staatstrojaner #Vorratsdatenspeicherung
#biometrischeGesichtserkennung

https://asnkoeln.wordpress.com/2018/11/28/dein-datenschutz-am-arbeitsplatz/

Anonymität fast unmöglich
Biometrische Gesichtserkennung fast weltweit
Mehr dazu bei https://netzpolitik.org/2025/biometrie-weltweit-hier-werden-protestierende-mit-gesichtserkennung-verfolgt/
a-fsa.de/d/3GJ
Link zu dieser Seite: https://www.aktion-freiheitstattangst.org/de/articles/9132-20250424-anonymitaet-fast-unmoeglich.html
Link im Tor-Netzwerk: http://a6pdp5vmmw4zm5tifrc3qo2pyz7mvnk4zzimpesnckvzinubzmioddad.onion/de/articles/9132-20250424-anonymitaet-fast-unmoeglich.html
Tags: #Anonymität #BiometrischeGesichtserkennung #weltweit #Afrika #Verbraucherdatenschutz #Datenschutz #Datensicherheit #Anonymisierung #Meinungsmonopol #Meinungsfreiheit #Pressefreiheit #Lauschangriff #Überwachung #Vorratsdatenspeicherung #Videoüberwachung #Rasterfahndung

📬Lesetipps: Bad Bots, Facebook wird verklagt, Amazon-Gesichtserkennung📬 https://tarnkappe.info/lesetipps-bad-bots-facebook-wird-verklagt-amazon-gesichtserkennung/ #biometrischeGesichtserkennung #reporterohnegrenzen #Sabotageaktion #JohnRatcliffe #LinusNeumann #Datenschutz #Lesetipps #Facebook

📬Clearview AI: kanadische Behörden bezeichnen Daten-Scraping als illegal📬 https://tarnkappe.info/clearview-ai-kanadische-behoerden-bezeichnen-daten-scraping-als-illegal/ #biometrischeGesichtserkennung #DanielTherrien #DougMitchell #HoanTon-That #Datenschutz #ClearviewAI

📬Lesetipps: echt abhörsicher, Amazon und Google spionieren, Äpfel hacken📬 https://tarnkappe.info/lesetipps-echt-abhoersicher-amazon-und-google-spionieren-aepfel-hacken/ #biometrischeGesichtserkennung #Quantensicher #nachdenken #Lesetipps #Pinkerton #Hacken #QuNET

📬China führt bald Klarnamenpflicht für Videospiele ein📬 https://tarnkappe.info/china-fuehrt-bald-klarnamenpflicht-fuer-videospiele-ein/ #biometrischeGesichtserkennung #Klarnamenpflicht #HonourofKings #ArenaofValor #FengShixin #Gaming #China

📬Moskau: Polizei verkauft Zugang zu CCTV- und Gesichtserkennungsdaten der Stadt📬 https://tarnkappe.info/moskau-polizei-verkauft-zugang-zu-cctv-und-gesichtserkennungsdaten-der-stadt/ #biometrischeGesichtserkennung #AndreyKaganskikh #Videoüberwachung #Russland #Artikel #Moskau