#kikameras — Public Fediverse posts

AfD-Parteitag in Erfurt

Die Angst vor dem faschistischen Überwachungsstaat

Bei den Protesten gegen den AfD-Parteitag in Erfurt ging es auch um drohende KI-Überwachung. Viele Protestierende fürchten sich davor, dass Videoanalysen und Megadatenbanken Nazis in die Hände fallen. Bereits jetzt ist das Tech-Arsenal beeindruckend, mit dem die Polizei die Rechten absichert.

Erfurt am vergangenen Samstag: Eine Polizeikolonne bahnt sich ihren Weg durch eine Menge aus Menschen in gelben Westen. Wer im Weg steht, wird zur Seite geschubst. Protestierende kommen zu Fall. Einige skandieren: „Wir sind friedlich, was seid ihr?“ Dann plötzlich Gelächter: Der Letzte in der Kolonne ist ein Clown mit wütender Mimik, der den martialischen Stil der Polizist*innen imitiert.

Der Clown und die Menschen in den gelben Westen wollen den Bundes-Parteitag der AfD verhindern. Je nach Quelle sind dafür zwischen 31.000 und 50.000 Menschen angereist. Mehrere tausend Polizist*innen sollen sie davon abhalten. Thüringen ist eine AfD-Hochburg, die Partei ist hier mit Abstand stärkste Kraft.

Der Protest steht auf mehreren Ebenen im polizeilichen Fokus. Kameras auf Stäben, die Polizisten halten. Kameras auf den Wasserwerfern und unter dem Hubschrauber, der über dem Geschehen kreist. Vor allem mit der Kamera aus der Luft kann die Polizei aus großer Höhe und Distanz scharfe Porträts schießen. Mit der Internet-Gesichtersuche, die Bund und viele Landespolizeien einführen wollen, ließen sich dann beispielsweise Arbeitsstelle, Vereinsmitgliedschaften oder Social-Media-Profile der abgebildeten Person aufstöbern.

„Dann landet man in einer Datenbank“

Tom, einer der Demonstrierenden, fürchtet, dass eine kommende AfD-Regierung die Bilder nutzen könnte, um Gegner*innen zu identifizieren. Weitere in Thüringen geplante Polizei-Befugnisse, so wie die automatisierte Verhaltenserkennung oder der Aufbau einer KI-basierten Megadatenbank, könnten ebenfalls zur Ausforschung der Strukturen politischer Bewegungen genutzt werden, meint Tom. „Dann landet man in einer Datenbank, weil man auf einer Demonstration war“, sagt er.

Tom ist mit seiner Angst vor einer kommenden High-Tech-Überwachung nicht allein bei diesem Anti-AfD-Protest. Das polizeigesetzkritische Bündnis „ThürPAG stoppen“stellt einen ganzen Demoblock. David vom Bündnis, der ebenfalls im Rahmen der Proteste in Erfurt ist, sagt: „Die Möglichkeit, Personen anhand von Daten aus dem Internet zu identifizieren, ist extrem einschüchternd.“ Versammlungsfreiheit brauche Anonymität. Sonst könnten staatliche Stellen Profile davon erstellen, wer mit wem bei welchen Protesten dabei ist, sagt David.

Das Bündnis ThürPAG stoppen verschickte dazu ein Statement: „Viele der geplanten Maßnahmen sind Werkzeuge aus dem Repertoire autoritärer Überwachungsstaaten. Wenn sie dann auch noch in die Hände einer rechtsextremen Partei wie der AfD fallen, dann droht eine Gängelung und Verfolgung demokratisch und antifaschistisch gesinnter Menschen in Thüringen.“ ThürPAG stoppen hat auch eine Petition gegen die thüringische Polizeigesetznovelle aufgesetzt.

„Wehrt euch, leistet Widerstand“

Die Hoffnung, den Parteitag zu verhindern, hatte sich früh zerschlagen. Die AfD-Delegierten waren bereits in der Nacht angereist. Anfangs blockieren Protestierende dennoch die Zufahrtswege. Doch nach und nach ziehen immer mehr Gruppen als Demonstrationszüge durch die Stadt und finden dann auf dem Gothaer Platz zusammen. Die Menge singt: „Wehrt euch, leistet Widerstand, gegen den Faschismus hier im Land.“ Vor genau 100 Jahren hielt die NSDAP rund 25 Kilometer entfernt ihren ersten Parteitag nach der Neugründung ab.

Plötzlich ertönen Buhrufe aus der Menge, Protestierende und Polizist*innen rennen los. Etwa zehn Beamte bilden eine schützende Traube um vier Menschen in grauer Weste, ausgestattet mit Helmen, Kameras und Mikrofon. Auf den ersten Blick ein Presse-Team, tatsächlich scheinen es rechte YouTuber zu sein. Ein Sprecher der Kundgebung fordert über ein Megafon von der Polizei, die Nazi-Streamer zu entfernen. Die Menge drumherum skandiert „Nazis raus“ – und die Polizei eskortiert sie schließlich davon.

Die Demo zieht daraufhin am zentralen Platz Erfurts vorbei, dem Anger. Hier hängen seit vergangenem Jahr zehn Spezial-Kameras, die mit je mehreren Objektiven gleichzeitig ganze Straßenzüge hochauflösend und scharf erfassen können. Die Aufnahmen werden 14 Tage lang gespeichert.

Software soll erkennen, wer was tut

Geht es nach der Thüringer Minderheitsregierung aus CDU, BSW und SPD sollen die Kameras bald mit Verhaltenserkennungs-Software ausgerüstet werden und Bewegungsmuster automatisiert in „problematisch“ oder „egal“ einteilen. Als die Demo vorbeizieht, hängen Blenden vor den Objektiven – zum Schutz des Versammlungsrechts. Doch als am Morgen zahlreiche Aktivist*innen über diesen Platz anreisten, waren die Blenden noch nicht heruntergeklappt.

Marla ist eine der Demonstrationsteilnehmenden. Die junge Juristin treiben ebenfalls sowohl der Rechtsruck, als auch die drohende KI-Überwachung um. Sie muss auf ihrem Arbeitsweg beinah täglich am Anger umsteigen. „Ich habe da jedes Mal ein mulmiges Gefühl“, sagt sie. Marla fürchtet zudem, dass Thüringen bei der Erstellung einer Datenbank für die KI-Auswertung auf Software von Palantir zurückgreifen könnte. Die Milliardäre hinter dem Unternehmen seien für faschistische Einstellungen bekannt, ihr Produkt „aus demokratischer Perspektive inakzeptabel“.

Was die Polizei bereits kann

Die Thüringer Polizei hat auch ohne die neuen, geplanten, KI-Werkzeuge ein beeindruckendes Überwachungsarsenal, mit dem sie den Protest abbilden und analysieren kann. Sie besitzt beispielsweise mehrere Drohnen, mit denen sie regelmäßig auch Großveranstaltungen kontrolliert. Wie viele Drohnen genau ihr zur Verfügung stehen und was die alles können, hält sie geheim. Videoaufnahmen können wohl als Mindestqualifikation vorausgesetzt werden. Im September 2025 waren 85 Thüringer Polizist*innen dazu befähigt, die Flugobjekte zu steuern.

Die Thüringer Polizei kann zudem Mobiltelefone mit IMSI-Catchern orten und abhören. Sie kann sie mit Cellebrite knacken und hat wohl ebenfalls Zugriff auf Kennzeichenscanner. Und sie kann zudem Staatstrojaner und Funkzellenabfragen nutzen.

2021 hat die thüringische Polizei beispielsweise nach Sachbeschädigungen per Funkzellenabfrage 138.000 Datensätze zu rund 11.000 Mobilfunkrufnummern erfasst: Standorte, SMS, wer mit wem telefonierte. Benachrichtigt wurden die Betroffenen nicht.

Jetzt wird zurückgestarrt

Das Bündnis ThürPAG stoppen benennt auch seine Sorge vor einem weiteren geplanten Polizei-Tool: der elektronischen Fußfessel. Die kann nach dem aktuellen Gesetzentwurf schon bei einer Gefahr für Anlagen mit „unmittelbarer Bedeutung für das Gemeinwesen“ eingesetzt werden. Die Polizei könnte demnach Menschen, die Straßenblockaden ankündigen, mit elektronischen Peilsendern fesseln.

Der Clown, der anfangs so humorvoll die brutalen Polizist*innen imitierte, ist nicht allein angereist. Er hat eine ganze Truppe von Demo-Clowns dabei. Eine seiner Kolleg*innen, sie trägt einen bunten Hut zur roten Nase, baut sich vor einem Polizisten auf, das geschminkte Gesicht nur einen halben Meter vom Polizeihelm entfernt. Die Clownin starrt in die Augen hinter dem Visier – immer länger und länger. Den ganzen Tag schaute der Staat auf die Zivilgesellschaft – aus dem Hubschrauber, dem Wasserwerfer, den Mast-Kameras. Hier starrt jemand demonstrativ zurück.

Denis Glismann ist von April bis Juni 2026 Praktikant bei netzpolitik.org und hat Politikwissenschaft an der FU Berlin studiert. Er interessiert sich für Cyberkriminalität, Datenmacht und wie KI, Desinformation und digitale Kultur die politische Realität formen. Kontakt: E-Mail (OpenPGP), Bluesky, Mastodon Martin Sxxhwarzbeck ist seit 2024 Redakteur bei netzpolitik.org. Er hat Soziologie studiert, als Journalist für zahlreiche Medien gearbeitet, von ARD bis taz, und war lange Redakteur bei Berliner Stadtmagazinen, wo er oft Digitalthemen aufgegriffen hat. Martin interessiert sich für Machtstrukturen und die Beziehungen zwischen Menschen und Staaten und Menschen und Konzernen. Ein Fokus dabei sind Techniken und Systeme der Überwachung. Für Recherchen zur Spionage-App mSpy hat er gemeinsam mit Chris Köver 2026 den Sonderpreis Print des Datenschutz Medienpreises DAME erhalten. Kontakt: E-Mail (OpenPGP), Mastodon, Signal: yoshi.42042. Dieser Beitrag ist eine Übernahme von netzpolitik, gemäss Lizenz Creative Commons BY-NC-SA 4.0.

Eine Welle von Widerstand

Proteste gegen Polizeigesetz-Verschärfungen

Deutsche Polizeien sollen uns mit KI überwachen. Lange blieb der Aufschrei aus, jetzt gab und gibt es in gleich vier Städten Demonstrationen dagegen. Plopp, Plopp, Plopp, platzen die Regenschirme auf. Sie sind auf einen rechtsradikalen Youtuber gerichtet. Dessen Handykamera zeigt nun nicht mehr auf eine überwachungskritische Demonstration, sondern auf eine Wand aus schwarzem Textil.

Hinter den Schirmen stehen junge Menschen, teils erst 15 Jahre alt, mit Schlauchschals, Kapuzen, Sonnenbrillen vermummt. Sie skandieren: „Ich bin nichts, ich kann nichts, gebt mir einen Selfie-Stick.“ Sie wollen die Live-Übertragung des Nazi-Streamers stören. Und gleichzeitig noch viel mehr, nämlich: die Überwachungspläne der Bundesregierung aufhalten.

Gerade drängt die schwarz-rote Regierung ein Überwachungs-Gesetzes-Paket durch den Bundestag. Deutschland soll mit KI überwacht werden, die Menschen biometrisch identifiziert und kriminalistische Analysen, ja gar Listen von Verdächtigen erstellt. Ähnliche Befugnisse bekommen gerade auch viele Landespolizeien, dazu Videoüberwachung, die automatisch prüft, ob sich alle verhalten wie erwünscht. Es droht eine Megadatenbank mit Aufnahmen aus dem öffentlichen Raum, Standort- und Kommunikationsdaten, mindestens fallweise ist auch die Einbeziehung von Gesundheits- und Finanzinformationen möglich.

Die vermummten Nazi-Stream-Blockierer sind Teil einer Anti-Überwachungs-Demonstration, die sich am vergangenen Samstag gegen die neuen Befugnisse positionierte. Deutlich über 1.000 Menschen ergab eine grobe Zählung am Startpunkt in Berlin-Friedrichshain. Gleichzeitig lief eine Demo durch Kiel. 600 Menschen protestierten dort nach Angabe der Veranstalter*innen, 400 nach Schätzung der Polizei.

Nächstes Wochenende folgen Demonstrationen in Hamburg und Leipzig. In Sachsen, Thüringen und Niedersachsen richten Aktivisti Informationsveranstaltungen zu den jeweiligen Polizeigesetz-Verschärfungen aus.

Die Kämpfe aus den Bundesländern zusammenführen

Es ist eine bundesweite Bewegung, die hier gerade zueinanderfindet, eine Welle von Widerstand. Und die Demo in Berlin ist auch eine Art Vernetzungstreffen. Jonas Grill von der NGO Digitalcourage ist aus Bielefeld in Nordrhein-Westfalen angereist. Dort wird bereits Palantir-Software genutzt. „Es geht hier auch darum, die Kämpfe aus den Bundesländern zusammenzuführen“, sagt Grill.

Die Veranstalter*innen haben Pappkameras am Stiel ausgeteilt. Menschen halten sich aus Spaß die Attrappen ins Gesicht, lassen einander erahnen, wie das ist, im Fokus von Überwachungstechnologie zu sein. Unter den Show-Kameras formiert sich der schwarze Block, vermummte Gesichter verschanzen sich hinter Transparenten. Ein Mensch hält einen Stab in die Höhe, drei echte Überwachungskameras sind daran befestigt, wie Trophäen einer Jagd.

Es geht los. Fahnen flattern, Blaulicht flackert, Bass wummert, Menschen skandieren, „Palantir, nicht mit mir!“, oder „Regierungsspanner raus aus den Kiezen! Tech-Milliardäre raus aus den Kiezen! Überwachung aller Eliten!“ zum Beispiel. „Antibiometrische Aktion“ steht auf einem Schild. In der Vielfalt der Demonstrierenden – darunter Kinder und Rentner*innen – ist der schwarze Block letztlich nur ein Farbklecks von vielen. Lächelnde Menschen tanzen im Sonnenschein über die Warschauer Brücke in Berlin.

Einhorn traurig

„Vorratsdatenspeicherung macht das Einhorn traurig“, steht auf Linas Schild, daneben ist ein Bild eines traurigen Einhorns gemalt. Lina, die eine Schirmmütze mit der Aufschrift „privacy is normal“ trägt, ist Aktivistin beim Kleindatenverein. Sie wohnt zwischen Görlitzer Park und Kottbusser Tor, ihre alltäglichen Wege führen sie durch Zonen, die künftig mit KI-Kameras überwacht werden sollen. Sie fürchtet, dass die KI-Überwachung nicht mehr zu verhindern ist. „Aber wir können sie mitgestalten und die Spitzen rausnehmen“, glaubt sie.

Lina ist Privatsphärenfan, bei Demos wie dieser setzt sie ihr Telefon in den Flugmodus – damit Provider und Polizei nicht ihren Standort bekommen. Mit Hilfe der geplanten Gesichtersuchmaschine könnte sie jedoch auf Fotos der Demonstration verortet werden. Das ist unschön, aber kein Grund zu Schwänzen. „Wenn ich deshalb nicht komme, erreichen die ja, was sie wollen“, sagt Lina.

Sinje und Lukas sind in Brandenburg bei der Linksjugend Solid engagiert. Sie sind hier, weil es ihnen Sorgen macht, dass die KI-Überwachungstechnologie in Zukunft gegen marginalisierte Menschen eingesetzt werden könnte und dass nicht nur die CDU, sondern auch SPD und Grüne bei der Ausweitung der Polizei-Gesetze mitmachen. „Wir brauchen gar keinen Rechtsruck mehr“, sagt Sinje.

Ückück von den Datenpunks ist aus Dresden angereist und blickt auf die Demonstration, die gerade fast die gesamte Brücke einnimmt. „Das tut richtig gut zu sehen“, sagt sie.

Wenige hundert Meter nach dem Start: Die Demo führt ganz nah einem singulären Riesenhochhaus vorbei, einem schwarzen Block, wuchtiges Design. Es ist das Deutschland-Hauptquartier von Amazon. Der Konzern ist auch für seine Überwachungspraktiken weltbekannt. Ein Mensch wirft aus der Demonstration heraus einen Farbbeutel auf das Gebäude. „Man muss die staatliche mit der kapitalistischen Überwachung zusammendenken“, sagt einer der Vermummten.

„Viel mächtiger als alles, wovor man sich früher sorgte“

Überwachungsgesetze und Kontrollprojekte sorgen in Deutschland inzwischen beinah traditionell für einigen Wirbel. Das zeigten erstmals die Proteste zur 1983 geplante Volkszählung. In den 2000er- und 2010er-Jahren brachte die Kampagne „Freiheit statt Angst“ immer wieder zehntausende Menschen auf die Straße. 2018/19 gab es Proteste in ähnlicher Größenordnung gegen Polizeigesetz-Verschärfungen.

Lukas Theune ist Geschäftsführer des Republikanischen Anwältinnen- und Anwältevereins (RAV), einer der Organisationen, die zu der Demo aufgerufen haben. Er sagt: „Es gab immer wieder Proteste gegen die Aufrüstung der Sicherheitsgesellschaft. In dieser Tradition stehen wir sicherlich, aber was jetzt eingeführt wird, ist noch viel mächtiger als alles, wovor man sich früher sorgte. Jetzt ist es wichtig, dass die große Mehrheit, die diese Maßnahmen nicht will, vernehmbar wird und Widerstand leistet.“

Es ginge gerade um eine grundlegende Veränderung der Sicherheitsarchitektur und der Art und Weise, wie wir als Gesellschaft leben können. Theune fürchtet, „dass wir zu einer gläsernen Gesellschaft werden, dass der Staat alles, was wir machen, weiß, dass er uns total überwacht“.

Die Demo führt auf einen kritischen Punkt zu: Zwei Kuppelkameras in der Unterführung unter der neu eingerichteten Polizeiwache am Kottbusser Tor. Die ist sowieso Hassobjekt der Linken in Berlin. Und die Kameras dort filmen anscheinend ohne Rechtsgrundlage öffentlichen Raum. An ihnen könnte sich die Wut über die zunehmende Überwachung entladen. Die Polizei verspricht laut Veranstalter*innen, dass die Kameras hochgedreht und abgedeckt sein werden, wenn die Demo passiert. Dann ändert sie ihre Meinung, teilt eine Änderung der Route mit. Nun soll es doch nicht wie geplant unter den Kameras hindurchgehen.

Polizistinnen rennen, um sich zwischen Demo und Wache zu positionieren. Die Demo führt nun einmal um den Kreisverkehr und den gleichen Weg ein Stück zurück, um über einen Schlenker zum Zielort zu kommen. Der Nazi-Streamer hält bis zum Schluss durch – und wird bis zum Schluss mit Regenschirmen abgeblockt. Dann wird die Demo aufgelöst. Sie war womöglich nur so etwas wie der Auftakt des Widerstandes. Die nächsten Demos in Hamburg und Leipzig sind ja schon gesetzt.

Denis Glismann ist von April bis Juni 2026 Praktikant bei netzpolitik.org und hat Politikwissenschaft an der FU Berlin studiert. Er interessiert sich dafür, wie Datenmacht, Desinformation, KI und digitale Kultur die politische Realität formen. Kontakt: E-Mail (OpenPGP), Bluesky, Mastodon. Martin Schwarzbeck ist seit 2024 Redakteur bei netzpolitik.org. Er hat Soziologie studiert, als Journalist für zahlreiche Medien gearbeitet, von ARD bis taz, und war lange Redakteur bei Berliner Stadtmagazinen, wo er oft Digitalthemen aufgegriffen hat. Martin interessiert sich für Machtstrukturen und die Beziehungen zwischen Menschen und Staaten und Menschen und Konzernen. Ein Fokus dabei sind Techniken und Systeme der Überwachung. Für Recherchen zur Spionage-App mSpy hat er gemeinsam mit Chris Köver 2026 den Sonderpreis Print des Datenschutz Medienpreises DAME erhalten. Kontakt: E-Mail (OpenPGP), Mastodon, Signal: yoshi.42042. Dieser Beitrag ist eine Übernahme von netzpolitik, gemäss Lizenz Creative Commons BY-NC-SA 4.0.

Verhaltensscanner – „Eine reale Gefahr“

Gerade gibt es bundesweit Bestrebungen, Überwachungskameras mit Systemen zu koppeln, die vollautomatisiert erkennen, was die abgebildeten Menschen gerade tun. Davy Wang von der Gesellschaft für Freiheitsrechte erklärt, warum das eine schlechte Idee ist.

Verhaltensanalyse-Software legt eine Art Strichmännchen über die Gliedmaßen abgebildeter Menschen. Anhand der Bewegungen dieses Vektorenbündels schätzt sie, welches Verhalten zu sehen ist. Bei vorab festgelegten Kategorien schlägt sie Alarm. In Mannheim sind das aktuell Schläge, Tritte, Schubser und abwehrende Körperhaltungen. In Hamburg wird auch detektiert, wenn jemand liegt.

Berlin will bald ebenfalls eine derartige Software einsetzen, Baden-Württemberg will sie auf Heidelberg ausweiten, in Bremer Tram-Bahnen läuft sie bereits. In Niedersachsen, Sachsen, Schleswig-Holstein und Thüringen sind Gesetzesentwürfe dazu in der Abstimmung. Es wird künftig wohl immer mehr Areale geben, in denen KI prüft, ob sich die Anwesenden artig benehmen.

Zeit also, sich die Technologie mal genauer anzuschauen: Welche Auswirkungen hat sie auf die Grundrechte der Betroffenen, wo liegen die größten Risiken bei der Implementierung und welche Rolle kann sie bei der drohenden autoritären Wende spielen? Das haben wir Davy Wang gefragt, Jurist bei der Gesellschaft für Freiheitsrechte.

„Ein subtiles Gefühl des Überwacht-Seins”

Herr Wang, Berlin will bald Verhaltenserkennungs-Kameras an vermeintlich besonders kriminalitätsbelasteten Orten installieren. Liegen diese Orte in Ihrem Lebensradius?

Im Görlitzer Park bin ich in meiner Freizeit gelegentlich, am Kottbusser Tor oder an der Warschauer Straße steige ich manchmal in Bahnen.

Werden Sie sich dort sicherer fühlen, wenn die Verhaltenserkennung läuft?

Ich fühle mich da aktuell nicht unsicher. Aber wenn die Verhaltenserkennung kommt, wird das sicher ein subtiles Gefühl des Überwacht-Seins auslösen.

Welche Auswirkungen hat die Technologie auf die Grundrechte der Menschen, die da langlaufen?

Da ist meine Privatsphäre betroffen und die aller anderen Menschen, die sich da bewegen. Konkret bedeutet dies eine Einschränkung des Grundrechts auf informationelle Selbstbestimmung. Nach dem darf eigentlich ich darüber bestimmen, wer meine Daten erfasst und nutzt. Darüber hinaus kann so eine Überwachung Menschen davon abhalten, den Ort zu besuchen, und sich darauf auswirken, wie sich Menschen dort verhalten. Das hat dann beispielsweise auch Auswirkungen auf die Versammlungsfreiheit.

„Keine Zahlen, die die Wirksamkeit belegen“

Werden da alle Passant*innen unter Generalverdacht gestellt?

Von beiden Systemen werden erst einmal alle Menschen erfasst.

Und ist das Problem, das mit der Überwachung gelöst wird, diesen massiven Grundrechtseingriff wert?

Aus den Pilotprojekten gibt es keine Zahlen, die die Wirksamkeit belegen. Dabei gibt es sehr hohe Anforderungen. Denn die Anlagen erfassen viele tausend Menschen täglich, die Betroffenen wissen nie genau, ob ihre Daten gerade verarbeitet werden, und dann wird noch ein sehr intransparentes KI-System benutzt, dessen Schlussfolgerungen nicht nachvollziehbar sind. Bei einem derart strengen Eingriff in die Grundrechte bräuchte es strenge Anforderungen und Belege, dass die Technologie wirksam ist.

Solche Systeme haben immer eine gewisse Rate von False Positives. Das sind Alarme, die auf einem Fehler, einem falschen Verdacht beruhen. Ist da die Verfolgung Unschuldiger schon eingepreist?

Es ist ein Problem, wenn ein Maximum für diese Rate nicht fest vorgegeben ist. Dann kann die Polizei frei einschätzen, wie viele Fehl-Verdächtigungen sie noch akzeptabel findet. In Berlin wurde die maximale Fehlerrate jetzt in einer Ausschreibung benannt: bis zu 25 Prozent. Jeder vierte Alarm würde dann versehentlich ausgelöst. Das ist ziemlich viel. Da werden viele Verhaltensweisen erfasst, die völlig unproblematisch sind. Und dann kann es auch sein, dass Menschen zum Opfer von Anschlussmaßnahmen werden, die gar nichts getan haben. In den Landespolizeigesetzen steht ja auch gar nicht, welche Verhaltensweisen mit dem Scanner gesucht werden können. Da steht einfach nur: Verhaltensweisen, die auf Straftaten hindeuten. Welche gesucht werden, liegt dann im Ermessen der Exekutive.

„Es gibt einen politischen Druck“

Wie kommt das eigentlich, dass diese Technologie gerade so unglaublich beliebt ist?

Die Polizeien in den Bundesländern und auf Bundesebene wollen ihre Digitalisierung vorantreiben. Die wollen jetzt auch KI-Systeme nutzen, um vermeintlich effektiver Straftaten verhüten zu können. Da sehe ich die Gefahr, dass man sich öffentlich der Rhetorik bemüht, dass die Anlage verhältnismäßig sei, weil sie beispielsweise keine Gesichter analysiert. Es gibt auch einen politischen Druck, nach öffentlichkeitswirksamen Gewaltvorfällen zu handeln und beispielsweise die Videoüberwachung weiter auszubauen.

In der Logik der Verfechter ist die Technik Privatsphäre-freundlicher als konventionelle Videoüberwachung, weil ja nicht mehr unbedingt immer ein Mensch zuschaut. Als wäre es keine Überwachung, wenn uns ein Computer analysiert. Was sagen Sie dazu?

Das ist trotzdem auch eine Überwachung und auch ein Grundrechtseingriff. Wenn die Polizei durch ein KI-System personenbezogene Daten erfasst, ist es ein Eingriff in die Privatsphäre. Und diese Überwachung kann zu Ingewahrsamnahme und anderen Anschlussmaßnahmen führen.

Müsste die Eingriffsschwelle für die Verhaltenserkennung nicht noch höher sein als die für Videoüberwachung? Immerhin ist es ja eine Art Videoüberwachung plus.

Da würde ich definitiv zustimmen. Auch aus unserer Sicht ist die Eingriffsschwelle viel zu niedrig. Durch die Nutzung des KI-Systems und die automatisierte Auswertung enthält der Eingriff eine neue Qualität. Dabei hat das Bundesverfassungsgericht betont, dass automatisierte Auswertungen durch selbstlernende Systeme ein spezielles Eingriffsgewicht haben können, wenn die Entscheidungsfindung und Funktionsweise weder für die Betroffenen noch für die handelnde Behörde nachvollziehbar sind.

„Das kann diskriminierend wirken“

Weil die Systeme menschliche Körper vor der Analyse in Vektoren umrechnen, also Hinweise auf Hautfarbe, Alter, Geschlecht entfernen, gelten sie nicht als diskriminierend. Was sagen Sie dazu?

Das kann man nicht pauschal so sehen. Es gibt Berichte, dass unproblematisches Verhalten wie Liegen oder Taumeln erfasst wird. Das kann diskriminierend gegenüber bestimmten Personengruppen wirken. Und durch die Trainingsdaten kann ja auch ein Bias entstehen, dass dann Bewegungen bei bestimmten Gruppen eher falsch erkannt werden.

Ein weiteres Argument für den Einsatz der Verhaltensanalyse ist die Effizienz. Führt die dann nicht automatisch zur Ausweitung – weil man mit den gleichen Kräften mehr Stadtgeschehen im Blick behalten kann?

Das sehe ich als eine reale Gefahr. Die vermeintliche Effektivität kann dazu führen, dass immer mehr Orte die Technik einführen.

Es heißt, letztlich entscheidet ein Mensch darüber, ob Einsatzkräfte zu einer Situation entsandt werden. Wie weit wird da die menschliche Verantwortung aufgelöst?

Wenn der Mensch sich auf die Technik verlässt, neigt er dazu, ihren Empfehlungen zu folgen. Und die Entscheidungsfindung des KI-Systems ist für die Beamt*innen nicht nachvollziehbar, was ein Grundvertrauen in die Richtigkeit der Entscheidung begünstigt.

„Wir glauben, dass die Rechtsgrundlagen angreifbar sind“

Welche Hebel hat die Zivilgesellschaft, um zu verhindern, dass die Technologie breit ausgerollt wird?

Wir als GFF betreiben strategische Prozessführung. Eine Möglichkeit ist, wenn diese Systeme im Einsatz sind, dagegen zu klagen und zu versuchen, das zum Bundesverfassungsgericht zu bringen. Wir glauben, dass die Rechtsgrundlagen in mehreren Bundesländern angreifbar sind. Ansonsten kann man sich auch politisch engagieren. Durch Petitionen, durch Demonstrationen oder als Sachverständige im Gesetzgebungsverfahren. Was auch hilft, ist parlamentarische Kontrolle, beispielsweise mit Kleinen Anfragen.

Was sagt die EU-KI-Verordnung zur Verhaltensanalyse?

Die stuft sie als Hochrisiko-KI ein. Das bedeutet, es braucht eine Risikobewertung und Risikominderungsmaßnahmen, es gibt Sorgfalts‑, Berichts- und Aufsichtspflichten.

Welche Rolle kann die Verhaltenserkennung bei der autoritären Wende spielen?

Der Dual Use für Sicherheit und Kontrolle ist bei dieser Technologie systeminhärent. Die kann in demokratischen Staaten in engen Grenzen grundrechtsschonend eingesetzt werden, aber in autoritären Staaten auch dazu genutzt werden, marginalisierte Gruppen bei Protesten zu überwachen. Das richtet sich je nach Einsatzform aus.

Zahlen zum Erfolg der Technologie werden nicht veröffentlicht. Kann es sein, dass hier vor allem getestet wird, ob sich so eine Überwachungsmaßnahme ohne größere Widerstände durchsetzen lässt?

Das ist ein berechtigter Verdacht. Dazu passt auch, dass in keinem der Polizei-Gesetze eine unabhängige Evaluation der Verhaltenserkennung festgeschrieben ist.

Martin Schwarzbeck ist seit 2024 Redakteur bei netzpolitik.org. Er hat Soziologie studiert, als Journalist für zahlreiche Medien gearbeitet, von ARD bis taz, und war lange Redakteur bei Berliner Stadtmagazinen, wo er oft Digitalthemen aufgegriffen hat. Martin interessiert sich für Machtstrukturen und die Beziehungen zwischen Menschen und Staaten und Menschen und Konzernen. Ein Fokus dabei sind Techniken und Systeme der Überwachung. Kontakt: E-Mail (OpenPGP), Mastodon, Signal: yoshi.42042. Dieser Beitrag ist eine Übernahme von netzpolitik, gemäss Lizenz Creative Commons BY-NC-SA 4.0.