Pilotprojekt Verhaltensscanner in Berlin
„Die Möglichkeit der anonymen Nutzung des öffentlichen Raums verschwindet“
Wir sprechen mit der Berliner Datenschutzbeauftragten Meike Kamp über die automatisierten Verhaltensscanner, die in Kürze an mehreren Orten in Berlin die Menschen anlasslos dauerfilmen sollen. Sie kritisiert das Vorhaben, sieht verpflichtende Kontrollen der neuen Technologie durch ihre Behörde jedoch skeptisch.
Am Kottbusser Tor in Berlin beginnt ein zunächst vierwöchiges Pilotprojekt zur polizeilichen Videoüberwachung mit automatisierten Verhaltensscannern. Eine Software wird dann permanent Aufnahmen von Videokameras danach auswerten, ob vorgegebene Verhaltens- oder Bewegungsmuster darin zu finden sind. Der Test wird im nächsten Jahr noch erweitert: Der Alexanderplatz und die Warschauer Brücke sollen dann ebenfalls mit Verhaltenserkennung überwacht werden, denn diese Orte sind auch als „kriminalitätsbelastete Orte“ ausgewiesen.
Der Test soll „voraussichtlich im 4. Quartal 2026“ starten, wie aus einer Antwort der Berliner Senatsverwaltung für Inneres auf eine Anfrage der Grünen hervorgeht. Auch an der Warschauer Brücke soll es schon bald losgehen: Es ist eine Inbetriebnahme „bis Ende 2026“ geplant. Beim Alexanderplatz und beim Görlitzer Park ist die Umsetzung dagegen für das Jahr 2027 geplant.
Auch für den polizeilichen Objektschutz rund um das Berliner Rote Rathaus soll die automatisierte Verhaltensüberwachung kommen. Dort und außerdem am Sitz der Senatsverwaltung für Inneres und am Jüdischen Museum ist der Start von Tests „voraussichtlich im 2. Quartal 2027“ vorgesehen.
Ob die Projekte, die automatisiert Gefahrensituationen identifizieren sollen, nach der Wahl am Sonntag in Berlin unverändert weiterlaufen, ist noch nicht klar. Denn welche Regierungskonstellation zustandekommt, steht bisher nicht fest. Die Partei mit den meisten Stimmen in Berlin, die Linke, hatte angekündigt, die polizeilichen Befugnisse bei Videoüberwachung und anlasslosen Kontrollen wieder zurückschneiden zu wollen. Zusammen mit den Grünen zogen sie gegen das Polizeigesetz vor den Verfassungsgerichtshof des Landes Berlin. Auch die Voraussetzung der Videoüberwachung, nämlich die Ausweisung von gesonderten kriminalitätsbelasteten Orten, versprach die Linke abzuschaffen.
Als Dienstleister für die Dauerbeobachtung hatte der Konzern Adesso SE nach der Ausschreibung den Zuschlag erhalten, Partner ist die Staige GmbH, an der Adesso beteiligt ist und von der die Software geliefert wird. Welches auffällige Verhalten zu einer Alarmierung führen soll, geht aus einem Leistungsverzeichnis hervor.
Am Kottbusser Tor sind die Verhaltensscanner-Kameras schon installiert. Billig wird das Vorhaben für die Berliner Steuerzahler nicht: Die „Gesamtinvestivkosten“ allein für diesen Bereich gibt die Senatsverwaltung für Inneres mit 1.888.000 Euro an. Obendrauf sollen dort jährliche Betriebskosten von 349.000 Euro kommen.
Wir sprechen mit der Berliner Beauftragten für Datenschutz und InformationsfreiheitMeike Kamp über die rechtliche Seite der automatisierten Verhaltensüberwachung und das Allgemeine Sicherheits- und Ordnungsgesetz (ASOG) – so heißt das Berliner Polizeigesetz, dessen Novelle 2026 die Verhaltensscanner ermöglicht hat.
Was ist ein „kriminalitätsbelasteter Ort“?
Das Pilotprojekt zur Verhaltenserkennung soll Menschen dauerhaft filmen und ihr Verhalten analysieren. Welche datenschutzrechtlichen Fragen ergeben sich daraus? Was ist der Inhalt der aktuellen Prüfung durch Ihre Behörde?
Zum laufenden Verfahren kann ich mich nicht äußern, aber unabhängig vom konkreten Projekt spielen aus Datenschutzsicht beim Einsatz solcher KI-Systeme das Training und die Datenarten, die Wirksamkeit von Anonymisierungs- bzw. Pseudonymisierungsverfahren, die technische Implementierung der Trainingsumgebung bzw. die Infrastruktur auf der ein KI-System läuft eine Rolle. Außerdem geht es um Verfahren und Klassifizierung der Erkennungsfälle und die polizeirechtliche Rechtsgrundlage für solche Fälle, Erkennungsraten und Kennziele, Maßnahmen zur Löschung bzw. Umsetzung weiterer Betroffenenrechte und Transparenzmaßnahmen. Zudem sind auch die Diskriminierungsrisiken relevant, die aus dem Einsatz eines KI-Systems entstehen können.
Der Projektstart ist im Bereich Kottbusser Tor, weitere sogenannte stark „kriminalitätsbelastete Orte“ sollen folgen. Wie ist in Berlin ein „kriminalitätsbelasteter Ort“ definiert und welche Einschränkungen der Grundrechte gelten dort?
Was ein kriminalitätsbelasteter Ort ist und wie dieser eingestuft wird, regelt § 17a ASOG. Demnach bestimmt das in der Regel die Senatsverwaltung für Inneres durch eine Rechtsverordnung und informiert darüber das Abgeordnetenhaus. Die Voraussetzungen für die Einstufung als kriminalitätsbelasteter Ort bleiben niedrigschwellig. Es müssen lediglich Tatsachen die Annahme rechtfertigen, dass dort Personen Straftaten von erheblicher Bedeutung verabreden, vorbereiten oder verüben. Die Polizei Berlin hat eine Liste der Orte auf ihrer Website veröffentlicht.
Ich habe mich während der ASOG-Novelle dafür ausgesprochen, dass das Parlament über diese wesentliche Frage entscheiden sollte. Schließlich bildet die Einstufung eines Ortes als kriminalitätsbelastet eine Grundlage für den Einsatz von Videoüberwachung und auch anderer polizeirechtlicher Befugnisse. Es handelt sich folglich um ein ganz wesentliches Tatbestandsmerkmal, dass die Möglichkeit auslöst, mit polizeilichen Maßnahmen auch in Grundrechte einzugreifen. Auch der Einsatz der automatisierten Verhaltensmustererkennung wird dadurch möglich.
Bei den kriminalitätsbelasteten Orten handelt es sich um öffentliche Räume in der Innenstadt, die täglich von vielen zehntausenden Menschen genutzt werden und teils ineinander übergehen. Eine Videoüberwachung dieser Orte führt dazu, dass sehr viele Menschen erfasst werden, die sich dort aufhalten, ohne dass diese für die Überwachungsmaßnahme einen Anlass gesetzt haben. Mit dem Görlitzer Park ist zum Beispiel eine der wenigen Grünanlagen in Kreuzberg als kriminalitätsbelasteter Ort eingestuft. Personen, die der Videoüberwachung ausweichen wollen, müssten auf die Freizeitnutzung in dem Park verzichten.
Was wäre als ein „Erfolg“ der softwarebasierten Videoüberwachungsauswertung an diesen stark „kriminalitätsbelasteten Orten“ zu werten?
Ich denke nicht in Kategorien wie „Erfolg“, sondern messe polizeiliche Maßnahmen danach, ob die festgelegten Ziele und Zwecke legitim sind, ob die Maßnahme geeignet und erforderlich ist, diese Ziele zu erreichen, und ob eine Maßnahme überhaupt so ausgestaltet werden kann, dass sie insgesamt nicht unverhältnismäßig in die Grundrechte eingreift.
„Keine näheren Informationen“ zum Vorab-Test
An welche datenschutzrechtlichen Vorgaben ist die Polizei bei diesem Pilotprojekt im öffentlichen Raum gebunden?
Maßgeblich sind neben den Befugnissen im ASOG, dort vor allem § 24e ASOG, insbesondere die sogenannte JI-Richtlinie. Diese europäische Richtlinie regelt unter anderem den Schutz personenbezogener Daten durch die Gefahrenabwehr- und Strafverfolgungsbehörden – sie ist quasi die DSGVO für die Polizei.
Mit welchen Daten wurde die eingesetzte Software zur Verhaltenserkennung trainiert? Waren Sie als Datenschutzbeauftragte beim Trainingberatend einbezogen?
Dazu kann ich zum jetzigen Zeitpunkt nichts sagen. Meine Behörde war bei der Auswahl der Software und beim Training nicht eingebunden. Diesen Fragen werden wir im Rahmen unserer Prüfung nachgehen.
Die Polizei hat gegenüber dem rbb angegeben, die eingesetzte Software bereits im Mai auf einer eigenen Liegenschaft „erfolgreich“ getestet zu haben. Sind Ihnen die Ergebnisse dieses Tests bekannt und zugänglich gemacht worden? Wissen Sie, welche Art von Tests stattfanden und in welcher Testumgebung die Software erprobt wurde?
Dazu habe ich bisher keine näheren Informationen.
Falschpositive Alarme lassen sich nicht vollständig ausschließen
Welche Fehlerquoten (Fehlalarme) solcher Tests erachten Sie als noch akzeptabel, wenn solche Software tatsächlich in dem Pilotprojekt im Einsatz ist?
Falschpositive Alarme werden sich nicht vollständig ausschließen lassen. Wichtig ist, dass stets an einer Verringerung der Fehlerquote gearbeitet wird und sichergestellt ist, dass – wie in der Rechtsgrundlage vorgesehen – ein Einsatz nur nach menschlicher Entscheidung ausgelöst wird.
Die Frage nach der Fehlerquote ist schwer zu beantworten: Dass Straftaten deutlich seltener sind als vergleichbare Gegebenheiten, stellt hohe Anforderungen an die Performance des eingesetzten Systems. Fehlerquoten, die höher als die Wahrscheinlichkeit von Straftaten sind, können dazu führen, dass es überwiegend zu Fehlalarmen kommt.
Mit welchen Daten könnte die Videoüberwachung mit Verhaltensscannern nach den Neuregelungen im ASOG kombiniert werden? Wo sehen Sie besonders problematische Aspekte?
Die vielen Verweise im Gesetzestext erschweren eine Gesamtbetrachtung aller Befugnisse und ihrer Auswirkungen in der Praxis deutlich. Ich bin mir nicht sicher, ob selbst den Verfassern klar ist, welche Daten tatsächlich in der automatisierten Analyseplattform oder im KI-Training landen können. Oder welche Befugnisse gleichzeitig an einem Ort eingesetzt werden könnten – dabei ist das im Bereich der polizeilichen Befugnisse von sehr großer Bedeutung.
Die neuen Vorschriften ermöglichen in jedem Fall die retrograde Auswertung gespeicherter Bildaufzeichnungen über einen Zeitraum von bis zu einem Monat, in Einzelfällen länger. Klar ausgeschlossen ist im Gesetz aber eine Nutzung der Bildaufzeichnungen für die biometrische Fernidentifizierung wie Gesichts- oder Gangerkennung.
Das ist, zusammen mit dem Verbot des automatisierten Auslösens behördlicher Maßnahmen, eine wichtige Grenze, verhindert aber nicht eine anlassbezogene Identifizierung einzelner Personen aus dem gespeicherten Videomaterial. Eine händische Profilbildung etwa zu Bewegungen oder Sozialkontakten im überwachten Bereich bleibt damit auch nachträglich technisch möglich.
Eine Verknüpfung mit anderen Daten über die automatisierte Analyseplattform kann dabei anlassbezogen möglich sein, etwa wenn Videoaufnahmen bereits als Beweismittel in Betracht kommen, aber die Videoaufnahmen und deren automatisierte Auswertung nicht zu den Datenarten gehören, die dort von der Polizei en bloc eingepflegt werden dürfen.
Alles in allem fehlt es im gesamten Polizeigesetz an einer befugnisübergreifenden Gesamtbetrachtung, die nicht nur die einzelne Maßnahme in den Blick nimmt und diese auf Verfassungskonformität prüft. Es müsste eben auch geschaut werden, wie sich die Situation in der Realität einer Großstadt wie Berlin mit engen räumlichen Verhältnissen gestaltet. Ich sehe die Gefahr, dass große Teile der Berliner Innenstadt kaum unüberwacht passiert werden können und die Möglichkeit der anonymen Nutzung des öffentlichen Raums, die eigentlich selbstverständlich sein müsste, verschwindet.
Wie man zu datensparsameren Verfahren kommen kann
Die rechtliche Eingriffsschwelle für die automatisierte Verhaltensüberwachung unterscheidet sich nicht von denen der Videoüberwachung ohne Softwareauswertung. Halten Sie das für angemessen und konform mit der Rechtsprechung des Bundesverfassungsgerichts, auch weil eine intransparente „KI“ trainiert und zum Einsatz kommen darf?
Unser Prüfverfahren ist noch nicht abgeschlossen, eine Bewertung der eingesetzten Technik anhand der Rechtsprechung des Bundesverfassungsgerichts zum Einsatz komplexer automatisierter Auswertung und Analyse können wir daher derzeit nicht abschließend vornehmen.
Transparenz ist ein wichtiger Faktor. Wenn aber mit Hilfe von wirksamen Anonymisierungstechniken oder zum Beispiel mit synthetischen Daten trainiert wird und KI-gestützte Verfahren dazu führen würden, dass besser zwischen relevanterem und nicht relevantem Videomaterial unterschieden wird und besser selektiv angezeigt und gespeichert wird, könnte dies auf lange Sicht auch zu datensparsameren Verfahren führen. Dazu müssten datensparsamere Ermittlungsmethoden aber neben den polizeilichen Zwecken gleichermaßen Ziel des Einsatzes sein.
Sollten verpflichtende Kontrollen dieser Technologie durch Sie als Datenschutzbeauftragte vorgeschrieben werden?
Verpflichtende Stichprobenkontrollen durch meine Behörde sieht das ASOG für bestimmte Überwachungsbefugnisse bereits vor. Ich stehe verpflichtenden Kontrollen skeptisch gegenüber, denn sie können auch meine Unabhängigkeit betreffen.
Was ist, wenn ich nicht mit angemessenen Ressourcen ausgestattet werde und aufgrund einer gesetzlichen Verpflichtung zu Kontrollen gezwungen werde, die ich gegenüber anderen eingriffsintensiveren Vorgängen, für die ich dann keine Ressourcen habe, priorisieren müsste. Zudem, was nutzen verpflichtende Kontrollen, wenn meine Befugnisse nicht ausreichen, um eine weitere Verarbeitung zu untersagen oder ein Bußgeld zu verhängen. Dann werden verpflichtende Kontrollen als „kompensatorische“ Maßnahmen für die Grundrechtseingriffe ins Gesetz geschrieben, obwohl sie dies in letzter Konsequenz nicht sind.
Vielen Dank für das Interview!
Constanze Kurz ist promovierte Informatikerin, Autorin und Herausgeberinvon Büchern, zuletzt Cyberwar. Ihre Kolumne „Aus dem Maschinenraum“ erschien von 2010 bis 2019 im Feuilleton der FAZ. Sie lebt in Berlin und ist ehrenamtlich Sprecherin des Chaos Computer Clubs. Sie war Sachverständige der Enquête-Kommission „Internet und digitale Gesellschaft“ des Bundestags. Sie erhielt den Toleranz-Preis für Zivilcourage und die Theodor-Heuss-Medaille. Kontakt: E-Mail (OpenPGP). Dieser Beitrag ist eine Übernahme von netzpolitik, gemäss Lizenz Creative Commons BY-NC-SA 4.0.
