#verhaltensscanner — Public Fediverse posts on home.social

Anna Biselli - netzpolitik @[email protected] · 2026-09-22 · 09:09 UTC

Pilotprojekt Verhaltensscanner in Berlin

„Die Möglichkeit der anonymen Nutzung des öffentlichen Raums verschwindet“

Wir sprechen mit der Berliner Datenschutzbeauftragten Meike Kamp über die automatisierten Verhaltensscanner, die in Kürze an mehreren Orten in Berlin die Menschen anlasslos dauerfilmen sollen. Sie kritisiert das Vorhaben, sieht verpflichtende Kontrollen der neuen Technologie durch ihre Behörde jedoch skeptisch.

Am Kottbusser Tor in Berlin beginnt ein zunächst vierwöchiges Pilotprojekt zur polizeilichen Videoüberwachung mit automatisierten Verhaltensscannern. Eine Software wird dann permanent Aufnahmen von Videokameras danach auswerten, ob vorgegebene Verhaltens- oder Bewegungsmuster darin zu finden sind. Der Test wird im nächsten Jahr noch erweitert: Der Alexanderplatz und die Warschauer Brücke sollen dann ebenfalls mit Verhaltenserkennung überwacht werden, denn diese Orte sind auch als „kriminalitätsbelastete Orte“ ausgewiesen.

Der Test soll „voraussichtlich im 4. Quartal 2026“ starten, wie aus einer Antwort der Berliner Senatsverwaltung für Inneres auf eine Anfrage der Grünen hervorgeht. Auch an der Warschauer Brücke soll es schon bald losgehen: Es ist eine Inbetriebnahme „bis Ende 2026“ geplant. Beim Alexanderplatz und beim Görlitzer Park ist die Umsetzung dagegen für das Jahr 2027 geplant.

Auch für den polizeilichen Objektschutz rund um das Berliner Rote Rathaus soll die automatisierte Verhaltensüberwachung kommen. Dort und außerdem am Sitz der Senatsverwaltung für Inneres und am Jüdischen Museum ist der Start von Tests „voraussichtlich im 2. Quartal 2027“ vorgesehen.

Ob die Projekte, die automatisiert Gefahrensituationen identifizieren sollen, nach der Wahl am Sonntag in Berlin unverändert weiterlaufen, ist noch nicht klar. Denn welche Regierungskonstellation zustandekommt, steht bisher nicht fest. Die Partei mit den meisten Stimmen in Berlin, die Linke, hatte angekündigt, die polizeilichen Befugnisse bei Videoüberwachung und anlasslosen Kontrollen wieder zurückschneiden zu wollen. Zusammen mit den Grünen zogen sie gegen das Polizeigesetz vor den Verfassungsgerichtshof des Landes Berlin. Auch die Voraussetzung der Videoüberwachung, nämlich die Ausweisung von gesonderten kriminalitätsbelasteten Orten, versprach die Linke abzuschaffen.

Als Dienstleister für die Dauerbeobachtung hatte der Konzern Adesso SE nach der Ausschreibung den Zuschlag erhalten, Partner ist die Staige GmbH, an der Adesso beteiligt ist und von der die Software geliefert wird. Welches auffällige Verhalten zu einer Alarmierung führen soll, geht aus einem Leistungsverzeichnis hervor.

Am Kottbusser Tor sind die Verhaltensscanner-Kameras schon installiert. Billig wird das Vorhaben für die Berliner Steuerzahler nicht: Die „Gesamtinvestivkosten“ allein für diesen Bereich gibt die Senatsverwaltung für Inneres mit 1.888.000 Euro an. Obendrauf sollen dort jährliche Betriebskosten von 349.000 Euro kommen.

Wir sprechen mit der Berliner Beauftragten für Datenschutz und Informationsfreiheit Meike Kamp über die rechtliche Seite der automatisierten Verhaltensüberwachung und das Allgemeine Sicherheits- und Ordnungsgesetz (ASOG) – so heißt das Berliner Polizeigesetz, dessen Novelle 2026 die Verhaltensscanner ermöglicht hat.

Was ist ein „kriminalitätsbelasteter Ort“?

Das Pilotprojekt zur Verhaltenserkennung soll Menschen dauerhaft filmen und ihr Verhalten analysieren. Welche datenschutzrechtlichen Fragen ergeben sich daraus? Was ist der Inhalt der aktuellen Prüfung durch Ihre Behörde?

Zum laufenden Verfahren kann ich mich nicht äußern, aber unabhängig vom konkreten Projekt spielen aus Datenschutzsicht beim Einsatz solcher KI-Systeme das Training und die Datenarten, die Wirksamkeit von Anonymisierungs- bzw. Pseudonymisierungsverfahren, die technische Implementierung der Trainingsumgebung bzw. die Infrastruktur auf der ein KI-System läuft eine Rolle. Außerdem geht es um Verfahren und Klassifizierung der Erkennungsfälle und die polizeirechtliche Rechtsgrundlage für solche Fälle, Erkennungsraten und Kennziele, Maßnahmen zur Löschung bzw. Umsetzung weiterer Betroffenenrechte und Transparenzmaßnahmen. Zudem sind auch die Diskriminierungsrisiken relevant, die aus dem Einsatz eines KI-Systems entstehen können.

Der Projektstart ist im Bereich Kottbusser Tor, weitere sogenannte stark „kriminalitätsbelastete Orte“ sollen folgen. Wie ist in Berlin ein „kriminalitätsbelasteter Ort“ definiert und welche Einschränkungen der Grundrechte gelten dort?

Was ein kriminalitätsbelasteter Ort ist und wie dieser eingestuft wird, regelt § 17a ASOG. Demnach bestimmt das in der Regel die Senatsverwaltung für Inneres durch eine Rechtsverordnung und informiert darüber das Abgeordnetenhaus. Die Voraussetzungen für die Einstufung als kriminalitätsbelasteter Ort bleiben niedrigschwellig. Es müssen lediglich Tatsachen die Annahme rechtfertigen, dass dort Personen Straftaten von erheblicher Bedeutung verabreden, vorbereiten oder verüben. Die Polizei Berlin hat eine Liste der Orte auf ihrer Website veröffentlicht.

Ich habe mich während der ASOG-Novelle dafür ausgesprochen, dass das Parlament über diese wesentliche Frage entscheiden sollte. Schließlich bildet die Einstufung eines Ortes als kriminalitätsbelastet eine Grundlage für den Einsatz von Videoüberwachung und auch anderer polizeirechtlicher Befugnisse. Es handelt sich folglich um ein ganz wesentliches Tatbestandsmerkmal, dass die Möglichkeit auslöst, mit polizeilichen Maßnahmen auch in Grundrechte einzugreifen. Auch der Einsatz der automatisierten Verhaltensmustererkennung wird dadurch möglich.

Bei den kriminalitätsbelasteten Orten handelt es sich um öffentliche Räume in der Innenstadt, die täglich von vielen zehntausenden Menschen genutzt werden und teils ineinander übergehen. Eine Videoüberwachung dieser Orte führt dazu, dass sehr viele Menschen erfasst werden, die sich dort aufhalten, ohne dass diese für die Überwachungsmaßnahme einen Anlass gesetzt haben. Mit dem Görlitzer Park ist zum Beispiel eine der wenigen Grünanlagen in Kreuzberg als kriminalitätsbelasteter Ort eingestuft. Personen, die der Videoüberwachung ausweichen wollen, müssten auf die Freizeitnutzung in dem Park verzichten.

Was wäre als ein „Erfolg“ der softwarebasierten Videoüberwachungsauswertung an diesen stark „kriminalitätsbelasteten Orten“ zu werten?

Ich denke nicht in Kategorien wie „Erfolg“, sondern messe polizeiliche Maßnahmen danach, ob die festgelegten Ziele und Zwecke legitim sind, ob die Maßnahme geeignet und erforderlich ist, diese Ziele zu erreichen, und ob eine Maßnahme überhaupt so ausgestaltet werden kann, dass sie insgesamt nicht unverhältnismäßig in die Grundrechte eingreift.

„Keine näheren Informationen“ zum Vorab-Test

An welche datenschutzrechtlichen Vorgaben ist die Polizei bei diesem Pilotprojekt im öffentlichen Raum gebunden?

Maßgeblich sind neben den Befugnissen im ASOG, dort vor allem § 24e ASOG, insbesondere die sogenannte JI-Richtlinie. Diese europäische Richtlinie regelt unter anderem den Schutz personenbezogener Daten durch die Gefahrenabwehr- und Strafverfolgungsbehörden – sie ist quasi die DSGVO für die Polizei.

Mit welchen Daten wurde die eingesetzte Software zur Verhaltenserkennung trainiert? Waren Sie als Datenschutzbeauftragte beim Trainingberatend einbezogen?

Dazu kann ich zum jetzigen Zeitpunkt nichts sagen. Meine Behörde war bei der Auswahl der Software und beim Training nicht eingebunden. Diesen Fragen werden wir im Rahmen unserer Prüfung nachgehen.

Die Polizei hat gegenüber dem rbb angegeben, die eingesetzte Software bereits im Mai auf einer eigenen Liegenschaft „erfolgreich“ getestet zu haben. Sind Ihnen die Ergebnisse dieses Tests bekannt und zugänglich gemacht worden? Wissen Sie, welche Art von Tests stattfanden und in welcher Testumgebung die Software erprobt wurde?

Dazu habe ich bisher keine näheren Informationen.

Falschpositive Alarme lassen sich nicht vollständig ausschließen

Welche Fehlerquoten (Fehlalarme) solcher Tests erachten Sie als noch akzeptabel, wenn solche Software tatsächlich in dem Pilotprojekt im Einsatz ist?

Falschpositive Alarme werden sich nicht vollständig ausschließen lassen. Wichtig ist, dass stets an einer Verringerung der Fehlerquote gearbeitet wird und sichergestellt ist, dass – wie in der Rechtsgrundlage vorgesehen – ein Einsatz nur nach menschlicher Entscheidung ausgelöst wird.

Die Frage nach der Fehlerquote ist schwer zu beantworten: Dass Straftaten deutlich seltener sind als vergleichbare Gegebenheiten, stellt hohe Anforderungen an die Performance des eingesetzten Systems. Fehlerquoten, die höher als die Wahrscheinlichkeit von Straftaten sind, können dazu führen, dass es überwiegend zu Fehlalarmen kommt.

Mit welchen Daten könnte die Videoüberwachung mit Verhaltensscannern nach den Neuregelungen im ASOG kombiniert werden? Wo sehen Sie besonders problematische Aspekte?

Die vielen Verweise im Gesetzestext erschweren eine Gesamtbetrachtung aller Befugnisse und ihrer Auswirkungen in der Praxis deutlich. Ich bin mir nicht sicher, ob selbst den Verfassern klar ist, welche Daten tatsächlich in der automatisierten Analyseplattform oder im KI-Training landen können. Oder welche Befugnisse gleichzeitig an einem Ort eingesetzt werden könnten – dabei ist das im Bereich der polizeilichen Befugnisse von sehr großer Bedeutung.

Die neuen Vorschriften ermöglichen in jedem Fall die retrograde Auswertung gespeicherter Bildaufzeichnungen über einen Zeitraum von bis zu einem Monat, in Einzelfällen länger. Klar ausgeschlossen ist im Gesetz aber eine Nutzung der Bildaufzeichnungen für die biometrische Fernidentifizierung wie Gesichts- oder Gangerkennung.

Das ist, zusammen mit dem Verbot des automatisierten Auslösens behördlicher Maßnahmen, eine wichtige Grenze, verhindert aber nicht eine anlassbezogene Identifizierung einzelner Personen aus dem gespeicherten Videomaterial. Eine händische Profilbildung etwa zu Bewegungen oder Sozialkontakten im überwachten Bereich bleibt damit auch nachträglich technisch möglich.

Eine Verknüpfung mit anderen Daten über die automatisierte Analyseplattform kann dabei anlassbezogen möglich sein, etwa wenn Videoaufnahmen bereits als Beweismittel in Betracht kommen, aber die Videoaufnahmen und deren automatisierte Auswertung nicht zu den Datenarten gehören, die dort von der Polizei en bloc eingepflegt werden dürfen.

Alles in allem fehlt es im gesamten Polizeigesetz an einer befugnisübergreifenden Gesamtbetrachtung, die nicht nur die einzelne Maßnahme in den Blick nimmt und diese auf Verfassungskonformität prüft. Es müsste eben auch geschaut werden, wie sich die Situation in der Realität einer Großstadt wie Berlin mit engen räumlichen Verhältnissen gestaltet. Ich sehe die Gefahr, dass große Teile der Berliner Innenstadt kaum unüberwacht passiert werden können und die Möglichkeit der anonymen Nutzung des öffentlichen Raums, die eigentlich selbstverständlich sein müsste, verschwindet.

Wie man zu datensparsameren Verfahren kommen kann

Die rechtliche Eingriffsschwelle für die automatisierte Verhaltensüberwachung unterscheidet sich nicht von denen der Videoüberwachung ohne Softwareauswertung. Halten Sie das für angemessen und konform mit der Rechtsprechung des Bundesverfassungsgerichts, auch weil eine intransparente „KI“ trainiert und zum Einsatz kommen darf?

Unser Prüfverfahren ist noch nicht abgeschlossen, eine Bewertung der eingesetzten Technik anhand der Rechtsprechung des Bundesverfassungsgerichts zum Einsatz komplexer automatisierter Auswertung und Analyse können wir daher derzeit nicht abschließend vornehmen.

Transparenz ist ein wichtiger Faktor. Wenn aber mit Hilfe von wirksamen Anonymisierungstechniken oder zum Beispiel mit synthetischen Daten trainiert wird und KI-gestützte Verfahren dazu führen würden, dass besser zwischen relevanterem und nicht relevantem Videomaterial unterschieden wird und besser selektiv angezeigt und gespeichert wird, könnte dies auf lange Sicht auch zu datensparsameren Verfahren führen. Dazu müssten datensparsamere Ermittlungsmethoden aber neben den polizeilichen Zwecken gleichermaßen Ziel des Einsatzes sein.

Sollten verpflichtende Kontrollen dieser Technologie durch Sie als Datenschutzbeauftragte vorgeschrieben werden?

Verpflichtende Stichprobenkontrollen durch meine Behörde sieht das ASOG für bestimmte Überwachungsbefugnisse bereits vor. Ich stehe verpflichtenden Kontrollen skeptisch gegenüber, denn sie können auch meine Unabhängigkeit betreffen.

Was ist, wenn ich nicht mit angemessenen Ressourcen ausgestattet werde und aufgrund einer gesetzlichen Verpflichtung zu Kontrollen gezwungen werde, die ich gegenüber anderen eingriffsintensiveren Vorgängen, für die ich dann keine Ressourcen habe, priorisieren müsste. Zudem, was nutzen verpflichtende Kontrollen, wenn meine Befugnisse nicht ausreichen, um eine weitere Verarbeitung zu untersagen oder ein Bußgeld zu verhängen. Dann werden verpflichtende Kontrollen als „kompensatorische“ Maßnahmen für die Grundrechtseingriffe ins Gesetz geschrieben, obwohl sie dies in letzter Konsequenz nicht sind.

Vielen Dank für das Interview!

Constanze Kurz ist promovierte Informatikerin, Autorin und Herausgeberinvon Büchern, zuletzt Cyberwar. Ihre Kolumne „Aus dem Maschinenraum“ erschien von 2010 bis 2019 im Feuilleton der FAZ. Sie lebt in Berlin und ist ehrenamtlich Sprecherin des Chaos Computer Clubs. Sie war Sachverständige der Enquête-Kommission „Internet und digitale Gesellschaft“ des Bundestags. Sie erhielt den Toleranz-Preis für Zivilcourage und die Theodor-Heuss-Medaille. Kontakt: E-Mail (OpenPGP). Dieser Beitrag ist eine Übernahme von netzpolitik, gemäss Lizenz Creative Commons BY-NC-SA 4.0.

#anlasslosekontrollen #automatisiertedatenanalyse #berlin #biometrie #interview #kottbussertor

netzpolitik.org @[email protected] · 2026-09-22 · 07:04 UTC

Interview über Videoüberwachung und #Verhaltensscanner in öffentlichen Räumen: „Die Möglichkeit der anonymen Nutzung des öffentlichen Raums verschwindet“ netzpolitik.org/2026/pilotpr...

„Die Möglichkeit der anonymen ...

#verhaltensscanner

netzpolitik.org @[email protected] · 2026-09-22 · 07:04 UTC

Interview über Videoüberwachung und #Verhaltensscanner in öffentlichen Räumen: „Die Möglichkeit der anonymen Nutzung des öffentlichen Raums verschwindet“ netzpolitik.org/2026/pilotpr...

„Die Möglichkeit der anonymen ...

#verhaltensscanner

netzpolitik.org @[email protected] · 2026-09-22 · 06:58 UTC

Am Kottbusser Tor in Berlin beginnt der Test mit Videoüberwachung und #Verhaltensscanner. Wir fragen die Berliner Datenschutzbeauftragte @BlnBDI Meike Kamp, mit welchen anderen Daten die Videoüberwachung kombiniert werden kann und wo sie besonders problematische Aspekte sieht https://netzpolitik.org/2026/pilotprojekt-verhaltensscanner-in-berlin-die-moeglichkeit-der-anonymen-nutzung-des-oeffentlichen-raums-verschwindet/

#verhaltensscanner

netzpolitik.org @[email protected] · 2026-09-22 · 06:58 UTC

Am Kottbusser Tor in Berlin beginnt der Test mit Videoüberwachung und #Verhaltensscanner. Wir fragen die Berliner Datenschutzbeauftragte @BlnBDI Meike Kamp, mit welchen anderen Daten die Videoüberwachung kombiniert werden kann und wo sie besonders problematische Aspekte sieht https://netzpolitik.org/2026/pilotprojekt-verhaltensscanner-in-berlin-die-moeglichkeit-der-anonymen-nutzung-des-oeffentlichen-raums-verschwindet/

#verhaltensscanner

netzpolitik.org @[email protected] · 2026-09-22 · 06:58 UTC

Am Kottbusser Tor in Berlin beginnt der Test mit Videoüberwachung und #Verhaltensscanner. Wir fragen die Berliner Datenschutzbeauftragte @BlnBDI Meike Kamp, mit welchen anderen Daten die Videoüberwachung kombiniert werden kann und wo sie besonders problematische Aspekte sieht https://netzpolitik.org/2026/pilotprojekt-verhaltensscanner-in-berlin-die-moeglichkeit-der-anonymen-nutzung-des-oeffentlichen-raums-verschwindet/

#verhaltensscanner

netzpolitik.org @[email protected] · 2026-09-22 · 06:58 UTC

Am Kottbusser Tor in Berlin beginnt der Test mit Videoüberwachung und #Verhaltensscanner. Wir fragen die Berliner Datenschutzbeauftragte @BlnBDI Meike Kamp, mit welchen anderen Daten die Videoüberwachung kombiniert werden kann und wo sie besonders problematische Aspekte sieht https://netzpolitik.org/2026/pilotprojekt-verhaltensscanner-in-berlin-die-moeglichkeit-der-anonymen-nutzung-des-oeffentlichen-raums-verschwindet/

#verhaltensscanner

[email protected] @[email protected] · 2026-09-08 · 21:28 UTC

#Kameras und #Drohnen in #Berlin: Was #Verhaltensscanner erkennen sollen.

Fest angebrachte und mobile #Kamerasysteme der #Polizei sollen in #Berlin gefährdete Objekte überwachen und dabei dauerhaft alles scannen, was sich drumherum bewegt. Auch #Drohnenaufnahmen könnten mit #Verhaltensscannern kombiniert werden. Das geht aus einer Leistungsbeschreibung hervor, die nun öffentlich wurde.

https://netzpolitik.org/2026/kameras-und-drohnen-in-berlin-was-verhaltensscanner-erkennen-sollen/#campaign-landtagswahl2026__banner

#kameras #drohnen #berlin #verhaltensscanner #kamerasysteme #polizei

[email protected] @[email protected] · 2026-09-08 · 21:28 UTC

#Kameras und #Drohnen in #Berlin: Was #Verhaltensscanner erkennen sollen.

Fest angebrachte und mobile #Kamerasysteme der #Polizei sollen in #Berlin gefährdete Objekte überwachen und dabei dauerhaft alles scannen, was sich drumherum bewegt. Auch #Drohnenaufnahmen könnten mit #Verhaltensscannern kombiniert werden. Das geht aus einer Leistungsbeschreibung hervor, die nun öffentlich wurde.

https://netzpolitik.org/2026/kameras-und-drohnen-in-berlin-was-verhaltensscanner-erkennen-sollen/#campaign-landtagswahl2026__banner

#kameras #drohnen #berlin #verhaltensscanner #kamerasysteme #polizei

[email protected] @[email protected] · 2026-09-08 · 21:28 UTC

#Kameras und #Drohnen in #Berlin: Was #Verhaltensscanner erkennen sollen.

Fest angebrachte und mobile #Kamerasysteme der #Polizei sollen in #Berlin gefährdete Objekte überwachen und dabei dauerhaft alles scannen, was sich drumherum bewegt. Auch #Drohnenaufnahmen könnten mit #Verhaltensscannern kombiniert werden. Das geht aus einer Leistungsbeschreibung hervor, die nun öffentlich wurde.

https://netzpolitik.org/2026/kameras-und-drohnen-in-berlin-was-verhaltensscanner-erkennen-sollen/#campaign-landtagswahl2026__banner

#verhaltensscannern #drohnenaufnahmen #polizei #kamerasysteme #verhaltensscanner #berlin

[email protected] @[email protected] · 2026-09-08 · 21:28 UTC

#Kameras und #Drohnen in #Berlin: Was #Verhaltensscanner erkennen sollen.

Fest angebrachte und mobile #Kamerasysteme der #Polizei sollen in #Berlin gefährdete Objekte überwachen und dabei dauerhaft alles scannen, was sich drumherum bewegt. Auch #Drohnenaufnahmen könnten mit #Verhaltensscannern kombiniert werden. Das geht aus einer Leistungsbeschreibung hervor, die nun öffentlich wurde.

https://netzpolitik.org/2026/kameras-und-drohnen-in-berlin-was-verhaltensscanner-erkennen-sollen/#campaign-landtagswahl2026__banner

#kameras #drohnen #berlin #verhaltensscanner #kamerasysteme #polizei

Anna Biselli - netzpolitik @[email protected] · 2026-09-08 · 06:22 UTC

Kameras, Drohnen, Verhaltensscanner

Kameras und Drohnen in Berlin: Was Verhaltensscanner erkennen sollen

Fest angebrachte und mobile Kamerasysteme der Polizei sollen in Berlin gefährdete Objekte überwachen und dabei dauerhaft alles scannen, was sich drumherum bewegt. Auch Drohnenaufnahmen könnten mit Verhaltensscannern kombiniert werden. Das geht aus einer Leistungsbeschreibung hervor, die nun öffentlich wurde.

Der IT-Angriff von Anfang August auf die Berliner Verwaltung und die nachfolgende Veröffentlichung von knapp anderthalb Millionen Dateien liefert auch Einblicke in Überwachungsprojekte der Polizei mit Objekterkennung und Verhaltensscannern. Denn unter den von den Angreifern veröffentlichten Dokumenten ist das Leistungsverzeichnis zum „Projekt zur Erprobung KI-gestützter Videotechnik“ (pdf). Darin sind die technischen Anforderungen detailliert formuliert, die der Auftragnehmer für das gewünschte Computersystem der Berliner Polizei zu erfüllen hat.

Vereinfacht gesprochen soll das Überwachungssystem Aufzeichnungen von Kameras in vorab festlegten Bereichen des öffentlichen Raums und nach vordefinierten Kriterien durchforsten und Alarm schlagen, wenn es auffällige Objekte oder Bewegungsmuster erkennt. Die Leistungsbeschreibung listet auf, welches auffällige Verhalten und welche Bewegungen zu einer Alarmierung führen sollen.

Bei allen Verdachtssituationen soll ein Polizist auf die Aufzeichnungen der automatischen Mustererkennung schauen und entscheiden, was danach passiert. Eine solche Anschlussmaßnahme kann beispielsweise das rechtssichere Speichern der Aufzeichnung sein oder das Hinschicken von Polizeikollegen zur Festnahme eines aufgezeichneten Menschen.

Es geht nicht um die Verhaltensscanner an den sogenannten „kriminalitätsbelasteten Orten“, sondern diesmal um den polizeilichen Objektschutz, konkret um das Berliner Rote Rathaus, das Abgeordnetenhaus und den Sitz der Senatsverwaltung für Inneres und Sport. Dort will die Polizei „KI-gestützte“ Überwachungssysteme testen, bevor sie in den Regelbetrieb gehen.

Rund um diese Gebäude werden in der Leistungsbeschreibung die gewünschten Details der automatisierten Auswertung der Videoaufnahmen aufgelistet. Dass auch das Abgeordnetenhaus zur Überwachungsliste gehört, blieb nicht ohne Kritik: Niklas Schrader von der Fraktion der Linken nannte das einen „Affront gegen das Parlament“, wenn die Abgeordneten „Versuchskaninchen für die KI-Experimente der Polizei“ würden.

Mobile Kamerasysteme und Drohnen mit Verhaltensscannern

Eine selbstlernende Software ist in der Leistungsbeschreibung nicht vorgesehen, sondern das „Human-in-the-Loop-Prinzip“. Soll heißen: Eigenständig sollen die Systeme aus bereits gemachten Aufnahmen keine Schlüsse ziehen können. Die Einschränkung dürfte den hohen Anforderungen geschuldet sein, die das Bundesverfassungsgericht an den Schutz der Grundrechte bei selbstlernenden Systemen gestellt hat. Wahrscheinlich ist auch die hohe Eingriffstiefe in die Grundrechte aller Passanten der Grund, warum biometrische Gesichtserfassung ebenfalls nicht zum Einsatz kommen soll.

Im Herbst 2025 wurde seitens der Polizei das Gespräch mit den Verantwortlichen für die Gebäude gesucht, da Denkmalschutzfragen bei der Anbringung von Videokameras zu beachten sind, wenn sie an der Gebäudehülle befestigt werden. Zugleich sind in der Leistungsbeschreibung aber auch mobile Kamerasysteme für die Überwachung des Berliner Abgeordnetenhauses vorgesehen. Selbst Drohnen sind schon mitgeplant, werden im Dokument allerdings als „optional“ bezeichnet.

Aus der Leistungsbeschreibung geht hervor, dass die Aufzeichnungen der mobilen Kameras in das Gesamtsystem integrierbar sein und „mit identischen Alarmierungsregeln“ arbeiten sollen. Auch der Video-Stream von Drohnen soll mit den gleichen Funktionen wie bei den stationären Lösungen arbeiten.

Technisch dürfte das Erkennen der Verhaltensmuster für die Alarme bei mobilen Kameras und bei Drohnenaufnahmen von oben oder von schräg oben neue Anforderungen an die Software bringen. Denn bewegliche Kamerasysteme oder die Draufsicht verändern natürlich die Muster, die zu bewerten sind. Zudem sollen auch „temporäre oder ad-hoc-Kameras“ integriert werden.

Als geplanter Baubeginn an den Gebäuden war der 1. September 2026 vorgesehen. Für Ende 2026 ist das Anlaufen des Systems geplant, in „Kooperation mit dem Fraunhofer-Institut“. Damit dürfte das Fraunhofer IOSB (Optronik, Systemtechnik und Bildauswertung) aus Karlsruhe gemeint sein, das bereits seit fast einem Jahrzehnt mit der Mannheimer Polizei Verhaltensscanner testet. Wie erfolgreich das dortige Langzeitprojekt ist und mit welchen Fehlerraten die Polizisten umgehen müssen, ist öffentlich nicht bekannt.

Was soll das System erkennen?

Welche beweglichen Objekte mit welchen Parametern das System in Berlin erkennen und bewerten soll, ist nicht abschließend definiert. Lediglich Beispiele wie Personen, Fahrzeugarten, Farben, Kopfbedeckungen oder Taschen und Rucksäcke listet die Leistungsbeschreibung auf.

Jedoch sind darin die Szenarien verzeichnet, die erkannt werden sollen. Zwingend erkannt werden müssen demnach diejenigen zurückgelassenen Gegenstände, die größer als 30 Zentimeter sind und länger als 30 Sekunden herumliegen. Auch unzulässig abgestellte Objekte in zuvor definierten Sicherheitsbereichen muss das System erkennen können. Zudem soll es verpflichtend Beschädigungen von Zäunen oder Toren erkennen.

Weitere in der Leistungsbeschreibung angegebene Erkennungsleistungen sind nicht als Muss-Eigenschaften definiert, aber gewünscht. Alarm auslösen soll das Betreten gesperrter Bereiche, das Überschreiten virtueller Linien, das Klettern auf Zäune und Mauern und das „Tailgating“, wenn also ein Mensch oder Objekt sich dicht hinter einem anderen hinterherbewegt.

Daneben wäre es wünschenswert, dass auch laute Geräusche detektiert werden, die mehr als zehn Sekunden über 85 dB(A) liegen. Ebenso soll das System möglichst alarmieren, wenn bestimmte akustische Muster auf einen Schusswaffengebrauch oder Detonationen weisen.

Was das Verhalten von Menschen im Bereich der Überwachung angeht, soll das Werfen von Gegenständen und Sprüh-/Schmierhandlungen erkannt werden. Auch Lichtprojektionen sollen einen Alarm auslösen.

Die zu erkennenden Verhaltensauffälligkeiten bei Menschen sind abschließend aufgelistet, aber nicht als Muss-Eigenschaften des Systems markiert:

Langes Verharren/Umhergehen ohne Anlass,
Langanhaltendes Fotografieren,
Anbringen/Entwenden von Objekten,
Diebstahlhandlungen […],
Wiederholtes Erscheinen (ohne biometrische Identifikation).

Fehlalarme unvermeidlich

Da solche Verhaltens- und Mustererkennung immer fehlerbehaftet ist, sollen die aufgezeichneten Fehlalarme aus einer anfänglichen dreimonatigen Erprobungsphase dazu genutzt werden, das System möglichst zu verbessern. Das sieht die Leistungsbeschreibung explizit vor. Erst danach soll der neunmonatige „Probeechtbetrieb“ starten.

Das Nachlernen ist jedoch kein einfaches Unterfangen, da dazu echte Aufnahmen von Menschen herangezogen werden würden. Deren Grundrechte müssen beachtet werden, sie können nicht ungefragt als Eingangsmaterial für KI-Training herhalten.

Zudem muss dabei das Diskriminierungverbot beachtet werden. Beispielsweise bewegen sich Menschen mit physischen Störungen, Autismus oder körperlichen Behinderungen oft anders und damit auffällig im Sinne einer technischen Mustererkennung. Sie dürfen dennoch nicht diskriminiert werden.

Das Problem löst die Polizei dadurch, dass sie einfach die „Sicherstellung diskriminierungsfreier Algorithmen“ festlegt. Angefügt ist daran eine Fußnote: „Es ist darzulegen, wie dies erreicht wird.“

Bei den Fehlerraten wird es hingegen genauer: „Die KI-gestützte Videoanalyse muss mit einer Gesamterkennungsgenauigkeit von mindestens ≥ 95 % operieren.“ Das bezieht sich auf alle Arten der Objekt- und Mustererkennung der Software. Weiter schreibt die Leistungsbeschreibung vor: „Die maximale durchschnittliche Fehlalarmrate soll nicht höher als 25 % über alle Szenarien liegen.“

Diese Vorgaben sind für Systeme der Mustererkennung erstaunlich gering. Denn praktisch bedeutet das: Die Software darf sich viele Fehler leisten und damit ständig zahlreiche Fehlalarme ausgeben, aber auch zu detektierende Objekte oder Verhaltensweisen unerkannt lassen. Für einzelne Szenarien dürfen auch über ein Viertel aller Alarme falsch sein, nur durchschnittlich darf die Fehlalarmrate 25 % nicht überschreiten.

Ob das erklärte Ziel, die Polizei beim Objektschutz zu entlasten, mit der Software erreicht werden kann, hängt natürlich von diesen Vorgaben ab. Die eingangs vorgegebene Fehlalarmquote soll nach dem dreimonatigen Test und dem „Nachtrainieren“ möglichst noch sinken.

Was jedoch nicht sinken soll, ist die Anzahl der Gebäude, bei denen die Kameras mit Verhaltensscanner eingesetzt werden können. Denn der Berliner Innenstaatssekretär Christian Hochgrebe (SPD) hat bereits angekündigt, auch Botschaften und andere gefährdete Orte in den Blick zu nehmen.

Wie gut das System nach einem Jahr Test und „Probeechtbetrieb“ wirklich arbeitet, das dürfte die Öffentlichkeit schon wegen der bereits vorgesehenen Ausweitung der Überwachung interessieren. Aber die Wahrscheinlichkeit ist hoch, dass die Ergebnisse verheimlicht werden. Denn aus dem Langzeittest der Polizei in Mannheim ist bereits bekannt, dass einmal in Betrieb genommene Systeme jahrelang weiterlaufen, ohne dass die Ergebnisse veröffentlicht oder sie gar unabhängig evaluiert werden.

Vielleicht könnte aber die anstehende Wahl in Berlin die Weichen noch anders stellen: Grüne, Linke und FDP wollen die Videoüberwachung begrenzen. Wie das BSW zeigt sich die SPD im Wahlprogramm auch eher moderat bei dem Thema. Indes hat die SPD aber als derzeitige Regierungspartei die Ausweitung der gesetzlichen Befugnisse in der Novelle des Allgemeinen Sicherheits- und Ordnungsgesetzes (ASOG) und damit die Verhaltensscanner im Polizeigesetz erst ermöglicht. Gewönnen hingegen die CDU und die AfD viele Stimmen, wäre es deren erklärter Willen, die Videoüberwachung quantitativ und qualitativ auszubauen.

Der Ausgang der Wahl und die nachfolgende Regierungsbildung ist noch ungewiss. Nach dem IT-Angriff auf die Berliner Verwaltung ist es ebenfalls ungewiss, ob die IT-Sicherheit in der Hauptstadt auf die Schnelle von mangelhaft auf vorzeigbar umgestellt werden kann. Das könnte dazu beitragen, dass irgendwann auch die Ergebnisse der Verhaltensscanner-Test ungewollt öffentlich werden.

Constanze Kurz ist promovierte Informatikerin, Autorin und Herausgeberinvon Büchern, zuletzt Cyberwar. Ihre Kolumne „Aus dem Maschinenraum“erschien von 2010 bis 2019 im Feuilleton der FAZ. Sie lebt in Berlin und ist ehrenamtlich Sprecherin des Chaos Computer Clubs. Sie war Sachverständige der Enquête-Kommission „Internet und digitale Gesellschaft“ des Bundestags. Sie erhielt den Toleranz-Preis für Zivilcourage und die Theodor-Heuss-Medaille. Kontakt: E-Mail (OpenPGP). Dieser Beitrag ist eine Übernahme von netzpolitik, gemäss Lizenz Creative Commons BY-NC-SA 4.0.

#algorithmischediskriminierung #asog #berlin #drohnen #mustererkennung #polizeigesetzberlin