Kameras, Drohnen, Verhaltensscanner
Kameras und Drohnen in Berlin: Was Verhaltensscanner erkennen sollen
Fest angebrachte und mobile Kamerasysteme der Polizei sollen in Berlin gefährdete Objekte überwachen und dabei dauerhaft alles scannen, was sich drumherum bewegt. Auch Drohnenaufnahmen könnten mit Verhaltensscannern kombiniert werden. Das geht aus einer Leistungsbeschreibung hervor, die nun öffentlich wurde.
Der IT-Angriff von Anfang August auf die Berliner Verwaltung und die nachfolgende Veröffentlichung von knapp anderthalb Millionen Dateien liefert auch Einblicke in Überwachungsprojekte der Polizei mit Objekterkennung und Verhaltensscannern. Denn unter den von den Angreifern veröffentlichten Dokumenten ist das Leistungsverzeichnis zum „Projekt zur Erprobung KI-gestützter Videotechnik“ (pdf). Darin sind die technischen Anforderungen detailliert formuliert, die der Auftragnehmer für das gewünschte Computersystem der Berliner Polizei zu erfüllen hat.
Vereinfacht gesprochen soll das Überwachungssystem Aufzeichnungen von Kameras in vorab festlegten Bereichen des öffentlichen Raums und nach vordefinierten Kriterien durchforsten und Alarm schlagen, wenn es auffällige Objekte oder Bewegungsmuster erkennt. Die Leistungsbeschreibung listet auf, welches auffällige Verhalten und welche Bewegungen zu einer Alarmierung führen sollen.
Bei allen Verdachtssituationen soll ein Polizist auf die Aufzeichnungen der automatischen Mustererkennung schauen und entscheiden, was danach passiert. Eine solche Anschlussmaßnahme kann beispielsweise das rechtssichere Speichern der Aufzeichnung sein oder das Hinschicken von Polizeikollegen zur Festnahme eines aufgezeichneten Menschen.
Es geht nicht um die Verhaltensscanner an den sogenannten „kriminalitätsbelasteten Orten“, sondern diesmal um den polizeilichen Objektschutz, konkret um das Berliner Rote Rathaus, das Abgeordnetenhaus und den Sitz der Senatsverwaltung für Inneres und Sport. Dort will die Polizei „KI-gestützte“ Überwachungssysteme testen, bevor sie in den Regelbetrieb gehen.
Rund um diese Gebäude werden in der Leistungsbeschreibung die gewünschten Details der automatisierten Auswertung der Videoaufnahmen aufgelistet. Dass auch das Abgeordnetenhaus zur Überwachungsliste gehört, blieb nicht ohne Kritik: Niklas Schrader von der Fraktion der Linken nannte das einen „Affront gegen das Parlament“, wenn die Abgeordneten „Versuchskaninchen für die KI-Experimente der Polizei“ würden.
Mobile Kamerasysteme und Drohnen mit Verhaltensscannern
Eine selbstlernende Software ist in der Leistungsbeschreibung nicht vorgesehen, sondern das „Human-in-the-Loop-Prinzip“. Soll heißen: Eigenständig sollen die Systeme aus bereits gemachten Aufnahmen keine Schlüsse ziehen können. Die Einschränkung dürfte den hohen Anforderungen geschuldet sein, die das Bundesverfassungsgericht an den Schutz der Grundrechte bei selbstlernenden Systemen gestellt hat. Wahrscheinlich ist auch die hohe Eingriffstiefe in die Grundrechte aller Passanten der Grund, warum biometrische Gesichtserfassung ebenfalls nicht zum Einsatz kommen soll.
Im Herbst 2025 wurde seitens der Polizei das Gespräch mit den Verantwortlichen für die Gebäude gesucht, da Denkmalschutzfragen bei der Anbringung von Videokameras zu beachten sind, wenn sie an der Gebäudehülle befestigt werden. Zugleich sind in der Leistungsbeschreibung aber auch mobile Kamerasysteme für die Überwachung des Berliner Abgeordnetenhauses vorgesehen. Selbst Drohnen sind schon mitgeplant, werden im Dokument allerdings als „optional“ bezeichnet.
Aus der Leistungsbeschreibung geht hervor, dass die Aufzeichnungen der mobilen Kameras in das Gesamtsystem integrierbar sein und „mit identischen Alarmierungsregeln“ arbeiten sollen. Auch der Video-Stream von Drohnen soll mit den gleichen Funktionen wie bei den stationären Lösungen arbeiten.
Technisch dürfte das Erkennen der Verhaltensmuster für die Alarme bei mobilen Kameras und bei Drohnenaufnahmen von oben oder von schräg oben neue Anforderungen an die Software bringen. Denn bewegliche Kamerasysteme oder die Draufsicht verändern natürlich die Muster, die zu bewerten sind. Zudem sollen auch „temporäre oder ad-hoc-Kameras“ integriert werden.
Als geplanter Baubeginn an den Gebäuden war der 1. September 2026 vorgesehen. Für Ende 2026 ist das Anlaufen des Systems geplant, in „Kooperation mit dem Fraunhofer-Institut“. Damit dürfte das Fraunhofer IOSB (Optronik, Systemtechnik und Bildauswertung) aus Karlsruhe gemeint sein, das bereits seit fast einem Jahrzehnt mit der Mannheimer Polizei Verhaltensscanner testet. Wie erfolgreich das dortige Langzeitprojekt ist und mit welchen Fehlerraten die Polizisten umgehen müssen, ist öffentlich nicht bekannt.
Was soll das System erkennen?
Welche beweglichen Objekte mit welchen Parametern das System in Berlin erkennen und bewerten soll, ist nicht abschließend definiert. Lediglich Beispiele wie Personen, Fahrzeugarten, Farben, Kopfbedeckungen oder Taschen und Rucksäcke listet die Leistungsbeschreibung auf.
Jedoch sind darin die Szenarien verzeichnet, die erkannt werden sollen. Zwingend erkannt werden müssen demnach diejenigen zurückgelassenen Gegenstände, die größer als 30 Zentimeter sind und länger als 30 Sekunden herumliegen. Auch unzulässig abgestellte Objekte in zuvor definierten Sicherheitsbereichen muss das System erkennen können. Zudem soll es verpflichtend Beschädigungen von Zäunen oder Toren erkennen.
Weitere in der Leistungsbeschreibung angegebene Erkennungsleistungen sind nicht als Muss-Eigenschaften definiert, aber gewünscht. Alarm auslösen soll das Betreten gesperrter Bereiche, das Überschreiten virtueller Linien, das Klettern auf Zäune und Mauern und das „Tailgating“, wenn also ein Mensch oder Objekt sich dicht hinter einem anderen hinterherbewegt.
Daneben wäre es wünschenswert, dass auch laute Geräusche detektiert werden, die mehr als zehn Sekunden über 85 dB(A) liegen. Ebenso soll das System möglichst alarmieren, wenn bestimmte akustische Muster auf einen Schusswaffengebrauch oder Detonationen weisen.
Was das Verhalten von Menschen im Bereich der Überwachung angeht, soll das Werfen von Gegenständen und Sprüh-/Schmierhandlungen erkannt werden. Auch Lichtprojektionen sollen einen Alarm auslösen.
Die zu erkennenden Verhaltensauffälligkeiten bei Menschen sind abschließend aufgelistet, aber nicht als Muss-Eigenschaften des Systems markiert:
- Langes Verharren/Umhergehen ohne Anlass,
- Langanhaltendes Fotografieren,
- Anbringen/Entwenden von Objekten,
- Diebstahlhandlungen […],
- Wiederholtes Erscheinen (ohne biometrische Identifikation).
Fehlalarme unvermeidlich
Da solche Verhaltens- und Mustererkennung immer fehlerbehaftet ist, sollen die aufgezeichneten Fehlalarme aus einer anfänglichen dreimonatigen Erprobungsphase dazu genutzt werden, das System möglichst zu verbessern. Das sieht die Leistungsbeschreibung explizit vor. Erst danach soll der neunmonatige „Probeechtbetrieb“ starten.
Das Nachlernen ist jedoch kein einfaches Unterfangen, da dazu echte Aufnahmen von Menschen herangezogen werden würden. Deren Grundrechte müssen beachtet werden, sie können nicht ungefragt als Eingangsmaterial für KI-Training herhalten.
Zudem muss dabei das Diskriminierungverbot beachtet werden. Beispielsweise bewegen sich Menschen mit physischen Störungen, Autismus oder körperlichen Behinderungen oft anders und damit auffällig im Sinne einer technischen Mustererkennung. Sie dürfen dennoch nicht diskriminiert werden.
Das Problem löst die Polizei dadurch, dass sie einfach die „Sicherstellung diskriminierungsfreier Algorithmen“ festlegt. Angefügt ist daran eine Fußnote: „Es ist darzulegen, wie dies erreicht wird.“
Bei den Fehlerraten wird es hingegen genauer: „Die KI-gestützte Videoanalyse muss mit einer Gesamterkennungsgenauigkeit von mindestens ≥ 95 % operieren.“ Das bezieht sich auf alle Arten der Objekt- und Mustererkennung der Software. Weiter schreibt die Leistungsbeschreibung vor: „Die maximale durchschnittliche Fehlalarmrate soll nicht höher als 25 % über alle Szenarien liegen.“
Diese Vorgaben sind für Systeme der Mustererkennung erstaunlich gering. Denn praktisch bedeutet das: Die Software darf sich viele Fehler leisten und damit ständig zahlreiche Fehlalarme ausgeben, aber auch zu detektierende Objekte oder Verhaltensweisen unerkannt lassen. Für einzelne Szenarien dürfen auch über ein Viertel aller Alarme falsch sein, nur durchschnittlich darf die Fehlalarmrate 25 % nicht überschreiten.
Ob das erklärte Ziel, die Polizei beim Objektschutz zu entlasten, mit der Software erreicht werden kann, hängt natürlich von diesen Vorgaben ab. Die eingangs vorgegebene Fehlalarmquote soll nach dem dreimonatigen Test und dem „Nachtrainieren“ möglichst noch sinken.
Was jedoch nicht sinken soll, ist die Anzahl der Gebäude, bei denen die Kameras mit Verhaltensscanner eingesetzt werden können. Denn der Berliner Innenstaatssekretär Christian Hochgrebe (SPD) hat bereits angekündigt, auch Botschaften und andere gefährdete Orte in den Blick zu nehmen.
Wie gut das System nach einem Jahr Test und „Probeechtbetrieb“ wirklich arbeitet, das dürfte die Öffentlichkeit schon wegen der bereits vorgesehenen Ausweitung der Überwachung interessieren. Aber die Wahrscheinlichkeit ist hoch, dass die Ergebnisse verheimlicht werden. Denn aus dem Langzeittest der Polizei in Mannheim ist bereits bekannt, dass einmal in Betrieb genommene Systeme jahrelang weiterlaufen, ohne dass die Ergebnisse veröffentlicht oder sie gar unabhängig evaluiert werden.
Vielleicht könnte aber die anstehende Wahl in Berlin die Weichen noch anders stellen: Grüne, Linke und FDP wollen die Videoüberwachung begrenzen. Wie das BSW zeigt sich die SPD im Wahlprogramm auch eher moderat bei dem Thema. Indes hat die SPD aber als derzeitige Regierungspartei die Ausweitung der gesetzlichen Befugnisse in der Novelle des Allgemeinen Sicherheits- und Ordnungsgesetzes (ASOG) und damit die Verhaltensscanner im Polizeigesetz erst ermöglicht. Gewönnen hingegen die CDU und die AfD viele Stimmen, wäre es deren erklärter Willen, die Videoüberwachung quantitativ und qualitativ auszubauen.
Der Ausgang der Wahl und die nachfolgende Regierungsbildung ist noch ungewiss. Nach dem IT-Angriff auf die Berliner Verwaltung ist es ebenfalls ungewiss, ob die IT-Sicherheit in der Hauptstadt auf die Schnelle von mangelhaft auf vorzeigbar umgestellt werden kann. Das könnte dazu beitragen, dass irgendwann auch die Ergebnisse der Verhaltensscanner-Test ungewollt öffentlich werden.
Constanze Kurz ist promovierte Informatikerin, Autorin und Herausgeberinvon Büchern, zuletzt Cyberwar. Ihre Kolumne „Aus dem Maschinenraum“erschien von 2010 bis 2019 im Feuilleton der FAZ. Sie lebt in Berlin und ist ehrenamtlich Sprecherin des Chaos Computer Clubs. Sie war Sachverständige der Enquête-Kommission „Internet und digitale Gesellschaft“ des Bundestags. Sie erhielt den Toleranz-Preis für Zivilcourage und die Theodor-Heuss-Medaille. Kontakt: E-Mail (OpenPGP). Dieser Beitrag ist eine Übernahme von netzpolitik, gemäss Lizenz Creative Commons BY-NC-SA 4.0.
