Quelle: Gettyimages.ru © picture alliance / ContributorSymbolbild: Für die Olympiade 2024 in Paris soll KI-basierte Videoüberwachung getestet werden.
Die Olympischen Sommerspiele 2024 sollen vom 26. Juli bis zum 11. August 2024 in der französischen Hauptstadt Paris stattfinden. Im Rahmen der diesbezüglichen Sicherheitsvorkehrungen mussten im Januar dieses Jahres die Abgeordneten der französischen Nationalversammlung erstmalig in der Geschichte Frankreichs – und der Europäischen Union – über “den Einsatz eines flächendeckenden KI-gesteuerten Videosystems zur Massenüberwachung” abstimmen.
Der dafür geschaffene Gesetzentwurf, der vom französischen Senat im Januar das eindeutige Ergebnis von 245 Ja- und 28 Nein-Stimmen erhielt, wurde im Anschluss am 23. März von der Nationalversammlung im Rahmen eines beschleunigten Gesetzgebungsverfahrens final bestätigt. Frankreich wird durch diese Entscheidung der Abgeordneten damit der erste Staat in der Europäischen Union sein, der den Einsatz künstlicher Intelligenz zu Sicherheitszwecken über eine Gesetzesvorgabe legalisiert.
Nach Angaben der beteiligten Abgeordneten wird die geplante “gigantische Überwachungsstruktur ‘probeweise’ eingesetzt, um Schutz und Sicherheit während der Spiele zu gewährleisten”, berichtet die NGO “Amnesty International”. Die Menschenrechtsorganisation befürchtet, dass “das Gesetz die Befugnisse der Polizei erweitern wird, indem es das Arsenal an Überwachungseinrichtungen der Regierung dauerhaft vergrößert”.
Der “Pate der Künstlichen Intelligenz” spricht eine drastische Warnung aus und verlässt Google
Hinsichtlich der nun abgesegneten politischen Pläne hatten sich zahlreiche Organisationen der Zivilgesellschaft in Frankreich gegen das Gesetz mahnend geäußert. So informiert die investigative und regierungskritische Webseite Mr. Mondialisation, dass “offensichtlich unter dem Vorwand, die Sicherheit solcher Veranstaltungen im Falle eines physischen Personalmangels, bei dem 20.000 Sicherheitskräfte benötigt würden”, dieses neue Gesetz den Weg “für die Banalisierung des Einsatzes künstlicher Intelligenz in unseren Sicherheitssystemen” und damit “eine gefährliche Rechtsgrundlage für ihre künftige Entwicklung im öffentlichen Raum” schafft. Weiter heißt es in dem Artikel:
“Nach Ansicht seiner Gegner verstößt das Gesetz gegen die Grundsätze der Notwendigkeit und Verhältnismäßigkeit und birgt die Gefahr, dass zahlreiche Grundfreiheiten verletzt werden. Außerdem wird der Regierung vorgeworfen, keinen Dialog mit der Zivilgesellschaft über den Einsatz dieser Art von Technologie geführt zu haben.”
Agnès Callamard, internationale Generalsekretärin von Amnesty International, kommentierte bereits im März zu dem KI-Gesetz:
“Den Sicherheitsapparat mit KI-gesteuerter Überwachungstechnologie zu ergänzen ist ein gefährliches politisches Vorhaben, das zu weitreichenden Menschenrechtsverletzungen führen könnte. Jede Handlung im öffentlichen Raum wird dann in ein Fangnetz aus Überwachungsinfrastruktur hineingezogen, was grundlegende bürgerliche Freiheiten untergräbt.”
Obwohl das Sicherheitsbedürfnis während des Sportevents verständlich sei, “stellen diese pauschalen Anwendungen KI-gesteuerter Massenüberwachung einen eklatanten Verstoß gegen das Recht auf Privatsphäre und andere Rechte dar”, so Callamard kritisch bewertend. Amnesty skizziert die Folgen und Auswirkungen des verabschiedeten Gesetzes:
“Falls die KI-gesteuerten Massenüberwachungsmaßnahmen zum Einsatz kommen, werden Millionen Menschen – ob sie nun unterwegs zu den Stadien sind oder die öffentlichen Verkehrsmittel nutzen, um die Veranstaltungsorte des großen Sportevents zu besuchen – auf Schritt und Tritt verfolgt und überwacht werden.”
Die geschaffene “Allgegenwart von Überwachungskameras und -drohnen während der Spiele” würde damit Sicherheitskräften per gesetzlichem Freischein erlauben, “verdächtige” oder “unnormale Aktivitäten in den Menschenmengen zu erkennen” und daraus resultierend in aktiven Vorbeugemaßnahmen willkürlich einzuschreiten. So regelt Artikel 7 des Gesetzes vorformulierend:
“Die algorithmische Verarbeitung von Bildern aus Videoüberwachungsanlagen erlaubt, gefährliche Situationen für die Sicherheit von Personen bei Sport-, Fest- oder Kulturveranstaltungen zu verhindern, darunter insbesondere terroristische Situationen.”
Chef der US-Heimatschutzbehörde ruft KI-Taskforce ins Leben
Dabei würden unter Mithilfe des KI-Systems sogenannte “erweiterte” Kameras Bilder in Echtzeit “automatisch durch Algorithmen analysieren, um vorbestimmte Ereignisse oder Verhaltensweisen wie Menschenmengen, Schlägereien, Gesten oder Verhaltensweisen, die als verdächtig gelten, usw. zu erkennen”. Erweitert ist geplant, diese Technik zum Beispiel auch bei Fußball-Großveranstaltungen einzusetzen. Laut bisherigen Informationen soll die “Erprobung der intelligenten Videoüberwachung” bis Juni 2025 weiterlaufen.
38 internationale Zivilorganisationen ‒ darunter Human Rights Watch, AlgorithmWatch, Chaos Computer Club, Deutsche Vereinigung für Datenschutz e.V., Irish Council for Civil Liberties, Elektronisk Forpost Norge ‒ haben die Verwendung dieser neuen Technologie im öffentlichen Raum angeprangert und in einem öffentlichen Brief die Rücknahme von Artikel 7 des Gesetzes gefordert. Frederike Kaltheuner, Leiterin der Abteilung Technologie und Menschenrechte bei “Human Rights Watch”, wird mit dem Wortlaut des Briefes zitiert:
“Unseren Organisationen zufolge würde die im Gesetzentwurf enthaltene Überwachungsbestimmung eine ernsthafte Bedrohung für die bürgerlichen Freiheiten und demokratischen Grundsätze darstellen. Sie würde das Risiko einer rassistischen Diskriminierung bei der Rechtsdurchsetzung erhöhen und einen weiteren Schritt in Richtung der Normalisierung außergewöhnlicher Überwachungsmaßnahmen unter dem Vorwand der Gewährleistung der Sicherheit bei Großveranstaltungen darstellen.”
Bastien Le Querrec, Jurist und Mitglied von La Quadrature du Net, informierte in der Zeitung Le Parisien, dass “einige Unternehmen wie die israelische BriefCam” bereits damit werben, dass ihre Software in der Lage sei, “Personen mit bestimmten physischen Merkmalen zu erkennen, wie z.B. Personen mit einem roten Mantel”.
Das Europäische Parlament hatte zuvor im Jahr 2021 ein “dauerhaftes Verbot der Verwendung von automatisierten Analysen, menschlichen Merkmalen und anderen biometrischen und verhaltensbezogenen Signalen” gefordert. Es wird sich nun zeigen, ob der französische Gesetzesvorstoß mit dem “europäischen Gesetz über künstliche Intelligenz” in Konflikt gerät, welches in diesem Jahr theoretisch noch vom Europäischen Parlament verabschiedet werden soll.
Die französische Regierung versucht dahingehend die Kritiker zu beruhigen, dass der Überwachungsprozess “unter ständiger menschlicher Kontrolle stehe, mit der Möglichkeit, jederzeit unterbrochen zu werden”. Innenminister Gérald Darmanin erklärte, dass es “nicht darum geht, diese oder jene Person ins Visier zu nehmen, sondern Personen, die auf eine bestimmte Ausschreibung reagieren, oder auch bestimmte Kategorien von Handlungen, wie die Beschädigung öffentlicher Güter”. Die gesammelten Daten würden dabei “anonymisiert” werden.
