De Andere Krant – Olympische Spelen testcase voor AI-controlesamenleving: Ido Dijkstra.

Tony Estanguet, president van het organisatiecomité van de Olympische Spelen in Parijs, noemt de hoofdstad van Frankrijk momenteel de “veiligste plek op aarde”. De voormalig drievoudig olympisch kampioen kanovaren vertelt dat kosten noch moeite zijn gespaard om het grootste multisportevenement ter wereld te vrijwaren van (terroristische) aanslagen. Liefst 45.000 politieagenten (gendarmarie) en nog eens 10.000 soldaten paraderen dezer dagen door de straten van ‘de stad van het licht’ om ervoor te zorgen dat iedereen zich veilig kan wanen.

Het centrum van Parijs is daarvoor ingedeeld in twee ‘veiligheidsperimeters’. De rode en grijze zone zijn alleen toegankelijk voor mensen die een Pass Jeux hebben, oftewel een QR-toegangscode die toegang geeft tot het afgebakende gebied, overigens tot afgrijzen van vele Parijzenaren die hierdoor slechts sterk beperkt door hun woonplaats kunnen navigeren. Diverse bruggen rond de Seine zijn afgesloten en zo’n 44.000 ijzeren hekken zorgen er in het hart van het centrum voor dat de mensen zich als kuddedier moeten voortbewegen door de wereldstad. Niet voor niets wordt overal opgeroepen Parijs te mijden, de komende weken.

Waar de autoriteiten op veiligheidsgebied helemaal prat op gaan, is de grootschalige inzet van kunstmatige intelligentie. De overheid heeft – in samenwerking met techbedrijven – de stad vol gehangen met duizenden krachtige, geavanceerde surveillancecamera’s die opereren op basis van artificial intelligence (AI)-software. Daarnaast vliegen er ook nog drones met slimme camera’s door de stad. Met al deze digitale ogen zijn de veiligheidsdiensten in staat ­realtime (zon­der ver­tra­ging die wordt ver­oor­zaakt door het ver­zen­den van da­ta) mogelijke veiligheidsproblemen te detecteren, zo wordt beweerd.

Hoe dat in zijn werk gaat, legt onder andere France 24 – Frankrijks 24-uur internationale nieuwszender – in een filmpje uit. De AI-camera’s, waarmee ook het ov (lees: vooral de metro) volhangt, zijn in staat in een halve minuut ‘onregelmatigheden’ te signaleren. “Denk aan het signaleren van verdachte personen of voertuigen in verboden gebieden, het herkennen van verlaten bagage in het openbaar vervoer en het detecteren van abnormale situaties in gebieden waar heel veel mensen samenklonteren, zoals de pleinen waar de fans samenkomen. De software is in staat het te herkennen”, aldus Quinten Barenne, de oprichter van Wintics. De camera’s van Wintics zijn volgens hem ontwikkeld om “veiligere, meer duurzame en leefbare steden en infrastructuren te ondersteunen”.

Tot vorig jaar was deze verregaande vorm van surveillance wettelijk gezien niet toegestaan, omdat deze in conflict is met Franse en Europese wetgeving. President Emmanuel Macron heeft het desondanks voor elkaar gekregen een jaar voor het evenement nieuwe controlewetten door het parlement te loodsen. Wet nr. 2023-380 voorziet nu in een ‘legaal framework voor de Olympische en Paralympische Spelen van 2024’. Vooral artikel 7 is daarin controversieel: het stelt de Franse wetshandhavers en de uitvoerders ervan in staat te experimenteren met intelligente videobewaking, zowel voor, tijdens als na de Olympische Spelen. In artikel 10 staat dat het zelfs is toegestaan AI-software toe te passen op de video- en camerabeelden.

Anne Toomey McKenna, een rechtsgeleerde professor van de universiteit van Richmond (VS), schreef voor The Conversation – een onafhankelijke, nonprofit nieuwsdienst – een uitgebreid artikel waarin ze haar zorgen deelt. “Frankrijk is een lidstaat van de Europese Unie. De Algemene Verordening Gegevensbescherming (AVG) van de EU is een van de sterkste wetten op het gebied van gegevensprivacy ter wereld. Dan is er ook nog de AI-wet van de EU om schadelijk gebruik van AI-technologieën te reguleren. Als lid van de EU moet Frankrijk de EU-wetgeving volgen. Deze wetten maken van Frankrijk het eerste EU-land dat een dergelijk verreikend AI-aangedreven surveillancesysteem legaliseert.” Brussel heeft, zoals verwacht, Frankrijk geen beperkingen opgelegd. Het lijkt er eerder op dat Frankrijk de Europese deur naar deze vorm van digitale surveillance heeft opengezet.

De kunstmatige intelligentie zal in Parijs nog niet zijn volle potentieel benutten. Hoewel de AI er wel al toe in staat is, belooft Frankrijk geen gebruik te zullen maken van biometrische (persoons)gegevens, zoals gezichtsherkenning. Barenne stelt dat de AI tijdens de Spelen werkt op basis van de shadow puppets­techniek. “De AI kijkt naar de vorm van de silhouetten van bijvoorbeeld de auto, scooter of de persoon en kijkt dan naar de rol ervan in de context. Bijvoorbeeld: rijdt een verdachte auto een gebied met een autoverbod in, dan alarmeren we de video-analist, die dan het grotere plaatje kan bekijken en het risico voor de omgeving kan inschatten”, stelt hij. In het geval van een achtergebleven koffer in de metro, herkent de AI dat binnen een halve minuut, belooft hij. Een video-analist kan vervolgens oordelen of het mogelijk een bomkoffer betreft.

De Franse overheid gebruikt deze terroristische dreiging als belangrijkste argument om de noodzaak van de uitgebreide AI-surveillance te verantwoorden, daarbij sterk inspelend op de angst voor een herhaling van de aanslagen die de stad in 2015 troffen. President Macron beweert dat het “een tijdelijk experiment is”, maar de wet maakt het mogelijk om in elk geval tot 31 maart 2025, ruim een halfjaar na het sportevenement, nog gebruik te maken van de AI-camera’s.

Noémie Levain van La Quadrature de Net – een Franse privacyrechtenbewaker – voorspelt dat de Spelen slechts het begin van meer surveillance in bewoonde gebieden zullen betekenen. “We zien al dat de bedrijven achter deze technologie aan het lobbyen zijn om de regelgeving permanent in de wet te laten opnemen. Dat is altijd al de wens geweest. De Olympische Spelen zijn het perfecte uitbuitingsinstrument gebleken om dit proces te versnellen, onder het voorwendsel dat het publiek meer veiligheid moet worden geboden.”

Ook hecht ze weinig waarde aan de belofte dat er geen biometrische data gebruikt zal worden. “Dat is slechts een communicatiestrategie om het grote ­plaatje te vertroebelen: ze zijn druk bezig met het analyseren van wat er gebeurt in de publieke ruimte. We zien een ontwikkeling ontstaan waarin mensen permanent geclassificeerd worden op basis van lichaamskenmerken en gedrag. Alleen dat is al een grove overtreding van onze privacyrechten.”

De zorgen over privacymisbruik worden overigens breder gedeeld en zelfs de reguliere media schrijven er mondjesmaat over. Ook mensenrechtenorganisatie Amnesty International trekt aan de bel: “Terwijl Frankrijk zichzelf neerzet als kampioen van mensenrechten wereldwijd, is de keuze om AI-gedreven massasurveillance in te zetten tijdens de Spelen een frontale aanval op diverse rechten rond privacy, protest, vrijheid van samenkomst en expressie.”