6G Matrix

Pre-crime

Je kenteken maakt je verdacht, voordat je iets gedaan hebt.

6GIoTIoBNanoAI TwinStaatMilitairIndustrieKapitaalBurger
Wat komt er?5 DOSSIERS · TECHNIEKWie trekt eraan?5 DOSSIERS · ACTORENWaartoe?5 DOSSIERS · CONTROL
Casus

Wie rond 2020 in en rond Roermond autoreed, werd geregistreerd. Volgens Amnesty International legde de politie met camera's en andere sensoren alle auto's en hun bewegingen vast, en gaf een risicomodel elke auto een score: de kans dat de inzittenden kwamen zakkenrollen of winkeldieven in het winkelcentrum[1]. Bij een hoge score probeerde de politie de auto te onderscheppen.

In het profiel zat de herkomst van de auto, "gericht op drie landen", bevestigde de minister in december 2020[2]. Wie onterecht was stilgehouden, kwam op een witte lijst, zodat dat niet steeds opnieuw gebeurde[3]. Een maand eerder had de Tweede Kamer een motie verworpen om etniciteit en nationaliteit uit politie-algoritmes te weren: 72 stemmen voor, 78 tegen[4].

Hoe het werkt

Vooraf legt de politie vast welke kenmerken bij een dader zouden passen, zoals de herkomst van een auto. Sensoren toetsen iedereen die langskomt aan dat profiel, zonder dat er een verdenking is. Wie erop lijkt, wordt gecontroleerd; of hij iets van plan was, blijkt pas daarna.

Wat 6G en AI toevoegen

In Roermond stonden de sensoren op vaste plekken langs de weg. Voor 6G noemt de ITU het herkennen van voertuigen en voetgangers als typische toepassing van een netwerk dat waarneemt[5]. Dan is elke mast een meetpunt, en kan een model overal en meteen scoren, niet alleen op de weg naar één winkelcentrum. Wat zo'n netwerk kan waarnemen, staat bij Het meetende netwerk.

Of de politie dat gaat doen, is niet bekend. Dat het netwerk het kan, staat in de plannen voor 6G.

Bewijs · 5
01 · FEIT

Amnesty: in Roermond kreeg elke auto een risicoscore

In het Sensing-project in Roermond registreerde de politie met camera's en andere sensoren de auto's en bewegingen van iedereen die in en rond de stad reed. Een algoritmisch risicomodel gaf elke auto een score: de kans dat de inzittenden kwamen zakkenrollen of winkeldieven in het winkelcentrum. Bij een hoge score ('hit') probeerde de politie de auto te onderscheppen. Zo beschrijft Amnesty International het project in september 2020.

«In het Sensing-project verzamelt de politie systematisch de gegevens van alle mensen die in en rond Roermond autorijden. Via camera’s en andere sensoren verzamelt de politie informatie over voertuigen en bewegingspatronen. De politie verwerkt deze gegevens vervolgens in een algoritmisch risicomodel om de risicoscores van voertuigen te berekenen.»
02 · FEIT

De minister: de herkomst van de auto zat in het profiel

In zijn reactie aan de Tweede Kamer (11 december 2020) bevestigde de minister van Justitie en Veiligheid dat het profiel in Roermond keek naar de herkomst van de auto, gericht op drie landen. Volgens de minister is dat onderscheid, maar geen ongeoorloofd onderscheid; de officier van justitie vond het toegestaan. Wie onterecht werd stilgehouden, kwam op een 'whitelist'.

«Het klopt dat in de criteria van het profiel de herkomst van de auto gericht op drie landen is opgenomen.»
03 · FEIT

Amnesty: het model zocht naar Oost-Europese afkomst

Volgens Amnesty International waren een aantal indicatoren in het risicomodel van het Sensing-project bedoeld om vast te stellen of de inzittenden van Oost-Europese afkomst waren. De politie verbond 'mobiel banditisme' met Oost-Europeanen en met Roma. Amnesty sprak van massasurveillance en discriminatie; de minister bestreed dat.

«Een aantal van de indicatoren die de politie in het risicomodel gebruikt zijn bedoeld om vast te stellen of de personen in de auto van Oost-Europese afkomst zijn.»
04 · FEIT

Wie onterecht werd stilgehouden, kwam op een witte lijst

Volgens de minister van Justitie en Veiligheid (december 2020) kwam in Roermond een kenteken op een 'whitelist' als een hit tot een controle leidde en dat onterecht bleek, zodat een bestuurder niet steeds opnieuw onterecht werd stilgehouden.

«Als een zogenoemde hit leidt tot opvolging en dat onterecht bleek, wordt het kenteken op een zogeheten whitelist geplaatst, zodat een bestuurder niet herhaaldelijk onterecht wordt stil gehouden.»
05 · FEIT

De Kamer wees een verbod op etniciteit in politie-algoritmes af

Na het rapport over Roermond vroeg een motie van Kamerlid Van Beukering-Huijbregts en anderen de regering om te zorgen dat de politie geen algoritmes gebruikt met etniciteit of nationaliteit als risicofactor. De Tweede Kamer verwierp de motie op 17 november 2020 met 72 tegen 78 stemmen, twee maanden voordat het kabinet over de toeslagenaffaire viel.

«verzoekt de regering om te borgen dat de nationale politie geen algoritmes toepast die etniciteit of nationaliteit, of aanwijzingen daaromtrent, als risicofactor gebruiken»
Grens en tegengeluid

De minister bestreed in 2020 dat het om massasurveillance of discriminatie ging; volgens hem was het onderscheid toegestaan, en wie het daar niet mee eens was, kon naar de rechter[6]. Amnesty International zag het anders: een aantal indicatoren in het model moest vaststellen of de inzittenden van Oost-Europese afkomst waren[7].

Sinds februari 2025 verbiedt de Europese AI-verordening systemen die voorspellen of iemand een misdrijf gaat plegen op basis van alleen een profiel. Het verbod gaat over personen; voorspellingen over plekken vallen erbuiten[8]. De Amerikaanse stad Santa Cruz verbood in 2020 voorspellend politiewerk, tenzij de gemeenteraad het na toetsing toestaat[9].

In februari 2008 publiceerde het Wetenschappelijk Onderzoek- en Documentatiecentrum (WODC) een scenariostudie van onderzoekers van het Telematica Instituut, in opdracht van een werkgroep van Justitie en Binnenlandse Zaken, met horizon 2022. In het scenario De misdaad voorbij gebruikt een overheid technologie om misdaad te voorkomen. Het tijdschrift zegt dat dit niet het standpunt van de minister is[10]. De scenario's gaan over het koppelen van bronnen. Wat de inlichtingendiensten mogen, valt onder een eigen uitzondering, bij Uitzondering nationale veiligheid.

06 · FEIT

De minister: geen massasurveillance, geen discriminatie

De minister van Justitie en Veiligheid onderschreef de kritiek van Amnesty International niet. Volgens hem was er geen sprake van ongerichte massasurveillance, werd er zorgvuldig binnen de wet met gegevens omgegaan, en leidde het project niet tot discriminatie. Wie het daar niet mee eens was, kon naar de rechter.

«De claim dat hier sprake is van ongerichte massasurveillance waarbij de privacy van burgers wordt geschonden klopt niet.»
07 · FEIT

De EU verbiedt misdaadvoorspelling op alleen een profiel

De AI-verordening verbiedt sinds 2 februari 2025 AI-systemen die het risico inschatten of voorspellen dat een natuurlijk persoon een strafbaar feit pleegt, uitsluitend op basis van profilering of van persoonlijkheidskenmerken. Uitzondering: AI die een menselijke beoordeling ondersteunt die al rust op objectieve, verifieerbare feiten die direct met een criminele activiteit samenhangen. Het verbod gaat over personen; voorspellingen over plaatsen vallen er niet onder.

«the placing on the market, the putting into service for this specific purpose, or the use of an AI system for making risk assessments of natural persons in order to assess or predict the risk of a natural person committing a criminal offence, based solely on the profiling of a natural person or on assessing their personality traits and characteristics; this prohibition shall not apply to AI systems used to support the human assessment of the involvement of a person in a criminal activity, which is already based on objective and verifiable facts directly linked to a criminal activity;»
08 · FEIT

Santa Cruz verbood voorspellend politiewerk

De Amerikaanse stad Santa Cruz verbood in 2020 haar diensten om software voor voorspellend politiewerk te kopen of te gebruiken, tenzij de gemeenteraad dat na toetsing op burgerrechten toestaat. De wet omschrijft zulke software als systemen die misdaad, daders of plekken voorspellen.

«“Predictive policing technology” means software that is used to predict information or trends about crime or criminality in the past or future, including but not limited to the characteristics or profile of any person(s) likely to commit a crime, the identity of any person(s) likely to commit crime, the locations or frequency of crime, or the person(s) impacted by predicted crime.»
09 · FEIT

In 2008 schetste een scenariostudie een overheid die misdaad voorkomt

In Justitiële verkenningen van februari 2008 schetsten onderzoekers van het Telematica Instituut, in opdracht van een werkgroep van Justitie en Binnenlandse Zaken, vier scenario's met horizon 2022. In het scenario De misdaad voorbij verschuift de overheid van reactief naar proactief en gebruikt zij technologie om misdaad te voorkomen. Het tijdschrift zegt dat opname van een artikel niet betekent dat het het standpunt van de minister is. Dit is een scenariostudie, geen beleid en geen voorspelling.

«In ‘De misdaad voorbij’ zien we een verschuiving van een reactieve naar een proactieve overheid, die technologie gebruikt om te anticiperen op gebeurtenissen en misdaad te voorkomen.»
Meer gevallen
februari 2023 · DE

hessenDATA, de politie van Hessen en Palantir

In 2017 kocht de politie van de Duitse deelstaat Hessen het programma Gotham van het Amerikaanse bedrijf Palantir en gebruikte het onder de naam hessenDATA[11]. De wet omschrijft de analyse als het leggen van verbanden tussen personen, groepen, organisaties, voorwerpen en zaken[12]. In december 2022 hadden 2.099 mensen toegang, en werd het platform in ongeveer 14.000 zaken per jaar gebruikt[13].

Op 16 februari 2023 oordeelde het Duitse constitutionele hof dat de bepaling die de analyse toestond om strafbare feiten te voorkomen, onverenigbaar is met het recht op informationele zelfbeschikking, omdat er geen voldoende drempel in stond[14]. Volgens het hof liet de wet ook gegevens van mensen die er niets mee te maken hebben breed toe, waardoor zij gericht politieonderzoek konden krijgen[15].

Wie zit erachter · 4
Overheid · NL
Tweede Kamer

De Nederlandse volksvertegenwoordiging. Verwierp in november 2020 een motie om etniciteit en nationaliteit uit politie-algoritmes te weren, met 72 stemmen voor en 78 tegen.

16 ONDERWERPEN →
Ngo · mondiaal
Amnesty International

Internationale mensenrechtenorganisatie. Onderzocht in 2020 het politieproject met camera's en sensoren in en rond Roermond.

2 ONDERWERPEN →
EU-instelling · EU
Europees Parlement en Raad

Samen de wetgever van de EU. De AI-verordening, Verordening (EU) 2024/1689, is van 13 juni 2024.

30 ONDERWERPEN →
Onderzoek · IL
Yuval Noah Harari

Historicus en filosoof. Zijn site noemt hem professor, geboren in Israël in 1976, gepromoveerd aan Oxford in 2002, en docent geschiedenis aan de Hebreeuwse Universiteit van Jeruzalem. Daar staat ook dat hij in 2018, 2020 en 2026 de keynote gaf op het hoofdpodium van het World Economic Forum in Davos.

16 ONDERWERPEN →
Stemmen
01 · STEM

Maartje van den Berg

Smartcity-onderzoeker · onderzoeksjournalist · De Andere Krant

«Als er meer toezicht komt, zie je ook meer. Dat wordt opnieuw geregistreerd, waardoor steeds meer negatieve informatie over dezelfde wijk ontstaat — ook wanneer de omstandigheden veranderen.»
02 · STEM

William Binney

NSA · ThinThread

«All the terrorists would have been caught by the process that we put in place for ThinThread, which was looking and focusing in on the groups of individuals that we already had identified and anybody in close proximity to them in the social graph, plus the other simple rules like anybody that was looking at jihadi advocating sites over and over again would imply that they might be becoming radicalized, so you would put them into that zone of suspicion, too.»
Spiegels
01 · SPIEGEL

Minority Report (2002)

Regie: Steven Spielberg

«The precogs are never wrong.»
Bronnen bij de tekst
  1. 01In Roermond kreeg elke auto een risicoscoreAmnesty International, Wij ruiken onraad (samenvatting We Sense Trouble) (2020)
  2. 02De minister: de herkomst van de auto zat in het profielMinister van Justitie en Veiligheid, Kamerstuk 26643-724, reactie op Amnesty (2020)
  3. 03Wie onterecht werd stilgehouden, kwam op een witte lijstMinister van Justitie en Veiligheid, Kamerstuk 26643-724, reactie op Amnesty (2020)
  4. 04De Kamer wees een verbod op etniciteit in politie-algoritmes afTweede Kamer, Motie 29628-977 (algoritmes en etniciteit) (2020)
  5. 05Houding, gebaar, voetgangerITU-R, Recommendation ITU-R M.2160-0 — IMT for 2030 and beyond (2023)
  6. 06De minister: geen massasurveillance, geen discriminatieMinister van Justitie en Veiligheid, Kamerstuk 26643-724, reactie op Amnesty (2020)
  7. 07Amnesty: indicatoren moesten Oost-Europese afkomst vaststellenAmnesty International, Wij ruiken onraad (samenvatting We Sense Trouble) (2020)
  8. 08Misdaadvoorspelling op basis van alleen profilering verboden (Art. 5(1)(d))Official Journal of the European Union, Regulation (EU) 2024/1689 — Artificial Intelligence Act (OJ L, 2024/1689)
  9. 09Santa Cruz: predictive policing verboden (code)City of Santa Cruz, Municipal Code Chapter 9.85 — Surveillance Technology Ordinance (2020)
  10. 10WODC 2008: scenariostudie met horizon 2022 over een proactieve overheidJustitiële verkenningen, Justitiële verkenningen 2008/1
  11. 11Hessen kocht Palantirs Gotham voor de politieBundesverfassungsgericht, Arrest geautomatiseerde data-analyse politie (1 BvR 1547/19) (2023)
  12. 12De analyse legt verbanden tussen mensen, groepen en zakenBundesverfassungsgericht, Arrest geautomatiseerde data-analyse politie (1 BvR 1547/19) (2023)
  13. 13hessenDATA: 2.099 gebruikers, ongeveer 14.000 zaken per jaarBundesverfassungsgericht, Arrest geautomatiseerde data-analyse politie (1 BvR 1547/19) (2023)
  14. 14De rechter: om misdrijven te voorkomen ontbrak de drempelBundesverfassungsgericht, Arrest geautomatiseerde data-analyse politie (1 BvR 1547/19) (2023)
  15. 15De wet liet toe dat ook gegevens van onbetrokkenen meetellenBundesverfassungsgericht, Arrest geautomatiseerde data-analyse politie (1 BvR 1547/19) (2023)
Volgend onderwerp
Flock en de kentekencamera

Een camera langs de weg onthoudt waar je auto was, en dat kan je verdachte maken.

Lees verder →

Lees ook

↑ Terug naar Surveillance