6G Matrix

Chatcontrole

Een machine kijkt mee in je privéfoto's, en één fout kost je alles.

Wat is het

De Europese Unie heeft twee wetten over het scannen van privéberichten op beelden van seksueel kindermisbruik. De tijdelijke regel uit 2021 laat bedrijven zoals Google en Meta vrijwillig meekijken in chats en mail; dat is een uitzondering op de Europese privacyrichtlijn voor elektronische communicatie[3]. Een voorstel van de Commissie uit 2022 wil dat vastleggen met scanbevelen: wie zo'n bevel krijgt, moet gaan scannen[4].

Die tijdelijke regel werd in 2024 verlengd tot 3 april 2026[5]. Op 19 december 2025 stelde de Commissie voor hem tot 3 april 2028 te verlengen[6]. Op 11 maart 2026 gaf het Parlement een onderhandelingsmandaat: kortere looptijd, en een smaller bereik[7]. Onderhandelingen met de Raad leverden geen akkoord op: er waren twee trialogen zonder resultaat[8]. Op 26 maart 2026 stemde het Parlement tegen het Commissievoorstel: 228 voor, 311 tegen, 92 onthoudingen[7]. De regel verviel op 3 april 2026. Tussen 3 april en het herstel was er geen wettelijke basis voor vrijwillig scannen[6].

De Raad stopte niet. Op 2 juli 2026 nam hij zijn eigen positie in eerste lezing aan, niet de beperktere tekst van 11 maart. De Raad bracht de vervallen tijdelijke regel terug als nieuwe, zelfstandige wet, tot 3 april 2028[8].

Daarna moest het Parlement in tweede lezing over die Raadstekst stemmen. Dat is de gewone manier waarop Raad en Parlement samen een wet maken, geen aparte noodwet. Maar de regels zijn dan anders. In maart was een gewone meerderheid van de uitgebrachte stemmen genoeg om nee te zeggen. In tweede lezing kan het Parlement de tekst van de Raad alleen verwerpen of wijzigen met een meerderheid van al zijn leden. Volgens het Parlement waren dat toen 360 stemmen[9][10]. Die drempel staat in artikel 294 van het Verdrag betreffende de werking van de Europese Unie, het verdrag dat de wetgevingsprocedures van de Unie vastlegt, en in artikel 68 van het Reglement van het Europees Parlement[9][11].

Het ging snel. Op 26 juni 2026 besloten de lidstaten tot spoed[8]. Op 1 juli 2026 vroeg een politieke groep in het Parlement de urgentieprocedure van artikel 170 van dat reglement aan. Bij het afgeronde dossier staat lid 6 van dat artikel als rechtsgrond: het Parlement mag dan bij hoge uitzondering stemmen zonder schriftelijk commissieverslag[12]. Of het Parlement dat verzoek op 7 juli aannam, is niet vastgesteld: een stemuitslag over het verzoek is niet gevonden. Tussen de Raadspositie van 2 juli en de stemming van 9 juli zaten zeven dagen[8][10].

Op 9 juli 2026 stemden 314 leden voor verwerpen, 276 tegen verwerpen, 17 onthielden zich. Meer leden wilden de tekst dus wegstemmen, maar de 360 stemmen kwamen er niet. Een tweede stemming, over de gewijzigde tekst van het Parlement zelf, haalde evenmin een meerderheid (276 voor, 286 tegen, 30 onthoudingen). De regel ging door[10].

De Raad keurde de tekst op 23 juli 2026 goed[13]. De regel geldt tot 3 april 2028. Chats die van begin tot eind versleuteld zijn, vallen erbuiten[14]. Over de permanente wet onderhandelen Raad en Parlement nog. Op 29 september 2026 was er een overleg van Commissie, Raad en Parlement, gericht op scanverplichtingen. De nota van de Raad zegt niet wat de uitkomst was[15].

Casus

In februari 2021 fotografeerde een vader in San Francisco de ontstoken lies van zijn zoontje, om de foto's naar de dokter te sturen. De foto's gingen vanzelf naar zijn Google-account, en Googles systeem zag er kindermisbruik in[1]. Twee dagen later sloot Google zijn mail, zijn andere Google-diensten en zijn telefoonabonnement.

De politie zag geen misdrijf. Google gaf het account niet terug, ook niet toen hij liet zien dat de politie had vastgesteld dat er "geen misdrijf gepleegd" was[2]. Het verhaal kwam in 2022 naar buiten via The New York Times. Google bleef bij zijn besluit[1].

Hoe het werkt

Een foto of video gaat eerst door de scanner van het bedrijf: digitale vingerafdrukken van bekend misbruikmateriaal, en kunstmatige intelligentie voor nieuw materiaal[16]. In een Nederlandse rechtszaak uit 2022 zei Microsoft dat één herkende afbeelding meer dan 400 accounts wereldwijd had geblokkeerd[17].

Een treffer kan naar het Amerikaanse National Center for Missing and Exploited Children (NCMEC) gaan. Volgens NCMEC zelf gaat elke melding door het analyseprogramma Palantir Foundry. Daarna gaat ze naar de politie[18][19].

Hoe vaak die machines zich vergissen, is omstreden. De Commissie noemt voor de bekendste vingerafdruktechniek één fout op vijftig miljard. De Belgische cryptograaf Bart Preneel en zijn team maten tussen één fout op duizend en één op tien[20].

Wat de politie met die meldingen aantreft, wisselt sterk per land. Volgens de eigen politie was in Duitsland 48,3 procent van de NCMEC-meldingen in 2024 strafrechtelijk niet relevant. In Ierland waren dat 471 van de 4.192 meldingen in 2020 (11 procent), bijvoorbeeld kinderen die op het strand speelden. In Zwitserland, geen EU-lid, was ongeveer 71 procent in 2022 niet bruikbaar. Het zijn dus percentages tussen 11 en 71. De Ierse politie bewaarde de gegevens toch[21][22][23].

Wat 6G en AI toevoegen

Hoe meer foto's en gesprekken automatisch in de cloud staan, hoe meer er te scannen is. Kunstmatige intelligentie zoekt niet alleen bekende beelden, maar ook nieuw materiaal en, bij sommige diensten, het benaderen van kinderen ('grooming')[4]. Dat is al gaande. Een netwerk dat overal meet, maakt de aanvoer groter. Dat is een verwachting: er is geen aanwijzing dat deze scans op een 6G-netwerk draaien.

Bewijs · 6
01 · FEIT

Een foto voor de dokter maakte een vader tot verdachte

Een vader in San Francisco fotografeerde in februari 2021 de ontstoken lies van zijn zoontje, om de foto's naar de dokter te sturen. Toen de foto's automatisch naar de cloud gingen, zag Googles systeem er kindermisbruik in. Twee dagen later sloot Google zijn Gmail, zijn andere accounts en zijn telefoonabonnement. De politie onderzocht hem en vond niets strafbaars; Google bleef bij zijn besluit. Zo meldde The Guardian op gezag van The New York Times.

«When the photos were automatically uploaded to the cloud, Google’s system identified them as CSAM.»
02 · FEIT

De politie zag geen misdrijf, Google gaf het account niet terug

Volgens de EFF overkwam een tweede vader in Houston hetzelfde. De politie van Houston en van San Francisco zagen geen misdrijf. Google weigerde het beroep van de vader uit San Francisco, ook toen hij liet zien dat de politie had vastgesteld dat er 'geen misdrijf gepleegd' was.

«Both the Houston Police Department and the San Francisco Police Department quickly cleared the fathers of any wrongdoing. But Google refused to hear Mark’s appeal or reinstate his account, even after he brought the company documentation showing that the SFPD had determined there was “no crime committed.”»
03 · FEIT

Ook in Nederland: Microsoft sloot alles, de rechter draaide het terug

De rechtbank Rotterdam veroordeelde Microsoft op 23 maart 2022 tot het opheffen van de blokkade van mail, OneDrive, Office en Xbox van een Nederlandse vrouw. Microsoft had het account kort na 3 juli 2020 gesloten na een automatische PhotoDNA-scan van een naar OneDrive geüploade afbeelding en een melding bij het Amerikaanse National Center for Missing and Exploited Children (NCMEC); volgens Microsoft blokkeerde dezelfde afbeelding meer dan 400 accounts wereldwijd. De rechter vond dat Microsoft niet concreet onderbouwde wat er op de afbeelding stond, maar stelde niet vast dat die onschuldig was. Uit het vonnis blijkt geen politieonderzoek; de zaak speelde in 2020, vóór de tijdelijke EU-regel 2021/1232, en ging over cloudopslag, niet over chat.

«Met het in algemene zin toelichten van de werkwijze van Microsoft in de VS en het geven van een omschrijving van ‘categorie A2’ voldoet Microsoft niet aan haar stelplicht, omdat daarmee geen concrete informatie over de afbeelding wordt verstrekt.»
04 · FEIT

Een meerderheid was tegen, en de regel kwam toch

Op 9 juli 2026 stemde het Europees Parlement in tweede lezing over de Raadspositie. In de eerste stemming wilden 314 leden de tekst verwerpen, 276 niet, bij 17 onthoudingen. Meer leden waren dus tegen. Voor verwerpen of wijzigen was volgens het Parlement een meerderheid van al zijn leden nodig, destijds 360; die kwam er niet. Een tweede stemming haalde evenmin een meerderheid om de gewijzigde tekst van het Parlement te verwerpen (276 voor, 286 tegen, 30 onthoudingen). Daarmee was de tweede lezing gesloten. Het Parlement zette de uitsluiting van chats die van begin tot eind versleuteld zijn in de tekst.

«At this stage in the process (EP second reading), an absolute majority of MEPs - currently 360 – was needed to reject or amend the Council position. In an initial vote, a simple majority supported rejecting the position (314 in favour, 276 against, 17 abstentions).»
05 · FEIT

Scanmeldingen uit de EU lopen via Palantir-software

Vicevoorzitter John Shehan van het Amerikaanse National Center for Missing and Exploited Children (NCMEC) schreef aan Dagens ETC dat NCMEC Palantir Foundry gebruikt voor alle CyberTipline-meldingen. Volgens NCMEC schonk Palantir de software, draait die lokaal in de omgeving van NCMEC, en heeft Palantir zelf geen toegang tot de gegevens. Palantir reageerde volgens de krant niet. NCMEC noemde Foundry in 2022 zelf een van zijn grootste technologiepartners.

«We utilize the Palantir Foundry for all CyberTipline reports»
06 · FEIT

Commissie: bijna nooit een fout. Onderzoekers: veel vaker

De Europese Commissie schrijft dat de foutpositieven van Microsoft PhotoDNA op basis van tests op niet meer dan 1 op 50 miljard worden geschat. Onderzoekers van KU Leuven (Leblanc-Albarel en Preneel) meten op gezichten foutpercentages van 1 op 1.000 tot meer dan 1 op 10, afhankelijk van de dataset en de schaal. In een interview noemde Preneel die schatting een leugen. Hun test gebruikte publieke gezichten, geen misbruikmateriaal. Yubo gaf in hetzelfde Commissierapport aggregaatfouten van 20 procent (2023) en 13 procent (2024) voor nieuwe beelden en het benaderen van kinderen; dat is het eigen cijfer van het bedrijf, op een andere berekening.

«instead of achieving the “one in 50 billion” false positive rate (i.e., 2 × 10− 11), we observe false positive rates ranging from 10− 3 to more than 10− 1 depending on the dataset and scale, i.e., many orders of magnitude higher.»
Grens en tegengeluid

Er zijn grenzen getrokken. In het persbericht over het standpunt van de lidstaten (november 2025) staat geen verplicht scanbevel[24]. De tijdelijke regel tot april 2028 sluit chats uit die van begin tot eind versleuteld zijn. De Raad zegt erbij dat dit niets zegt over de definitieve wet[14][13]. Het Parlement wilde in 2023 versleuteling al buiten scanbevelen houden[25]. Volgens NCMEC draait Palantir Foundry lokaal en heeft Palantir zelf geen toegang tot de gegevens[18].

Ook het bewijs zelf heeft grenzen. De Commissie schat de foutkans op basis van tests; ze belooft niets. De meting van Preneel en collega's gebruikte gezichten van bekende mensen, geen misbruikmateriaal, en de onderzoekers noemen dat zelf een startpunt[20]. De cijfers van de politie zijn haar oordeel over de inhoud, geen foutpercentage van de scanner. Het Zwitserse rapport zegt niet dat de mensen achter die meldingen verdachte werden; fedpol filtert eerst[23].

De casussen komen vooral uit de Verenigde Staten en Nederland, van vóór de Europese regel. De Rotterdamse rechter stelde niet vast dat de afbeelding onschuldig was; die zaak speelde in 2020 en ging over cloudopslag, niet over chat[17]. Het verhaal van de vader komt uit The Guardian en van de EFF, die zich op The New York Times beroepen; het politierapport is niet geopend. Een Europese casus waarin de politie een misdrijf uitsloot, is niet gevonden.

Het doel is echt: kinderen beschermen tegen misbruik. De vraag is wat het kost als de machine zich vergist.

Wat de DSA wel en niet kan afdwingen bij platforms, staat bij DSA en moderatie.

07 · FEIT

Versleutelde chats vallen buiten de tijdelijke scanregel

Nadat de tijdelijke regel op 3 april 2026 was vervallen, stelde de EU hem opnieuw in met verordening (EU) 2026/1881 van 24 juli 2026, tot 3 april 2028. Chats waarop end-to-endversleuteling is, was of zal worden toegepast, vallen erbuiten. Het Parlement had die uitsluiting in juli 2026 in de tekst gezet.

«This Regulation does not apply to interpersonal communications to which end-to-end encryption is, has been or will be applied.»
Wie zit erachter · 5
Ngo · VS
EFF

De Electronic Frontier Foundation, een Amerikaanse burgerrechtenorganisatie. Telde Ring-samenwerkingen bij ongeveer een op de tien Amerikaanse politiekorpsen.

3 ONDERWERPEN →
Rechter · NL
Rechtspraak

De Nederlandse rechterlijke macht. De rechtbank Den Haag verklaarde in 2020 de wet achter SyRI onverbindend.

6 ONDERWERPEN →
Bedrijf · VS
Palantir

Amerikaans softwarebedrijf. Verkoopt Gotham, Foundry en AIP (Artificial Intelligence Platform) aan overheden, legers en bedrijven en haalt meer dan de helft van zijn omzet bij overheden.

4 ONDERWERPEN →
EU-instelling · EU
Europese Commissie

Het uitvoerende orgaan van de EU. Stelt wetten voor en ziet toe op de uitvoering; het AI Office van de Commissie handhaaft de regels voor algemene AI-modellen, en het in- en uitreissysteem EES draait onder haar leiding.

19 ONDERWERPEN →
EU-instelling · EU
Europees Parlement en Raad

Samen de wetgever van de EU. De AI-verordening, Verordening (EU) 2024/1689, is van 13 juni 2024.

30 ONDERWERPEN →
Stemmen
01 · STEM

Edward Snowden

NSA-klokkenluider · Permanent Record · Citizenfour

«I do not want to live in a world where everything I do and say is recorded. That is not something I am willing to support or live under.»
Bronnen bij de tekst
  1. 01Een foto voor de dokter maakte een vader tot verdachteThe Guardian, Google refuses to reinstate man’s account after he took medical images of son’s groin (2022)
  2. 02De politie zag geen misdrijf, Google gaf het account niet terugElectronic Frontier Foundation, Google’s Scans of Private Photos Led to False Accusations of Child Abuse (2022)
  3. 03De EU liet bedrijven vanaf 2021 vrijwillig privéberichten scannenEUR-Lex — Regulation (EU) 2021/1232, Verordening (EU) 2021/1232, tijdelijke derogatie
  4. 04Het EU-voorstel: wie een bevel krijgt, moet gaan scannenEUR-Lex — COM(2022) 209 final, Voorstel CSA-verordening, COM(2022) 209
  5. 05In 2024 werd vrijwillig scannen verlengd tot 3 april 2026EUR-Lex — Regulation (EU) 2024/1307, Verordening (EU) 2024/1307, verlenging tot 3 april 2026
  6. 06De Commissie stelde op 19 december 2025 een verlenging tot 2028 voorEUR-Lex — Regulation (EU) 2026/1881, Verordening (EU) 2026/1881, herstel tot 3 april 2028
  7. 07Het Parlement stemde op 26 maart 2026 tegen een nieuwe verlengingEuropees Parlement, Child sexual abuse online: voluntary detection measures will not be extended (2026)
  8. 08De Raad zette op 2 juli 2026 zijn eigen tekst in eerste lezingRaad van de Europese Unie, ST 11261/1/26 ADD 1, Raadspositie 2 juli 2026
  9. 09In tweede lezing is een meerderheid van alle leden nodig om te verwerpenEUR-Lex — Verdrag betreffende de werking van de Europese Unie, artikel 294, VWEU artikel 294, gewone wetgevingsprocedure (2016)
  10. 10Een meerderheid was tegen, en de regel kwam tochEuropees Parlement, Combating child sexual abuse online: support for more limited ePrivacy derogation (2026)
  11. 11Het Reglement van het Parlement herhaalt die drempel in artikel 68Europees Parlement — Reglement, Reglement Europees Parlement, juli 2025
  12. 12Een politieke groep vroeg op 1 juli 2026 de urgentieprocedureEuropees Parlement — Legislative Observatory, Legislative Observatory, 2025/0429(COD) (2026)
  13. 13Vrijwillig scannen mag weer, tot 2028, maar niet in versleutelde chatsRaad van de Europese Unie, Fighting child sexual abuse online: interim measure protecting children now reinstated (2026)
  14. 14Vrijwillig scannen geldt weer tot 2028, zonder versleutelde chatsEUR-Lex — Regulation (EU) 2026/1881, Verordening (EU) 2026/1881, herstel tot 3 april 2028
  15. 15Op 29 september 2026 overlegden Raad en Parlement over scanbevelenRaad van de Europese Unie, ST 13051/26, trialoog 29 september 2026
  16. 16Google: we scannen met vingerafdrukken en AIThe Guardian, Google refuses to reinstate man’s account after he took medical images of son’s groin (2022)
  17. 17Ook in Nederland: Microsoft sloot alles, de rechter draaide het terugRechtbank Rotterdam, Vonnis ECLI:NL:RBROT:2022:2252 (OneDrive, PhotoDNA)
  18. 18NCMEC zet alle CyberTipline-meldingen in Palantir FoundryArvid Grange / Dagens ETC, Grange, EU-berichten door Palantir-software (2026)
  19. 19NCMEC stuurt CyberTipline-meldingen door naar de politieNational Center for Missing & Exploited Children, CyberTipline Data (2026)
  20. 20De Commissie noemt 1 fout op 50 miljard, onderzoekers meten veel meerDiane Leblanc-Albarel and Bart Preneel, Leblanc-Albarel en Preneel, PhotoDNA (USENIX 2026)
  21. 21Bijna de helft van de Duitse NCMEC-meldingen was geen strafbaar feitBundeskriminalamt, BKA-lagebeeld seksuele delicten 2024 (2025)
  22. 22De Ierse politie: 471 NCMEC-meldingen in 2020 waren geen misbruikmateriaalIrish Council for Civil Liberties, An Garda Síochána unlawfully retains files on innocent people (2022)
  23. 23De Zwitserse regering: ongeveer 71 procent van de NCMEC-meldingen was niet bruikbaarDer Bundesrat, Massnahmen zur Bekämpfung von sexueller Gewalt an Kindern (2023)
  24. 24De lidstaten: vrijwillig scannen moet permanent wordenRaad van de Europese Unie, Child sexual abuse: Council reaches position on law protecting children from online abuse (2025)
  25. 25Het Parlement wilde in 2023 versleutelde chats buiten scanbevelen houdenEuropees Parlement, Child sexual abuse online: effective measures, no mass surveillance (2023)
Volgend onderwerp
Nooit offline

Het netwerk is altijd om je heen en scant de omgeving, ook als je geen telefoon bij je hebt.

Lees verder →

Lees ook

↑ Terug naar Surveillance