6G Matrix

Chatcontrole

Een machine kijkt mee in je privéfoto's, en één fout kost je alles.

6GIoTIoBNanoAIStaatLegerBigTechKapitaalBurgerControlWATWIE
Wat komt er?5 DOSSIERS · TECHNIEKWie trekt eraan?5 DOSSIERS · ACTORENWaartoe?CONTROL
Casus

In februari 2021 fotografeerde een vader in San Francisco de ontstoken lies van zijn zoontje, om de foto's naar de dokter te sturen. De foto's gingen vanzelf naar zijn Google-account, en Googles systeem zag er kindermisbruik in[1]. Twee dagen later sloot Google zijn mail, zijn andere Google-diensten en zijn telefoonabonnement. Later bleek dat de politie een onderzoek naar hem was begonnen.

De politie zag geen misdrijf. Google gaf het account niet terug, ook niet toen hij liet zien dat de politie had vastgesteld dat er "geen misdrijf gepleegd" was[2]. Het verhaal kwam in 2022 naar buiten via The New York Times; Google bleef bij zijn besluit[1].

Hoe het werkt

Diensten vergelijken je foto's en berichten met digitale vingerafdrukken van bekend misbruikmateriaal, en laten AI zoeken naar nieuw materiaal[3]. Een treffer gaat naar een medewerker van het bedrijf, en kan bij de politie terechtkomen, zoals bij deze vader. Het bedrijf beslist over je account, de politie over de verdenking, en die twee hoeven het niet met elkaar eens te zijn.

Wat 6G en AI toevoegen

De Europese Commissie stelde in 2022 voor dat diensten een bevel kunnen krijgen om te scannen, ook op nieuw materiaal en op het benaderen van kinderen[4]. Het voorstel rekent zelf op fouten: wie zo'n bevel krijgt, moet bijhouden hoe vaak de techniek zich vergist[5]. De lidstaten willen dat bedrijven voorgoed vrijwillig mogen scannen[6].

Hoe meer foto's en gesprekken automatisch in de cloud staan, hoe meer er te scannen is, en hoe meer mensen er onterecht tussen kunnen zitten.

Bewijs · 6
01 · FEIT

Een foto voor de dokter maakte een vader tot verdachte

Een vader in San Francisco fotografeerde in februari 2021 de ontstoken lies van zijn zoontje, om de foto's naar de dokter te sturen. Toen de foto's automatisch naar de cloud gingen, zag Googles systeem er kindermisbruik in. Twee dagen later sloot Google zijn Gmail, zijn andere accounts en zijn telefoonabonnement. De politie onderzocht hem en vond niets strafbaars; Google bleef bij zijn besluit. Zo meldde The Guardian op gezag van The New York Times.

«When the photos were automatically uploaded to the cloud, Google’s system identified them as CSAM.»
02 · FEIT

De politie zag geen misdrijf, Google gaf het account niet terug

Volgens de EFF overkwam een tweede vader in Houston hetzelfde. De politie van Houston en van San Francisco zagen geen misdrijf. Google weigerde het beroep van de vader uit San Francisco, ook toen hij liet zien dat de politie had vastgesteld dat er 'geen misdrijf gepleegd' was.

«Both the Houston Police Department and the San Francisco Police Department quickly cleared the fathers of any wrongdoing. But Google refused to hear Mark’s appeal or reinstate his account, even after he brought the company documentation showing that the SFPD had determined there was “no crime committed.”»
03 · FEIT

Google: we scannen met vingerafdrukken en AI

Google liet in augustus 2022 weten dat het met 'hash matching' (vingerafdrukken van bekende beelden) en kunstmatige intelligentie zoekt naar beelden van kindermisbruik en die verwijdert. De medewerkers die de meldingen beoordelen zijn door artsen getraind, maar zelf geen arts, en raadpleegden per geval geen medisch deskundige.

«We follow US law in defining what constitutes CSAM and use a combination of hash matching technology and artificial intelligence to identify it and remove it from our platforms»
04 · IN ONTWIKKELING

Het EU-voorstel: wie een bevel krijgt, moet gaan scannen

Het voorstel van de Europese Commissie voor een verordening tegen seksueel kindermisbruik online (mei 2022) laat autoriteiten een detectiebevel geven aan hostingdiensten en berichtendiensten. Wie zo'n bevel krijgt, moet technologie installeren die bekend én nieuw misbruikmateriaal herkent, en het benaderen van kinderen ('grooming').

«Providers of hosting services and providers of interpersonal communication services that have received a detection order shall execute it by installing and operating technologies to detect the dissemination of known or new child sexual abuse material or the solicitation of children, as applicable, using the corresponding indicators provided by the EU Centre in accordance with Article 46.»
05 · IN ONTWIKKELING

Het EU-voorstel rekent zelf op fouten bij het scannen

Volgens artikel 83 van het EU-voorstel tegen kindermisbruik online (2022) moeten diensten die een scanbevel kregen bijhouden hoe vaak hun techniek zich vergist, en wat ze doen om fouten te voorkomen of te herstellen. Het EU-centrum moet meldingen ook controleren op 'duidelijke valse treffers'.

«the error rates of the technologies deployed to detect online child sexual abuse and measures taken to prevent or remedy any errors»
06 · IN ONTWIKKELING

De lidstaten willen vrijwillig scannen permanent maken

De Raad van de EU (de lidstaten) bepaalde op 26 november 2025 zijn standpunt over de verordening. Een verplicht detectiebevel staat er niet in; wel wil de Raad de tijdelijke regel die bedrijven toestaat berichtendiensten vrijwillig te scannen, permanent maken. Over de definitieve tekst onderhandelen Raad en Parlement nog.

«The Council also wants to make permanent a currently temporary measure that allows companies to – voluntarily – scan their services for child sexual abuse.»
Grens en tegengeluid

Er zijn grenzen getrokken. In het persbericht over het standpunt van de lidstaten (november 2025) staat geen verplicht scanbevel[6]. De tijdelijke regel voor vrijwillig scannen, die tot april 2028 geldt, sluit versleutelde chats uit. De Raad zegt er wel bij dat dit niets zegt over de definitieve wet; daarover onderhandelen Raad en Parlement nog[7].

Het doel is echt: kinderen beschermen tegen misbruik. De vraag is wat het kost als de machine zich vergist.

07 · FEIT

Versleutelde chats vallen buiten de tijdelijke scanregel

De tijdelijke regel voor vrijwillig scannen verliep op 3 april 2026. Op 23 juli 2026 stelde de Raad hem opnieuw in, tot 3 april 2028, met een wijziging van het Europees Parlement: berichtendiensten met end-to-endversleuteling vallen erbuiten. Volgens de Raad zegt dat niets over de definitieve regels.

«The amendments proposed by the European Parliament exclude number-independent interpersonal communications from the scope of the regulation to which end-to-end encryption is, has been or will be applied.»
Stemmen
01 · STEM

Edward Snowden

NSA-klokkenluider · Permanent Record · Citizenfour

«I do not want to live in a world where everything I do and say is recorded. That is not something I am willing to support or live under.»
Bronnen bij de tekst
  1. 01Een foto voor de dokter maakte een vader tot verdachteThe Guardian, Google refuses to reinstate man’s account after he took medical images of son’s groin (2022)
  2. 02De politie zag geen misdrijf, Google gaf het account niet terugElectronic Frontier Foundation, Google’s Scans of Private Photos Led to False Accusations of Child Abuse (2022)
  3. 03Google: we scannen met vingerafdrukken en AIThe Guardian, Google refuses to reinstate man’s account after he took medical images of son’s groin (2022)
  4. 04Het EU-voorstel: wie een bevel krijgt, moet gaan scannenEUR-Lex — COM(2022) 209 final, Voorstel CSA-verordening, COM(2022) 209
  5. 05Het EU-voorstel rekent zelf op fouten bij het scannenEUR-Lex — COM(2022) 209 final, Voorstel CSA-verordening, COM(2022) 209
  6. 06De lidstaten: vrijwillig scannen moet permanent wordenRaad van de Europese Unie, Child sexual abuse: Council reaches position on law protecting children from online abuse (2025)
  7. 07Vrijwillig scannen mag weer, tot 2028, maar niet in versleutelde chatsRaad van de Europese Unie, Fighting child sexual abuse online: interim measure protecting children now reinstated (2026)
Kruislink