6G Matrix

Mind & neurosturing

Je stemming is te sturen, zonder dat je het merkt.

6GIoTIoBNanoAI TwinStaatMilitairIndustrieKapitaalBurger
Wat komt er?5 DOSSIERS · TECHNIEKWie trekt eraan?5 DOSSIERS · ACTORENWaartoe?5 DOSSIERS · CONTROL
Casus

Een week lang, van 11 tot 18 januari 2012, kregen 689.003 Engelstalige Facebook-gebruikers een ander nieuwsoverzicht dan normaal. Bij de een verdwenen positieve berichten, bij de ander negatieve. Wie minder positiefs zag, schreef daarna zelf minder positieve en meer negatieve berichten, en omgekeerd[1].

De gebruikers werd niets gevraagd: volgens de onderzoekers gold hun akkoord met de gebruiksvoorwaarden als toestemming. Het tijdschrift dat het onderzoek in 2014 publiceerde, plaatste een officiële kanttekening: misschien hadden ze geen echte toestemming gegeven en konden ze zich niet afmelden[2].

Hoe het werkt

Een platform kiest wat je te zien krijgt. Verschuift die keuze een beetje, dan verschuift ook wat mensen schrijven. Het gemeten effect was klein: wie minder positiefs zag, gebruikte 0,1 procent minder positieve woorden[3]. Maar volgens de onderzoekers zelf kunnen ook kleine effecten grote gevolgen hebben, gezien de omvang van een netwerk als Facebook[4].

Wat 6G en AI toevoegen

Vandaag loopt die sturing via een scherm, en ziet het platform alleen wat je klikt en schrijft. Met signalen van het lichaam zelf, zoals de spiersignalen van een polsband of de hersensignalen van een implantaat, kan een systeem ook lezen wat je op het punt staat te doen. Hoe die techniek werkt en hoe ver ze is, staat bij Wearables en Implantaten onder IoB. Dat iemand zo een stemming stuurt, is niet aangetoond.

Bewijs · 4
01 · FEIT

Facebook kleurde een week lang het nieuws van 689.003 mensen

Van 11 tot 18 januari 2012 paste Facebook het nieuwsoverzicht aan van 689.003 Engelstalige gebruikers: bij de een verdwenen positieve berichten, bij de ander negatieve. Wie minder positiefs zag, schreef zelf minder positieve en meer negatieve berichten, en omgekeerd. Facebook-onderzoekers publiceerden het in juni 2014 zelf in het tijdschrift PNAS: emoties zijn over te dragen zonder dat mensen het merken.

«We show, via a massive (N = 689,003) experiment on Facebook, that emotional states can be transferred to others via emotional contagion, leading people to experience the same emotions without their awareness.»
02 · FEIT

Het tijdschrift: misschien zonder toestemming, zonder uitweg

Het tijdschrift PNAS plaatste op 3 juli 2014 een officiële kanttekening bij het Facebook-onderzoek. De onderzoekers beriepen zich op de gebruiksvoorwaarden die iedereen accepteert bij het aanmaken van een account. Volgens PNAS was Facebook als bedrijf niet gebonden aan de regels voor onderzoek met mensen, maar was het 'reden tot zorg' dat deelnemers mogelijk geen geïnformeerde toestemming gaven en zich niet konden afmelden.

«It is nevertheless a matter of concern that the collection of the data by Facebook may have involved practices that were not fully consistent with the principles of obtaining informed consent and allowing participants to opt out.»
04 · FEIT

De EU verbiedt AI die je ongemerkt manipuleert tot je schade

Artikel 5, lid 1, onder a, van de Europese AI-verordening verbiedt AI-systemen die technieken onder de bewustzijnsdrempel of doelbewust manipulatieve of misleidende technieken gebruiken om iemands gedrag wezenlijk te verstoren, als dat aanzienlijke schade (kan) veroorzaken. Het verbod geldt sinds 2 februari 2025.

«the placing on the market, the putting into service or the use of an AI system that deploys subliminal techniques beyond a person’s consciousness or purposefully manipulative or deceptive techniques, with the objective, or the effect of materially distorting the behaviour of a person or a group of persons by appreciably impairing their ability to make an informed decision»
Grens en tegengeluid

In Chili staat hersenactiviteit beschermd in de grondwet. Het hooggerechtshof beval in 2023 een bedrijf dat met een hoofdband hersenactiviteit meet, de opgeslagen gegevens van een gebruiker te wissen[5]. In de uitspraak zelf staat dat Emotiv zonder verdere formaliteiten alle informatie moet wissen die in zijn cloud staat over het gebruik door de eiser[6]. Sinds februari 2025 verbiedt de Europese AI-verordening AI die mensen ongemerkt of doelbewust manipuleert, als dat aanzienlijke schade kan veroorzaken[7].

Op het werk en op school gaat dezelfde wet verder. De AI-verordening, de Europese wet op kunstmatige intelligentie, verbiedt systemen die emoties afleiden op de werkplek en in het onderwijs, behalve om medische redenen of voor de veiligheid[8]. Volgens de richtsnoeren van de Europese Commissie valt het algemene meten van stress op het werk niet onder die uitzondering. Ook een systeem dat een burn-out of een depressie moet herkennen, blijft verboden[9]. Vermoeidheid van piloten of chauffeurs meten om ongelukken te voorkomen valt wel buiten het verbod, want vermoeidheid geldt als een lichamelijke toestand en niet als een emotie[10]. De verboden gelden sinds 2 februari 2025. De richtsnoeren kwamen later en zijn niet bindend[11].

Ook buiten de Europese Unie ligt er een grens, al is die niet bindend. UNESCO, de organisatie van de Verenigde Naties voor onderwijs, wetenschap en cultuur, vraagt dat neurotechnologie op het werk nooit dient voor prestatiebeoordeling, straf of profilering[12]. De Organisatie voor Economische Samenwerking en Ontwikkeling vroeg in 2019 al om beleid dat hersendata beschermt tegen discriminatie en uitsluiting, ook bij werk en verzekering[13]. Dat een met naam genoemde werkgever zulke techniek bij zijn personeel inzet, is niet aangetoond.

Het effect in het Facebook-experiment was klein, en gemeten in woorden, niet in gevoelens[3]. En hersenimplantaten kunnen ook helpen: Neuralink test in een klinische studie of proefpersonen met een implantaat een robotarm kunnen besturen[14].

05 · FEIT

Chili: het hof liet een bedrijf hersendata wissen

Het Chileense hooggerechtshof gaf op 9 augustus 2023 oud-senator Guido Girardi gelijk tegen Emotiv, maker van de EEG-hoofdband Insight die hersenactiviteit meet. Volgens de uitspraak moest Emotiv alle opgeslagen informatie over het gebruik van het apparaat 'zonder verdere formaliteiten' wissen, en moesten de gezondheidsautoriteit en de douane nagaan of verkoop en gebruik aan de wet voldoen. Chili beschermt 'hersenactiviteit en de informatie die eruit voortkomt' in de grondwet (wet 21.383). Volgens een juridische analyse was het de eerste uitspraak ter wereld over hersendata.

«Además, la sentencia establece que Emotiv deberá eliminar “sin más trámite” toda la información que se hubiera almacenado en su nube o portales, en relación con el uso del dispositivo.»
06 · FEIT

Het gemeten effect was klein

Het gemeten effect was klein. Wie minder positieve berichten te zien kreeg, gebruikte in eigen berichten 0,1 procent minder positieve woorden dan de controlegroep. Gemeten werden woorden in berichten, geen gevoelens.

«When positive posts were reduced in the News Feed, the percentage of positive words in people’s status updates decreased by B = −0.1% compared with control»
Wie zit erachter · 3
Stemmen
01 · STEM

James Giordano

Neuroethiek, Georgetown · NDU-adviseur · openbare lezingen over neurowapens

«What a weapon does is in some way alters that individual's thoughts, emotions, behaviors, physical nature, health, in such a way that it's going to be more amenable to the individual who is yielding the weapon.»
02 · STEM

Ray Kurzweil

Futurist, uitvinder, AI-onderzoeker bij Google

«The Singularity, which is a metaphor borrowed from physics, will occur when we merge our brain with the cloud. We’re going to be a combination of our natural intelligence and our cybernetic intelligence and it’s all going to be rolled into one. Making it possible will be brain-computer interfaces which ultimately will be nanobots – robots the size of molecules – that will go noninvasively into our brains through the capillaries.»
03 · STEM

Ray Kurzweil

Futurist, uitvinder, AI-onderzoeker bij Google

«Twenty years from now, we'll have nanobots, because another exponential trend is the shrinking of technology. They'll go into our brain through the capillaries and basically connect our neocortex to a synthetic neocortex in the cloud providing an extension of our neocortex.»
07 · STEM

Ray Kurzweil

Futurist, uitvinder, AI-onderzoeker bij Google

«And our thinking, then, will be a hybrid of biological and non-biological thinking, but the non-biological portion is subject to my law of accelerating returns. It will grow exponentially.»
09 · STEM

Ray Kurzweil

Futurist, uitvinder, AI-onderzoeker bij Google

«The other is connecting the brain to computers, which will both provide the ability to control machines directly with our thoughts and allow us to integrate digital layers of neocortex in the cloud.»
10 · STEM

Bill Joy

Medeoprichter Sun Microsystems, auteur Why the Future Doesn't Need Us

«I felt sure he had to be understating the dangers, understating the probability of a bad outcome along this path.»
12 · STEM

Yuval Noah Harari

Historicus, auteur van Sapiens, Homo Deus, 21 Lessons en Nexus

«A system that understands us better than we understand ourselves can predict our feelings and decisions, can manipulate our feelings and decisions, and can ultimately make decisions for us.»
Bronnen bij de tekst
  1. 01Facebook stuurde een week lang de stemming van gebruikersKramer, Guillory & Hancock — PNAS, Experimental evidence of massive-scale emotional contagion through social networks (2014)
  2. 02Het tijdschrift: misschien zonder toestemming en zonder uitwegPNAS (Inder M. Verma, hoofdredacteur), Editorial Expression of Concern (PNAS, juli 2014)
  3. 03Het gemeten effect was kleinKramer, Guillory & Hancock — PNAS, Experimental evidence of massive-scale emotional contagion through social networks (2014)
  4. 04De onderzoekers: kleine effecten, grote gevolgenKramer, Guillory & Hancock — PNAS, Experimental evidence of massive-scale emotional contagion through social networks (2014)
  5. 05Chili: het hof liet een bedrijf hersendata wissenDiario Financiero, Hooggerechtshof Chili: eerste uitspraak over neurorechten (2023)
  6. 06Uitspraak 105.065-2023: Emotiv moet de data wissenCorte Suprema de Chile, Uitspraak Chili, Girardi tegen Emotiv (2023)
  7. 07De AI-verordening verbiedt manipulatie onder je bewustzijnOfficial Journal of the European Union, Regulation (EU) 2024/1689 — Artificial Intelligence Act (OJ L, 2024/1689)
  8. 08Richtsnoeren: emotie afleiden op werk en school is verbodenEuropese Commissie, Richtsnoeren verboden AI-praktijken, 29 juli 2025
  9. 09Stress meten op het werk valt niet onder de uitzonderingEuropese Commissie, Richtsnoeren verboden AI-praktijken, 29 juli 2025
  10. 10Vermoeidheid van beroepspiloten is geen emotieherkenningEuropese Commissie, Richtsnoeren verboden AI-praktijken, 29 juli 2025
  11. 11Februari 2025: verboden gelden, richtsnoeren nog nietEuropese Commissie, Goedkeuring ontwerp-richtsnoeren verboden AI (2025)
  12. 12UNESCO: neurotechnologie op het werk niet voor prestatiesUNESCO, UNESCO-aanbeveling neurotechnologie, 2025
  13. 13OESO: hersendata niet gebruiken om uit te sluiten op het werkOECD, OESO-aanbeveling neurotechnologie, 2019
  14. 14Neuralink test of een implantaat een robotarm kan besturenNeuralink, Control of Assistive Devices Via Brain-Computer Interface Technology (CONVOY) (2024)
Volgend onderwerp
Internetafsluitingen

Een overheid kan het net voor een heel gebied laten uitzetten, en jou uit het gesprek halen.

Lees verder →

Lees ook

↑ Terug naar Censuur en sturing