6G Matrix

AGI-bestuursobject

De Britse regering neemt in de National AI Strategy (september 2021) de mogelijkheid van AGI — algemene kunstmatige intelligentie — serieus en wil die technologie actief richten.

In het kort

In november 2023 ondertekenen tientallen landen in Bletchley Park een verklaring over veiligheidsrisico’s aan de frontier van AI, de allersterkste algemene modellen. Daarover gaat deze knoop: AGI als iets dat staten vooraf willen besturen, niet als vaststelling dat het er al is.

HM Government, National AI Strategy (september 2021), The longer term: de mogelijkheid van AGI en ‘more general AI’ serieus nemen, en de zin dat full AGI een transformational impact zou hebben. Bletchley Declaration (1–2 november 2023): Particular safety risks arise at the ‘frontier’ of AI. Californië SB 53 (Chapter 138, 29 september 2025): een large frontier developer moet een frontier AI framework publiceren.

4 onderbouwingen
01 · FEIT

UK 2021: AGI en ‘more general AI’ serieus nemen

De Britse regering neemt in september 2021 in de National AI Strategy de mogelijkheid van AGI en ‘more general AI’ serieus en wil die technologie actief richten in een vreedzame, op de mens afgestemde richting.

«However, we take the firm stance that it is critical to watch the evolution of the technology, to take seriously the possibility of AGI and ‘more general AI’, and to actively direct the technology in a peaceful, human-aligned direction.»
02 · FEIT

UK 2021: full AGI zou bijna elk aspect van het leven transformeren

In dezelfde alinea van The longer term schrijft de Britse National AI Strategy (september 2021) dat het opkomen van volledige AGI een transformerend effect zou hebben op bijna elk aspect van het leven, en dat AI als general purpose technology eerder vergelijkbare schokken kan geven dan een systeem dat ‘wakker wordt’.

«The emergence of full AGI would have a transformational impact on almost every aspect of life, but there are many challenges which could be presented by AI which could emerge much sooner than this.»
03 · FEIT

Bletchley 2023: frontier = zeer capabele general-purpose AI

De Bletchley Declaration (1–2 november 2023, Bletchley Park) definieert de ‘frontier’ van AI als zeer capabele general-purpose modellen, waaronder foundation models, die een breed scala aan taken kunnen uitvoeren en die de capaciteiten van de toen meest geavanceerde modellen evenaren of overtreffen. Dat is een bestuursobject van een internationale verklaring, geen vaststelling dat AGI er is.

«Particular safety risks arise at the ‘frontier’ of AI, understood as being those highly capable general-purpose AI models, including foundation models, that could perform a wide variety of tasks - as well as relevant specific narrow AI that could exhibit capabilities that cause harm - which match or exceed the capabilities present in today’s most advanced models.»
04 · FEIT

Californië SB 53: large frontier developer moet framework publiceren

De Californische Senate Bill 53 (Chapter 138, goedgekeurd 29 september 2025) verplicht een large frontier developer om een frontier AI framework te schrijven, na te leven en duidelijk op zijn website te publiceren dat geldt voor diens frontier models.

«A large frontier developer shall write, implement, comply with, and clearly and conspicuously publish on its internet website a frontier AI framework that applies to the large frontier developer’s frontier models and describes how the large frontier developer approaches all of the following:»
Bronnen

HM Government · 2

California Legislature