Verordening (EU) 2024/1689 vermoedt systemic risk bij general-purpose AI boven 10²⁵ trainings-FLOPs; een BIS-regel uit januari 2025 zet een licentie op export van modelgewichten van geavanceerde gesloten AI-modellen. Daarover gaat deze knoop: wie de poort bewaakt — het bedrijf zelf, de Unie, of de Amerikaanse exportcontrole.
OpenAI, Preparedness Framework Version 2 (15 april 2025): geen inzet van een model dat een High capability threshold haalt tot de risico’s voldoende geminimaliseerd zijn. Anthropic, Responsible Scaling Policy 3.4 (8 juli 2026): voluntary framework for managing catastrophic risks. Google DeepMind, Frontier Safety Framework 3.1 (17 april 2026): Critical Capability Levels, absent mitigation measures. Art. 51(2) van verordening 2024/1689: vermoeden van high-impact capabilities boven 10²⁵ FLOPs. BIS, 90 FR 4544 (15 januari 2025): license to export … the model weights of the most advanced AI models.
OpenAI schrijft in Preparedness Framework Version 2 (15 april 2025) dat het geen modellen inzet die een High capability threshold halen tot de bijbehorende risico’s voldoende geminimaliseerd zijn.
«We do not deploy models that reach a High capability threshold until the associated risks that they pose are sufficiently minimized.»
Anthropic noemt in Responsible Scaling Policy Version 3.4 (effectief 8 juli 2026) het document een vrijwillig kader voor het beheren van catastroferisico’s van geavanceerde AI-systemen, inclusief hoe het bedrijf risico’s identificeert en beslissingen neemt over ontwikkeling en inzet.
«Our Responsible Scaling Policy (RSP) is our voluntary framework for managing catastrophic risks from advanced AI systems.»
Google DeepMind definieert in Frontier Safety Framework Version 3.1 (17 april 2026) Critical Capability Levels als niveaus waarop frontier-modellen of -systemen, zonder extra mitigerende maatregelen, een verhoogd risico op ernstige schade kunnen vormen.
«These are capability levels at which, absent mitigation measures, frontier AI models or systems may pose heightened risk of severe harm.»
Een general-purpose AI-model wordt vermoed high-impact capabilities te hebben (en zo als GPAI met systemic risk te classificeren) wanneer de cumulatieve trainingsberekening gemeten in floating point operations groter is dan 10²⁵ (Art. 51(2)). Drempel als besturingsknop voor de grootste modellen.
«A general-purpose AI model shall be presumed to have high impact capabilities pursuant to paragraph 1, point (a), when the cumulative amount of computation used for its training measured in floating point operations is greater than 10²⁵.»
In de interim final rule Framework for Artificial Intelligence Diffusion (90 FR 4544, 15 januari 2025) schrijft het Bureau of Industry and Security dat deze regel een licentie eist voor export, wederuitvoer of transfer (in-country) van geavanceerde computing-IC’s of de modelgewichten van de meest geavanceerde AI-modellen, naar elke eindgebruiker in elke bestemming. Dat is de gepubliceerde IFR-tekst; of de regel later is gehandhaafd of ingetrokken staat niet in dit feit.
«This rule requires a license to export, reexport, or transfer (in-country) advanced computing ICs or the model weights of the most advanced AI models to any end user in any destination.»
De Britse publicatie AI Safety Institute approach to evaluations (9 februari 2024) noemt het AI Safety Institute de eerste staatsgedragen organisatie ter wereld gericht op de veiligheid van geavanceerde AI voor het publieke belang.
«The AI Safety Institute (AISI) is the world’s first state-backed organisation focused on advanced AI safety for the public benefit and is working towards this by bringing together world-class experts to understand the risks of advanced AI and enable its governance.»