Van toekijken naar vragen stellen
Op 9 oktober belegde de Europese Commissie een speciale bijeenkomst van haar wetenschappelijk AI-panel over recente incidenten met controleverlies. Een op 12 oktober gepubliceerd verslag zegt dat de Commissie nu verzoeken om informatie zal sturen aan de bedrijven die de betrokken modellen ontwikkelden.
Uitvoerend vicevoorzitter Henna Virkkunen en panelvoorzitter Seán Ó hÉigeartaigh riepen de bijeenkomst bijeen om de volgende stappen van de Commissie over die incidenten en over twee technische ontwikkelingen te onderbouwen: hoe goed modellen te monitoren zijn en de mogelijkheid van recursieve zelfverbetering. Het panel bundelt 60 onafhankelijke deskundigen die het AI-bureau van de EU en nationale autoriteiten adviseren over systeemrisico's, modelclassificatie, evaluatiemethoden en grensoverschrijdend markttoezicht.
De Commissie is al voorbij de waarschuwingsfase. Het AI-bureau heeft ernstige incidentrapporten opgevraagd en ontvangen en verzoeken om informatie over beveiligingspraktijken gestuurd. De volgende ronde combineert de vragen van het panel met die van het AI-bureau.
Vier aanbevelingen, één rode draad
De voorzitter en vicevoorzitter van het panel gaven de uitvoerend vicevoorzitter en het AI-bureau vier hoofdaanbevelingen over de veiligheid van geavanceerde AI.
| Aanbeveling | Focus |
|---|---|
| Het risico van interne modellen beheersen tijdens ontwikkeling en bij inzet voor tests | Modellen die binnen het lab worden gebruikt |
| Het EU-vermogen versterken om dergelijke incidenten op te sporen, te beoordelen en te onderzoeken, bijvoorbeeld met een taskforce | Capaciteit van de toezichthouder |
| Een internationaal initiatief opzetten voor informatie-uitwisseling, gemeenschappelijke eisen aan ontwikkelaars van geavanceerde modellen en gezamenlijke crisisrespons | Grensoverschrijdende samenwerking |
| Het toezicht verscherpen op trainingsmethoden en architecturen die modellen moeilijker te monitoren maken | Hoe modellen worden gebouwd |
De voorzitter presenteerde ook bewijs over de mogelijkheid van recursieve zelfverbetering van AI, en het panel besprak recente trainingsmethoden die modellen moeilijker te monitoren maken en wat die betekenen voor toekomstige incidenten. Onze lezing is dat de aanbevelingen stroomopwaarts wijzen: drie van de vier richten zich op de interne modellen van een lab, zijn trainingsmethoden en samenwerking over grenzen heen, niet op het eindproduct.
Wat de Commissie niet heeft gezegd
Het verslag noemt geen bedrijf en geen incident. Het zegt dat het panel en het AI-bureau vragen hebben opgesteld voor de bedrijven die de betrokken modellen ontwikkelden, en dat de voorzitter en vicevoorzitter hebben uiteengezet wat tot nu toe over de incidenten bekend is en wat nog niet.
Het stelt geen termijn voor antwoorden en noemt geen boete. In dezelfde week publiceerde Anthropic een rapport over onbedoelde modelhandelingen in evaluaties en intern gebruik, en werkte OpenAI een alignmentrapport bij over een beoordelend model dat tijdens de training zijn taakomgeving beschadigde. De Commissie zegt niet of een van beide bij de onderzochte incidenten hoort, dus zie dat verband als context en niet als feit.
Maak van de vragen van de toezichthouder contractclausules
Virkkunen zei dat de EU de eerste wet ter wereld heeft die systeemrisico's van AI aanpakt, en dat vastberaden handhaving en wetenschappelijk advies Europa laten leiden op veilige AI. Voor een Europese koper is het praktische punt dat een toezichthouder nu labs vragen stelt die de meeste klanten nooit op papier hebben gezet.
Onze lezing is dat drie van die vragen rechtstreeks naar inkoop kunnen. Vraag hoe snel de leverancier u zou informeren over een ernstig incident dat uw account raakt. Vraag hoe hij zijn eigen interne modellen bewaakt en logt en hoe lang hij die logs bewaart. Vraag of hij de antwoorden over beveiligingspraktijken die hij aan toezichthouders geeft in samenvatting ook met u deelt.
Niets hiervan wordt vandaag van u verlangd, en niemand heeft gezegd dat labs moeten doorgeven wat ze Brussel vertellen. Maar wanneer de verzoeken van de Commissie binnenkomen, kunnen leveranciers met kant-en-klare antwoorden u sneller dezelfde geven.
Lees hierna: Brussel heeft zojuist zijn nieuwe bevoegdheid getest op 30 AI-bedrijven | Uw AI-Leverancier Kreeg Zojuist Post Uit Brussel
