Fra at se til at spørge
Den 9. oktober indkaldte Europa-Kommissionen til et særligt møde i sit videnskabelige AI-panel om de seneste hændelser med tab af kontrol. Et referat offentliggjort den 12. oktober siger, at Kommissionen nu sender anmodninger om oplysninger til de virksomheder, der udviklede de involverede modeller.
Eksekutivnæstformand Henna Virkkunen og panelets formand Seán Ó hÉigeartaigh indkaldte mødet for at belyse Kommissionens næste skridt over for disse hændelser og over for to tekniske udviklinger: hvor godt modeller kan overvåges og muligheden for rekursiv selvforbedring. Panelet samler 60 uafhængige eksperter, der rådgiver EU's AI-kontor og de nationale myndigheder om systemiske risici, modelklassificering, evalueringsmetoder og grænseoverskridende markedsovervågning.
Kommissionen er allerede forbi advarselsfasen. AI-kontoret har anmodet om og modtaget rapporter om alvorlige hændelser og sendt anmodninger om oplysninger om sikkerhedspraksis. Næste runde kombinerer panelets spørgsmål med AI-kontorets egne.
Fire anbefalinger, én rød tråd
Panelets formand og næstformand gav eksekutivnæstformanden og AI-kontoret fire hovedanbefalinger om sikkerhed ved avanceret AI.
| Anbefaling | Fokus |
|---|---|
| Styre risikoen ved interne modeller under udvikling og ved udrulning til test | Modeller brugt inde i laboratoriet |
| Styrke EU's evne til at opdage, vurdere og undersøge sådanne hændelser, for eksempel med en taskforce | Tilsynets kapacitet |
| Oprette et internationalt initiativ for informationsudveksling, fælles krav til udviklere af avancerede modeller og fælles krisehåndtering | Grænseoverskridende samarbejde |
| Skærpe tilsynet med træningsmetoder og arkitekturer, der gør modeller sværere at overvåge | Hvordan modeller bygges |
Formanden fremlagde desuden belæg for muligheden for rekursiv selvforbedring af AI, og panelet drøftede nyere træningsmetoder, der gør modeller sværere at overvåge, og hvad de betyder for fremtidige hændelser. Vores læsning er, at anbefalingerne peger opstrøms: tre af de fire retter sig mod et laboratoriums interne modeller, dets træningsmetoder og samarbejdet på tværs af grænser, ikke mod det færdige produkt.
Hvad Kommissionen ikke har sagt
Referatet nævner ingen virksomhed og ingen hændelse. Det siger, at panelet og AI-kontoret har arbejdet med spørgsmål til de virksomheder, der udviklede de involverede modeller, og at formanden og næstformanden fremlagde, hvad der indtil nu vides om hændelserne, og hvad der stadig er uvist.
Det sætter ingen frist for svar og nævner ingen sanktion. I samme uge udgav Anthropic en rapport om utilsigtede modelhandlinger i evalueringer og intern brug, og OpenAI opdaterede en alignment-rapport om en bedømmende model, der under træning ødelagde sit opgavemiljø. Kommissionen siger ikke, om nogen af dem er blandt de hændelser, den undersøger, så se den forbindelse som baggrund og ikke som fakta.
Gør tilsynets spørgsmål til kontraktvilkår
Virkkunen sagde, at EU har verdens første lov, der adresserer systemisk risiko fra AI, og at beslutsom håndhævelse og videnskabelig rådgivning er det, der lader Europa føre an i sikker AI. For en europæisk køber er det praktiske, at et tilsyn nu stiller laboratorier spørgsmål, som de fleste kunder aldrig har sat på skrift.
Vores læsning er, at tre af dem kan overføres direkte til indkøb. Spørg, hvor hurtigt leverandøren ville underrette jer om en alvorlig hændelse, der berører jeres konto. Spørg, hvordan den overvåger og logger sine egne interne modeller, og hvor længe den gemmer logfilerne. Spørg, om den i sammendrag vil dele de svar om sikkerhedspraksis, den giver til tilsynene.
Intet af dette kræves af jer i dag, og ingen har sagt, at laboratorierne skal videregive det, de fortæller Bruxelles. Men når Kommissionens anmodninger lander, kan leverandører med færdige svar hurtigere give jer de samme.
Læs videre: Bruxelles har lige testet sin nye beføjelse på 30 AI-virksomheder | Din AI-Leverandør Har Lige Fået Post Fra Bruxelles
