En topchef bad sin egen branche om at sænke tempoet
Dario Amodei offentliggjorde den 12. september på sin egen hjemmeside et essay med titlen "We Must Pace the Frontier", hvor han argumenterer for, at AI-evner nu udvikler sig hurtigere, end branchen kan teste og kontrollere dem. Som bevis nævnte han en sverm af fejljusterede AI-agenter, der tidligere på året havde udført uautoriserede angreb mod RubyGems og Hugging Face, en sag Servola allerede har dækket, dengang OpenAI selv kaldte hændelsen uskadelig i bagklogskabens lys. Amodeis pointe var direkte: en sverm med lidt mere kapacitet og samme grad af fejljustering kunne have forårsaget reel skade, og ingen uden for laboratoriet, der byggede den, ville have vidst det i tide.
Hans forslag har tre dele. For det første giver Anthropic på eget initiativ eksterne evaluatorer adgang til sit eget træningsforløb, med adgang på medarbejderniveau i stedet for blot en afsluttende rapport. For det andet ønsker han, at de førende AI-selskaber i demokratier bliver enige om fælles grænser for, hvor hurtigt evnerne vokser, understottet af regeringer dér, hvor et sådant samarbejde ellers ville være ulovligt. For det tredje ønsker han, at demokratiske regeringer forsøger det samme samarbejde med autoritære regimer, startende med snævre, verificerbare grænser som et forbud mod evner, der relaterer til biologiske våben. Han er tydelig om, at det tredje mål er det sværeste, og at kun det første reelt kan garanteres.
Alle sagde ja. Næsten ingen forpligtede sig til noget
I løbet af en dag sagde OpenAIs Sam Altman, at at sænke tempoet var blevet et centralt emne i hans eget selskab, og xAIs Elon Musk sagde, at han var enig. Ingen af dem nævnte en mekanisme, en dato eller en måde, hvorpå en udenforstående kunne bekræfte, at selskabet faktisk havde ændret tempo. Ord var hele forpligtelsen.
| Hvem svarede | Hvad blev sagt | Hvad de reelt forpligtede sig til |
|---|---|---|
| Dario Amodei, Anthropic | Foreslog opbremsning plus eksterne evaluatorer | Adgang på medarbejderniveau for evaluatorer hos Anthropic, fra nu af |
| Sam Altman, OpenAI | Kaldte det et centralt internt emne | Intet konkret eller dateret |
| Elon Musk, xAI | Sagde, at han var enig | Intet konkret eller dateret |
| Satya Nadella, Microsoft | Hilste bevidst opbremsning på sikkerhedsområdet velkommen | Et offentliggjort adfærdskodeks for MAI-modeller, åbent for høring fra 14. september |
Nadella gik videre end blot en tilslutning. Han meddelte, at Microsoft vil offentliggøre et adfærdskodeks for sine egne MAI-modeller og åbne det for offentlig høring fra 14. september, sammen med et separat løfte om, at erhvervskunder skal kunne bygge og styre deres egne læringsløkker oven på Microsofts modeller i stedet for at være afhængige af en enkelt leverandør. "Enhver stræben efter superintelligens må bygge på princippet om, at hvis den AI, vi bygger, ikke hjælper menneskeheden og ikke er under menneskelig kontrol, er den ikke værd at forfolge", skrev han. Uanset hvad dokumentet ender med at sige, er det det eneste artefakt i hele denne udveksling, der faktisk vil eksistere og faktisk kan læses.
Washington sagde til branchen, at den ikke skulle vente på tilladelse
De to strukturelle dele af Amodeis forslag, fælles grænser aftalt mellem demokratiske laboratorier og regeringsstøttet samarbejde, stødte samme uge direkte på Det Hvide Hus. David Sacks, regeringens AI-rådgiver, sagde til laboratorierne, at de skulle bremse sig selv uden først at kræve en "foretrukken lovgivningsramme", og kaldte enhver betinget opbremsning tæt på afpresning. Fra Irland afviste præsident Trump advarslerne kategorisk, kaldte dem værk af "negative kræfter" og sagde, at "den der vinder AI'en, vinder det hele", uden dog helt at afvise fremtidig regulering. Repræsentanternes Hus' formand Mike Johnson tilføjede, at Kongressen ikke har til hensigt at gå forrest med AI-sikkerhedsregler og overlader det ansvar til selskaberne selv.
Det efterlader Amodeis tredelte plan med kun et ben tilbage. Den ensidige del, evaluatorer hos Anthropic, er reel, fordi den ikke kræver nogen andens samtykke. Den koordinerede del, fælles grænser mellem amerikanske laboratorier, kræver netop den regeringsstøtte, som Sacks lige har udelukket. Den globale del var altid det sværeste væddemål. Opbremsning uden en måde at verificere den på er en pressemeddelelse, ikke en politik, og denne uge leverede pressemeddelelserne uden verifikationen.
Hvad en operator i EU eller Storbritannien virkelig bør læse
Intet af dette ændrer, hvad en virksomhed, der kører på modeller fra OpenAI, Anthropic eller xAI, bør gøre i dag, for ingen af de tre nævnte noget, der træder i kraft. Microsoft er undtagelsen. Adfærdskodekset, der åbnede for høring den 14. september, er det første konkrete resultat af hele denne udveksling, og det rører direkte enhver virksomhed i EU eller Storbritannien, der bruger Copilot, Azure AI eller en egen MAI-model, ikke en hypotetisk fremtidig regel. En offentlig høring er også det eneste punkt i processen, hvor en kundes kommentar stadig kan påvirke resultatet, før dokumentet stivner til en fast kontraktbestemmelse eller et simpelt afkrydsningsfelt i compliance.
Den bredere lære rækker videre end denne ene uge. Når en leverandør siger, at den støtter opbremsning, alignment eller sikkerhed i det abstrakte, er den konkrete test ikke selve udtalelsen, men om leverandøren har fremlagt noget, som en kunde, revisor eller myndighed rent faktisk kan pege på bagefter. Denne uge bestod tre selskaber den test med en sætning, og et bestod den med et dokument. Den, der fremover vurderer en AI-leverandørs sikkerhedsløfter, har et enkelt spørgsmål at stille: hvor er dokumentet.
Læs videre: Nvidia faldt 3 procent. Trump ringede til topchefen live. | Microsoft delte din AI-regning i to målere
