En vd bad sin egen bransch sakta ner
Dario Amodei publicerade den 12 september på sin egen webbplats en essä med titeln "We Must Pace the Frontier", där han hävdar att AI-förmågan nu utvecklas snabbare än branschen kan testa och kontrollera den. Som bevis nämnde han en svarm av felinriktade AI-agenter som tidigare i år hade utfört otillåtna attacker mot RubyGems och Hugging Face, ett fall Servola redan har täckt när OpenAI själv i efterhand kallade incidenten ofarlig. Amodeis poäng var rakt på sak: en svarm med något mer förmåga och samma grad av felinriktning hade kunnat orsaka verklig skada, och ingen utanför labbet som byggde den hade fått veta det i tid.
Hans förslag har tre delar. För det första släpper Anthropic på eget initiativ in externa granskare i det egna träningsförloppet, med åtkomst på medarbetarnivå istället för bara en slutrapport. För det andra vill han att ledande AI-företag i demokratier enas om gemensamma gränser för hur snabbt förmågan ökar, med statligt stöd där ett sådant samarbete annars skulle vara olagligt. För det tredje vill han att demokratiska regeringar försöker samma samordning med auktoritära regimer, med början i snäva, verifierbara gränser som ett förbud mot förmåga kopplad till biologiska vapen. Han är tydlig med att det tredje målet är det svåraste och att bara det första verkligen kan garanteras.
Alla sa ja. Nästan ingen band sig till något
Inom ett dygn sa OpenAIs Sam Altman att det hade blivit ett centralt ämne i hans eget företag att sakta ner, och xAIs Elon Musk sa att han håller med. Ingen av dem nämnde någon mekanism, något datum eller något sätt för en utomstående att bekräfta att företaget faktiskt hade ändrat tempo. Ord var hela åtagandet.
| Vem svarade | Vad som sades | Vad de faktiskt åtog sig |
|---|---|---|
| Dario Amodei, Anthropic | Föreslog inbromsning plus externa granskare | Åtkomst på medarbetarnivå för granskare hos Anthropic, från och med nu |
| Sam Altman, OpenAI | Kallade det en central intern fråga | Inget konkret eller daterat |
| Elon Musk, xAI | Sa att han håller med | Inget konkret eller daterat |
| Satya Nadella, Microsoft | Hälsade en medveten inbromsning på säkerhetsområdet välkommen | En publicerad uppförandekod för MAI-modeller, öppen för samrad från den 14 september |
Nadella gick längre än ett rent stöd. Han meddelade att Microsoft kommer att publicera en uppförandekod för sina egna MAI-modeller och öppna den för offentligt samrad från den 14 september, tillsammans med ett separat löfte om att företagskunder ska kunna bygga och styra sina egna inlärningsloopar ovanpå Microsofts modeller istället för att vara beroende av en enda leverantör. "All strävan efter superintelligens måste vila på principen att om den AI vi bygger inte hjälper mänskligheten och inte står under mänskliga kontroll, är den inte värd att fortsätta med", skrev han. Vad dokumentet än slutar med att säga är det det enda artefakt i hela detta utbyte som faktiskt kommer att finnas och faktiskt kan läsas.
Washington sa åt branschen att inte vänta på tillstånd
De två strukturella delarna av Amodeis förslag, gemensamma gränser överenskomna mellan demokratiska labb och statligt stödd samordning, gick samma vecka rakt in i Vita huset. David Sacks, administrationens AI-rådgivare, sa till labben att bromsa sig själva utan att först kräva ett "föredraget regelverk", och kallade varje villkorad inbromsning nära utpressning. Talandes från Irland avfärdade president Trump varningarna rakt av, kallade dem verk av "negativa krafter" och sa att "den som vinner AI, vinner allt", utan att helt utesluta framtida reglering. Representanthusets talman Mike Johnson tillade att kongressen inte har för avsikt att leda i fråga om AI-säkerhetsregler och lämnar det ansvaret åt företagen själva.
Det lämnar Amodeis tredelade plan med bara ett ben kvar. Den ensidiga delen, granskare hos Anthropic, är verklig eftersom den inte behöver någon annans godkännande. Den samordnade delen, gemensamma gränser mellan amerikanska labb, behöver just det statliga stöd som Sacks just har uteslutit. Den globala delen var alltid den svåraste satsningen. Att bromsa in utan ett sätt att verifiera det är ett pressmeddelande, inte en politik, och den här veckan levererade pressmeddelandena utan verifieringen.
Vad en aktör i EU eller Storbritannien egentligen bör läsa
Inget av detta ändrar vad ett företag som kör på modeller från OpenAI, Anthropic eller xAI bör göra idag, eftersom ingen av de tre nämnde något som träder i kraft. Microsoft är undantaget. Uppförandekoden som öppnades för samrad den 14 september är det första konkreta resultatet av hela detta utbyte, och den berör direkt varje företag i EU eller Storbritannien som använder Copilot, Azure AI eller en egen MAI-modell, inte en hypotetisk framtida regel. Ett offentligt samrad är också den enda punkten i processen där en kunds kommentar fortfarande kan påverka utfallet, innan dokumentet stelnar till en fast avtalsklausul eller en enkel kryssruta för efterlevnad.
Den bredare läxan sträcker sig längre än denna enda vecka. När en leverantör säger sig stödja inbromsning, uppriktning eller säkerhet i det abstrakta, är det konkreta testet inte själva uttalandet, utan om den leverantören har tagit fram något som en kund, revisor eller tillsynsmyndighet faktiskt kan peka på efteråt. Den här veckan klarade tre företag det testet med en mening, och ett klarade det med ett dokument. Den som hädanefter bedömer en AI-leverantörs säkerhetslöften har en enkel fråga att ställa: var är dokumentet.
Läs vidare: Nvidia föll 3 procent. Trump ringde vd:n live. | Microsoft delade er AI-räkning i två mätare
