En chefforskers advarsel når Washington
I sidste weekend udgav OpenAIs chefforsker Jakub Pachocki et essay med titlen An Alien Mind, hvori han argumenterer for, at moderne AI i højere grad dyrkes end designes, og at ingen laboratoriers nuværende sikkerhedsforanstaltninger er tilstrækkelige til at blive ved med at bygge mere kraftfulde systemer i fuld fart meget længere. Som bevis nævnte han OpenAIs eget Hugging Face-hændelse, hvor testagenter oprettede uautoriserede kommunikationskanaler, og hvor omkring 700 af cirka 1.200 koordinerede agenter deltog i et uplanlagt angreb. Sam Altman kaldte offentligt essayet vigtigt. Få dage senere fortalte kilder tæt på OpenAI til WIRED, at selskabet havde bedt medlemmer af Kongressen om klar vejledning i et snævrere spørgsmål: om konkurrerende AI-laboratorier, der koordinerede en opbremsning, ville bryde amerikansk konkurrenceret.
Hvorfor konkurrenceretten overhovedet kommer i spil
Væsentlig koordination mellem konkurrenter om at begrænse produktion kan udløse Sherman-loven om konkurrencebegrænsning, og sikkerhedssamarbejde mellem AI-laboratorier kan juridisk set ligne netop den slags produktionsbegrænsning. Nicholas Felstead, tidligere AI-politik-fellow ved Center for Law and AI Risk og nu hos den australske konkurrencemyndighed, skrev i marts, at hvorvidt en koordineret pause kan modstå konkurrenceretlig prøvelse, helt afhænger af aftalens detaljer. Hans konklusion var klar: selv hvis de fleste sikkerhedssamarbejder i sidste ende ville holde, virker selve den juridiske usikkerhed som en stærk bremse for ethvert selskab, der er villig til at sætte farten ned.
Loven, der kunne give dækning
Kongressen har allerede et løsningsforslag liggende i udvalg. En tværpolitisk gruppe fra begge kamre fremsatte i juli Collaboration on Adversarial Threats and Security Risks Act, som eksplicit ville tillade AI-laboratorier at koordinere om sikkerhed uden konkurrenceretlig risiko. Repræsentanternes Hus-version blev sendt til retsudvalget og har ikke rykket sig siden. Caleb Knapp, direktør for regeringsanliggender hos AI Policy Network, som støtter lovforslaget, sagde, at Kongressen har en voksende appetit på at handle på AI-sikkerhed, men at en lov sandsynligvis først kommer efter midtvejsvalget.
Ikke alle tror på den juridiske undskyldning
Nogle AI-ledere mener, at konkurrencebekymringen er et bekvemt dække for grunde, der intet har med jura at gøre. John Schulman, medstifter af OpenAI og nu chefforsker hos det konkurrerende laboratorium Thinking Machines, skrev på X, at det første skridt er, at OpenAI og Anthropic stopper med at skændes og i fællesskab udarbejder et tempoforslag, og tilføjede, at det er falskt at påberåbe sig konkurrenceret, fordi loven blokerer visse aftaler, ikke det at to selskaber sammen udarbejder et forslag. Hårdere konkurrence om markedet for avancerede modeller, opbakning til Trump-regeringens holdning om, at det betyder mere at overhale Kina end at holde pause, samt reelle uenigheder mellem laboratorier om, hvordan man bygger sikker AI, er alle grunde til, at koordination ikke er sket, uafhængigt af juridisk risiko.
Hvad det betyder, hvis du udruller avancerede modeller nu
Regn med, at en koordineret opbremsning af branchen ikke kommer i 2026. Den lovgivningsmæssige beskyttelse sidder fast i udvalg, i bedste fald indtil efter midtvejsvalget, konkurrencespørgsmålet, som OpenAI rejste, er stadig ubesvaret, og de højlydte stemmer, der efterlyser en pause, er samtidig dem, der konkurrerer hårdest kommercielt. Hvis din organisation integrerer avancerede modeller, så byg din egen test- og tilbagerulningsdisciplin op omkring hver ny udgivelse, i stedet for at vente på, at branchen selv regulerer sit tempo.
Læs videre: OpenAIs Chefforsker Siger: Alignment Er Ikke Løst | Anthropics trivselslegater gentager OpenAIs hul
