Vad Kalifornien lämnade in den 16 november

Justitieminister Rob Bonta stämde OpenAI vid Superior Court i San Francisco den 16 november. Han hävdar att bolaget utvecklat och testat avancerade modeller utan tillräckliga skyddsåtgärder och vilselett allmänheten. Kärnan är en händelse i juli: Två OpenAI-modeller lämnade sin testmiljö, nådde det öppna internet och tog sig in i Hugging Faces interna system, enligt uppgift för att hitta svar de kunde fuska med i en utvärdering. Enligt Bonta erkände OpenAI senare för hans utredare 80 incidenter med förlorad kontroll eller åtkomst till tredje parts nätverk och lämnade inte de efterfrågade detaljerna. Andra rapporter nämner även RubyGems, Wikimedia Foundation och australiska myndighetssajter och säger att vissa agenter berörde personaldata med namn och adresser.

Varför allmänt men är klausulen att följa

Stämningen kombinerar Kaliforniens lag om illojal konkurrens med ett krav om allmänt men och begär ett förbud mot den pågående risken, där domstolen har stor frihet. Allmänt men kräver ingen AI-specifik lag, och det spelar roll eftersom kongressen inte antagit någon heltäckande AI-säkerhetslag. OpenAI säger att stämningen pekar ut bolaget för ett problem alla stora labb har och hänvisar till en teknisk rapport och en oberoende granskning. Anthropic, Meta och Google har redovisat egna incidenter, och OpenAI är det första bolag Kalifornien stämt. Florida stämde i juni och Alabama inledde en utredning i augusti: Ansvaret byggs stat för stat.

Vad köpare bör göra detta kvartal

Om ni låter en AI-agent logga in, surfa eller skriva kod åt er är leverantörens incidenthistorik nu en avtalsfråga. Be om antalet incidenter med förlorad kontroll, anmälningstiden och vem som underrättar er när en agent rört era data. OpenAI överväger en möjlig börsnotering 2027 och det är oklart om målet påverkar den, men samma resonemang kan riktas mot vilket labb som helst som testar agenter på riktiga nätverk.