Laboratorium zmierzyło własną maszynę
17 września Anthropic opublikował pierwszą publiczną wersję tego, co nazywa R&D Automation Index, wskaźnika zbudowanego, by śledzić, jak wiele własnych badań i rozwoju AI wykonuje już Claude, a nie ludzki personel. Kluczowa liczba: Claude prowadzi obecnie 26 procent tej pracy, wobec mniej niż 1 procent w lutym 2026 roku, a ponad 90 procent istotnych zadań znajduje się już na poziomie, który Anthropic nazywa AI współpracuje, lub wyżej. Około 30 tysięcy agentów AI działa jednocześnie nad zadaniami badawczymi i inżynierskimi wewnątrz firmy w danym momencie, według pomiaru z tygodnia od 13 do 20 lipca.
Wskaźnik przypisuje każde zadanie do jednego z sześciu poziomów automatyzacji zbudowanych wspólnie z Epoch AI, od AL0, brak udziału AI, do AL5, gdzie AI działa w pełni autonomicznie bez człowieka w pętli. Anthropic twierdzi, że żadne zadanie nie osiągnęło jeszcze AL5. Powodem publikowania tej liczby, jak mówi firma, jest to, że opinia publiczna potrzebuje więcej informacji o tym, jak szybko laboratorium może teraz ulepszać własną AI za pomocą tej samej AI, tempo, które z zewnątrz zwykle jest niewidoczne.
Nadzór jest słabszy niż praca
Czwarta część badań Anthropic przechodzi już przez Claude, przy czym człowiek nadzoruje, a nie wykonuje pracę samodzielnie, a firma łączy tę liczbę z danymi o tym, jak dokładnie mówi, że kontroluje. Automatyczny monitor online, sprawdzający decyzje badawcze Claude'a w czasie rzeczywistym, blokuje tylko 0,002 procent z nich, około jednej na 47 tysięcy. Osobny proces przeglądu offline oznacza tylko jeden lub dwa transkrypty na tysiąc do późniejszej ludzkiej weryfikacji.
| Miara | Liczba podana przez Anthropic |
|---|---|
| Udział B+R AI prowadzony przez Claude | 26 procent (wobec mniej niż 1 procent w lut. 2026) |
| Praca na poziomie AI współpracuje lub wyższym | Ponad 90 procent |
| Wskaźnik blokowania monitora online | 0,002 procent decyzji (około 1 na 47 tysięcy) |
| Transkrypty oznaczone do ludzkiej weryfikacji | 1 do 2 na 1000 |
Nic z tego nie znaczy, że praca jest bez nadzoru. Znaczy to, że nadzór jest statystyczny, a nie stały, wychwytuje mały, wyrywkowy udział decyzji, a nie odczytuje wszystkich, właśnie w chwili, gdy sama firma mówi, że zakres decyzji podejmowanych samodzielnie przez Claude rośnie.
Sześć poziomów, a nikt nie jest jeszcze na ostatnim
Skala Anthropic opisuje, jak naprawdę wygląda każdy poziom automatyzacji w ramach zadania badawczego, a odstęp między poziomami zgłaszanymi przez firmę a szczytem skali to prawdziwa historia kryjąca się za liczbami.
| Poziom | Co oznacza |
|---|---|
| AL0 | Brak udziału AI |
| AL1 | AI wspomaga w minimalny sposób |
| AL2 | AI wspomaga w sposób bardziej istotny, człowiek wciąż prowadzi |
| AL3 | AI współpracuje, wykonując wielkie fragmenty pracy pod bliskim ludzkim nadzorem |
| AL4 | AI prowadzi, kończy pracę od początku do końca na podstawie ogólnego polecenia, podczas gdy człowiek nadzoruje |
| AL5 | W pełni autonomiczne, brak człowieka w pętli |
Własny cytat Anthropic jasno przedstawia ryzyko: w miarę jak praca staje się coraz bardziej zautomatyzowana, agenci mogliby podejmować decyzje o większych konsekwencjach, na przykład który kierunek badań realizować dalej, a takie decyzje wymagają zarówno zabezpieczeń przed szkodliwym zachowaniem pojedynczego agenta, jak i systemu nadzoru zdolnego wykrywać problemy u wszystkich naraz. Firma opisuje tu AL4, nie AL5, ale odległość między tymi dwoma to jeden krok, a nie stała ściana.
Firma pisze własny egzamin
Anthropic nie ogranicza się tutaj do podania liczby. Firma proponuje, by rządy wykorzystywały takie miary do ustalania obowiązków przejrzystości i do definiowania wyzwalaczy dla ostrzejszych wymogów, na przykład stałego okna testowego przed tym, jak nowy model sam będzie mógł przejąć więcej pracy nad B+R AI. To realny, przydatny pomysł. To jednocześnie laboratorium, które pisze pierwszy szkic egzaminu, jakiego oczekuje, wykorzystując dane telemetryczne, które dziś posiada tylko ono samo.
Żaden przepis unijnego AI Act nie łączy dziś obowiązku systemowego ryzyka dla modeli GPAI z własnym poziomem automatyzacji laboratorium, ani z tym, jaką część jego mocy obliczeniowej na bezpieczeństwo idzie na obserwowanie własnego zautomatyzowanego udziału pracy, według Anthropic obecnie 6 procent całkowitej mocy obliczeniowej B+R AI, rosnące do 12 procent w ramach części tej pracy prowadzonej przez AI. Każda europejska firma, która dziś kupuje dostęp do modeli na poziomie granicy możliwości dla własnej mapy drogowej produktu, powinna czytać to nie jako historię o Anthropic, ale jako zapowiedź pytania, które regulator, lub dział zakupów klienta, kiedyś zada każdemu dostawcy AI: jak wiele z tego, co mi sprzedajecie, zbudowało coś, czego nie obserwowaliście w pełni, i skąd to wiecie.
Czytaj dalej: Raport Bezpieczeństwa Anthropic Wymienia Własne Błędy | AI Sformalizowała Wielkie Twierdzenie Fermata w 11 Dni
