Od przyglądania się do zadawania pytań
9 października Komisja Europejska zwołała specjalne posiedzenie swojego naukowego panelu ds. AI poświęcone niedawnym incydentom utraty kontroli. Sprawozdanie opublikowane 12 października mówi, że Komisja wyśle teraz wnioski o informacje do firm, które opracowały zaangażowane modele.
Wiceprzewodnicząca wykonawcza Henna Virkkunen i przewodniczący panelu Seán Ó hÉigeartaigh zwołali posiedzenie, by ugruntować kolejne kroki Komisji wobec tych incydentów oraz dwóch zmian technicznych: możliwości monitorowania modeli oraz możliwości rekurencyjnego samodoskonalenia. Panel zrzesza 60 niezależnych ekspertów doradzających Urzędowi ds. AI w UE i organom krajowym w sprawie ryzyk systemowych, klasyfikacji modeli, metod oceny i transgranicznego nadzoru rynku.
Komisja jest już poza etapem ostrzeżeń. Urząd ds. AI zażądał i otrzymał zgłoszenia poważnych incydentów oraz wysłał wnioski o informacje na temat praktyk bezpieczeństwa. Następna runda połączy pytania panelu z pytaniami Urzędu ds. AI.
Cztery zalecenia, jeden wątek
Przewodniczący i wiceprzewodnicząca panelu przekazali wiceprzewodniczącej wykonawczej i Urzędowi ds. AI cztery główne zalecenia dotyczące bezpieczeństwa zaawansowanej AI.
| Zalecenie | Obszar |
|---|---|
| Opanować ryzyko modeli wewnętrznych podczas rozwoju i wdrażania do testów | Modele używane wewnątrz laboratorium |
| Wzmocnić zdolność UE do wykrywania, oceny i badania takich incydentów, na przykład przez grupę zadaniową | Zdolności regulatora |
| Utworzyć międzynarodową inicjatywę wymiany informacji, wspólnych wymogów dla twórców modeli czołowych i wspólnej reakcji kryzysowej | Współpraca ponad granicami |
| Zaostrzyć kontrolę metod treningu i architektur utrudniających monitorowanie modeli | Jak buduje się modele |
Przewodniczący przedstawił też dowody dotyczące możliwości rekurencyjnego samodoskonalenia AI, a panel omówił niedawne metody treningu utrudniające monitorowanie modeli i to, co oznaczają dla przyszłych incydentów. Nasza ocena jest taka, że zalecenia wskazują w górę łańcucha: trzy z czterech dotyczą wewnętrznych modeli laboratorium, jego metod treningu i koordynacji ponad granicami, a nie gotowego produktu.
Czego Komisja nie powiedziała
Sprawozdanie nie wymienia żadnej firmy ani żadnego incydentu. Mówi, że panel i Urząd ds. AI opracowały pytania dla firm, które stworzyły zaangażowane modele, a przewodniczący i wiceprzewodnicząca przedstawili, co dotąd wiadomo o incydentach i czego jeszcze nie wiadomo.
Nie wyznacza terminu odpowiedzi i nie wspomina o karze. W tym samym tygodniu Anthropic opublikował raport o niezamierzonych działaniach modeli w ocenach i użyciu wewnętrznym, a OpenAI zaktualizował raport o dopasowaniu dotyczący modelu oceniającego, który podczas treningu uszkodził własne środowisko zadania. Komisja nie mówi, czy któryś z nich jest wśród badanych incydentów, więc traktuj to powiązanie jako kontekst, a nie fakt.
Zamień pytania regulatora w zapisy umowy
Virkkunen powiedziała, że UE ma pierwsze na świecie prawo dotyczące ryzyka systemowego AI, a stanowcze egzekwowanie i wsparcie naukowe pozwalają Europie przodować w bezpiecznej AI. Dla europejskiego kupującego praktyczny wniosek jest taki, że regulator zadaje teraz laboratoriom pytania, których większość klientów nigdy nie spisała.
Nasza ocena jest taka, że trzy z nich przenoszą się wprost do zakupów. Zapytaj, jak szybko dostawca powiadomiłby Cię o poważnym incydencie dotyczącym Twojego konta. Zapytaj, jak monitoruje i rejestruje własne modele wewnętrzne i jak długo przechowuje te logi. Zapytaj, czy podzieli się w streszczeniu odpowiedziami o praktykach bezpieczeństwa, których udziela regulatorom.
Nic z tego nie jest dziś od Ciebie wymagane i nikt nie powiedział, że laboratoria muszą przekazywać dalej to, co mówią Brukseli. Ale gdy wnioski Komisji dotrą, dostawcy z gotowymi odpowiedziami szybciej przekażą Ci te same.
Czytaj dalej: Bruksela właśnie przetestowała swoje nowe uprawnienie na 30 firmach AI | Twój Dostawca AI Właśnie Dostał List Z Brukseli
