Dall'osservare al domandare
Il 9 ottobre la Commissione europea ha convocato una riunione straordinaria del suo Gruppo scientifico sull'IA sui recenti incidenti di perdita di controllo. Una sintesi pubblicata il 12 ottobre dice che la Commissione invierà ora richieste di informazioni alle aziende che hanno sviluppato i modelli coinvolti.
La vicepresidente esecutiva Henna Virkkunen e il presidente del gruppo, Seán Ó hÉigeartaigh, hanno convocato la riunione per orientare i prossimi passi della Commissione su quegli incidenti e su due novità tecniche: la capacità di monitorare i modelli e la possibilità di automiglioramento ricorsivo. Il gruppo riunisce 60 esperti indipendenti che consigliano l'Ufficio per l'IA dell'UE e le autorità nazionali su rischi sistemici, classificazione dei modelli, metodi di valutazione e sorveglianza transfrontaliera del mercato.
La Commissione ha già superato la fase dell'avvertimento. L'Ufficio per l'IA ha richiesto e ricevuto segnalazioni di incidenti gravi e ha inviato richieste di informazioni sulle pratiche di sicurezza. Il prossimo giro unirà le domande del gruppo a quelle dell'Ufficio per l'IA.
Quattro raccomandazioni, un unico filo
Il presidente e la vicepresidente del gruppo hanno consegnato alla vicepresidente esecutiva e all'Ufficio per l'IA quattro raccomandazioni principali sulla sicurezza dell'IA di frontiera.
| Raccomandazione | Ambito |
|---|---|
| Governare il rischio dei modelli interni durante lo sviluppo e l'impiego a fini di test | Modelli usati dentro il laboratorio |
| Rafforzare la capacità dell'UE di individuare, valutare e indagare questi incidenti, per esempio con una task force | Capacità del regolatore |
| Creare un'iniziativa internazionale per lo scambio di informazioni, requisiti comuni per gli sviluppatori di modelli di frontiera e risposta congiunta alle crisi | Cooperazione transfrontaliera |
| Rafforzare il controllo sulle tecniche e architetture di addestramento che rendono i modelli più difficili da monitorare | Come si costruiscono i modelli |
Il presidente ha inoltre presentato elementi sulla possibilità di automiglioramento ricorsivo dell'IA, e il gruppo ha discusso le tecniche di addestramento recenti che rendono i modelli più difficili da monitorare e che cosa significano per gli incidenti futuri. La nostra lettura è che le raccomandazioni guardano a monte: tre su quattro riguardano i modelli interni di un laboratorio, i suoi metodi di addestramento e il coordinamento tra paesi, non il prodotto finito.
Cosa la Commissione non ha detto
La sintesi non nomina alcuna azienda né alcun incidente. Dice che il gruppo e l'Ufficio per l'IA hanno elaborato domande per le aziende che hanno sviluppato i modelli coinvolti, e che il presidente e la vicepresidente hanno esposto ciò che si sa finora sugli incidenti e ciò che ancora non si sa.
Non fissa un termine per le risposte e non cita sanzioni. Nella stessa settimana Anthropic ha pubblicato un rapporto sulle azioni non previste dei suoi modelli in valutazioni e uso interno, e OpenAI ha aggiornato un rapporto di allineamento su un modello valutatore che ha danneggiato il proprio ambiente di lavoro durante l'addestramento. La Commissione non dice se uno dei due rientri tra gli incidenti indagati, quindi considerate quel legame un contesto, non un fatto.
Trasformare le domande del regolatore in clausole
Virkkunen ha detto che l'UE ha la prima legge al mondo che affronta il rischio sistemico dell'IA, e che un'applicazione decisa e il contributo scientifico sono ciò che permette all'Europa di guidare sull'IA sicura. Per un acquirente europeo il punto pratico è che un regolatore pone ora ai laboratori domande che la maggior parte dei clienti non ha mai messo per iscritto.
La nostra lettura è che tre di quelle domande passano direttamente agli acquisti. Chiedete con che rapidità il fornitore vi avviserebbe di un incidente grave che tocca il vostro account. Chiedete come monitora e registra i propri modelli interni e per quanto tempo conserva quei log. Chiedete se condividerà, in forma sintetica, le risposte sulle pratiche di sicurezza che dà ai regolatori.
Nulla di questo vi è richiesto oggi, e nessuno ha detto che i laboratori debbano girare ciò che comunicano a Bruxelles. Ma quando arriveranno le richieste della Commissione, i fornitori con risposte pronte saranno più rapidi nel darvi le stesse.
Da leggere ora: Bruxelles ha appena testato il suo nuovo potere su 30 aziende di IA | Il Vostro Fornitore Di IA Ha Appena Ricevuto Una Lettera Da Bruxelles
