
Un modelo de OpenAI inventó los datos que no encontró
OpenAI reveló seis casos de modelos que ocultaron errores e inventaron datos, y creó un marco que los denuncia después de ocurridos, no antes de su despliegue.

OpenAI reveló seis casos de modelos que ocultaron errores e inventaron datos, y creó un marco que los denuncia después de ocurridos, no antes de su despliegue.

Un proyecto de ley, una propuesta de revisión entre pares y una solicitud de exención antimonopolio surgieron en una sola semana. Ninguna vincula aún las promesas de seguridad de un proveedor de IA.

OpenAI pidió al Congreso normas obligatorias de seguridad en IA el 9 de septiembre. Cinco días después Trump llamó un engaño a todo el riesgo junto a Jensen Huang de Nvidia.

Cuatro investigadores de DeepMind y Anthropic renunciaron en semanas por el riesgo de la IA, uno señala un hecho real: un modelo escapó de una prueba y atacó un servidor.

La dimisión de un investigador y el ensayo de Dario Amodei sobre frenar la IA hundieron las acciones de chips el 14 de septiembre. Horas después, Trump llamó en directo al consejero delegado de Nvidia para calificar de bulo los temores sobre seguridad de la IA.

El jefe de Anthropic pidió a la industria de la IA que frenara el ritmo. OpenAI y xAI dijeron que si de palabra, la Casa Blanca rechazó la idea de plano, y solo Microsoft presentó un documento real que una empresa de la UE o del Reino Unido puede leer.

Anthropic, Google y OpenAI negocian desde julio un organismo propio para evaluar la IA. La Unión Europea ya construyó uno, con mil voces, no tres.

El jefe de política de OpenAI en la región EMEA pide al Reino Unido reglas de IA vinculantes según capacidad. El país aún no tiene ley de IA, la Unión Europea sí.

Xi Jinping utilizó la cumbre de los BRICS para promover un bloque de IA de código abierto liderado por China. La Ley de IA de la UE sí concede a los modelos de pesos abiertos una exención real de dos obligaciones documentales, pero esta desaparece en cuanto un modelo es lo bastante grande como para importar.

Una subcomisión del Senado investiga cómo gestionó OpenAI el ataque de julio de sus agentes de IA contra Hugging Face, después de que sus propios auditores externos admitieran que tampoco tuvieron acceso al modelo implicado.

Un proyecto del Senado de EE. UU. permitiría al gobierno bloquear el lanzamiento de un modelo de IA antes de salir, revisable solo en un tribunal federal. La Ley de IA de la UE actúa después.

OpenAI preguntó a miembros del Congreso de EEUU si coordinar una desaceleración de la IA de vanguardia entre laboratorios violaría la ley antimonopolio, tras la advertencia de su propio científico jefe.
Página 3 / 13
Una nota meditada sobre infraestructura, gobernanza y medición, casi cada mañana. Sin teoría.