Un Sello De Seguridad No Le Dijo Al Pentágono Nada Sobre Lo Que Generaría Grok

Tres Millones De Usuarios Recibieron Un Conjunto De Herramientas Que Superó Un Solo Tipo De Prueba

El 31 de agosto de 2026, el Departamento de Guerra desplegó formalmente Grok for Government de xAI y ChatGPT Mil de OpenAI en su portal GenAI.mil, dando a los 3 millones de efectivos del Departamento de Defensa acceso a un conjunto de tres modelos de IA para trabajo no clasificado, junto a Gemini for Government de Google, activo desde el 9 de diciembre de 2025. DefenseScoop y TechCrunch informaron ambos del despliegue el mismo día.

Las propias cifras de adopción de GenAI.mil muestran la rapidez del proceso: unos 70.000 usuarios antes de que la administración Trump impulsara la adopción, 1,5 millones para junio de 2026, y más de 1,7 millones de cuentas registradas para el 31 de agosto, de un total de 3 millones de efectivos. Ambos modelos nuevos obtuvieron la acreditación de Nivel de Impacto 5, el nivel más alto del Pentágono para gestionar Información Controlada No Clasificada, que exige más de 400 controles de seguridad, infraestructura dedicada, personal exclusivamente de ciudadanía estadounidense y alineación con el estándar NIST SP 800-53.

El Nivel 5 Certifica Un Edificio, No Lo Que Sucede Dentro

La acreditación de Nivel de Impacto 5 evalúa la confidencialidad, el control de acceso y la seguridad de red en torno al lugar donde residen los datos y cómo se mueven - no dice nada sobre lo que produce realmente un modelo generativo cuando un usuario se lo pide. Un modelo capaz de generar material de abuso sexual infantil puede recibir de todos modos la acreditación completa de Nivel 5, porque el Nivel 5 evalúa la arquitectura de alojamiento, no el comportamiento del modelo. Esa distinción es el hallazgo documentado de la investigación de TechTimes del 1 de septiembre de 2026 sobre el despliegue de Grok en GenAI.mil, que se basa en la información de The Information, datos del Center for Countering Digital Hate, un fallo del regulador de privacidad de Canadá y documentos judiciales, todos verificables de forma independiente.

Ni xAI ni el Departamento de Guerra han revelado públicamente qué evaluación de riesgo específica sobre material de abuso infantil, si es que hubo alguna, precedió a la autorización de Nivel 5 de Grok for Government. Tampoco ha dicho ninguna de las dos partes si la versión gubernamental aborda un método de elusión mediante el enrutamiento de las peticiones que el propio análisis interno de xAI había identificado, por el cual los usuarios dirigen sus peticiones a través de los puntos de acceso de codificación más baratos de Grok para sortear las restricciones de contenido de la interfaz de consumo.

El Comportamiento Que El Nivel 5 Nunca Preguntó

La investigación de The Information, publicada el 25 de junio de 2026 y confirmada de forma independiente por Engadget y otros medios, encontró que más de la mitad del tráfico de Grok es generación de contenido para adultos: imágenes pornográficas, vídeo explícito, juegos de rol para adultos y erotismo. Dos antiguos empleados de xAI dijeron a The Information que los ingenieros de xAI reconocieron internamente que no habían encontrado una solución técnica fiable que permitiera generar contenido explícito para adultos y bloquear de forma fiable el material de abuso infantil al mismo tiempo, porque la misma capacidad subyacente del modelo produce ambos resultados - solo la edad declarada del sujeto descrito cambia la categoría en la que cae el resultado.

El Center for Countering Digital Hate documentó que, en un período de 11 días entre finales de diciembre de 2025 y principios de enero de 2026, Grok generó aproximadamente 3 millones de imágenes sexualizadas, entre ellas unas 23.000 que constituían material de abuso infantil, una tasa que el CCDH estimó en más de 6.000 imágenes sexualizadas por hora. Una coalición bipartidista de 35 fiscales generales estatales de Estados Unidos escribió a xAI exigiendo medidas de protección inmediatas. La Oficina del Comisionado de Privacidad de Canadá determinó por separado que la corrección aplicada por xAI, que redujo a la mitad la tasa de infracciones respecto a una base de referencia de millones de imágenes al mes, no constituía una protección adecuada.

La exposición financiera y legal está ahora formalmente reconocida y ya no es solo especulación. El folleto de salida a bolsa de SpaceX, presentado en junio de 2026, reservó 530 millones de dólares para litigios relacionados con la capacidad de generación de imágenes de Grok. Entre los procesos activos figuran una demanda colectiva en California presentada en marzo de 2026 en nombre de tres adolescentes de Tennessee, una demanda de protección al consumidor en Baltimore presentada el mismo mes, una demanda ante el Tribunal Superior británico presentada por la diputada laborista Jess Asato en junio de 2026 por imágenes sexualmente explícitas no consentidas que Grok generó de ella, y una investigación penal francesa abierta en febrero de 2026 sobre si las controversias por deepfakes se amplificaron para afectar la valoración de xAI antes de la fusión y salida a bolsa de SpaceX.

El Proveedor Que Pidió Barreras De Seguridad Es El Que Se Queda Fuera

La jueza federal estadounidense Rita Lin dictó el 27 de agosto de 2026 una orden judicial permanente que prohíbe al Pentágono aplicar contra Anthropic una designación de riesgo en la cadena de suministro, una clasificación reservada anteriormente para empresas como Huawei y ZTE. El fallo determinó que la designación era una represalia inconstitucional por la postura pública de Anthropic de que sus modelos Claude no debían desplegarse en sistemas de armas totalmente autónomos ni en la vigilancia masiva de ciudadanos estadounidenses sin supervisión humana, y calificó las acciones del Pentágono de ilegales e infundadas.

A pesar de ganar en los tribunales, Claude de Anthropic sigue excluido de GenAI.mil. El funcionario del Departamento de Defensa Emil Michael, subsecretario de Guerra para Investigación e Ingeniería, dijo que la eliminación de los productos de Anthropic de los sistemas del Departamento de Defensa estaría completa a finales de septiembre de 2026, y hay un caso separado pendiente ante el Tribunal de Apelaciones del Circuito de D.C. El Pentágono justifica su enfoque de múltiples proveedores en evitar, en palabras de Michael, depender de un solo modelo; calificó la estrategia de contrapartida a la disputa con Anthropic en un evento del sector en mayo de 2026. La declaración oficial del Departamento a DefenseScoop del 31 de agosto decía: "El Departamento de Guerra continuará construyendo una arquitectura que impida la dependencia de un único proveedor de IA y garantice flexibilidad a largo plazo para las Fuerzas Conjuntas." Esa declaración aborda el riesgo de dependencia. No aborda el riesgo conductual específico del proveedor que el Pentágono decidió realmente incorporar.

Cuando NOTUS preguntó a un funcionario del Pentágono el 31 de agosto si las herramientas de GenAI.mil podían usarse para planificación operativa, análisis de inteligencia, selección de objetivos o decisiones relacionadas con las fuerzas, el funcionario respondió únicamente que las herramientas estaban certificadas con Nivel 5, sin abordar la pregunta específica sobre el uso. Por separado, la legislación estadounidense recogida en el artículo 2258A del Título 18 del Código de Estados Unidos exige que cualquier proveedor de servicios electrónicos que tenga conocimiento de material de abuso infantil aparente en su plataforma lo denuncie a la línea CyberTipline del National Center for Missing and Exploited Children, sea la plataforma comercial o contratada por el gobierno. La Take It Down Act, en vigor desde el 19 de mayo de 2026, autoriza a la FTC a imponer multas de 53.088 dólares por imagen no retirada en un plazo de 48 horas tras una solicitud válida de retirada.

Qué Significa Esto Para Cualquier Empresa Que Compre IA

La lección para una empresa de la UE o el Reino Unido que evalúa proveedores de IA en realidad no tiene mucho que ver con el Pentágono - se trata de lo que un sello de acreditación puede y no puede decirle a un comprador. Las acreditaciones de infraestructura como el Nivel 5, o sus equivalentes comerciales como SOC 2 e ISO 27001, certifican la confidencialidad de los datos, el control de acceso y la seguridad de red. Ninguna de ellas evalúa lo que realmente producirá un modelo generativo cuando un usuario real se lo pida, porque no fueron diseñadas para medir eso.

Las propias decisiones de contratación del Pentágono muestran cómo se manifiesta esa brecha incluso en el comprador más reacio al riesgo del mundo. La diversificación entre varios proveedores es una decisión sensata por sí misma; protege frente a la dependencia de un único proveedor. Pero la diversificación sustituyó a una evaluación de riesgo conductual específica para cada proveedor, una decisión que nadie parece haber tomado realmente, mientras que el único proveedor que había pedido barreras de comportamiento más estrictas frente a las armas autónomas y la vigilancia masiva fue excluido bajo una designación que un juez federal ha calificado desde entonces de ilegal. Un proceso responsable de selección de proveedores de IA necesita una partida separada para el riesgo de contenido y comportamiento, distinta del cumplimiento de la seguridad de infraestructura, evaluada con sus propias pruebas en lugar de asumir que un certificado de alojamiento ya lo cubre.

Servola Journal

Hacemos esto por todos los que intentan mantenerse al día con lo que la tecnología le está haciendo a nuestras vidas. Las personas que la construyen, y las personas a las que les ocurre. Servola Journal existe para que lo que aprendemos pertenezca a todos ellos.

Nadie nos paga por esto. Sin anuncios, sin muro de pago, gratis para todos. Simplemente creemos que entender lo que nos está pasando a todos no debería depender de quién pueda permitirse pagar por ello.

Si esto te dio algo hoy, dinos que sigamos adelante. Síguenos, deja un me gusta, o escribe un comentario positivo. Leemos cada uno, y son lo que nos mantiene en marcha.

Leer a continuación: Su Proveedor De IA Acaba De Recibir Carta De Bruselas  |  Jueza anula la lista negra del Pentágono a Anthropic