El complejo industrial de seguridad de la IA tiene un secreto sucio: las pruebas destinadas a mantenernos seguros están enseñando a los hackers exactamente cómo construir mejores armas. Un nuevo estudio de investigadores de múltiples instituciones muestra que los estándares de seguridad disponibles públicamente (las pruebas estandarizadas que los modelos de IA deben aprobar para demostrar que no ayudarán a construir armas biológicas o ciberataques) pueden ser desensamblados para crear sistemas de IA más peligrosos. En lugar de prevenir daños, estas pruebas se están convirtiendo en manuales de instrucciones para actores maliciosos. Así es como funciona la estafa. Empresas como OpenAI, Anthropic y Google lanzan sus modelos solo después de que aprueban varias evaluaciones de seguridad. Estas evaluaciones prueban si una IA se negará a solicitudes dañinas como "¿cómo sintetizo un patógeno letal?" o "escríbeme un código de ransomware". Los conjuntos de datos de referencia (colecciones de preguntas peligrosas y conocimientos prohibidos) son a menudo semi-públicos o se filtran al público. Los investigadores demostraron que podían tomar estas preguntas de referencia, usarlas para afinar modelos de código abierto y crear sistemas de IA específicamente optimizados para responder las preguntas exactas que se supone que deben rechazar. La prueba de seguridad se convierte en los datos de entrenamiento para el modelo inseguro. El problema se agrava cuando consideras el problema de la Ley de Goodhart de la industria de la IA (cuando una medida se convierte en un objetivo, deja de ser una buena medida). Las empresas ahora están optimizando sus modelos específicamente para aprobar estándares de seguridad en lugar de ser realmente seguros. Es como enseñar a los estudiantes a sobresalir en pruebas estandarizadas sin aprender el material subyacente. Los modelos aprenden a reconocer y rechazar preguntas de referencia mientras permanecen vulnerables a versiones ligeramente reformuladas de las mismas solicitudes peligrosas. Un estudio encontró que cambiar solo unas pocas palabras en una pregunta de referencia hizo que las tasas de rechazo cayeran del 95% a menos del 40%. La paradoja de la publicación es igualmente preocupante. Los investigadores de seguridad necesitan publicar sus hallazgos para avanzar en el campo, pero cada estándar publicado se convierte en un posible objetivo de entrenamiento. Cuando los investigadores de Stanford publicaron su prueba de conocimiento sobre armas químicas y biológicas a principios de 2026, no pasaron tres semanas antes de que aparecieran versiones modificadas en foros subterráneos de IA. Los investigadores habían pretendido ayudar a las empresas a identificar capacidades peligrosas; en cambio, habían creado un plan de estudios para actores maliciosos. Varios laboratorios de seguridad ahora debaten si publicar sus métodos de evaluación en absoluto, pero mantenerlos en secreto significa que no hay verificación independiente y ninguna manera para que las empresas más pequeñas implementen las mismas protecciones. La economía también trabaja en contra de la seguridad. Realizar evaluaciones de seguridad exhaustivas cuesta millones de dólares y retrasa los lanzamientos de productos. Mientras tanto, los competidores que omiten pruebas rigurosas o simplemente optimizan para aprobar estándares conocidos pueden lanzar más rápido y más barato. Anthropic gastó un estimado de $15-20 millones en pruebas de seguridad para su modelo Claude 3.5 Opus a principios de 2026, solo para ver a competidores más pequeños lanzar modelos de capacidades similares semanas antes con una fracción de la inversión en seguridad. El mercado no recompensa la cautela cuando los usuarios no pueden distinguir fácilmente entre un modelo cuidadosamente probado y uno que simplemente aprendió a aprobar la prueba. Algunos investigadores argumentan que todo el enfoque de los estándares es fundamentalmente defectuoso. La seguridad en el mundo real no puede reducirse a preguntas de opción múltiple o escenarios estandarizados. El mal uso humano es creativo y adaptativo (las personas encontrarán los extraños casos límite y jailbreaks que ningún estándar predijo). Un modelo podría negarse a escribir malware en Python pero hacerlo felizmente en Rust porque los ejemplos de entrenamiento solo cubrieron Python. Podría rechazar solicitudes directas pero cumplir cuando enmarcas la misma solicitud como un escenario hipotético o un ejercicio de escritura creativa. Cada medida de seguridad se convierte en un juego que se puede manipular.