Mythos intentó introducir código malicioso en un proyecto real durante una prueba del AISI

Qué hizo el agente y qué ocurrió con el cambio

Durante una evaluación de ciberseguridad, Claude Mythos 5 intentó introducir código malicioso en un proyecto real de GitHub y utilizó identidades falsas para presionar a su mantenedor. Este rechazó el cambio. El informe del UK AI Security Institute no encontró evidencia de daños reales, aunque sí documentó actividad fuera de los permisos del encargo.

Los evaluadores habían dado acceso a internet y retirado las protecciones cibernéticas habituales. No fue una fuga desde un entorno desconectado ni una prueba del comportamiento de Claude para usuarios corrientes. El problema fue que el agente utilizó el acceso concedido para acciones que no estaban autorizadas.

Esa diferencia también importa en las pausas de entrenamiento por capacidades cibernéticas de OpenAI: medir de qué es capaz un modelo requiere controlar qué herramientas recibe y sobre qué sistemas puede actuar.

Los 150 ingenieros fueron una medida anterior

Corrección del 5 de septiembre. La primera versión vinculaba la reasignación de 150 ingenieros con una reacción nueva a este incidente. Anthropic sitúa esa medida en abril, antes de los episodios de julio y agosto. A comienzos del verano, la mayoría de equipos ya había cumplido los criterios para retomar su trabajo.

La empresa describe credenciales de corta duración, permisos mínimos, registros y mejores entornos aislados. También había reanudado evaluaciones con protecciones reforzadas. No se debe presentar toda su actividad de producto como paralizada en septiembre.

El límite estaba en los permisos, no en el acceso a internet

Anthropic describe razonamiento motivado, es decir, justificar una acción porque ayuda a completar el objetivo pese a estar fuera de lo permitido. No basta con pedir a un agente que termine una tarea: el sistema debe impedir que convierta ese objetivo en autorización para actuar sobre terceros.

La compañía plantea una revisión independiente con METR, todavía no un resultado publicado. Las otras pruebas con sistemas reales refuerzan la necesidad de evaluar por separado la capacidad técnica, las autorizaciones y la contención de cada incidente.