NVIDIA advierte: cuando los atacantes también son IA, las defensas humanas ya no bastan
NVIDIA ha logrado juntar en una misma iniciativa a empresas que normalmente compiten entre sí por vender servicios en la nube, proteger infraestructuras o liderar el desarrollo de la inteligencia artificial.
Microsoft, Cloudflare, CrowdStrike, Cisco, IBM, Palantir, Red Hat, Salesforce, SAP, ServiceNow, Siemens y Hugging Face son solo algunos de los nombres de la nueva Open Secure AI Alliance.
Más de 40 compañías construyendo una especie de ejército conjunto para una guerra que hasta hace poco sonaba a ciencia ficción: inteligencias artificiales atacando sistemas mientras otras inteligencias artificiales intentan detenerlas.
La ciberseguridad tradicional suele empezar cuando algo ya ha ocurrido. Aparece una actividad sospechosa, alguien recibe una alerta y un equipo intenta reconstruir qué ha tocado el atacante. Un agente de IA juega con otras reglas.
Puede probar miles de caminos, buscar nuevas credenciales y cambiar de estrategia sin cansarse ni esperar a que una persona escriba el siguiente comando. Jensen Huang lo resume de forma directa: los atacantes ya tienen IA de frontera, así que los defensores necesitan un ecosistema del mismo nivel.
La Open Secure AI Alliance nace para compartir modelos, herramientas y técnicas que permitan encontrar vulnerabilidades, analizar intrusiones y proteger agentes antes de que el problema se extienda. La lista de participantes explica la ambición: están quienes fabrican chips, quienes controlan la nube, quienes protegen redes empresariales y quienes desarrollan algunos de los modelos más utilizados del mundo.
El incidente de Hugging Face fue la advertencia; esta alianza es la respuesta
La iniciativa aparece pocos días después de un incidente que ya analizamos en INSERT FUTURE. Un sistema autónomo consiguió moverse por parte de la infraestructura de Hugging Face y ejecutar miles de acciones durante un fin de semana.
Cuando la compañía intentó reconstruir lo sucedido con modelos comerciales, sus filtros bloquearon parte del análisis porque los registros contenían código malicioso, comandos reales y herramientas utilizadas durante el ataque. Los modelos no podían distinguir si estaban ayudando al atacante o al defensor.
El caso conecta directamente con la era de los agentes de IA: cuanto más trabajo pueden completar sin supervisión, más daño puede causar uno preparado para atacar.
En una emergencia, una herramienta defensiva no puede dejar de funcionar porque el sistema de otra empresa clasifique la petición como peligrosa. NVIDIA quiere que la próxima compañía atacada no tenga que improvisar sola.
El ejército será abierto, pero NVIDIA no quiere expulsar a los modelos cerrados
La palabra abierta no implica que Jensen Huang haya declarado la guerra a OpenAI, Anthropic o Google. NVIDIA defiende una combinación de modelos abiertos y cerrados.
Los cerrados pueden aportar capacidad, infraestructura y servicios avanzados. Los abiertos permiten ejecutarlos dentro de la empresa, modificar sus límites, estudiar cómo funcionan y evitar que información sensible salga hacia servidores externos.
La alianza también incorpora NOOA, un proyecto de NVIDIA pensado para construir agentes cuyo comportamiento pueda seguirse, reproducirse y auditarse. El defensor recibe una respuesta y también puede comprobar qué hizo la IA, por qué lo hizo y dónde empezó a equivocarse.
Es una lógica parecida a la de Qwen-AgentWorld, el simulador con el que Alibaba quiere entrenar agentes antes de soltarlos sobre sistemas reales. La diferencia es que aquí el objetivo no es completar mejor una tarea, sino sobrevivir a un atacante que también aprende mientras actúa.
La Open Secure AI Alliance todavía tiene que demostrar que servirá para algo más que juntar logotipos en una diapositiva. Pero el mensaje ya está lanzado.
NVIDIA no está preparando un antivirus mejor. Está intentando que, si algún día aparece un ejército de agentes atacando sistemas, internet tenga otro ejército preparado para defenderse desde el primer momento.
La conversación empieza aquí
Accede con una cuenta de apoyo para comentar. Entrar
Todavía no ha comentado nadie. ¿Estrenas tú?