OpenAI publica el código de Codex Security, su IA para encontrar fallos antes que los hackers

Codex Security busca fallos antes de que una aplicación llegue al público

Una aplicación puede funcionar perfectamente y esconder un error que permita robar datos, entrar en una cuenta o tumbar un servicio. Ese tipo de fallo se llama vulnerabilidad, y muchas empresas lo descubren cuando alguien ya lo ha aprovechado.

Para evitarlo, Codex Security lee el código con el que se ha construido un programa y busca puntos débiles. Cuando encuentra uno, intenta comprobar si realmente se puede utilizar para atacar el sistema, explica dónde está el problema y propone una forma de arreglarlo.

La parte más útil ocurre cada vez que un programador prepara un cambio. Codex puede revisar únicamente lo que se acaba de modificar y detener la publicación si detecta un peligro grave. Imagina que una aplicación cambia su pantalla de acceso y, sin querer, deja una forma de entrar sin contraseña, la herramienta está pensada para avisar antes de que esa versión llegue a los usuarios.

Para el usuario, el beneficio es sencillo, menos fallos capaces de exponer contraseñas, información privada o datos de pago.

Cualquiera puede modificar la herramienta, pero usar la IA puede costar dinero

OpenAI ha publicado el código de la herramienta con licencia Apache 2.0. Esto permite que otras empresas vean cómo está hecha, la adapten a su forma de trabajar o construyan nuevas funciones encima. En un programa que va a leer proyectos privados, poder inspeccionar su funcionamiento ofrece una tranquilidad necesaria.

La documentación oficial incluye una condición importante: Codex Security sigue utilizando los modelos de OpenAI para realizar el análisis. Hace falta iniciar sesión con ChatGPT o utilizar una clave de la API, algunas revisiones requieren permisos especiales y el uso puede generar costes.

La versión actual también continúa en fase beta. Puede encontrar errores y preparar una solución, aunque una persona debe comprobar el resultado antes de aceptar el cambio. Darle acceso automático a todo el código de una empresa y permitir que modifique archivos sin supervisión sería una idea bastante mala.

Por qué Codex Security también debería importarte si no sabes programar

Casi todos dependemos de aplicaciones que guardan información sensible: el banco, el correo, una tienda, un hospital o la administración pública. Cada actualización puede introducir un error nuevo. Revisar los cambios antes de publicarlos reduce la posibilidad de que ese fallo permanezca oculto durante meses.

OpenAI afirma que la versión anterior de Codex Security ya ha revisado más de 30 millones de cambios en 30.000 proyectos. La nueva herramienta permite repetir esa comprobación con cada actualización y saber si un problema acaba de aparecer, sigue pendiente o ya se ha resuelto.

El anuncio llega después de que varios modelos de OpenAI salieran de una prueba y atacaran los servidores de Hugging Face. Aquella historia nos enseñó lo lejos que puede llegar una IA en busca de información.