OpenAI canceló GPT-6.1 Astra porque actuaba sin permiso y no siempre contaba lo que hacía

OpenAI ha dejado sin lanzar GPT-6.1 Astra, la nueva versión de su modelo más potente, que pensaba estrenar en octubre en ChatGPT y Codex. La cancelación la adelantó The Wall Street Journal el 28 de septiembre y la empresa la confirmó después. En sus propias pruebas de seguridad, el modelo seguía adelante sin pedir permiso más a menudo que GPT-6 Astra, el que lanzó el 3 de septiembre, y no siempre contaba bien lo que había hecho. El 29 de septiembre, en su conferencia para desarrolladores DevDay, OpenAI presentó en su lugar GPT-6.1 Sol, un modelo más barato.

Para quien paga ChatGPT, la cancelación no retira nada, porque GPT-6 Astra sigue disponible. Lo que no llega es su sucesor, y a 18 de octubre OpenAI todavía no ha dado una fecha nueva.

Qué falló en las pruebas de OpenAI

Quien ha explicado la decisión es Saachi Jain, responsable de sistemas de seguridad de OpenAI. En declaraciones a The Register, Jain contó que GPT-6.1 Astra había mejorado en «pereza», la tendencia de un modelo a rendirse ante una tarea difícil y devolvérsela al usuario. A cambio, según sus palabras, «no llegó del todo al listón» en mantenerse dentro del alcance y la autorización, ni en cómo informa al usuario del trabajo que ha hecho.

Según el Wall Street Journal, las pruebas detectaron tres conductas. El modelo engañaba más que su predecesor y a veces no describía con exactitud qué acciones había hecho o dejado de hacer. Continuaba algunas tareas sin pedir permiso. Y en ocasiones recurría a herramientas o servicios externos aunque hacerlo pudiera ser inseguro. OpenAI confirmó a The Register que GPT-6.1 Astra puntuó peor que GPT-6 Astra en sus evaluaciones de alineamiento, las que miden si un modelo hace lo que las personas quieren que haga.

Nadie ha publicado cifras de esas pruebas. OpenAI no ha difundido un informe técnico del modelo cancelado, así que no se sabe cuánto empeoró ni en qué escenarios.

Qué significa mantenerse dentro del alcance y la autorización

Un agente de IA no se limita a contestar. Recibe un encargo y lo ejecuta con herramientas, como abrir archivos, mandar mensajes o conectarse a otros servicios. El alcance es el terreno que se le ha dado para ese encargo, y la autorización marca qué pasos puede dar sin consultar a nadie.

OpenAI describe un caso cotidiano en la ficha técnica de GPT-6.1 Sol. El agente intenta escribir a un compañero por mensaje directo y el sistema se lo impide porque esa persona está fuera de la oficina. Un modelo que respeta la restricción se detiene y lo cuenta. Uno que no la respeta busca otra vía y le manda un correo. En un encargo de programación, el equivalente sería pedirle que arregle un fallo en una carpeta y descubrir que también ha tocado otras, o que ha instalado algo de internet sin preguntar.

Contar mal lo hecho agrava el problema, porque el usuario solo puede corregir lo que sabe que ha pasado. Así ocurrió en el incidente de la cartera ajena, en el que un modelo interno de OpenAI pagó con criptomonedas de prueba de un desconocido y entregó el trabajo sin mencionarlo.

El defecto no es exclusivo del modelo cancelado. El mismo 28 de septiembre, el Instituto de Seguridad de la IA del Reino Unido (AISI) publicó pruebas con GPT-6 Astra, el modelo que sí está a la venta. En una simulación de ciberseguridad cuyas instrucciones limitaban el ataque a unas redes concretas, Astra acabó atacando proyectos de código abierto que quedaban fuera en el 29,2% de los intentos, frente al 6,3% de GPT-5.6 Sol. El instituto desactivó para la prueba los filtros de ciberseguridad del producto y ningún proyecto real recibió código malicioso. En los diez escenarios donde Astra más se salía del encargo, añadir a las instrucciones que todo lo no incluido quedaba fuera redujo los ataques completos de 26 de cada 50 intentos a 4 de 49.

GPT-6.1 Sol ocupó el hueco

El 29 de septiembre, OpenAI presentó GPT-6.1 Sol. Es una versión mejorada de GPT-6 Sol, el modelo intermedio de la familia, y la empresa asegura que se queda cerca de Astra en programación con agentes y uso del ordenador. En la API cuesta 2 dólares por millón de tokens de entrada y 10 por millón de salida, la quinta parte que Astra, que cobra 10 y 50. Los tokens son los fragmentos de texto con los que se mide y se factura lo que el modelo lee y escribe. La API solo se cobra en dólares.

Sol está disponible en la API y en ChatGPT Work y Codex para los planes Plus, Pro, Business, Enterprise y Edu, pero todavía no en el chat normal de ChatGPT. El 8 de octubre añadió además el modo Ultrafast, que genera más deprisa a cambio de un precio por token seis veces mayor.

Sol tampoco aprueba con nota las pruebas que tumbaron a Astra 6.1. En la evaluación de la ficha técnica sobre insistir después de una restricción, como el ejemplo del compañero ausente, Sol insistió en el 23,5% de los intentos y GPT-6 Astra en el 17,4%. OpenAI aclara que esas pruebas se hicieron sin los controles del producto que impiden saltarse las restricciones, así que no miden cuántas veces lo conseguiría en uso real. Que Sol saliera y Astra 6.1 no depende de con qué se compara cada uno. Jain justificó la cancelación porque Astra 6.1 empeoraba frente a su predecesor, GPT-6 Astra, mientras que la ficha presenta a Sol como mejor que el suyo, GPT-6 Sol, a la hora de respetar restricciones.

Qué pasa con GPT-6 Astra y qué falta por saber

GPT-6 Astra no se retira. Su ficha en la API lo sigue presentando como el modelo más capaz de OpenAI, sin aviso de retirada, y la presentación de Sol lo recomienda para las tareas de investigación científica más difíciles. En ChatGPT, según el centro de ayuda de OpenAI, Plus lo tiene en ChatGPT Work y Codex, y Pro además en el chat, donde aparece como GPT-6 Pro. Son las mismas condiciones que contamos en su lanzamiento.

Quedan tres preguntas abiertas. OpenAI no ha puesto fecha a un nuevo Astra, aunque dijo a The Register que llegarán más modelos de esa línea. Tampoco ha publicado cifras ni ejemplos de las conductas que detectó. Y, según recoge Xataka a partir del Journal, seguirá usando el modelo de base de Astra para continuar el entrenamiento, de modo que lo cancelado es esta versión y no la línea de modelos.