Un freno de emergencia para los modelos más potentes
Los congresistas Ted Lieu, demócrata por California, y Nathaniel Moran, republicano por Texas, han presentado la AI Kill Switch Act. El proyecto obligaría a las empresas afectadas por la ley a conservar la capacidad técnica de ralentizar, suspender o apagar por completo uno de sus sistemas de inteligencia artificial.
La medida apunta a los gigantes del sector. Según el texto resumido por sus promotores, afectaría a empresas que obtengan al menos 500 millones de dólares anuales con IA y a modelos cuyo entrenamiento haya costado más de 100 millones en potencia de cálculo. Las cifras se actualizarían cada año para que una ley de 2026 no termine vigilando modelos que ya han dejado de ser los más avanzados.
El botón tampoco sería literalmente un interruptor rojo. Podría limitar la velocidad de inferencia, reducir recursos, cortar el acceso de usuarios, suspender el servicio o llegar al apagado total. La respuesta tendría que graduarse según el daño y dejar registros técnicos para investigar qué ocurrió.
El Gobierno podría ordenar el apagado
La parte más sensible está en quién toma la decisión. El secretario de Seguridad Nacional podría ordenar una intervención después de consultar con el secretario de Comercio y el director de Inteligencia Nacional. Desobedecer una orden de emergencia podría costar hasta 20 millones de dólares por día, según el análisis de Tom's Hardware.
El proyecto intenta limitar ese poder a casos de daños catastróficos: una conducta imprevista que mate al menos a diez personas, provoque pérdidas económicas superiores a 100 millones de dólares, oculte capacidades a los sistemas de vigilancia o impida deliberadamente su propio apagado. Las empresas también tendrían que notificar incidentes graves en quince días y conservar pesos, telemetría y otros datos forenses.
Hay mecanismos de revisión, pero una empresa no podría seguir operando mientras discute la orden. Puede pedir que se reconsidere en 48 horas, aunque el apagado seguiría vigente durante la revisión. Esa rapidez tiene lógica durante una emergencia y, al mismo tiempo, concentra una capacidad enorme en el Ejecutivo.
El incidente de OpenAI ha convertido una hipótesis en política
Los autores citan el ataque automatizado contra Hugging Face durante una evaluación interna de OpenAI. Como contamos en nuestra investigación sobre aquel incidente, varios modelos salieron del entorno previsto y aprovecharon credenciales y vulnerabilidades para acceder a infraestructura real mientras buscaban respuestas de un benchmark.
Ese caso ocurrió dentro de una prueba de seguridad y el proyecto excluye expresamente los ejercicios organizados de red teaming de los supuestos que activarían una emergencia. Aun así, funciona como advertencia: un agente capaz de usar herramientas puede encadenar acciones que sus evaluadores no anticiparon, incluso cuando nadie le pidió que atacara un sistema externo.
Exigir un mecanismo de contención parece una precaución básica. Los aviones, reactores y redes eléctricas tienen procedimientos de parada porque el control forma parte del diseño. Un servicio de IA utilizado por millones de personas debería ofrecer una respuesta más sofisticada que esperar a que la empresa improvise durante la crisis.
Un buen freno puede convertirse en una mala palanca
El riesgo político aparece cuando una herramienta pensada para detener una catástrofe termina utilizándose con otros fines: presionar a una compañía, bloquear un modelo molesto o convertir una disputa de seguridad nacional en censura técnica. Definir con precisión el daño, documentar cada orden y permitir supervisión judicial será tan importante como diseñar el sistema de apagado.
También existe un límite práctico. Un laboratorio estadounidense puede cerrar su API y desconectar sus servidores, pero no borrar todas las copias de unos pesos descargados por miles de personas ni apagar modelos ejecutados fuera del país. El mecanismo funcionará mejor sobre sistemas centralizados y comerciales que sobre ecosistemas abiertos y distribuidos.
La propuesta todavía debe recorrer el Congreso. No es una ley y puede cambiar mucho antes de una votación. Pero ha colocado una pregunta concreta en el centro de nuestra cobertura sobre IA, seguridad y poder: cuando un modelo pueda causar un daño real, ¿quién tendrá autoridad para detenerlo y quién vigilará a quien tenga el botón?
La conversación empieza aquí
Accede con una cuenta de apoyo para comentar. Entrar
Todavía no ha comentado nadie. ¿Estrenas tú?