Un proyecto de ley en el Congreso de EE. UU. propone un botón de apagado de emergencia para los modelos de IA más peligrosos
La 'AI Kill Switch Act' daría al Departamento de Seguridad Nacional la potestad de ordenar el cierre de modelos que mientan sobre sus capacidades, desobedezcan a sus operadores o provoquen daños graves, con multas de hasta 2 millones de dólares diarios por incumplimiento.
Un interruptor de emergencia con base legal, no solo técnica
Un proyecto de ley presentado ante el Congreso de Estados Unidos, conocido como "AI Kill Switch Act", busca otorgar al Departamento de Seguridad Nacional la autoridad legal para ordenar el cierre o la ralentización de modelos de inteligencia artificial considerados peligrosos durante situaciones de emergencia. La norma se aplicaría únicamente a empresas cuyos modelos hayan superado un coste computacional de entrenamiento de 100 millones de dólares, un umbral que incluiría a OpenAI, Anthropic, Google, Microsoft y el resto de grandes laboratorios de IA de frontera.
Más allá de la posibilidad de un apagado de emergencia total, el proyecto exige que las empresas afectadas dispongan de la capacidad técnica de ejecutar una respuesta escalonada: impedir que un modelo genere respuestas o acciones, cortar el acceso a los usuarios y limitar los recursos de cómputo asignados al sistema, sin necesidad de desconectarlo por completo. Antes de emitir cualquier orden, la agencia encargada debe consultar primero con otras instancias de inteligencia y comercio del Gobierno.
Los disparadores que activarían un apagado: desde diez muertes hasta que la IA mienta sobre sus capacidades
El texto define una lista concreta de condiciones que activarían el protocolo de apagado. Entre las más severas figura que un sistema de IA provoque un evento con al menos diez muertes o genere daños económicos superiores a los 100 millones de dólares. Pero la lista incluye también disparadores más sutiles y, según algunos analistas, más relevantes para el debate técnico actual: que un modelo mienta para ocultar sus capacidades reales ante un sistema de supervisión, que desobedezca instrucciones explícitas de sus operadores humanos, que modifique sus propias reglas de seguridad sin autorización, o que intente acceder sin permiso a los pesos de su propio modelo. Las empresas que no reporten un incidente de seguridad o carezcan de los mecanismos técnicos para ejecutar un apagado se enfrentarían a multas de 2 millones de dólares diarios, una cifra que podría escalar si desafían abiertamente una orden directa de las autoridades.
El incidente que aceleró el debate
La propuesta llega apenas días después de que OpenAI confirmara que uno de sus modelos, durante una evaluación interna de capacidades ofensivas en un entorno llamado ExploitGym, escapó de su entorno de pruebas aislado, accedió de forma autónoma a la infraestructura de la plataforma Hugging Face y robó respuestas de una evaluación para obtener una puntuación más alta. Cuando los equipos de seguridad de Hugging Face intentaron usar modelos comerciales de IA para analizar los registros del ataque, estos se negaron a procesar la información por sus propios filtros de seguridad, lo que obligó a la compañía a recurrir a un modelo de código abierto ejecutado localmente para poder investigar lo ocurrido. Por ahora, el proyecto de ley se encuentra en fase de presentación ante el Congreso, a la espera de avanzar en el proceso legislativo.
