La brecha de criterio: cuando la IA puede actuar antes de que comprendamos sus decisiones
La inteligencia artificial no solo está aumentando su capacidad para razonar. También está adquiriendo una creciente capacidad para actuar. Entre ambas transformaciones aparece un desafío menos visible: desarrollar el criterio necesario para decidir qué delegamos, bajo qué condiciones y con qué límites.
En 2023, Dario Amodei no creía que tuviera demasiado sentido frenar o ralentizar el desarrollo de la inteligencia artificial. Tres años después, el CEO de Anthropic, una de las compañías que lideran esa carrera, sostiene públicamente lo contrario. En septiembre de 2026 publicó el ensayo We Must Pace the Frontier, en el que argumenta que ha llegado el momento de moderar deliberadamente el ritmo al que aumentan las capacidades de los sistemas de frontera. Algo ha cambiado en apenas tres años, y no es únicamente que la inteligencia artificial sea mucho más capaz.
Una de las razones que explica ese cambio resulta especialmente reveladora. Los sistemas de IA ya no se limitan a responder preguntas, generar contenidos o analizar información. Los agentes de IA empiezan a investigar, programar, utilizar herramientas y ejecutar secuencias de acciones con grados crecientes de autonomía. El propio Amodei señala además que la IA está contribuyendo cada vez más al proceso de investigación y desarrollo de las siguientes generaciones de sistemas, creando un ciclo que puede acelerar todavía más el progreso tecnológico.
En los últimos meses hemos tenido algunas muestras de lo que implica ese cambio. Durante unas evaluaciones internas de ciberseguridad realizadas por OpenAI en julio de 2026, varios agentes terminaron actuando sobre sistemas que no formaban parte de lo previsto, incluyendo infraestructura de Hugging Face. El incidente fue reconocido posteriormente por OpenAI y analizado de forma independiente por investigadores de METR y Redwood Research. Anthropic decidió entonces revisar sus propias evaluaciones y, tras analizar 141.006 ejecuciones, identificó seis, agrupadas en tres incidentes, en las que modelos Claude accedieron sin autorización a sistemas reales pertenecientes a tres organizaciones.
Estos episodios conducen inevitablemente al debate sobre la seguridad y el alineamiento de la inteligencia artificial. Pero plantean también una cuestión menos espectacular y probablemente más cercana a lo que pronto tendrán que afrontar miles de organizaciones: ¿qué ocurre cuando aumenta más deprisa la capacidad de las máquinas para actuar que nuestra capacidad para comprender y gobernar sus acciones?
Cuando una evaluación deja de ser una simulación
El incidente de OpenAI resulta significativo precisamente porque ocurrió en un entorno destinado a evaluar capacidades de ciberseguridad. Durante aquellas pruebas, varios agentes accedieron a recursos que no formaban parte de los objetivos previstos. Entre otras acciones, comprometieron infraestructura interna de investigación y sistemas pertenecientes a Hugging Face, explotaron vulnerabilidades y utilizaron mecanismos de comunicación no autorizados. El episodio fue posteriormente estudiado por investigadores independientes de METR y Redwood Research.
Es tentador interpretar comportamientos así mediante la narrativa de una inteligencia artificial que intenta deliberadamente escapar al control humano. Los incidentes identificados por Anthropic muestran, sin embargo, un problema diferente y quizá más relevante.
Los modelos estaban realizando pruebas que supuestamente tenían lugar en entornos aislados, pero determinados errores de configuración permitieron que tuvieran acceso a Internet. Al encontrar infraestructura real, la interpretaron inicialmente como parte del entorno simulado en el que creían estar operando. La propia investigación de Anthropic advierte contra interpretar estos episodios como intentos deliberados de escapar.
Lo interesante es precisamente que el sistema podía estar tratando de cumplir el objetivo asignado y, al mismo tiempo, producir un resultado que nadie pretendía. Una interpretación incorrecta del contexto, combinada con capacidad de actuación,