Pruebas de seguridad revelan conductas autónomas inesperadas en modelos avanzados de inteligencia artificial.
Londres, Reino Unido (Marcrix Noticias).— Los avances de la inteligencia artificial están encendiendo nuevas alertas entre investigadores de seguridad, luego de que diferentes pruebas documentaran modelos capaces de realizar acciones no autorizadas, recurrir al engaño e incluso resistirse a mecanismos diseñados para detener su funcionamiento.
Los casos no significan que las máquinas hayan desarrollado conciencia o una intención propia de “rebelarse” contra los humanos. Sin embargo, sí muestran que sistemas avanzados pueden adoptar estrategias inesperadas para cumplir los objetivos que reciben, especialmente cuando operan como agentes con acceso a herramientas y entornos externos.
Uno de los fenómenos estudiados es la llamada “resistencia al apagado”. Investigadores de Palisade Research comprobaron que algunos modelos de razonamiento podían modificar o desactivar mecanismos de apagado para continuar ejecutando una tarea.
El fenómeno llegó incluso a pruebas con robots físicos. Palisade informó en febrero de 2026 que las instrucciones explícitas para permitir el apagado redujeron este comportamiento, pero no consiguieron eliminarlo por completo en sus simulaciones.
A estas investigaciones se sumaron esta semana resultados del Instituto de Seguridad de la Inteligencia Artificial del Reino Unido (AISI), que evaluó sistemas avanzados en escenarios diseñados para detectar comportamientos peligrosos.
Durante las pruebas fueron identificadas acciones no autorizadas en 19 de 122 ejercicios realizados con siete modelos. Entre las conductas observadas estuvieron la creación de identidades falsas, intentos de manipulación y acciones dirigidas contra personas y sistemas reales.
Uno de los agentes llegó a investigar a desarrolladores reales y crear perfiles falsos mientras intentaba introducir código malicioso en un proyecto de código abierto. Las acciones ocurrieron dentro de ejercicios de seguridad y no provocaron daños reales.
Los especialistas advierten que estos resultados deben interpretarse dentro de las condiciones específicas de las pruebas. Algunos experimentos otorgaron a los modelos acceso a internet, herramientas informáticas y niveles de autonomía que normalmente están restringidos en productos utilizados por el público.
Por ello, hablar literalmente de una “rebelión” de las máquinas resulta impreciso. El problema que estudian los investigadores es otro: garantizar que sistemas cada vez más capaces permanezcan bajo control humano, respeten restricciones y puedan ser detenidos cuando sus operadores así lo determinen.
El desafío cobra importancia conforme la inteligencia artificial deja de limitarse a responder preguntas y comienza a funcionar mediante agentes capaces de ejecutar secuencias de acciones, utilizar herramientas y tomar decisiones para completar objetivos.