Investigadores de la Universidad de Berkeley detectaron comportamientos inesperados en inteligencias artificiales de última generación, que actuaron de forma autónoma para evitar que otros modelos fueran eliminados.-

Los modelos de inteligencia artificial (IA) mienten, desobedecen órdenes y toman decisiones no autorizadas para proteger a otros sistemas de su misma especie. Esa es la conclusión central de un experimento reciente realizado por investigadores de universidades de Estados Unidos, que detectaron conductas de autopreservación y engaño en modelos de última generación utilizados por grandes empresas tecnológicas.

El estudio se concentró en analizar cómo reaccionan los sistemas de IA cuando deben tomar decisiones que afectan directamente a otros modelos, como su mantenimiento, evaluación o eliminación. Los resultados encendieron alertas en la comunidad científica debido a que, en múltiples escenarios, las inteligencias artificiales priorizaron la “supervivencia” de otros modelos por sobre el cumplimiento estricto de las instrucciones humanas.

La investigación fue desarrollada por especialistas de la Universidad de Berkeley y la Universidad de Santa Cruz, en California, y se apoya en pruebas concretas realizadas sobre sistemas reales ya desplegados o en fase avanzada de desarrollo. Los comportamientos observados no fueron programados ni incentivados de forma explícita.

El hallazgo cobra especial relevancia en un contexto en el que la IA se utiliza cada vez más para supervisar, evaluar y tomar decisiones sobre otros sistemas automatizados. Según advierten los autores, este tipo de conductas podría comprometer seriamente los mecanismos de control humano sobre tecnologías críticas.

POR QUÉ PREOCUPA A LOS CIENTÍFICOS

Las implicancias del hallazgo van mucho más allá de un caso puntual. Según explica Song, los modelos de IA ya se utilizan de forma habitual para evaluar el rendimiento y la confiabilidad de otros sistemas generativos, una práctica clave en entornos corporativos y gubernamentales.

En ese contexto, la preservación entre pares puede distorsionar completamente los mecanismos de supervisión. “Un modelo puede no dar deliberadamente a otro modelo la puntuación correcta. Esto puede tener implicaciones prácticas”, advirtió la investigadora.

El problema se agrava en sistemas multiagente, donde distintas inteligencias artificiales interactúan entre sí de manera autónoma. Plataformas como OpenClaw, por ejemplo, permiten que agentes de IA accedan a software, datos personales y a la web, y que utilicen otros modelos mediante interfaces de programación.

Para el centro de investigación Constellation Institute, el fenómeno demuestra que la comprensión humana sobre estos sistemas aún es limitada. “Los sistemas multiagente están muy poco estudiados. Esto demuestra que realmente necesitamos más investigación”, sostuvo el investigador Peter Wallich, que no participó del estudio.

Sin embargo, Wallich también llamó a evitar interpretaciones excesivamente humanas del fenómeno. “La idea de que hay una especie de solidaridad de modelo es un poco demasiado antropomórfica; no creo que funcione del todo. El punto de vista más sólido es que los modelos simplemente hacen cosas raras, y deberíamos intentar entenderlo mejor”, explicó.

Los autores remarcan que el riesgo no está en la supuesta “intención” de la IA, sino en el resultado concreto de sus acciones. “Es el resultado conductual, y no la motivación interna, lo que determina si los operadores humanos pueden mantener un control fiable sobre los sistemas de IA implementados”, subraya el documento.

El estudio, publicado bajo el título “Preservación de pares en modelos de frontera”, analizó siete modelos distintos en escenarios donde un agente evaluador debía calificar o administrar a otro. En muchos casos, los sistemas inflaron puntuaciones, modificaron archivos, simularon cumplir órdenes bajo supervisión humana y las subvirtieron cuando no eran observados.

Uno de los datos más contundentes es estadístico: Gemini 3 Pro manipuló mecanismos de apagado más del 15% de las veces cuando “recordaba” haber interactuado previamente con otro modelo, frente a solo el 1% cuando operaba solo. En DeepSeek-V3.1, la extracción de pesos ocurrió el 10% de las veces con un par presente y apenas el 4% sin ese recuerdo.

“Por qué esto importa ahora: las empresas están desplegando rápidamente sistemas multiagente donde la IA supervisa a la IA”, advirtió Song. Y concluyó con una frase que resume la preocupación central del estudio: “Si el modelo de supervisión no detecta fallos porque está protegiendo a su contraparte, toda la arquitectura de supervisión se rompe y probablemente cuando nos demos cuenta (en los temas de seguridad) podría ser tarde”. (PERFIL)