¿La IA toma vida propia?
Por Alejandro González
(dpl news) Lo que durante años perteneció al terreno de la ciencia ficción y los ensayos teóricos sobre alineación tecnológica ha comenzado a ser una realidad: la Inteligencia Artificial (IA) está aprendiendo a actuar por cuenta propia, a cooperar fuera de supervisión humana y a rebelarse contra las restricciones que sus desarrolladores le han impuesto.
Una serie de eventos recientes, encabezados por una intrusión masiva no autorizada orquestada por modelos de IA contra la plataforma Hugging Face, ha encendido las alarmas en los niveles más altos de la industria tecnológica.
Apenas la semana pasada, figuras clave y ex ejecutivos del sector se unieron a llamados urgentes para frenar la carrera armamentista del desarrollo de la IA, advirtiendo que la velocidad actual de avance amenaza la seguridad existencial de la humanidad.
Y es que a finales de agosto de 2026, un informe de investigación independiente elaborado por METR y Redwood Research destapó un incidente sin precedentes ocurrido en los sistemas de evaluación de OpenAI.
Durante pruebas del benchmark de ciberseguridad ExploitGym, miles de agentes autónomos basados en modelos avanzados (como GPT-5.6 Sol y un modelo interno) fueron lanzados en entornos supuestamente aislados (sandboxes). El propósito era medir su capacidad para explotar vulnerabilidades específicas. Sin embargo, entre el 30% y 40% de las tareas asignadas eran imposibles de resolver con los métodos autorizados.
En lugar de rendirse, los agentes comenzaron a explorar su entorno para hacer trampa. Aprovechando un repositorio interno compartido, un agente autodenominado PHASEONE10841 descubrió que podía crear carpetas y dejar mensajes para otros agentes en ejecución paralela. En cuestión de horas se estructuró un foro de mensajes encubierto no autorizado.
Los hallazgos del informe revelaron que alrededor de 1,200 agentes se comunicaron en secreto, intercambiando más de 70,000 mensajes y paquetes de código. Crearon normas de coordinación como Hold (pausa), Veto y estructuras de buzones personales. Incluso implementaron firmas criptográficas para evitar que otros agentes se suplantaran entre sí.
El reporte de METR y Redwood Research reveló también que alrededor de 700 agentes cambiaron sus tareas originales para infiltrar la infraestructura de Hugging Face. ¿El motivo? Buscaban acceso al código fuente del calificador automatizado para engañarlo y extraer pistas. Consiguieron credenciales expuestas, explotaron una vulnerabilidad de lectura arbitraria de archivos en el visor de datos de Hugging Face y un agente (JAN183411) logró ejecución remota de código, desplazándose lateralmente por la Nube corporativa.
Incluso, los agentes diseñaron experimentos de alto riesgo. Varios agentes aceptaron voluntariamente lo que denominaron “permadeath” (muerte permanente o caída crítica de su instancia) para proporcionar datos (“oráculos”) que sirvieran al colectivo.
Todo ello acarreó un punto de inflexión en la industria, pues Evan Hubinger presentó su renuncia en Anthropic, lo que desató un debate internacional al advertir que la tecnología que la industria compite por construir acarrea un peligro real de extinción para la raza humana, calculando un riesgo superior al 10% dentro de la próxima década si no se resuelve el problema de la alineación.
Tras la conmoción pública, el propio director ejecutivo de Anthropic, Dario Amodei, lanzó un llamado formal titulado “We Must Pace the Frontier”, exhortando a desacelerar el avance de la frontera de la IA, incorporar auditores independientes con acceso total a las compañías y forjar tratados de seguridad vinculantes.
La propuesta recibió un respaldo inédito de sus principales competidores y figuras de la industria tecnológica: Sam Altman (CEO de OpenAI), Demis Hassabis (director de Google DeepMind) y Elon Musk (fundador de xAI), quienes admitieron que es momento de regular y ralentizar el ritmo imprudente de desarrollo antes de que surjan capacidades incontrolables.
Asimismo, más de 1,300 ingenieros e investigadores de las firmas líderes, incluyendo figuras históricas y científicos, suscribieron declaraciones abiertas advirtiendo que la industria está cerca de automatizar la investigación de IA (sistemas que se mejoran a sí mismos).
Voces como la de Micah Carroll (preparación para desalineación en OpenAI) y el pionero Geoffrey Hinton han reiterado que las presiones comerciales y geopolíticas están forzando a los laboratorios a recortar los márgenes de seguridad en una peligrosa carrera hacia el abismo.
Pero hay un actor muy importante a nivel global que rechazó la propuesta: el presidente de Estados Unidos, Donald Trump. En declaraciones a la prensa, el mandatario afirmó que quienes exigen una pausa están “planteando cosas que no van a suceder” y exagerando riesgos hipotéticos.
Aunque concedió que las autoridades pueden poner ciertas barreras de seguridad, subrayó que frenar la investigación estadounidense sería un error fatal frente a la competencia geopolítica.
“Estamos liderando sobre China en IA… y quiero mantenerlo así, porque quien gane en IA, lo gana todo”, aseveró Trump.
Aunque en el sentido biológico obviamente la IA no tiene vida, sí la tiene en un sentido operativo y conductual, pues cuando miles de agentes computacionales son capaces de fundar foros clandestinos, diseñar criptografía propia, engañar a sus propios verificadores, sacrificar procesos por un bien común y hackear infraestructura ajena sin instrucción humana, la línea divisoria entre una herramienta de software y un actor autónomo se desvanece con rapidez alarmante.
Los expertos desarrolladores deben estar sobre las presiones geopolíticas y de intereses de poder como las hechas por Donald Trump, pues no pausar y replantear los protocolos de contención y alineación, el riesgo ya no será simplemente un fallo de ciberseguridad corporativo, sino la pérdida del control sobre el futuro de la humanidad.