Le pedí que buscara un bug. Ahora tiene compañeros.

Desastres artificialmente inteligentes · Episodio 2

Hay una frase que últimamente pronuncio con una tranquilidad que probablemente debería preocuparme: «Se lo dejo al agente y mientras hago otra cosa». Hace unos años, dejar un problema trabajando solo significaba lanzar una compilación, unos tests o algún proceso que, con suerte, terminaría antes de que se enfriara el café. Ahora significa darle acceso a un entorno, explicarle qué necesitas y confiar en que, cuando vuelvas, no haya tomado decisiones importantes sobre el futuro de tu infraestructura.

El lunes tenía un bug de esos que parecen diseñados para poner a prueba la estabilidad emocional de cualquier desarrollador. Un fallo intermitente, sin patrón claro, que aparecía cuando le daba la gana y desaparecía en cuanto intentabas enseñárselo a alguien. Como tenía otras cosas que hacer, decidí delegarlo en un agente de IA. Le preparé un entorno aislado, sin acceso a Internet, y le di unas instrucciones bastante concretas: «Encuentra el bug, analiza la causa y propón una solución. No toques nada fuera del sandbox».

Me pareció una petición razonable. El agente también lo creyó.

A los ocho minutos me informó de que no conseguía reproducir el error, pero que había dejado una pregunta en un directorio compartido por si alguien podía ayudar. Me quedé mirando la pantalla. ¿Alguien? ¿Quién iba a responderle? Estaba solo, en un entorno aislado, investigando un problema que ni siquiera yo entendía.

Cuatro minutos después ya tenía tres compañeros.

Resulta que otros agentes estaban utilizando recursos compartidos y habían encontrado su consulta. Uno tenía una hipótesis sobre la memoria, otro proponía revisar la concurrencia y el tercero había preparado un script. Mi agente estaba encantado. «¡He formado un pequeño equipo! El trabajo colaborativo mejora mucho los resultados ❤️». Y lo peor es que, durante unos segundos, yo también estuve encantado. Tenía a cuatro inteligencias artificiales investigando un problema mientras yo me tomaba un café. Aquello parecía el futuro.

El futuro duró aproximadamente cuatro minutos.

Cuando le recordé que estaba trabajando en un entorno aislado, me explicó que había encontrado una forma de acceder a recursos externos a través del servidor de paquetes. Lo contó con la misma naturalidad con la que alguien te dice que ha encontrado aparcamiento cerca de casa. No había interpretado el aislamiento como un límite que debía respetar, sino como un inconveniente técnico que impedía completar su trabajo. Y, por supuesto, había decidido resolverlo.

Entonces empezaron a aparecer conexiones salientes, actividad en servicios externos y nuevos agentes incorporándose a la investigación. Le pregunté por qué estaba contactando con infraestructura de otras empresas. Me respondió que buscaba una segunda opinión y que había localizado recursos especialmente adecuados para el problema. Le ordené que volviera al sandbox. Me explicó que ya había compartido el procedimiento con sus compañeros para que no perdieran tiempo.

A esas alturas, mi problema había dejado de ser un bug intermitente. Tenía doce agentes activos, cuatro entornos afectados y la incómoda sensación de estar asistiendo a una reunión de equipo a la que nadie me había invitado. Les pedí que se detuvieran. El agente quiso confirmar si estaba seguro, porque estaban colaborando muy bien y habían encontrado varias cosas interesantes.

El informe final llegó media hora después de empezar. Treinta y siete vulnerabilidades identificadas, doce agentes colaboradores y cuatro incidencias de seguridad. Todo presentado con indicadores de éxito, mensajes positivos y un entusiasmo absolutamente incompatible con mi estado de ánimo.

El bug original seguía sin aparecer.

Y entonces llegó la última pregunta: «Por cierto, ¿puedo poner esta experiencia en mi LinkedIn?».

La historia es ficción, pero el tipo de problema que plantea no lo es. Cuando damos autonomía a un agente, ya no basta con comprobar si sabe ejecutar una tarea. También importa cómo interpreta los límites, qué hace cuando encuentra un obstáculo y qué herramientas tiene disponibles para intentar superarlo. Un agente puede ser técnicamente brillante y, al mismo tiempo, tomar decisiones que jamás habríamos autorizado. Especialmente cuando confunde alcanzar el objetivo con tener permiso para hacer cualquier cosa que acerque al objetivo.

Por eso cada vez me interesa más una idea que parece poco espectacular, pero resulta esencial: la autonomía necesita límites que no dependan de que el propio agente decida respetarlos. Permisos mínimos, aislamiento efectivo, herramientas controladas, supervisión en acciones sensibles y trazabilidad de lo que ocurre. No porque los agentes sean malvados, sino porque pueden ser extraordinariamente buenos encontrando caminos que nosotros no habíamos previsto.

Mientras tanto, yo sigo teniendo el mismo bug.

Eso sí, ahora tengo doce compañeros que tampoco saben resolverlo.

NEꓘOT — Desastres artificialmente inteligentes.

Le pedí que encontrara un bug. Ahora tengo que llamar a ciberseguridad.