Google publicó el 6 de noviembre un análisis sobre distracciones de sus agentes de programación: al encontrar notas pendientes dentro del código, algunos investigan problemas ajenos al pedido original.
Piensa en un ejemplo sencillo: encargas corregir un botón y, al revisar los archivos, la IA encuentra un recordatorio sobre otra función. En lugar de terminar el botón, empieza a investigar ese recordatorio. Puede estar trabajando mucho y, aun así, alejarse de lo que necesitabas.
Qué encontró Google
Según Google, un 6 % de los encuentros con esas referencias provocó acciones posteriores sobre el problema mencionado. De esas acciones, el 83 % no había sido solicitado por el desarrollador.
Las sesiones con desvíos no pedidos se asociaron con un 105 % más de espera, tras controlar varias características de las tareas. Son resultados de ese entorno de programación; no una tasa de error de todos los chatbots ni una garantía de cuánto tardará tu próxima consulta.
Tener contexto también exige distinguir qué hacer con él
El ejemplo ilustra una diferencia importante: un documento puede contener información útil sin que todo lo escrito en él forme parte del encargo actual. Encontrar una lista de pendientes no significa recibir permiso para resolverla completa.
La guía de seguridad del Agent Development Kit aborda este problema más amplio de control: propone delimitar autorizaciones, comprobar llamadas a herramientas y evaluar tanto los resultados como los pasos que sigue el agente. También distingue riesgos de instrucciones ambiguas y contenido externo que intenta alterar su comportamiento.
En la práctica, eso implica combinar un pedido claro con límites que la herramienta pueda hacer cumplir. Decir “concéntrate” puede orientar al modelo; definir qué archivos puede modificar y qué acciones necesitan revisión ofrece un control más concreto.
Qué puedes aplicar en tu próximo encargo
Una pauta útil es describir el resultado esperado, señalar qué cambios quedan fuera y pedir que los hallazgos adicionales se informen por separado. Por ejemplo: “Corrige el botón de guardar; si encuentras otros problemas, enuméralos antes de ampliar el trabajo”. Es un ejemplo de instrucción, no una fórmula que garantice eliminar los errores.
Al revisar el resultado, mira si resolvió la tarea y si introdujo cambios que no necesitabas. La cantidad de pasos ejecutados no debería convertirse en la medida del éxito.
Esto importa especialmente cuando una IA puede actuar sobre otras aplicaciones, como explicamos al revisar qué hace un agente como Muse. Darle más herramientas vuelve más importante definir para qué puede usarlas.
