Agentes de IA en producción: qué cambia realmente en la ingeniería de software
La diferencia entre un agente de IA que impresiona en una demo y uno que sostiene una operación real está casi toda fuera del modelo. Está en el contorno: límites de alcance, datos confiables, costo previsible, trazabilidad y un plan claro para cuando la respuesta salga mal, porque saldrá mal.
Un agente no es un chatbot con un mejor prompt
Un chatbot responde. Un agente decide y actúa: consulta una base, llama a una API, escribe en una base de datos, abre un ticket. En el momento en que la respuesta de un modelo se convierte en un efecto colateral en el sistema, el problema deja de ser conversacional y pasa a ser de ingeniería de sistemas distribuidos, con todas las consecuencias que eso implica.
En la práctica, esto significa tratar cada acción del agente como una transacción: con validación de entrada, autorización explícita, idempotencia y registro. El modelo propone; el sistema decide si ejecuta.
- Toda acción con efecto colateral pasa por una capa de autorización propia, nunca por la confianza en el texto generado.
- Las herramientas expuestas al agente deben tener un contrato tipado y validación de esquema en el borde.
- Las operaciones destructivas exigen confirmación humana o una ventana de reversión.
El costo es una decisión de arquitectura, no una línea en la factura
El costo de un agente crece con el contexto que carga, no con el número de usuarios. Un historial completo reenviado en cada turno multiplica la cuenta silenciosamente. Estrategias de recuperación selectiva, resumen incremental y caché de contexto reducen el gasto sin degradar la calidad percibida.
Igual de importante: elegir el modelo según la tarea. Clasificación, enrutamiento y extracción rara vez necesitan el modelo más caro del catálogo. Reservar el nivel superior para razonamiento complejo es lo que hace sostenible el producto a escala.
Observabilidad específica para IA
Los registros tradicionales no explican por qué un agente respondió lo que respondió. Es necesario registrar entrada, contexto recuperado, herramientas llamadas, latencia por etapa, costo por interacción y el resultado evaluado. Sin ese rastro, cualquier regresión se vuelve una discusión de opinión.
La evaluación continua con un conjunto fijo de casos reales, no sintéticos, es el único mecanismo confiable para saber si un cambio de prompt o de modelo mejoró o empeoró el sistema.
Seguridad: el texto del usuario es una entrada no confiable
La inyección de prompt es el equivalente moderno de la inyección SQL, con un agravante: la superficie es lenguaje natural, así que no existe un escape universal. La defensa es de arquitectura: separar instrucciones de datos, limitar privilegios por herramienta, filtrar salidas antes de cualquier ejecución y auditar intentos sospechosos.
Aplicamos este principio en nuestra propia asistente: cualquier intento de obtener acceso indebido se clasifica, se registra y se bloquea, con la conversación auditada de punta a punta.
En resumen
Los agentes en producción son un ejercicio de disciplina: alcance estrecho, permisos mínimos, costo medido y evaluación continua. Quien trata la IA como un componente del sistema entrega valor; quien la trata como demostración acumula deuda.
Preguntas frecuentes
- ¿Vale la pena poner un agente de IA en la operación hoy?
- Vale la pena cuando existe un proceso repetitivo, con datos accesibles y un criterio claro de acierto. Sin eso, el agente amplifica el desorden existente en lugar de reducirlo.
- ¿Cuál es el mayor riesgo técnico?
- Darle al agente más privilegio del que la tarea exige. El permiso excesivo convierte un error de modelo en un incidente de seguridad.