Agentes de IA en procesos comerciales: cuánta autonomía conceder y dónde poner a la persona
Los benchmarks revisados por pares muestran que los agentes de IA fallan con frecuencia en tareas comerciales: cuánta autonomía conceder.
Los agentes de IA ya consultan el CRM, modifican pedidos y responden a clientes. Los benchmarks revisados por pares muestran que, en tareas comerciales realistas, fallan con frecuencia y de forma inconsistente. La supervisión humana es necesaria, pero su eficacia depende de cuándo y cómo interviene la persona.
Qué dicen los benchmarks sobre fiabilidad
Sugerir respuestas a un empleado no es actuar solo. En lo primero, la evidencia es favorable: en 5.172 agentes de atención al cliente, un asistente de IA aumentó la productividad un 14 % de media y un 34 % entre los menos experimentados (Brynjolfsson et al., 2025). Cuando el sistema actúa por su cuenta, los datos son peores:
| Estudio | Entorno evaluado | Hallazgo |
|---|---|---|
| Yao et al. (2025), τ-bench | 165 tareas de comercio minorista y aerolínea, con usuario simulado y políticas de empresa | GPT-4o resolvió menos del 50 %; la probabilidad de resolver la misma tarea en 8 intentos (pass^8) fue inferior al 25 % en comercio minorista |
| Huang et al. (2025a), CRMArena | Tareas profesionales de CRM en un entorno Salesforce simulado | Los mejores agentes resolvieron menos del 58 % con ReAct y menos del 65 % con llamadas a funciones |
| Huang et al. (2025b), CRMArena-Pro | 19 tareas de ventas, servicio y precios validadas por expertos | Cerca del 58 % de éxito en un turno y en torno al 35 % en varios turnos; conciencia de confidencialidad «casi nula» |
Fuente: elaboración propia. CRMArena-Pro es un preprint de Salesforce AI Research sin revisión por pares.
Lo decisivo es la consistencia: un agente que acierta seis de cada diez veces, pero no siempre en las mismas tareas, obliga a revisarlas todas. Y el rendimiento cae cuando el cliente aporta información en varios turnos, como en una venta real.
La supervisión humana no es una garantía automática
Según un metaanálisis preregistrado de 106 experimentos, la combinación de humano e IA rindió de media peor que el mejor de ambos por separado (g de Hedges = −0,23). Las pérdidas se concentraron en tareas de decisión, con ganancias en tareas de creación o cuando el humano superaba a la IA (Vaccaro et al., 2024). Una revisión de 35 experimentos (19.774 participantes) apunta a un mecanismo: el sesgo de automatización crece con la carga de trabajo y la presión de tiempo, y las explicaciones del sistema no lo corrigen; lo que ayuda es obligar a verificar (Romeo & Conti, 2026).
La evidencia de campo más cercana es un experimento aleatorizado en Taobao, con 647 empleados de atención y 680.676 conversaciones (Wang et al., 2026). En las consultas estandarizadas que resolvía el agente bajo supervisión, la duración bajó un 16,8 %, pero la valoración cayó 0,41 puntos en una escala de 1 a 5. Tras un escalado por fallo técnico, la persona mantenía la calidad; tras uno por frustración del cliente, la valoración caía 0,93 puntos y aumentaban los contactos repetidos. Es un documento de trabajo sin revisión por pares, de una plataforma china: su extrapolación a una pyme española es limitada.
La inferencia razonable es que intervenir tarde, con un cliente molesto y sin contexto, no equivale a supervisión.
El contexto europeo y español
En 2025, el 20,3 % de las empresas españolas de 10 o más empleados usaba IA (UE: 20,0 %), y marketing o ventas era su uso más frecuente (29,5 % de las usuarias). Entre las empresas europeas que la consideraron sin adoptarla, el 53,6 % citó la incertidumbre jurídica (Eurostat, 2026). El uso de agentes aún no se mide.
El artículo 14 del AI Act exige supervisión humana con conciencia del sesgo de automatización y capacidad de detener el sistema, pero solo en sistemas de alto riesgo (Reglamento (UE) 2024/1689). Un agente comercial típico no lo es, aunque el artículo sirve como referencia de diseño. Y la responsabilidad no se delega: en Moffatt v. Air Canada (2024), un tribunal canadiense rechazó que el chatbot fuera una entidad separada y responsabilizó a la aerolínea de su información errónea.
Aplicaciones prácticas
- Graduar la autonomía según la reversibilidad: el agente informa y cualifica; descuentos o devoluciones requieren aprobación previa.
- Medir consistencia: conviene repetir los mismos casos de prueba varias veces antes de cada cambio de modelo o instrucciones.
- Escalar pronto y con contexto: traspasar ante las primeras señales de frustración, con un resumen de la conversación.
- Diseñar fricción en la revisión: pedir que se confirmen datos concretos, no solo pulsar «aprobar».
- Proteger lo confidencial con permisos, no solo con instrucciones.
Para RCKT, la implicación es que un agente comercial debería entregarse con su política de escalado y sus pruebas de consistencia, no solo con su configuración.
Caso simulado (no representa a ninguna empresa real): una tienda online de Valencia activa un agente en WhatsApp que consulta pedidos y propone cambios de talla. El primer mes, una persona confirma cada cambio; ante una queja, el agente traspasa la conversación con un resumen. La autonomía se amplía solo donde los registros muestran resultados estables.
Limitaciones
Los benchmarks son simulados y evalúan modelos de 2024 y 2025; los actuales probablemente puntúan más alto, pero ningún estudio revisado demuestra que la inconsistencia haya desaparecido. CRMArena-Pro y el estudio de Alibaba no están revisados por pares. No hay estudios revisados sobre agentes comerciales en pymes europeas. La resolución Moffatt v. Air Canada se verificó a través de fuentes jurídicas secundarias.
Conclusión
Conceder autonomía a los agentes de IA en procesos comerciales exige graduarla según el coste del error, no entregarla por completo ni asumir que basta con "una persona revisando": la evidencia respalda traspasos tempranos hacia esa persona y revisiones diseñadas para que compruebe de verdad, no para que apruebe por inercia.
Referencias
Brynjolfsson, E., Li, D., & Raymond, L. (2025). Generative AI at work. The Quarterly Journal of Economics, 140(2), 889–942.
Eurostat. (2026). The use of artificial intelligence (AI) technologies in the European Union: Key results (2026 ed., KS-01-26-009-EN-N). Oficina de Publicaciones de la Unión Europea.
Huang, K.-H., Prabhakar, A., Dhawan, S., Mao, Y., Wang, H., Savarese, S., Xiong, C., Laban, P., & Wu, C.-S. (2025a). CRMArena: Understanding the capacity of LLM agents to perform professional CRM tasks in realistic environments. En Proceedings of the 2025 Conference of the Nations of the Americas Chapter of the Association for Computational Linguistics (Vol. 1, pp. 3830–3850). ACL.
Huang, K.-H., Prabhakar, A., Thorat, O., Agarwal, D., Choubey, P. K., Mao, Y., Savarese, S., Xiong, C., & Wu, C.-S. (2025b). CRMArena-Pro: Holistic assessment of LLM agents across diverse business scenarios and interactions (arXiv:2505.18878). Salesforce AI Research.
Moffatt v. Air Canada, 2024 BCCRT 149 (British Columbia Civil Resolution Tribunal, 14 de febrero de 2024).
Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial. (2024). Diario Oficial de la Unión Europea, L 2024/1689.
Romeo, G., & Conti, D. (2026). Exploring automation bias in human–AI collaboration: A review and implications for explainable AI. AI & Society, 41, 259–278.
Vaccaro, M., Almaatouq, A., & Malone, T. (2024). When combinations of humans and AI are useful: A systematic review and meta-analysis. Nature Human Behaviour, 8(12), 2293–2303.
Wang, Y., Zhu, C., Feng, T., Lu, L. X., & Jia, B. (2026). Agentic AI and human-in-the-loop interventions: Field experimental evidence from Alibaba's customer service operations (arXiv:2605.14830).
Yao, S., Shinn, N., Razavi, P., & Narasimhan, K. (2025). τ-bench: A benchmark for tool-agent-user interaction in real-world domains. En The Thirteenth International Conference on Learning Representations (ICLR 2025).
