«Ya no se elige solo una IA, se elige una arquitectura: es esta la que garantiza el rendimiento, la soberanía y la sostenibilidad de la solución».
Detrás de cada agente de IA de voz se esconde una arquitectura más o menos sólida, que determina la latencia, la calidad de los flujos de interacción, la soberanía de los datos y la capacidad de hacer evolucionar la solución con el tiempo.
Patrice Merrien, director técnico de Telecomunicaciones e Infraestructuras de Zaion, explica por qué los responsables de la relación con el cliente deben prestar tanta atención a la arquitectura como a los modelos de reconocimiento o de lenguaje.
¿Por qué la arquitectura de integración de la IA es tan estratégica como la elección del propio modelo?
Una solución de IA conversacional no es un bloque monolítico: se basa en una cadena que abarca desde la telefonía hasta el reconocimiento de voz (ASR), la comprensión del lenguaje natural (NLU), los modelos de lenguaje, el orquestador y los sistemas de negocio. La forma en que se integran estos componentes determina la propagación de los errores, la latencia que percibe el cliente y la capacidad de mantener una calidad constante a gran escala.
¿Cómo es, a grandes rasgos, una arquitectura típica para casos de uso de agentes de IA vocales y de asistencia?
En pocas palabras, la llamada pasa por la plataforma del centro de contacto, es procesada por un sistema de reconocimiento de voz (ASR), analizada por motores de comprensión y, a continuación, derivada a los servicios especializados y, en su caso, a modelos generativos para resumir o enriquecer la información. El agente asistido se apoya en una cadena cercana, con transcripción en tiempo real, clasificación del motivo de la llamada y generación de resúmenes estructurados, respetando siempre las limitaciones del tiempo real.
¿Cuáles son las consecuencias concretas de la latencia en la experiencia del cliente y en la aceptación por parte de los equipos?
Una latencia demasiado elevada provoca silencios, solapamientos o respuestas artificiales que merman la fluidez de la conversación y la percepción de la calidad. En el caso de Agent Assist, si el sistema tarda demasiado en transcribir o resumir, se vuelve inutilizable en el día a día, lo que frena su adopción y reduce su impacto operativo.
¿En qué se diferencia la IA integrada en una plataforma CCaaS de un proveedor especializado como Zaion, desde el punto de vista de la arquitectura y la integración?
Las IA nativas de CCaaS están integradas en la plataforma del centro de contacto y cubren adecuadamente un primer conjunto de necesidades genéricas, con una integración de telefonía «llave en mano». Un especialista como Zaion se centra en el núcleo del negocio de la IA conversacional, con integraciones avanzadas con CCaaS, CRM y los sistemas de información, la capacidad de crear varios modelos y una gobernanza de la IA de principio a fin.
¿Cómo conciliar el rendimiento de los modelos con los requisitos de soberanía de los datos (RGPD, nube soberana, sectores regulados)?
La soberanía se articula en varios niveles: la naturaleza de los datos (transcripciones, grabaciones), el entrenamiento de los modelos, la inferencia, el almacenamiento y el control de acceso. Al optar por modelos que se pueden implementar en una nube soberana o en las propias instalaciones, al anonimizar y cifrar los datos, y al basarse en certificaciones como la ISO 27001, las organizaciones pueden conciliar el rendimiento y el cumplimiento normativo.
¿Son compatibles los grandes modelos de tipo hiperescalador con una estrategia de soberanía e independencia a largo plazo?
Aportan una potencia y una madurez interesantes, pero también entrañan el riesgo de una fuerte dependencia de un proveedor, de su hoja de ruta y de sus decisiones sobre la ubicación de los datos. Una arquitectura bien diseñada permite utilizarlos cuando sea pertinente, sin perder la posibilidad de combinarlos o sustituirlos por otros modelos más especializados o que ofrezcan mayor soberanía.
¿Qué debe exigir un responsable de la relación con el cliente en materia de gobernanza de la IA y mejora continua a su socio tecnológico?
Más allá del proyecto inicial, se necesita una gobernanza de la IA bien estructurada: seguimiento continuo del rendimiento, control de calidad específico del negocio, gestión de las versiones de los modelos y procesos de mejora continua. Esto implica también una estrecha colaboración entre los departamentos de negocio, TI y el proveedor, con procedimientos compartidos para controlar la calidad y priorizar las actualizaciones.
¿Cómo puede una arquitectura «bien diseñada» prepararse para el futuro (nuevos componentes de IA, nuevos casos de uso, nuevos canales) sin tener que empezar de cero?
Al situar el orquestador y las API en el centro del sistema, la arquitectura puede integrar nuevos componentes de IA o nuevos casos de uso sin necesidad de rediseñar todo el sistema. Este enfoque modular evita el bloqueo en una única pila tecnológica y permite aprovechar las innovaciones sin comprometer la estabilidad de la experiencia del cliente.
La huella de carbono de la IA se está convirtiendo en un tema de debate: ¿cómo pueden la arquitectura y la elección de los modelos limitar ese impacto?
La huella de carbono de un servicio de IA depende principalmente del entrenamiento y la elección de los modelos, pero también de la forma en que se implementan y comparten. El uso de SLM para las interacciones habituales y la reducción del tamaño de los modelos, al tiempo que se optimiza su uso, permite reducir el impacto por conversación, tanto en términos de CO₂ como de consumo de agua.
Si tuvieras que señalar tres «señales de alerta» arquitectónicas a las que hay que prestar atención antes de poner en marcha un proyecto de IA para la gestión de la relación con el cliente, ¿cuáles serían?
Entre las señales de alerta cabe citar la dependencia total de un único proveedor sin posibilidad de negociación, la ausencia de una gobernanza de la IA formalizada y una latencia no controlada para los casos de uso en tiempo real. Otro indicador es la falta de una respuesta clara sobre la ubicación de los datos, los mecanismos de anonimización y las certificaciones de seguridad.
Patrice Merrien
Director técnico de Telecomunicaciones e Infraestructuras de Zaion
