“On ne choisit plus seulement une IA, on choisit une architecture : c’est elle qui garantit la performance, la souveraineté et la pérennité de la solution.”
Derrière chaque agent IA vocal se cache une architecture plus ou moins robuste, qui conditionne la latence, la qualité des parcours, la souveraineté des données et la capacité à faire évoluer la solution dans le temps.
Patrice Merrien, CTO Telecom & Infrastructure chez Zaion, explique pourquoi les responsables de la relation client doivent s’intéresser à l’architecture autant qu’aux modèles de reconnaissance ou de langage.
Pourquoi l’architecture d’intégration de l’IA est-elle aussi stratégique que le choix du modèle lui-même ?
Une solution d’IA conversationnelle n’est pas un bloc monolithique : elle repose sur une chaîne allant de la téléphonie à l’ASR, au NLU, aux modèles de langage, à l’orchestrateur et aux systèmes métiers. La manière dont ces briques sont intégrées détermine la propagation des erreurs, la latence ressentie par le client et la capacité à maintenir une qualité constante à grande échelle.
À quoi ressemble, à haut niveau, une architecture type pour des use cases d’agents IA vocaux et d’agent assist ?
En simplifiant, l’appel transite par la plateforme de centre de contacts, est traité par un ASR, analysé par des moteurs de compréhension, puis orchestré vers des services métiers et éventuellement des modèles génératifs pour résumer ou enrichir l’information. L’agent assist s’appuie sur une chaîne proche, avec transcription en temps réel, classification du motif d’appel et génération de résumés structurés, tout en respectant les contraintes de temps réel.
Quelles sont les conséquences concrètes de la latence sur l’expérience client et sur l’adoption par les équipes ?
Une latence trop élevée crée des silences, des chevauchements ou des réponses artificielles qui dégradent la fluidité de la conversation et la perception de la qualité. Côté Agent Assist, si le système met trop de temps à transcrire ou à résumer, il devient inutilisable au quotidien, ce qui freine l’adoption et réduit l’impact opérationnel.
En quoi une IA native d’une plateforme CCaaS diffère-t-elle d’un acteur spécialisé comme Zaion, du point de vue architecture et intégration ?
Les IA natives CCaaS sont intégrées à la plateforme de centre de contacts et couvrent bien un premier cercle de besoins génériques, avec une intégration téléphonie “clé en main”. Un spécialiste comme Zaion se positionne sur le cœur de métier IA conversationnelle, avec des intégrations avancées au CCaaS, au CRM et au SI, la capacité de composer plusieurs modèles et une gouvernance IA de bout en bout.
Comment concilier performance des modèles et exigences de souveraineté des données (RGPD, cloud souverain, secteur régulé) ?
La souveraineté se joue à plusieurs niveaux : nature des données (verbatims, enregistrements), entraînement des modèles, inférence, stockage et contrôle d’accès. En choisissant des modèles déployables sur cloud souverain ou on-prem, en anonymisant et en chiffrant les données, et en s’appuyant sur des certifications comme ISO 27001, les organisations peuvent concilier performance et conformité.
Les grands modèles de type hyperscaler sont-ils compatibles avec une stratégie de souveraineté et d’indépendance à long terme ?
Ils apportent une puissance et une maturité intéressantes, mais ils créent aussi un risque de dépendance forte à un fournisseur, à sa roadmap et à ses choix de localisation de données. Une architecture bien pensée permet de les utiliser là où ils sont pertinents, tout en conservant la possibilité de les combiner ou de les remplacer par d’autres modèles plus spécialisés ou plus souverains.
Que doit exiger un responsable de la relation client en termes de gouvernance IA et d’amélioration continue de la part de son partenaire technologique ?
Au-delà du projet initial, il faut une gouvernance IA structurée : monitoring continu de la performance, QA métier, gestion des versions de modèles et processus d’amélioration continue. Cela implique aussi une collaboration étroite entre métiers, IT et éditeur, avec des rituels partagés pour piloter la qualité et prioriser les évolutions.
Comment une architecture “bien pensée” prépare l’avenir (nouvelles briques IA, nouveaux use cases, nouveaux canaux) sans tout remettre à plat ?
En plaçant l’orchestrateur et les APIs au cœur du dispositif, l’architecture peut intégrer de nouvelles briques IA ou de nouveaux cas d’usage sans refondre l’ensemble du système. Cette approche composable évite l’enfermement dans un stack unique et permet de tirer parti des innovations tout en préservant la stabilité des parcours clients.
L’empreinte carbone de l’IA devient un sujet : comment l’architecture et le choix des modèles peuvent-ils limiter cet impact ?
L’empreinte carbone d’un service IA est principalement liée à l’entraînement et au choix des modèles, mais aussi à la façon dont ils sont déployés et mutualisés. L’utilisation de SLM pour les interactions courantes et la réduction de la taille des modèles tout en optimisant leur usage permet de diminuer l’impact par conversation, en CO2 comme en consommation d’eau.
Si tu devais donner trois “red flags” architecturaux à surveiller avant de lancer un projet IA relation client, quels seraient-ils ?
Parmi les signaux d’alerte, on peut citer une dépendance totale à un unique fournisseur sans possibilité de composer, l’absence de gouvernance IA formalisée et une latence non maîtrisée pour les cas d’usage temps réel. Un autre indicateur est l’absence de réponse claire sur la localisation des données, les mécanismes d’anonymisation et les certifications de sécurité.
Patrice Merrien
CTO Telecom et Infrastructure de Zaion
