Junto a Google, Microsoft, OpenAI o Salesforce, Zaion figura entre las organizaciones cuyo informe de transparencia ha publicado la OCDE en el marco del Proceso de Hiroshima para la IA (HAIP), surgido del G7. Un lugar del que nos sentimos orgullosos y que supone un compromiso para nosotros, ya que ahora cualquiera puede consultar nuestras prácticas.
El HAIP: un marco internacional para una IA segura y transparente
Puesto en marcha por el G7 en 2023, el Proceso de Hiroshima sobre la IA estableció unos principios rectores y un código de conducta internacional para las organizaciones que desarrollan sistemas avanzados de IA. A petición del G7, la OCDE creó posteriormente un marco de presentación de informes para supervisar la aplicación de dicho código.
En concreto, cada organización participante responde a un cuestionario estructurado en torno a las 11 medidas del código de conducta:
- identificación y evaluación de riesgos;
- seguridad de la información y protección de datos;
- transparencia hacia los usuarios;
- gobernanza y gestión de incidentes;
- Investigación e inversiones para una IA más segura.
El informe se publica íntegramente en la plataforma de la OCDE. Se trata de una iniciativa voluntaria y pública: clientes, socios, organismos reguladores y competidores pueden consultar nuestras respuestas. Eso es precisamente lo que le da valor.
¿Por qué aparece Zaion en la lista?
Tras la invitación recibida a raíz de la participación de Franz Fodéré, presidente fundador de Zaion, en el G7 Numérique y en la Tech7 Summit el pasado mes de mayo, Zaion representa hoy en estos foros la voz de una empresa francesa especializada en IA conversacional para la relación con el cliente.
Una perspectiva que resulta aún más útil si tenemos en cuenta que nuestros agentes de IA interactúan a diario con clientes de sectores en los que las exigencias se encuentran entre las más elevadas y en los que un error tiene un coste real.
1. La confianza se forja desde el momento del diseño
En Zaion, la protección de datos no es una capa añadida a posteriori: forma parte de la arquitectura. Esto se traduce, en la práctica, en cinco decisiones técnicas:
- Enmascaramiento antes de cualquier modelo de terceros. Las direcciones de correo electrónico, los números de teléfono, los datos bancarios o los números de la Seguridad Social se sustituyen por marcadores antes de llegar a un modelo de lenguaje, y solo se revelan en la respuesta al cliente.
- Precaución por defecto. Se oculta una palabra en cuanto haya un 10 % de probabilidad de que se trate de un dato personal. Si la sincronización de audio no se considera fiable, se oculta toda la frase en lugar de arriesgarse a una filtración parcial.
- Nuestros servicios compartidos no almacenan las conversaciones: el procesamiento se realiza en memoria y se borra tras cada solicitud.
- Alojamiento en Europa, bases de datos en Francia, cifrado AES-256 en reposo y TLS en tránsito, segregación por cliente.
- Tus datos siguen siendo tuyos. Nunca se utilizan para entrenar los modelos de nuestros proveedores ni para atender a otros clientes.
Y como la confianza también pasa por la honestidad hacia el usuario final, se informa a cada interlocutor, desde el inicio de la conversación, de que está hablando con un agente de IA.
2. La autonomía debe inscribirse en un marco controlado
Un agente de IA que actúa debe estar sujeto a ciertas normas. En Zaion, es el cliente quien define lo que el agente tiene derecho a hacer.
- Solo las acciones autorizadas, y nada más. Cada agente de IA solo puede ejecutar las acciones y utilizar las herramientas que haya declarado la empresa cliente.
- Medidas de seguridad automáticas. Límite del número de pasos, detección de bucles, presupuestos por conversación: si un agente no converge, se le interrumpe y cede el turno.
- Un enlace humano cuando la comprensión es incierta. Un enlace humano cuando la comprensión es incierta. En cuanto disminuye el nivel de confianza, la conversación se transfiere a un asesor, y solo se automatizan aquellas solicitudes que el agente de IA gestiona de forma fiable.
- Trazabilidad completa. Cada paso y cada solicitud de herramienta se comunica al cliente: la organización responsable puede ver exactamente lo que ha hecho el agente.
Consideramos inaceptables, si no se adoptan las medidas adecuadas, cuatro situaciones: que una persona que llama y se encuentra en dificultades no pueda ponerse en contacto con un ser humano; que se tome una decisión de gran trascendencia sin que sea revisada por un ser humano; que, durante una interacción, el usuario no sepa que está hablando con una IA; y que el reconocimiento de voz no funcione correctamente para un grupo identificable de usuarios.
3. La tecnología debe ser adecuada al uso
Evaluamos los riesgos en función de sus consecuencias para el usuario (gravedad, reversibilidad, alcance) en el contexto real de cada implementación.
Ese es el principio de nuestro enfoque híbrido: la información adecuada, en el lugar adecuado y con el nivel adecuado de control.
- Las etapas críticas, como la identificación o la autenticación, se basan en una lógica determinista, estable y explicable.
- La IA generativa interviene allí donde la fluidez genera valor, basándose en fuentes de conocimiento validadas por el cliente.
- Se da prioridad a los modelos más ligeros (NLU, SLM) cuando son suficientes: son más rápidos, más fáciles de controlar y consumen menos recursos de cálculo.
Estas prácticas forman parte de un sistema de gestión de la IA alineado con la norma ISO/IEC 42001 e integrado en nuestro programa de seguridad ISO/IEC 27001, bajo la responsabilidad directa de nuestro responsable de seguridad de la información (RSSI) y de la dirección.
La voz de un actor francés, responsable e independiente
Junto a los grandes nombres estadounidenses y asiáticos del ámbito de la IA, nuestra aportación ofrece una perspectiva diferente: la de un proveedor francés e independiente, pionero en tecnología de voz desde 2017, que se enfrenta a diario a las exigencias de las grandes empresas y de los sectores regulados.
Para estas organizaciones, la cuestión ya no es si la IA generativa funciona. Se trata de saber si se puede poner en práctica, de forma controlada, a gran escala. Nuestra convicción es clara: el control de la IA es una condición imprescindible para su adopción a gran escala.
Para profundizar en el tema
- Consulta el informe de transparencia de Zaion en OECD.AI.
- ¿Estás implementando agentes de IA en un entorno regulado? Consulta con nuestros expertos.
