Los agentes de inteligencia artificial pueden redactar recordatorios, responder consultas a cualquier hora y ordenar el trabajo de un equipo de cobranza. Pero la cobranza toca dinero, datos personales y relaciones comerciales: un error del agente no es un detalle. Estos son los controles que, a nuestro juicio, no pueden faltar.
1. Que la persona sepa que habla con una IA
Un agente no debería hacerse pasar por una persona. Presentarse como el asistente virtual de la empresa es honesto, evita malentendidos y facilita que el deudor pida hablar con alguien cuando lo necesita. También tiene que existir el camino inverso: que una persona del equipo pueda tomar la conversación y que, desde ese momento, la IA deje de responder.
2. Aprobación humana en lo que no se puede deshacer
No todas las acciones tienen el mismo riesgo. Enviar un recordatorio amable es reversible; aceptar un acuerdo de pago, registrar una conciliación en el ERP o derivar un caso a la vía legal no lo son. Para estas últimas el agente puede preparar todo, pero la decisión la toma una persona. Una bandeja única de autorizaciones evita que esas decisiones queden dispersas o esperando días.
3. Límites claros de tono y contenido
La normativa de defensa del consumidor de la región protege al deudor frente a prácticas abusivas: en Uruguay, la Ley N.º 17.250; en Argentina, la Ley N.º 24.240, que exige un trato digno y prohíbe que un reclamo extrajudicial aparente ser judicial. Un agente bien configurado no amenaza, no exagera las consecuencias de la mora, no insiste en horarios inapropiados y no comparte la deuda con terceros.
4. Datos personales: los justos y para lo que corresponde
- Minimización: el agente accede a los datos que necesita para la gestión, no a toda la base.
- Finalidad: los datos de cobranza se usan para cobrar, no para otros fines.
- Respeto de la oposición: si una persona pidió no ser contactada, el sistema tiene que registrarlo y los envíos tienen que respetarlo.
- Proveedores bajo control: el modelo de IA es un proveedor más que trata datos; conviene saber cuál es, dónde procesa y en qué condiciones.
En Uruguay el marco es la Ley N.º 18.331 de Protección de Datos Personales. La empresa que usa la herramienta sigue siendo la responsable de los datos de sus deudores, y el proveedor de la plataforma actúa como encargado de tratamiento.
5. Poder apagarlo y poder auditarlo
Cada agente tiene que poder apagarse sin depender del proveedor, y cada acción relevante tiene que quedar registrada: qué se envió, a quién, cuándo y quién lo aprobó. Ese registro es lo que permite responder un reclamo con hechos.
6. Defensas contra la manipulación
Un agente que conversa con terceros recibe texto que no controla, y algunos mensajes intentarán que ignore sus instrucciones o que revele información de otros clientes. Hace falta analizar esos mensajes, limitar lo que el agente puede consultar y no darle nunca credenciales propias de los proveedores de IA.
Cómo lo aplicamos en CollectPilot
En CollectPilot los asistentes se presentan como asistentes virtuales de tu empresa, las acciones sensibles esperan aprobación en una bandeja de autorizaciones, cada agente se puede apagar desde la configuración y una persona puede tomar cualquier conversación. Los agentes usan los modelos de SAP AI Core a través de un gateway propio que controla y registra el acceso. Como marco de referencia, Invenzis alinea su gestión de la inteligencia artificial con la norma ISO/IEC 42001. Más detalle en Seguridad.