¿Por qué finanzas desconfía de la IA?
Porque el coste de una respuesta equivocada es asimétrico. En casi cualquier sitio una respuesta aproximada es una molestia pequeña. En tesorería y en contabilidad se convierte en una cifra que alguien reporta, en un pago que alguien libera o en una excepción que nadie escaló.
Y la fluidez lo empeora en vez de mejorarlo. Una explicación bien construida se lee como una explicación meditada, así que cuanto más natural suena una respuesta menos se cuestiona, que es justo lo contrario de lo que quieres de un sistema que a veces se equivoca. La cautela aquí responde bien al incentivo; no es un rasgo de carácter de la profesión.
Por eso la pregunta de un equipo financiero nunca es si la cosa es lista. Es sobre qué está construida la respuesta y si pueden ir a mirarlo.
¿Qué significa que una respuesta esté fundamentada?
Significa que cada afirmación apunta a un registro que puedes abrir. No a la cita de un documento: al extracto, al asiento, a la remesa o al tipo de cambio que produjo esa frase.
Estar fundamentada también tiene que ver con lo que el sistema se niega a decir. Que al mayor le falten tres días es un hecho, y un asistente que rellena el hueco con una continuación verosímil ha hecho lo más dañino que estaba a su alcance. Lo correcto es nombrar el hueco, decir qué deja fuera de la cifra y parar.
La prueba es barata. Haz la misma pregunta dos veces, con una semana de diferencia, sobre datos que no han cambiado. Una respuesta fundamentada es la misma respuesta, porque es una recuperación. Si se mueve, estaba compuesta, y una respuesta compuesta sobre dinero es un riesgo con buen tono de voz.
¿Dónde encaja un modelo de lenguaje y dónde no?
Encaja encima. Tresora IA es un asistente que se apoya sobre un motor determinista. La conciliación, las posiciones y el reporting no pasan por un modelo de lenguaje, y esa frontera es el diseño y no un límite del diseño.
El motivo es que casar es aritmética y evidencia, no lenguaje. Un movimiento se explica pesando apuntes candidatos contra fechas, importes, referencias y contrapartes, puntuándolos y guardando los que perdieron. Ese proceso tiene que poder reproducirse byte a byte, porque alguien lo va a pedir un año después, y reproducible es justo lo que un modelo probabilístico no es.
Lo que hace el asistente es la parte que sí es lenguaje. Explica lo que hay en pantalla, señala lo que necesita atención y ejecuta rutinas dentro del mismo circuito de aprobación y los mismos permisos que ya tiene quien pregunta. Responde sobre el trabajo del motor en vez de hacer el trabajo del motor.
¿Cómo se prueba un asistente antes de confiar en él?
Dale una pregunta cuya respuesta ya conoces y revisa el desarrollo, no la conclusión. Acertar una vez lo hace cualquiera. Lo que compras es la posibilidad de comprobarlo.
Tres sondeos separan rápido los dos tipos. Pregúntale algo que los datos no puedan sostener y mira si declina o improvisa. Pídele los registros que hay detrás de una cifra y mira si se abren. Pregúntale lo mismo el lunes y el jueves y mira si la respuesta se mueve.
Después fíjate en qué pasa cuando se equivoca. Un sistema que revisa una conclusión cuando llega evidencia nueva, retira el veredicto anterior en lugar de sobrescribirlo y te enseña los dos, es un sistema con el que se puede vivir. El que cambia de opinión en silencio te ha quitado lo único que ibas a revisar.