La inteligencia artificial no llegó a la prevención de fraude

Treinta años de una inteligencia que pocos cuestionaban

Antes de que existiera una ventana capaz de responder en lenguaje natural, los sistemas antifraude ya clasificaban millones de operaciones por hora. Asignaban un número a cada transacción -37, +82, -96, etc. y la suma de esos números decidía si pasaba sin fricción, si merecía revisión o si debía detenerse. Detrás del número había reglas escritas por expertos, modelos estadísticos, motores de decisión y, más tarde, algoritmos capaces de encontrar relaciones que nadie había escrito a mano y sin restar importancia a los cientos de horas que un expertó dedicaba para certificarse en redes neuronales "uff".

Nadie preguntaba en esos años si la institución "pensaba usar inteligencia artificial". La usaba todos los días, y precisamente porque no hablaba, nadie sentía la necesidad de interrogarla. Un número no da explicaciones. Un número no puede sonar convincente ni equivocarse con elocuencia. Esa mudez, paradójicamente, funcionaba como una forma de disciplina: obligaba al especialista a interpretar, a dudar, a poner el juicio propio entre la máquina y la decisión final.

Lo que cambia cuando la máquina puede explicarse

La llegada de los modelos generativos no multiplicó de un día para otro la capacidad de cálculo. Multiplicó el acceso y, con él, la posibilidad de que la máquina justifique lo que antes solo señalaba. El analista puede ahora pedirle que resuma un historial, compare dos casos, sugiera una hipótesis o redacte el primer borrador de un informe. La distancia de traducción que antes exigía un equipo de ciencia de datos se redujo casi a cero.

Ese cambio no es solo de interfaz. Es de estatus. Cuando algo deja de entregar un resultado mudo y empieza a poder argumentar por qué llegó a él, deja de sentirse como un instrumento y empieza a sentirse como un interlocutor con criterio propio. Y aquí aparece el primer problema serio, no el técnico: un interlocutor que suena seguro tiende a heredar, sin haberla ganado, la autoridad que antes le costaba años construir a un especialista humano.

El recurso que dejó de ser escaso

Durante años, buena parte del valor profesional de un analista de fraude estuvo ligada a su capacidad de procesar información: revisar decenas de alertas por turno, cruzar fuentes dispersas, memorizar tipologías, reconstruir secuencias fragmentadas. Ese trabajo, agotador y poco visible, empieza a poder hacerlo una máquina en segundos.

En un entorno saturado de información, lo escaso deja de ser el dato y pasa a ser la atención capaz de decidir qué hacer con él.

— Herbert Simon

Cuando resumir diez páginas toma diez segundos en vez de una hora, resumir deja de ser la ventaja. La ventaja se traslada a quien sabe detectar qué falta en esas diez páginas, o por qué una correlación llamativa no es más que una coincidencia bien redactada. Esto no vacía de valor al especialista. Lo reubica, y lo obliga a competir en un terreno donde antes casi nadie invertía tiempo: la duda metódica.

El especialista aumentado, completado

"El ser humano ahora es potenciado por la IA" es una de esas frases que se repiten en cada conferencia sobre el tema, y se repiten con razón: describen algo real. La inteligencia artificial sí amplía lo que un analista puede ver, comparar y decidir en una fracción del tiempo que le tomaba antes. Nadie serio debería discutir eso.

Pero toda idea capaz de resumirse en un eslogan deja algo fuera, no por deshonestidad sino porque un eslogan no tiene espacio para matices. Y este tiene uno que vale la pena nombrar en voz alta, porque de él depende que el potenciamiento funcione como se promete: la misma plataforma que amplía la capacidad del analista suele registrar, con total precisión, cuántas veces siguió una sugerencia del modelo y cuántas veces se apartó de ella.

Eso no contradice el potenciamiento. Lo completa. Un analista puede estar genuinamente potenciado por una herramienta y, al mismo tiempo, sentir que apartarse de ella tiene un costo político que antes no existía. Las dos cosas son ciertas a la vez, y una institución que quiera que el "especialista aumentado" sea más que una frase de apertura necesita diseñar, junto con la herramienta, el espacio seguro para que ese especialista pueda disentir de ella sin que su indicador de desempeño lo penalice por hacerlo.

La fluidez como coartada institucional

Una herramienta que multiplica una buena pregunta también multiplica una mala, pero con un agravante: la vuelve elocuente. Puede construir una explicación impecablemente redactada a partir de una premisa equivocada. Puede hacer que una hipótesis débil parezca sofisticada solo porque está mejor escrita que las notas apuradas que un humano habría dejado en un caso similar hace diez años.

Ese sesgo, que ya era peligroso cuando operaba entre humanos, se vuelve estructural cuando el redactor es una máquina que puede producir cien explicaciones igual de convincentes por minuto, sin cansancio y sin ningún mecanismo interno que distinga entre una inferencia correcta y una plausible. El riesgo no es solo que un modelo se equivoque. Es que su fluidez ofrezca, sin que nadie lo pida explícitamente, una coartada institucional perfecta: "el sistema lo indicó así".

Buena parte de la irresponsabilidad organizacional no nace de decisiones malignas, sino de la mediación burocrática que diluye a cada persona en un engranaje donde nadie termina de sentirse autor de la decisión final.

— Hannah Arendt

Un informe redactado en un ochenta por ciento por un modelo, revisado por encima y firmado por un analista bajo presión de tiempo, es exactamente ese tipo de engranaje, actualizado.

Quién responde cuando el modelo se equivoca

La pregunta, entonces, no debería ser si una institución "usa" inteligencia artificial. Debería ser qué ocurre el día en que un informe generado con asistencia de IA resulta equivocado, y una transacción fraudulenta pasa, o una legítima se bloquea injustamente durante semanas. ¿Responde el analista que firmó sin auditar cada afirmación? ¿Responde el proveedor del modelo? ¿Responde la institución que diseñó un flujo de trabajo donde revisar a fondo cada sugerencia de la IA era, en la práctica, incompatible con las metas de productividad que la misma institución fijó?

Esta no es una pregunta retórica pensada para cerrar un párrafo. Es una pregunta que la mayoría de las organizaciones que hoy anuncian con orgullo su adopción de inteligencia artificial generativa todavía no ha respondido por escrito. Y mientras no la respondan, la ambigüedad no es un efecto secundario incómodo del cambio tecnológico. Es, para algunas de ellas, una ambigüedad conveniente: permite exhibir innovación sin asumir todavía el costo de definir con precisión de quién es la responsabilidad cuando la máquina, con toda su elocuencia, se equivoca.

• ¿Existe un documento formal que defina de quién es la responsabilidad final cuando un informe asistido por IA resulta equivocado?
• ¿El tiempo asignado para auditar una sugerencia del modelo es realista, o compite directamente contra la meta de productividad del analista?
• ¿Alguien mide la tasa de coincidencia entre analistas y modelo sin preguntarse antes si esa coincidencia es señal de acierto o de conformidad?

La ventaja que no se compra

Durante años las instituciones compitieron por tener mejores motores de reglas, más datos limpios, modelos más precisos. Eso sigue importando. Pero la diferencia entre dos organizaciones con acceso a tecnología casi idéntica empieza a notarse en otro lugar: no en cuánta inteligencia artificial compraron, sino en cuánta responsabilidad humana decidieron seguir exigiendo alrededor de ella.

Dos entidades pueden licenciar el mismo modelo. Una lo usa para redactar informes más rápido y reduce, sin decirlo en voz alta, el tiempo asignado a revisarlos. La otra lo integra al proceso completo —investigación, diseño de controles, documentación, entrenamiento de analistas junior— y, al mismo tiempo, refuerza la auditoría humana precisamente en los puntos donde la fluidez del modelo podría estar disfrazando un error. Con la misma herramienta de base, la primera está comprando velocidad y comprando también, sin saberlo del todo, una futura crisis de trazabilidad. La segunda está comprando algo más difícil de vender en una demo: tiempo para que un humano siga dudando.

Lo que en verdad se estrena

Es posible que dentro de algunos años dejemos de hablar de inteligencia artificial con la intensidad de hoy. Las tecnologías que de verdad transforman un oficio suelen disolverse en la normalidad del trabajo diario. Cuando eso ocurra, la pregunta "¿van a utilizar inteligencia artificial en prevención de fraude?" sonará tan fuera de lugar como preguntar hoy si el área piensa usar electricidad.

Pero antes de llegar a esa normalidad tranquila, hay una etapa incómoda que rara vez cabe en el eslogan de apertura de una conferencia. Durante treinta años trabajamos con una inteligencia que no podía justificarse a sí misma, y por eso nunca pudo convertirse en excusa de nadie.

Ahora que por fin sabe explicarse, la pregunta urgente no es qué tan bien habla. Es si alguna institución está dispuesta a que esa voz nueva señale, con la misma claridad con la que redacta un informe, quién decidió confiar en ella sin verificarla.