1
Por Hilary Schmidtbanquero internacional
ALa inteligencia artificial (IA) ha pasado de ser una tecnología periférica a una prioridad estratégica clave en el sistema bancario global en los últimos años. Las instituciones están invirtiendo miles de millones de dólares en una variedad de posibles casos de uso de la IA (desde la detección de fraudes y la automatización del servicio al cliente hasta la suscripción de préstamos y el análisis comercial) para mejorar su eficiencia y su posicionamiento competitivo. Sin embargo, este aumento de la inversión ha llevado a una adopción bastante lenta de aplicaciones basadas en IA, y los bancos han descubierto que integrar la IA en entornos altamente regulados y sensibles al riesgo está resultando un desafío particular.
La IA tiene el potencial de reducir los costos operativos, mejorar la gestión de riesgos, mejorar la experiencia del cliente, crear nuevas oportunidades de ingresos y más. Los bancos también son conscientes de que no invertir en IA podría dejarlos en desventaja en comparación con sus pares o los nuevos participantes. Como tal, el sector está invirtiendo miles de millones en la tecnología, y el Foro Económico Mundial (FEM) predice que el gasto financiero global en inteligencia artificial alcanzará los 97 mil millones de dólares para 2027, frente a los alrededor de 35 mil millones de dólares en 2023.
Las grandes instituciones se mostraron particularmente activas. JPMorgan Chase ha invertido mucho en herramientas de inteligencia artificial para respaldar áreas como el procesamiento de documentos, la detección de fraudes y el análisis comercial e incluso ha desarrollado plataformas internas capaces de analizar grandes cantidades de datos legales y financieros, reduciendo significativamente el tiempo necesario para completar tareas que antes requerían mucha mano de obra. Goldman Sachs también ha integrado la IA en sus herramientas de desarrollo y flujos de trabajo internos, utilizando modelos generativos para ayudar en los procesos operativos y de codificación y, en última instancia, mejorar la productividad.
Mientras tanto, Citigroup está explorando el uso de la IA en sus funciones de riesgo y cumplimiento, pero continúa enfatizando que se encuentra en la fase de adopción de «personas involucradas», donde la tecnología se utiliza para ayudar a colegas y clientes en lugar de tomar decisiones completamente autónomas. «La atención se centra ahora en herramientas de soporte que ayuden a las personas a hacer mejor su trabajo, no en reemplazar el juicio humano en áreas como riesgo, cumplimiento o interacción con el cliente», explicó el banco en noviembre. Por lo tanto, la IA se está utilizando para ayudar en la toma de decisiones en lugar de reemplazarla por completo, lo que sugiere que la gestión de riesgos es más importante para algunos bancos que las ganancias de eficiencia que potencialmente podrían lograrse.
Sin embargo, a pesar de estos casos de uso exitosos, la transición de proyectos piloto a una implementación a gran escala para la industria en general ha resultado difícil. Según una investigación del bufete de abogados Dentons, solo el 29 por ciento de los encuestados en el sector de servicios financieros tenía una hoja de ruta formal o una estrategia interna implementada para mediados de 2024. El principal desafío que enfrenta es la necesidad de un nivel mínimo de transparencia en los nodos operativos clave, un nivel que la IA aún no ha logrado de manera convincente. Dado que incluso un solo error (ya sea una mala decisión crediticia, una alerta de cumplimiento omitida o una transacción incorrecta) puede tener consecuencias significativas para un banco y sus clientes, los prestamistas se muestran cautelosos a la hora de implementar una automatización a gran escala y, como resultado, incurrir en pérdidas financieras, multas regulatorias y/o daños a la reputación.
La opacidad de los sistemas de IA de “caja negra” –particularmente a la hora de determinar el origen de los datos o contenidos generados por la IA– no hace más que reforzar estas preocupaciones. El uso de modelos complejos de aprendizaje automático (ML) a menudo produce resultados que son difíciles de explicar o justificar, por lo que los beneficios potenciales de la automatización superan los requisitos de control y rendición de cuentas de los bancos y reguladores, más aún si la tecnología produce resultados significativamente erróneos. Además, si un agente autónomo comete un error grave, la determinación de la responsabilidad legal (ya sea del banco o del proveedor de tecnología) sigue en gran medida sin resolver en el frente regulatorio.
Las decisiones crediticias, por ejemplo, suelen basarse en criterios definidos que pueden explicarse a los reguladores y a los clientes. Sin embargo, muchos modelos de IA proporcionan resultados sin ofrecer explicaciones claras de cómo se generaron, lo que dificulta que los bancos justifiquen ciertas decisiones. En Estados Unidos, la Oficina de Protección Financiera del Consumidor (CFPB) aclaró que los prestamistas no pueden esconderse detrás de algoritmos complejos: si se utiliza IA para denegar un préstamo, el banco debe proporcionar razones específicas y precisas para hacerlo.
De hecho, la regulación juega un papel central en la configuración de cómo se aplica la IA en la banca global. Los reguladores financieros exigen a los bancos que demuestren que sus sistemas son sólidos, justos y transparentes. Esto incluye garantizar que los modelos no produzcan resultados sesgados y que las decisiones puedan explicarse y revisarse.
«Muchos países están avanzando hacia la exigencia de que si un cliente se ve afectado negativamente por una decisión automatizada, como que se le deniegue un préstamo o se le marque para una investigación, tenga derecho a una explicación o una revisión manual. Incluso cuando esto no sea la ley, proporcionar al menos una explicación mínima es una buena práctica», según la «Guía de IA de Digital First Bank» y la plataforma de documentación técnica 26, 26. Oradian. «Los reguladores también esperarán transparencia en términos de documentación del modelo y auditabilidad. Esto significa mantener documentación detallada de sus modelos de IA… y estar preparados para presentarla a los reguladores si así lo solicitan».
Los datos son otro gran desafío para los bancos. Los sistemas de inteligencia artificial requieren grandes cantidades de datos de alta calidad para funcionar de forma eficaz. Aunque los bancos poseen extensos conjuntos de datos, a menudo están fragmentados en diferentes sistemas y unidades de negocio. Algunos prestamistas están invirtiendo fuertemente en infraestructura de datos para abordar este problema. Wells Fargo, por ejemplo, implementó un «tejido de datos» y una gestión de datos maestros (MDM) para unificar sistemas previamente fragmentados, lo que permitió mejores informes de riesgos y personalización entre canales para sus 33 millones de clientes móviles activos.
Sin embargo, el progreso es gradual. La integración y estandarización de estos datos es un proceso complejo que requiere muchos recursos. De hecho, los desafíos relacionados con los datos a menudo frenan la implementación de la IA más que la propia tecnología.
Los bancos también tienen que sopesar las cuestiones de privacidad. Los datos financieros son muy sensibles y su uso está sujeto a estrictos requisitos regulatorios, lo que limita el grado en que los bancos pueden utilizar ciertos tipos de datos para la capacitación y el análisis de la IA.
Incluso cuando los sistemas de IA se implementan con éxito, introducen nuevas formas de riesgo operativo, como la «desviación del modelo», donde los datos con los que se entrenó el modelo de IA pueden ya no reflejar las condiciones actuales, lo que reduce la precisión del modelo. Si los datos utilizados por el sistema de IA no representan con precisión a la población en general, podrían producir resultados que representen significativamente a ciertos segmentos de manera insuficiente o excesiva. Este problema, conocido como “sesgo de modelo”, es un obstáculo clave para la implementación de la IA en los bancos.
«Para la industria financiera, podría surgir un ejemplo hipotético de un problema de representación si los datos de gasto se utilizan desde una aplicación de banca abierta con clientes predominantemente masculinos», explicó la Autoridad de Conducta Financiera del Reino Unido (FCA) en una nota de investigación que investiga el sesgo en el aprendizaje automático supervisado. «Si un algoritmo ha generalizado el gasto de los hombres en toda la población, es poco probable que pueda predecir los patrones de gasto de las mujeres con la misma precisión. Los datos que no representan con precisión la población a la que se aplicará el algoritmo pueden generar resultados negativos para algunos grupos cuando se utilizan para tomar decisiones sobre ellos».
En el contexto bancario, esto es particularmente problemático. Los cambios en las condiciones económicas, el comportamiento de los clientes o la dinámica del mercado afectan continuamente los datos de población y, a su vez, el rendimiento del modelo. Por lo tanto, los bancos deberían monitorear y actualizar sus sistemas de inteligencia artificial en tiempo real, agregando capas adicionales de complejidad a su gestión. Además, los sistemas de IA pueden identificar patrones que son estadísticamente válidos pero no económicamente significativos, lo que podría llevar a decisiones difíciles de justificar ante los clientes y/o reguladores.
El uso de la inteligencia artificial también introduce nuevos desafíos en ciberseguridad. Los sistemas de inteligencia artificial pueden ser el objetivo de ataques adversarios, donde las entradas se manipulan para producir resultados incorrectos. En el contexto bancario, esto podría incluir intentos de eludir los sistemas de detección de fraude, explotar vulnerabilidades en procesos automatizados o desarrollar técnicas de ataque más sofisticadas. Como tal, los bancos deben actualizar continuamente sus sistemas para mantenerse al día con las amenazas en evolución.
Los reguladores estadounidenses no parecen tomarse esta cuestión a la ligera. El 10 de abril, surgieron informes de que el Secretario del Tesoro, Scott Bessent, y el Presidente de la Reserva Federal, Jerome Powell, convocaron a los líderes de los bancos más grandes de Wall Street a una reunión de emergencia a puertas cerradas para emitir una cruda advertencia: el último modelo de inteligencia artificial de Anthropic, denominado Claude Mythos, plantea una nueva amenaza para la era potencialmente del sistema financiero. La participación de Powell en la reunión indica claramente la preocupación por los riesgos sistémicos que plantea esta amenaza.
«Estamos haciendo todo lo posible para asegurarnos de que todos estén a salvo de estos riesgos potenciales, incluido el acuerdo de Anthropic de retener la publicación pública del modelo hasta que nuestros funcionarios lo resuelvan todo», confirmó el director del Consejo Económico Nacional, Kevin Hassett, cuando se le preguntó sobre la reunión de la Reserva Federal y el Tesoro. «Definitivamente hay una sensación de urgencia».
