Implementando IA en áreas de riesgo: lecciones aprendidas en banca

La Inteligencia Artificial está revolucionando la gestión de riesgos en el sector financiero. En este episodio de Mundo Financiero Seguro, exploramos cómo la banca está implementando IA para fortalecer la toma de decisiones, optimizar procesos y enfrentar nuevos desafíos regulatorios, éticos y operativos. Descubra las lecciones, beneficios y recomendaciones de expertos que están liderando esta transformación.

Transcript

Riesgo, Fraude Y Promesa De IA

SPEAKER_01 0:01

El riesgo evoluciona. El fraude innova y la seguridad no puede quedarse atrás. Esto es Mundo Financiero Seguro, tu podcast sobre ciberseguridad, fraude, AML, FinTech y gestión de riesgos. Cada episodio, ideas claras, tendencias reales y herramientas clave para proteger el ecosistema financiero. Únete Y transforma los desafíos en oportunidades. La inteligencia artificial está transformando la forma en que las instituciones financieras gestionan sus riesgos. Hoy vemos modelos capaces de analizar grandes volúmenes de información, detectar patrones complejos y apoyar la toma de decisiones de una manera que hace apenas unos años parecía simplemente imposible. Sin embargo, junto con estas oportunidades también surgen, por supuesto, nuevos desafíos. Uno, ¿cómo evitar, por ejemplo, una dependencia excesiva de la automatización? ¿Cómo gestionar los riesgos éticos, regulatorios y reputacionales asociados justamente al uso de la Inteligencia Artificial, la IA? Y, por supuesto, ¿cuáles son las lecciones que las entidades financieras están aprendiendo durante este proceso de adopción? Bienvenidos a Mundo Financiero Seguro, al podcast de Plus Team. Soy Juan José Ríos. En este episodio, vamos a conversar sobre cómo la banca está implementando Inteligencia Artificial en sus áreas de riesgo. ¿Cuál ¿Cuáles han sido las principales o los principales beneficios obtenidos en todo caso? Además de los desafíos que han enfrentado y qué recomendaciones pueden compartir quienes ya han recorrido este camino. Y bueno, para abordar este tema nos acompañan dos invitados con amplia experiencia en gestión de riesgos, en cumplimiento y por supuesto en tecnología. Por un lado, Pablo Malagón Torres, director ejecutivo de Radix Soluciones, una firma especializada en gestión de riesgos, cumplimiento regulatorio y tecnología Hola, Juan José. Muchísimas gracias nuevamente por esta increíble presentación. Quisiera

SPEAKER_00 2:37

también agradecer de sobremanera a nuestro invitado especial que nos acompaña hoy. en esta oportunidad de nuestro podcast Pablo, Pablo Malagón quien con su gran experiencia nos va a dar aportes muy significativos en esta sesión muy interesante también que queremos compartir con toda nuestra audiencia del mundo financiero igualmente Juan

SPEAKER_02 2:59

José y Jorge muchas gracias a ustedes por la invitación es un placer con ustedes estar en esta mesa de trabajo

SPEAKER_01 3:07

Jorge, me gustaría iniciar contigo cuando hablamos de inteligencia Claro que sí, Juan José, con todo gusto. Mira, yo creo que en la actualidad son varias las razones que te puedo mencionar.

SPEAKER_00 3:40

Es lo que está empujando, digamos, al sector financiero que se vea invitado a incluir este tipo de tecnologías dentro de sus entidades. Pero creo también que los principales catalizadores, que fue el nombre que se utilizó en

Por Qué La Banca Adopta IA

SPEAKER_00 3:55

esta consulta, que están impulsando este tema de la adopción de la inteligencia artificial específicamente para la parte de la gestión de riesgos, es la respuesta que se está buscando dar a la combinación de diferentes factores. como las presiones competitivas, temas regulatorios y aspectos tecnológicos también. Por ejemplo, yo como banco o como una institución financiera, pues siempre voy a estar queriendo estar a la vanguardia de la tecnología, no solo para facilitar la vida de mis clientes y ver de qué manera hacen más cortos los trámites, sino también lo busco para que mis procesos sean más simples, prácticos. Además, de esta forma, también podemos marcar una característica diferenciadora con la competencia, porque hoy todo tipo de industria está rodeado de mucha competencia. Ya no es como hace algunos años de que teníamos uno o dos competidores de los que nos teníamos que preocupar. Entonces, en ese sentido, puede ser que ahí ya ellos ya lo estén implementando de alguna u otra forma o lo tengan parcialmente implementado. mientras yo le llevo a esta implementación a otro nivel y también lo presento como un beneficio para mis clientes. Ahora eso en primer lugar. En segundo lugar, actualmente hay una gran necesidad de que se tenga que llevar esta parte de la gestión de riesgos de una forma más predictiva, como anticipándonos a que se presenten las pérdidas económicas o las no económicas, porque aquí también entran en materia de la parte reputacional que queremos evitar. pero haciendo uso de las técnicas de reconocido valor, como suele ser en este caso la inteligencia artificial, y que deje de ser entonces esta parte o esta etapa de la gestión de riesgos tan reactiva como se hacía anteriormente. Así que eso también ha sido clave para que se adopte ese asistente o ese copiloto, lo podríamos llamar de alguna manera también, para que nos ayude a mejorar como institución, como banco, porque al final de cuentas pues no es algo exclusivo de Sin

SPEAKER_01 6:13

duda, la necesidad de procesar más información, responder más rápido y tomar mejores decisiones han acelerado esta adopción. Sin embargo, llevar estos modelos de laboratorio a la operación diaria no siempre es sencillo. Por lo tanto, necesito preguntarte cuáles son los mayores desafíos técnicos al implementar modelos de IA

Del Riesgo Reactivo Al Predictivo

SPEAKER_01 6:35

en el sector financiero. en entornos productivos dentro de la

SPEAKER_00 6:37

banca? Esta es una pregunta muy importante que me parece que la planteamos acá en esta oportunidad en el podcast, porque nos permite entonces traducir o trasladar lo que se ha dicho en papeles, lo que se ha hablado en seminarios internacionales a la parte práctica. Entonces, cuando hablamos de implementar estos tipos de modelos de tecnología que están basados en inteligencia artificial en el sector bancario, yo lo que he podido identificar digamos son cuatro grandes temas donde debemos que tener mucho cuidado a tomar en cuenta en esta parte técnica está de primeras el tema de los datos y ese es el que va a coronar prácticamente la mayor parte de mi respuesta luego está el tema de la integración la gobernanza y mantenerlo bajo una operación que sea escalable entonces cuando estoy hablando del tema de los datos que dije hace un ratito que coronaba mi respuesta verdad es como uno de los primeros puntos en Entra en materia de discusión el tema de la calidad y el tema de la gobernanza de los datos. Creo que este es el reto o uno de los retos más críticos que muchas instituciones tienen que superar. Y creo considerarlo así principalmente porque los modelos que utilizan este tipo de tecnología de inteligencia artificial suelen tener bastante dependencia de datos que tienen que estar muy bien estructurados, tienen que estar consistentes y sobre todo tienen que estar íntegros y limpios, por parafrasearlo de alguna manera. Esto me hace recordar una anécdota muy interesante cuando yo era implementador de software. Hubo una ocasión en donde tuve una experiencia con una institución que nos mandaba las operaciones hacia nuestro sistema, pero cuando se leía la transacción o cuando se hacía lectura de los datos, el campo donde viajaba el monto de la transacción nos estaba dando muchos errores. ¿Qué si al revisar los datos, justamente al final de del valor donde debería de venir el monto de la transacción, venía una letra, cosa que no tendría que venir en un campo de esta naturaleza, un campo numérico, si lo queríamos ver así. Y al investigar posteriormente con las áreas de tecnología, utilizaban este mecanismo de ponerle una letra al final de donde debería venir un monto de una transacción para indicar si el valor de esa transacción era un valor negativo o era un valor positivo, cuando lo lógico debería ser que debería venir el signo de la transacción en un campo aparte. Ahora imaginémonos que ese escenario se aplique para... la vida actual para lo que nosotros estamos trabajando actualmente le estaríamos inyectando entonces a los algoritmos de la inteligencia artificial mala información verdad o información que viene con datos sesgados porque también quisiera aprovechar a una segunda anécdota muy interesante que seguramente nos ha pasado a muchos de nosotros en nuestras entidades y es que se trata del momento cuando se crean los perfiles de los clientes donde se le dan de alta con sus nombres con sus apellidos direcciones, profesiones, edades, etc. Al generar la información, estadísticamente nos dábamos cuenta que todos los clientes de la institución salían que eran abogados y no entendíamos por qué razón no teníamos más diversidad al momento de recibir este tipo de información. Nuestra investigación nos llevó, para darles la versión corta, a que cuando se hacía el llenado de la ficha del cliente, a veces venía la profesión del cliente, a veces no venía en los documentos, pero este valor era obligatorio. Entonces las personas en plataforma colocaban el primer valor que aparecía cuando tocaba asignar la profesión y pues podrán imaginarse, estaba ordenada alfabéticamente y la primera profesión era la que empezaba con la letra A. Entonces no se complicaban la vida, tenían que pasar documentando qué tipo de profesión se tenía y colocaban abogado. Entonces eso pone en evidencia que si no tenemos una buena calidad de los datos, la información que se le inyectan a estas tecnologías de inteligencia artificial puede venir sesgada. Así como puede venir mala, puede venir sesgada y eso pues por supuesto da resultados completamente diferentes. Y luego vienen temas como las integraciones con otros sistemas que también pueden estar muy desperdigados, pueden estar muy aislados, diferentes ambientes y eso pues crea bastantes cuellos de botella para crea lo que conocemos como latencias o las limitaciones que no permiten tener a corto plazo las implementaciones de este tipo de inteligencia artificial.

SPEAKER_01 11:20

Y justamente cuando la inteligencia artificial comienza a operar en procesos críticos, aparecen preguntas sobre hasta dónde debemos automatizar y qué riesgos pueden surgir cuando confiamos demasiado en la tecnología. Pablo, desde tu experiencia acompañando organizaciones en temas de gestión de riesgos y gobierno de IA, cuéntanos qué has observado en la práctica. ¿Qué nos enseña la realidad? sobre los fallos de diseño en la automatización extrema.

SPEAKER_02 11:51

Gracias, Juan José. Yo creo que podemos partir del hecho, como lo mencionaba Jorge, de que cada vez los establecimientos de crédito y en general el sector financiero pues está más obsesionado con la eficiencia operativa y el procesamiento directo. Entonces, en particular en el ambiente fintech, donde prácticamente podemos decir que se tiene la creencia que si un humano interviene, el proceso es lento y costoso. Sin embargo, el eliminar por completo el criterio humano en procesos de decisión crítica para ahorrar costos de personal, las entidades han creado un riesgo de cola. ¿Esto qué quiere decir? Que estamos teniendo eventos extremos o inusuales, pero por su automatización nos pueden llevar a pérdidas masivas y con alta velocidad. Podemos citar un par de ejemplos como el de la compra algorítmica de Zillow, que llevó a pérdidas de 300 millones de dólares en en un periodo corto, dado que el sistema algorítmico no entendió el cambio de tendencia del mercado y

Datos Y Modelos En Producción

SPEAKER_02 12:55

estaba ese cambio afectando pues compras que estaban por fuera del rango esperado y no hubo un freno de alguien que pudiera allí tomar esa decisión oportunamente. Tuvimos también otro caso pues es un poco más antiguo y pues digamos que fue muy corto tiempo pero pues nos da un buen ejemplo que fue el desplome repentino de Knight Capital que fueron 440 millones en 45 minutos. Eso fue un caso pues tradicional de trading a automatizado donde pues el sistema no entendió la dinámica y se generó un bucle comprando y vendiendo acciones erróneamente y pues allí hubo una falta de un botón que nos permitiera hacer una parada de pánico entonces lo que podemos concluir allí es que la automatización extrema nos ha enseñado que la IA es un excelente copiloto como lo venía mencionando Jorge pero es eso lo que debemos tener presente que es un copiloto no el Y por lo tanto, es pertinente no dejarlo solo. Es necesario que estemos con esos códigos de IA validando esa arquitectura y pues evitando riesgos no financieros. Para eso podemos hablar de tres conceptos principales o claves. Primero, una tolerancia operativa. Así como existe un VAR, un valor de límite de riesgo en el mercado, también debería implementarse un límite de pérdida acumulada por decisiones algorítmicas. y que cuando la IA aprueba créditos y se presentan transacciones anómalas que superan un umbral o un rango en un tiempo determinado, el sistema debe degradarse automáticamente a una revisión humana. También podemos hablar de pruebas de estrés algorítmicas, donde no basta probar la IA en escenarios normales o con datos, lo que uno denomina el camino feliz, sino que también podemos estresarla con datos falsos. Choques de liquidez o tendencias que cambian o caídas de sistema que permite evaluar si esos escenarios es el comportamiento esperado del sistema. Y finalmente, pues, debemos atacar el mito del ahorro. La automatización extrema no elimina los costos, sino que los desplaza. Muchas veces se considera que se está ahorrando en una lista operativa porque ya el sistema lo va a reemplazar, pero pasamos a unos costos de inversión de ingenieros y de gestión de nuevos riesgos. Entonces, pues, también eso tiene que ser valorado en esa automatización.

SPEAKER_01 15:28

Un tema muy relacionado con esto es el riesgo de sesgos o decisiones incorrectas por parte de los modelos, especialmente cuando hablamos de procesos que puedan afectar directamente a clientes o usuarios. Si una IA comete discriminación al evaluar riesgos, ¿cómo se puede mitigar el impacto de multas y el daño reputacional?

SPEAKER_02 15:50

Bien, para ello tengamos en cuenta que los modelos de inteligencia artificial o de Machine Learning son retolimitados con datos históricos, como lo mencionó Jorge previamente. Entonces, si un establecimiento de crédito históricamente le otorga menos créditos a ciertos códigos postales, a mujeres o a microempresarios de ciertos sectores debido a sesgos humanos del pasado, la IA también aprenderá esas categorías son sesgos riesgosos por defecto. Entonces, el problema es que ahora el sesgo ocurre a escala industrial y cuando explota en la prensa o ante el regulador, las acusaciones se vuelven graves por discriminación institucionalizada. Entonces, ahí podemos tener como un ejemplo el caso de Apple Card de Goldman Sachs. El algoritmo asignó líneas de crédito drásticamente menores a mujeres en comparación con sus esposos, a pesar de que tenían declaraciones de ingresos conjuntas e historiales de crediticio idénticos. Entonces, allí hubo una en las redes sociales a este tipo de servicio. Por lo tanto, cuando el daño ya está hecho y la IA discriminó la mitigación, no es un asunto de relaciones públicas, es un asunto de trazabilidad y de diligencia técnica. Para salvar la reputación, debemos reducir las multas ante el regulador. Las entidades financieras deben activar una defensa de buena fe y que sea auditable. Para ello, pues podemos tener, digamos, Damos como tres categorías o consideraciones. Primero, que sea explicable. Esto quiere decir que el regulador ante él no se llegue con... discurso de no sé por qué la vía tomó esa decisión esto prácticamente es garantizar la máxima sanción se debe mostrar es que se cuenta con herramientas instaladas en sus modelos que permiten desagregar exactamente qué variable intervino y su peso en la decisión y propender por demostrar que el sesgo fue un efecto emergente y no deseado y no una programación maliciosa de la tipificación de ese evento y pues eso puede cambiar la la sensación del regulador y la pública puede llegar a afectar a la compañía. También para controlar la reputación se debe manejar con transparencia el no ir a negar el fallo, sino saber publicar el error, apagar el módulo del modelo afectado y anunciar una auditoría extrema de sesgo. La confianza del consumidor se recupera demostrando control y no infalibilidad. Por eso debemos darle como un tratamiento similar a lo que nos trae la ley de protección de datos personales donde hay que dar una explicación clara y oportuna a los clientes y pues presentar digamos esa información también ante el supervisor y finalmente podemos tratar el mostrar una autoridad sobre la entidad del marco de gobernanza de inteligencia artificial implementado. No se debe realizar evaluaciones periódicas de impacto social, sino demostrar que se tiene control y que el error ha sido superado y eso suele verse muy bien por los reguladores porque lo que busca es minimizar esa sanción económica o incluso crear amonestaciones bajo el principio de proporcionalidad.

SPEAKER_01 19:19

Además de los aspectos técnicos y éticos, existe otro elemento que está tomando cada vez más relevancia, y estoy hablando de la regulación. Los supervisores y organismos internacionales están avanzando rápidamente en la definición de marcos para el uso responsable de la inteligencia artificial. En el panorama regulatorio actual, ¿qué se debe tener en cuenta para la debida implementación de sistemas de inteligencia artificial?

SPEAKER_02 19:50

Efectivamente, estamos viendo una gran cantidad de regulaciones, relacionadas sin embargo pues debemos mantener el foco en que aquí hay que cumplirlo desde dos aspectos uno desde lo que viene ya normalizado que a través de las superintendencias financieras locales que está relacionado con el riesgo operacional y por el otro lado lo que tiene que ver con las superintendencias a veces están bajo la misma entidad de supervisión a veces están separados como es la parte de protección de datos como es es el caso de Colombia, que está la subintendencia de industria y comercio también en ese frente, y que ellos aquí en el caso de Colombia expidieron una circular de la 02 del 2024 donde entra al sistema financiero a hacerle exigencias muy estrictas sobre el uso de datos personales para entrenar los algoritmos. Entonces allí hemos visto que muchos bancos de Europa y de Latinoamérica han recibido pliegos de cargos o sanciones por perfilamiento automatizado opaco, o sea, donde reciclan datos de los clientes, entrenan con información que previamente no tuvo consentimiento para esa labor y por lo tanto genera una sanción. Entonces, hoy en día,

Automatización Extrema Y Riesgos Raros

SPEAKER_02 21:10

para la implementación de inteligencia artificial en el sector financiero, sin un mapa de cumplimiento transversal, es un suicidio corporativo. Es como se dice popularmente, es pegarnos un tiro al pie. El panorama regulatorio actual nos exige migrar de la vieja mentalidad de cumplir con listas de chequeo a una estrategia de gobernanza holística o 360. Para ello, pues primero debemos considerar la dualidad regulatoria, o sea, lo que viene por el sector financiero y lo que viene por la protección de datos que puede estar en el caso de Colombia en industria y comercio, que es como se aplica aquí. Entonces, Tenemos que pasar de un modelo que no genere pérdidas a las entidades desde el enfoque financiero y sumarle lo que tiene que ver con el modelo que no unere los derechos de los ciudadanos, que es lo que les estaba mencionando de la circular 02 del 2024 en Colombia. Esto exige que antes de lanzar cualquier sistema de inteligencia artificial se realice una evaluación de impacto en la protección de datos y se garantice el derecho a la objeción y revisión humana en las decisiones automatizadas y finalmente también en este enfoque debemos considerar el estándar ISO 42001 que él nos invita a que tengamos una gobernanza de datos una gobernanza de un sistema de gestión de inteligencia artificial y allí también en esa norma nos prohíbe usar datos sin trazabilidad que no tengamos claridad en el origen y exige certificar que el combustible de la algoritmo, los datos del cliente, cuenta con el consentimiento explícito para esa finalidad específica de uso de IA. Entonces, la gobernanza de los sistemas de inteligencia artificial basados en la 42001 no es una opción, sino es algo que debemos acoger. Y finalmente, la privacidad y ética por el diseño. Científicos de datos, los desarrolladores, no deben seguir construyendo modelos de manera aislada, sino que deben estar alineados desde el comienzo con el área legal, con el área de riesgos no financieros y cumplimiento para que todos estén en la mesa desde el día cero en el diseño del algoritmo.

SPEAKER_01 23:34

Virando hacia adelante, la conversación ya no se centra únicamente en modelos predictivos. La aparición de la IA generativa está abriendo nuevas posibilidades que podrían transformar significativamente la gestión de riesgos. Jorge, ¿qué impacto, necesito preguntarte, qué impacto te tendrá la IA generativa en la gestión de riesgos, digamos, en los próximos tres a cinco años?

SPEAKER_00 23:58

Con todo gusto, Juan José. Me parece también es una pregunta excelente que nos cae como aníbal de o para las personas que somos responsables del área de tecnología o bien los administradores de este tipo de ambientes basados en IAG, que es la inteligencia artificial generativa. Especialmente porque nos encontramos en una actualidad donde todo este ambiente tecnológico está cambiando muy rápido, está evolucionando exageradamente rápido y sobre todo en un tiempo muy corto. Todos estos tipos de tecnologías que vemos y que utilizamos desde nuestras máquinas, nuestras computadoras, incluso también los sistemas hardware y software que utilizan las empresas se viven actualizando dinámicamente. E incluso lo podemos ver hasta con nuestros propios teléfonos, nuestros propios dispositivos. smartphones, que o bien se vive actualizando constantemente su sistema operativo de pequeño tamaño, mediano o grande, o también se viven actualizando el dispositivo como tal. Era cuando mucho, pues, de un año para otro sale la nueva versión, o por muy lejos que sea, cada dos años se emite una nueva versión de nuestros dispositivos móviles. Así que yo estoy considerando que todo este tema de la IAM no quedará ajeno a estos temas de avances y sobre todo de las actualizaciones para los próximos años, porque ya es supremamente importante observar qué es lo que está pasando en la actualidad, cuáles son las principales aristas que tenemos que tomar en cuenta en el mundo actual con respecto al tema de la inteligencia artificial generativa. Con mayor razón tenemos que ver entonces un poquito más allá, tenemos que tener esa visión, tenemos que tener esa óptica de hacia dónde se podría dirigir la IAG y qué impacto podría tener también. Verá que era parte de la pregunta que me estabas formulando. Como yo lo veo, digamos, en este aspecto la IAG va a tener un impacto importante muy importante relacionado a la parte de la gestión de riesgos por varias razones principales. La primera diría yo que sería el análisis tan avanzado que se necesita en la actualidad de toda la información, seguido de los temas de la automatización en las decisiones, porque ya se está volviendo muy frecuente o muy común, digamos, que consultemos a este copiloto que yo he mencionado, que también Pablo ha relacionado en sus respuestas. Ya es muy seguido, digamos, que se busque esta automatización en la parte de la toma de decisiones. Y no puedo dejar de mencionar la redefinición de riesgos emergentes nuevos, que ahora son muy frecuentes también, ¿verdad? Entonces, este tema de la IAG va a llegar a potenciar prácticamente todo el análisis de la información no estructurada, llamémosle así, a una escala que no habíamos visto antes, ¿verdad? Los bancos, por ejemplo, en relación a la pregunta también, ya va a poder procesar ya va a poder extraer todos estos insights de los documentos complejos muy largos o muy muy robustos también que incluya información de reportes financieros o que tengamos que hacer consultas de fuentes externas de información como el tema de las noticias que sean relevantes y sobre todo por el daño reputacional o la referencia de la gestión de ese riesgo reputacional que también pablo mencionaba en sus respuestas hace un instante o los puntos claves los puntos más importantes que podamos encontrar en los contratos, hasta podría incluir también la parte de la interacción

Sesgos, Multas Y Daño Reputacional

SPEAKER_00 27:40

con nuestros clientes. Así que todo esto va a estar permitiendo que se enriquezcan los modelos de riesgo con un conjunto de señales, con un conjunto de datos que antes eran difíciles de capturar por la volumetría que se manejaba y porque manualmente no da el mismo resultado y la automatización ayuda hasta cierto punto. Y esto pues va a como resultado final que nos logremos anticipar de mejor forma a los posibles eventos de alto riesgo que podamos tener, cosa que todo el mundo está queriendo evitar también, ¿verdad? Luego considero que vamos a tener y vamos a visualizar un gran avance en la automatización inteligente de los procesos de riesgo. O sea que la IAG nos va a estar ayudando en los procesos que tengamos ya posiblemente implementados, como la creación de reportes regulatorios que recordemos que el sector financiero es un sujeto obligado y que constantemente está siendo visitado por superintendencias, por comisiones, por en fin todo tipo de sujeto o ente regulador y no digamos la parte de la auditoría y validar procesos como los análisis de los escenarios, la documentación de los modelos que tengamos y sustentarlos o explicarlos. Incluso parte de eso creo que ya se está haciendo en actualidad porque emitir un reporte regulatorio no es nada nuevo eso lleva bastante tiempo de existir por citar un ejemplo sino que más bien esto se unifica con las recomendaciones de los controles que podemos implementar para brindar esas mitigaciones a los riesgos otro impacto clave que no me quiero ir sin antes mencionarlo también verdad es lo que conocemos como la toma de las decisiones asistidas por eso fue que también al principio de una de mis respuestas que estuve brindando me me refería a él como un copiloto, ¿verdad? O ese asistente que nos viene a dar esa ayuda que al traducirlo, digamos, el lenguaje de Monitor Plus es lo que nosotros conocemos como SAMI, ¿verdad? Nuestra audiencia posiblemente ya habrá escuchado de este asistente y quienes no, pues más adelante se enterará también de esta ayuda que nosotros proveemos hacia nuestros clientes. Es decir, como ya lo mencionaba Pablo también y parafraseando un poquito lo que dijo no va a llegar a reemplazar a los expertos es necesario y es importante que se encuentre con ese criterio humano verdad para poder decidir en qué momento aplica o que no aplica no queremos dar a entender eso precisamente que se va a reemplazar o que lo va a desplazar en su totalidad sino que va a tener el rol de eso de un asistente precisamente que nos va a estar dándonos explicaciones nos va a dar sugerencias e incluso también escenarios alternativos en tiempo real por lo que todo esto si nos damos cuenta va a lograr que se vea mejorada toda la capacidad que tenemos o que tienen mejor dicho nuestros gestores de riesgo para que eventualmente puedan ser ayudados y tomar decisiones en la manera que les corresponda estando mejor informados con mayor velocidad y además tomando en cuenta múltiples variables que es lo que también nos da la explicabilidad a la que queremos llegar sin embargo pues si se dan cuenta toda esta evolución también nos interesa Es por esto que la IAG está siendo también usada por la otra parte, por los perpetradores, por las personas que también están interesadas en crear fraudes más sofisticados. Y ahí menciono rápidamente, ahorita se me acaba de ocurrir, los deepfakes que se están utilizando mucho para hacer este tipo de actividad criminal y también está la parte de la creación de muchas industrias. identidades sintéticas para que sean mucho más creíbles entonces para allá vamos precisamente para que este futuro que le estamos viendo la inteligencia artificial siga trabajando codo a codo con nosotros con nuestro equipo de riesgos especialmente en el sector financiero y por qué no decirlo también en los que están por fuera del sector financiero porque recordemos que la gestión de riesgos en combinación con la inteligencia artificial no es un dúo que vamos a ver únicamente en el sector financiero. Si yo estoy en el sector farmacéutico, en el sector industrial, manufactura, etc., pues todos estos son segmentos de mercado que también van a necesitar de la parte de la gestión de riesgos apoyados en este tipo de tecnologías de inteligencia artificial.

SPEAKER_01 32:22

Antes de finalizar, me gustaría pedirles una reflexión final para nuestra audiencia. Pablo, como conclusión de esta conversación, ¿cuáles serían tus principales Yo considero que para la búsqueda de una implementación exitosa

SPEAKER_02 32:43

de servicios de inteligencia artificial, más que un desafío tecnológico, es también un desafío de gobernanza y cultura corporativa. Entonces, para las personas que tienen a cargo la gestión de riesgos tecnológicos, dentro de las compañías, la dirección de tecnología y la

Regulación, Privacidad E ISO 42001

SPEAKER_02 33:05

misma junta directiva, debe tener en consideración principalmente la implementación de las buenas prácticas que nos trae la ISO 42001. Para poder implementar iniciativas de datos brillantes dentro de la inteligencia artificial, se implementa un sistema de gestión de inteligencia artificial estructurado. Esto significa que antes de desplegar un modelo, debe existir un comité de riesgos al algorítmico donde participe pues estas diferentes áreas y perfiles para que se dé cumplimiento pues el análisis de riesgos a la parte de cumplimiento legal y de negocio también otro aspecto pues es evitar las cajas negras debe haber una explicación por diseño donde el modelo pueda darse a conocer y para qué se va a usar y se cumpla con las exigencias tanto de equipos y proveedores en la integración El algoritmo tiene que tomar decisiones específicas y no que esté aislado. La entidad debe tener capacidad frente al supervisor o al cliente frente a una decisión automatizada. tener la facilidad de desglosar la lógica que hay detrás de ese resultado y la opacidad hoy se paga con multas y pérdida de reputación. Entonces, pues allí se tiene que aplicar las buenas prácticas en ese estado. También, pues, respetar la finalidad de los datos. Si se adquirieron, obtuvo el consentimiento de los datos para ciertas actividades, no utilizarlo para otras funcionalidades. Eso no es un cheque en blanco. Y finalmente, pues tener un cortafuegos operativo. O sea, donde podamos tener una salida que los modelos, si sufren una degradación, pues pasen a un control humano experto en ese circuito y que se pueda validar en caso de zonas grises o atípicos y que pues con base en eso puedan tenerse un botón de parada o de pánico operativo que congele el modelo mientras se identifica la falla. Es tener en el radar lo que sería un marco apetito de riesgos de hasta el dónde podemos establecer desviaciones de esos indicadores y con base en eso hacer ese freno en caso de que el sistema de inteligencia artificial se desvíe.

SPEAKER_01 35:33

Y bueno, Jorge, para cerrar este episodio, ¿cuáles consideras que son las principales conclusiones que nos deja la implementación de la IA en la gestión de riesgos? ¿Y qué recomendaciones darías a quienes están iniciando este proceso?

SPEAKER_00 35:47

Me ha parecido muy interesante y bastante enriquecedor la conversación que hemos tenido ¿Qué es la IAG? ya no es un tema opcional, ya no es de que lo utilizo o no lo utilizo, ¿verdad? Está cobrando mucha importancia y prácticamente ya está siendo visto como un habilitador estratégico que es supremamente clave involucrarlo en nuestros procesos y en nuestros procedimientos. Esta etapa de la implementación de la IA en la gestión de riesgos suele estar muy empujada muchas veces por varios factores que voy a resumir ahorita. Encontramos entre esta lista que voy a hacer la parte de los factores como crecimiento tan grande que se ha visto de los datos tanto Pablo como en mi exposición pues estuvimos hablando de este tema de los datos que ha crecido bastante porque pues cada institución crece en volumetría cada institución crece en clientes entonces administrar toda esa información ya no queda fácil hacerlo de manera manual o diciéndolo de otra manera sin el apoyo de la inteligencia artificial para las estadísticas que queremos buscar y otros factores como la necesidad de anticipación el tema de la presión regulatoria que tengamos en cada uno de nuestros países donde nos está escuchando nuestra audiencia y no digamos la evolución del fraude luego de esto el otro verdadero reto está en la parte de lo que sería la industrialización aquí nuevamente como parte de las conclusiones toca decir que implementar la IA en la banca va un poco más allá de solamente crear modelos que sean sofisticados y ya estuvo. No es tan así. Los verdaderos desafíos en estos casos pues consisten en que se tengan que llevar a producción de una forma que sean eficientes, que sean explicables, como también lo

IA Generativa, Deepfakes Y Cierre

SPEAKER_00 38:10

mencionaba Pablo, y que sean escalables. Sobre todo porque van a haber escenarios, y eso la experiencia nos lo ha dicho, que pueden integrarse con sistemas legacy, sistemas que por su feabilidad se siguen utilizando. Y hay mencionos de escenarios como, incluso hay instituciones que siguen utilizando hoy en día el AS400, que se ha rebautizado a iSeries o a IBMI. En fin, han tratado de... un poco, pero aún se siguen considerando como sistemas legacy, o COBOL y todos esos temas por el estilo. No todas las instituciones lo consideran, digamos, entre su haber este tipo de sistemas, pero van a haber escenarios, dependiendo cada una de nuestras entidades, donde se tenga que integrar. Entonces hay que asegurar esa gobernanza para que sea mucho más robusta. Así que tenemos que tomar en cuenta que este éxito no va a depender únicamente del factor tecnológico, sino que también precisamente de las capacidades que tenga cada empresa para poder trabajar con la IA y que sean sostenibles, ¿verdad? Con una estructura sólida y que pueda cumplir para adaptarse a los temas de la IA. En fin, cierro aquí mi conclusión indicando que todo este tema de la IA siempre va a estar marcando una evolución en nuestro mundo del Risk Management. Esto lo he querido... agregar al final también porque prácticamente en los próximos años esta tecnología de la IA va a impulsar toda una fase nueva en donde se verá seguramente mejorada la parte de los análisis de datos, automatizando procesos de alto valor que sean para nuestras empresas, para nuestras entidades y empoderando la ayuda o la asistencia que ahorita seguramente nos estamos familiarizando a hacer. Mientras recibimos de ella esta información, esta retroalimentación para tomas de decisiones importantes. Pero en fin, como ya dijimos, esto también nos trae nuevos riesgos, fraudes más sofisticados. Entonces esto nos lleva a tener un enfoque más fuerte en la parte de los controles y en las medidas de mitigación. Así que la ventaja competitiva que estamos resaltando aquí no va a consistir únicamente en incluir esta tecnología de IA en nuestras empresas, en nuestros bancos, en nuestras instituciones, sino que lo va a lograr digamos este punto de la ventaja competitiva, quien logre precisamente implementarla de forma que sea responsable, que sea escalable y sobre todo alineada a temas de negocio.

SPEAKER_01 40:51

Excelente reflexión de ambos. Hoy entonces hemos aprendido que la inteligencia artificial tiene el potencial de transformar profundamente la gestión de riesgos en las instituciones financieras, pero su éxito no depende únicamente de la tecnología. La calidad de datos, por ejemplo, la supervisión humana, la gobernanza, el cumplimiento regulatorio y una implementación responsable siguen siendo elementos fundamentales para obtener resultados sostenibles. Llega el momento de agradecer a Pablo Malagón Torres y Jorge Diegues por compartir su experiencia, conocimientos y recomendaciones con nuestra audiencia. Y gracias a ustedes por acompañarnos en este episodio de Mundo Financiero Seguro, el podcast de Plus T, donde conversamos con expertos sobre las tendencias, desafíos y mejores prácticas que están fortaleciendo la prevención del crimen financiero y la gestión de riesgos en nuestra región. Si este episodio fue de valor para ti, te invitamos a compartirlo con tus colegas y a seguirnos en nuestras plataformas digitales para no perderte nuestros próximos contenidos. Soy Juan José Ríos y esto fue Mundo Financiero Seguro. Hasta la próxima.