Navegar por la gobernanza de la IA: Introducción a la Norma de Cumplimiento de la IA en la Banca (BAICS) v1.0

La Inteligencia Artificial está transformando rápidamente los servicios financieros, superando los marcos de gobernanza y supervisión diseñados para proteger los sistemas financieros críticos. A medida que los bancos despliegan la IA en los préstamos, la detección del fraude y las interacciones con los clientes, se enfrentan a un escrutinio normativo cada vez mayor y a la responsabilidad de los consejos de administración sobre el modo en que estos sistemas se comportan, toman decisiones y gestionan el riesgo. La IA generativa (GenAI) y los grandes modelos de lenguaje (LLM) requieren un enfoque diferente al de los marcos de riesgo tradicionales. ¿Podemos confiar en la integridad y el linaje de nuestros modelos y datos? ¿Son nuestros sistemas resistentes a la manipulación o a entradas adversas? ¿Quién es responsable del comportamiento y la evolución de los modelos a lo largo del tiempo? ¿Cumplimos realmente la normativa sobre IA, en rápida evolución, y podemos demostrarlo? Para responder a preguntas como éstas, el Consejo de Servicios Financieros de la IA (FSAIC) ha desarrollado la Norma de Cumplimiento de la IA en la Banca (BAICS) v1.0. Esta nueva norma ofrece una hoja de ruta práctica para regular la IA en la banca.

La creciente brecha en la gobernanza de la IA

La GenAI ha introducido riesgos que los marcos tradicionales de TI y gobernanza de modelos no están diseñados para abordar. Cuestiones como el comportamiento impredecible de los modelos en las decisiones financieras de alto riesgo, la explicabilidad limitada de los resultados crediticios o de fraude, y la exposición a la inyección puntual y la fuga de datos crean vulnerabilidades que pueden aumentar el riesgo de escrutinio normativo, pérdidas financieras y daños a la reputación de los bancos. Sin un marco especializado, la banca se arriesga a operar en una zona gris en la que el cumplimiento es subjetivo y las pistas de auditoría son incompletas.

Cerrar el círculo con BAICS

BAICS hace operativos estos principios específicamente para casos de uso bancario, en los que los resultados del modelo repercuten directamente en las decisiones financieras y las obligaciones normativas. Desarrollado específicamente para el sector financiero, va más allá de la teoría para ofrecer un amplio conjunto de controles que se ajustan a las normas ISO/IEC 42001 e ISACA.

A diferencia de los marcos genéricos, BAICS se centra en los matices específicos de los préstamos, la detección del fraude, el CSC/AML, los pagos y otras actividades bancarias básicas. Ofrece un enfoque estructurado para gestionar los riesgos de IA en todos los ámbitos críticos, proporcionando un lenguaje común que alinea a ejecutivos, equipos de riesgo, auditores y entes reguladores.

La norma abarca ámbitos clave como

• Seguridad de infraestructura y tiempo de ejecución: Proteger los sistemas y entornos subyacentes donde operan los modelos de IA, evitando el acceso fraudulento o no autorizado a los datos.
• Integridad de los modelos y seguridad de la cadena de suministro: Garantizar que los modelos, conjuntos de datos y componentes son fiables, no se manipulan y son totalmente trazables.
• Protección de datos y privacidad: Salvaguarda de los datos financieros sensibles y cumplimiento de la normativa sobre privacidad.
• Gobernanza de entrada/salida: Controlar lo que entra y sale de los sistemas de IA para evitar daños, prejuicios o manipulación.
• Resistencia operativa: Garantizar que los sistemas de IA sigan siendo fiables, controlables y acordes con la tolerancia al riesgo en entornos bancarios activos.

Mediante la aplicación de estos controles, los responsables de riesgos pueden transformar unos vagos objetivos de cumplimiento en una estrategia defendible y basada en pruebas. Juntos, estos dominios pueden permitir que los sistemas de IA sean seguros, estén controlados y preparados para las auditorías.

Aplicación del marco BAICS

Kaufman Rossin ayuda a las instituciones financieras a hacer operativo el BAICS integrando sus requisitos en los marcos existentes de gobierno, riesgo y control, en lugar de introducir procesos paralelos. Trabajamos con los directivos de la banca y los equipos de riesgos para evaluar las capacidades actuales, identificar las lagunas de control y recomendar mejoras específicas que refuercen la supervisión, agilicen el cumplimiento y reduzcan el riesgo operativo. Nuestro enfoque ayuda a las instituciones a acelerar la preparación normativa, aprovechando al mismo tiempo la infraestructura, las estructuras de responsabilidad y los procesos de gestión de riesgos existentes.

Este enfoque permite a las instituciones financieras ampliar la adopción de la IA con confianza, equilibrando la innovación con el control y la agilidad con la responsabilidad. A medida que las expectativas reguladoras siguen evolucionando, BAICS proporciona una base estructurada para demostrar que los sistemas de IA no sólo son eficaces, sino que también están gobernados, son seguros y están alineados con las normas de riesgo empresarial.

Ponte en contacto con el equipo de Servicios de Asesoramiento sobre Riesgos de Kaufman Rossin para saber cómo tu institución puede reforzar la gobernanza de la IA y pasar de la adopción experimental a la implantación disciplinada a escala empresarial.