El banco central ha emitido una nota de orientación sobre la protección del consumidor y el uso responsable de la inteligencia artificial por parte de las instituciones financieras con licencia que operan en el país. Este paso refleja su enfoque de supervisión proactiva y su alineación con los rápidos avances en la transformación digital y los servicios financieros inteligentes. La orientación tiene como objetivo establecer un marco claro que guíe a las instituciones financieras para emplear estas tecnologías de manera segura y responsable. Define un conjunto de principios fundamentales que sirven como referencia para el uso óptimo de estas tecnologías, incluyendo gobernanza y rendición de cuentas, equidad y mitigación de sesgos, transparencia y evitación de opacidad, y supervisión humana efectiva, junto con los requisitos de protección de datos y privacidad. El banco central enfatizó que las decisiones tomadas o apoyadas por la inteligencia artificial deben ser compatibles con el deber de actuar con integridad, justicia y en el mejor interés de los consumidores. Subrayó que el nivel de intervención humana debe ser proporcional al nivel de riesgos potenciales para el consumidor, y que este tiene derecho a solicitar una revisión humana o una explicación sobre las decisiones generadas por IA, debiendo proporcionarse alternativas si un consumidor se niega a aceptar una decisión automatizada. Se deben mantener canales claros y accesibles para las reclamaciones, procesadas de manera eficiente, confidencial y en un tiempo razonable. Además, la inteligencia artificial no debe utilizarse para dirigir a los clientes con productos inadecuados, tácticas de ventas agresivas o marketing engañoso. El banco central confirmó que al depender de proveedores externos de servicios o de proveedores de servicios en la nube, se debe realizar una debida diligencia en materia de gobernanza, seguridad y protección de datos, asegurando que las cláusulas contractuales permitan derechos de auditoría, acceso a la información y cumplimiento de los requisitos del banco central. Debe documentarse la justificación para la selección de un proveedor, y se deben realizar revisiones anuales independientes de ciberseguridad, manteniendo un registro de todos los modelos, incluidos los alojados por terceros. Debe evitarse una dependencia excesiva de un único proveedor si es posible. En un comunicado emitido ayer, el banco central dijo que había publicado una nota de orientación sobre la protección del consumidor y el uso responsable de las tecnologías de inteligencia artificial y aprendizaje automático por parte de las instituciones financieras con licencia en el país, lo que refleja su enfoque de supervisión proactivo y su adaptación a los rápidos avances en la transformación digital y los servicios financieros inteligentes. La orientación tiene como objetivo establecer un marco claro que guíe a las instituciones financieras para emplear estas tecnologías de manera segura y responsable. La orientación define un conjunto de principios fundamentales que sirven como referencia para el uso óptimo de estas tecnologías, incluyendo gobernanza y rendición de cuentas, equidad y mitigación de sesgos, transparencia y evitación de opacidad, y supervisión humana efectiva, junto con los requisitos de protección de datos y privacidad. La orientación también incluye disposiciones relacionadas con las revelaciones al consumidor, asegurando la claridad de la información proporcionada en árabe e inglés, y proporcionando opciones apropiadas para objetar o darse de baja en los casos de decisiones automatizadas de alto impacto. El gobernador del banco central, Khaled Mohamed Al Hameli, declaró: 'El objetivo de la nota de orientación es establecer un marco claro para el uso responsable de las tecnologías de inteligencia artificial y aprendizaje automático en el sector financiero, lo que mejora la protección del consumidor y refuerza los principios de gobernanza y transparencia, al tiempo que se enfatiza la importancia de la supervisión humana y los requisitos de protección de datos'. Un experto en ciencias administrativas y tecnología de la información de J&K, Asim Jalal, afirmó que la 'personalización excesiva' en la inteligencia artificial no beneficia al cliente. Explicó que si bien la inteligencia artificial juega un papel importante en el sector bancario, particularmente en lo que técnicamente se conoce como 'hiper-personalización', también puede utilizarse para presionar a los clientes o comercializar productos de una manera que beneficie al banco y no al cliente. El banco central exigió que los sistemas de inteligencia artificial operen bajo supervisión humana efectiva, especialmente para decisiones de impacto. Agregó que la aplicación de la inteligencia artificial en el sector financiero no debe llevar a resultados discriminatorios, y los bancos deben garantizar que sus sistemas de IA estén bajo supervisión humana efectiva, particularmente para decisiones de impacto. El banco central definió una 'decisión de alto impacto' como cualquier decisión tomada utilizando IA que afecte materialmente el acceso de un cliente a un producto o servicio financiero, como la aprobación de un préstamo o una reclamación de seguro. Agregó que los consejos de administración y la alta dirección asumen la responsabilidad total de los sistemas de IA y sus resultados, incluyendo su selección, desarrollo, implementación y rendición de cuentas, y deben proporcionar informes periódicos a la alta dirección y a los consejos de administración que cubran el rendimiento y los riesgos.
