Министерство финансов выпустило руководство по защите потребителей и ответственному использованию искусственного интеллекта в финансовом секторе. Это шаг отражает проактивный надзорный подход и стремление соответствовать быстрому развитию цифровых технологий и финтеха. Цель документа — создание четкой рамки для безопасного и ответственного применения технологий. Руководство определяет основные принципы, включая управление и подотчетность, справедливость и ограничение предвзятости, прозрачность и избегание двусмысленности, а также эффективный человеческий надзор. В нем также изложены требования к защите данных и конфиденциальности. Министерство подчеркнуло, что решения, принятые или поддержанные ИИ, должны соответствовать принципам честности, справедливости и служить наилучшим интересам потребителей. Уровень человеческого вмешательства должен соответствовать уровню потенциальных рисков для потребителей. Потребители имеют право на ручную проверку или разъяснение решений, принятых ИИ, и должны предоставляться альтернативные варианты в случае отказа от автоматизированного решения. Необходимо поддерживать четкие и доступные каналы для жалоб, обрабатывая их эффективно и конфиденциально в разумные сроки. Запрещено использовать ИИ для целевого предложения неподходящих продуктов, агрессивных продаж или вводящей в заблуждение рекламы. При использовании внешних поставщиков услуг или облачных провайдеров необходимо проводить должную проверку в области управления, безопасности и защиты данных, обеспечивая включение контрактных положений, позволяющих проводить аудит и получать доступ к информации. Также необходимо избегать чрезмерной зависимости от одного поставщика, если это возможно. Губернатор центрального банка заявил, что цель руководства — создание четкой рамки для ответственного использования ИИ и машинного обучения в финансовом секторе, что укрепляет защиту потребителей и принципы управления и прозрачности, подчеркивая важность человеческого надзора и требований к защите данных. Эксперт по управленческим наукам и информационным технологиям отметил, что чрезмерная персонализация с помощью ИИ не всегда выгодна клиенту. Хотя ИИ позволяет банкам предлагать индивидуальные услуги, он также может использоваться для давления на клиентов с целью навязки им ненужных продуктов. Центральный банк потребовал, чтобы системы ИИ работали под эффективным человеческим контролем, особенно при принятии решений, влияющих на клиентов. Он также подчеркнул, что применение ИИ не должно приводить к дискриминационным результатам. Банк определил «решение с высоким влиянием» как любое решение, принятое с использованием ИИ и существенно влияющее на доступ клиента к финансовому продукту или услуге, например, на одобрение кредита или страхового возмещения. Совет директоров и высшее руководство несут полную ответственность за системы ИИ и их результаты, включая выбор, разработку, внедрение и подотчетность за них. Необходимо вести реестр всех моделей ИИ, а также проводить периодические тесты для выявления и устранения предвзятости и дискриминации.
