Кодекс этики в сфере разработки и применения ИИ на финансовом рынке

Центральный банк РФ опубликовал кодекс этики в сфере разработки и применения искусственного интеллекта на финансовом рынке.

Это комплексный этический и практический framework для внедрения ИИ в российском финансовом секторе, фокусирующийся на защите прав клиентов, снижении рисков и построении доверия через прозрачность, справедливость и надежность. Кодекс носит рекомендательный характер, однако отражает позицию регулятора к применению ИИ на финансовом рынке.

Кодекс детализирует 5 основных принципов и конкретные меры по их реализации:

1. Принцип Человекоцентричности:

• Повышать качество услуг (оценка удовлетворенности, контроль качества).
• Предоставлять клиентам право отказаться от взаимодействия с ИИ (и перейти к сотруднику).
• Обеспечивать возможность пересмотра решений, принятых ИИ (по запросу клиента такой пересмотр осуществляется сотрудником финансовой организации).
• Повышать осведомленность клиентов о том, как принимаются решения ИИ (с оговоркой  - если это не снижает его эффективность).
• Повышать финансовую доступность, учитывая факторы уязвимости ряда клиентов (возраст, образование, инвалидность и др.).

2. Принцип Справедливости:

• Обосновывать использование персональных данных клиентов (только если использование существенно повышает эффективность ИИ при оказании услуг).
• Неприемлемость дискриминации при принятии решений ИИ (по таким признакам, как национальность, раса, язык, партийность, религия и т.д.), а также при использовании датасетов (проверять полноту, актуальность, достоверность данных по разным соц. группам).

3. Принцип Прозрачности:

• Информировать клиентов о применении ИИ при оказании услуг (если это не очевидно).
• Раскрывать полную и достоверную информацию об условиях применения ИИ и связанных с ним рисках.
• Маркировать информацию (текст, изображения, аудио, видео), созданную с помощью больших генеративных моделей (кроме случаев незначительного редактирования, очевидности использования или отсутствия риска вреда).

4. Принцип Безопасности, Надежности и Эффективности:

• Проверять качество наборов данных (достоверность, точность, полнота; учет источников; актуализация).
• Проверять качество ИИ (установление показателей качества; валидация, добровольная сертификация).
• Мониторить качество ИИ (регулярная проверка соответствия показателям).
• Обеспечивать информационную безопасность (учет рисков ИИ; оценка мер защиты на всех этапах).
• Обеспечивать конфиденциальность информации (меры по защите данных ограниченного доступа, включая обезличивание).
• Обеспечивать непрерывность деятельности (возможность выполнения функций сотрудниками при сбое ИИ).

5. Принцип Ответственного Управления Рисками:

• Внедрить систему управления рисками ИИ в общую систему риск-менеджмента организации (разработка правил, назначение ответственных).
• Обеспечить ключевые процессы управления рисками ИИ:
  • Учет применяемых моделей ИИ (централизованный, с учетом уровня риска).
  • Выявление рисков ИИ (документирование процесса разработки и применения, анализ на риски).
  • Оценка и присвоение уровня риска (система факторов риска: сфера применения, использование конфиденциальных данных, потенциальный ущерб, масштаб охвата клиентов, объяснимость решений, использование внешних моделей/данных, наличие инцидентов).
  • Мониторинг и контроль рисков (регулярные проверки процессов, предварительный/текущий/последующий контроль).
  • Минимизация выявленных рисков (определение мер и ответственных, контроль решений ИИ с высоким риском).
  • Реагирование на инциденты (риск-события): определение типов, меры по минимизации последствий, каналы для жалоб/сообщений.
  • Ведение базы риск-событий (регистрация с описанием, причинами, мерами и статусом).

Дополнительные ключевые положения:

• Организациям рекомендуется обмениваться опытом и участвовать в разработке совместных документов для достижения целей Кодекса.
• Если привлекаются лица, не поднадзорные ЦБ РФ, организациям рекомендуется обеспечивать соблюдение ими Кодекса.