ЦБ выпустил рекомендации по безопасному использованию ИИ в финансовой сфере

Регулятор советует контролировать решения нейросетей в важных процессах и усиливать защиту от киберугроз

ИИ.

Автор: редакция. Фото: редакция.

Банк России выпустил методические рекомендации по информационной безопасности при разработке и применении искусственного интеллекта на финансовом рынке. Документ адресован банкам, некредитным финансовым организациям, участникам национальной платежной системы и другим компаниям финансового сектора.

В рекомендациях собраны основные риски, связанные с использованием ИИ. Среди них — применение некорректных или «отравленных» данных, утечка конфиденциальной информации, ошибки в работе моделей, недостаточная объяснимость решений, а также угрозы, возникающие при использовании сторонних сервисов и компонентов с открытым исходным кодом.

Особое внимание уделено критически важным операциям. Если искусственный интеллект применяется, например, в платежных процессах, а риски информационной безопасности оцениваются как высокие, результаты работы системы рекомендуется дополнительно проверять сотруднику организации. При необходимости человек должен иметь возможность скорректировать принятое ИИ решение.

В документе также перечислены наиболее распространённые сценарии атак на системы искусственного интеллекта. Среди них — вредоносные запросы, «отравление» обучающих данных, попытки получить конфиденциальную информацию через взаимодействие с моделью, её модификация и атаки, способные привести к сбоям или снижению производительности.

Кроме того, финансовым организациям рекомендовано разработать собственные модели угроз и политику информационной безопасности для работы с ИИ. Контроль за подготовкой и соблюдением таких документов предлагается возложить на заместителя руководителя, отвечающего за защиту информации.

Отдельный раздел посвящён использованию сервисов сторонних поставщиков. При оценке надёжности таких решений Банк России рекомендует учитывать участие модели в программах поиска уязвимостей Bug Bounty, наличие модели угроз, результаты аудитов безопасности, тестирования на проникновение и другие механизмы защиты.