11:43 Сегодня
Сбер сделал открытой обновлённую модель киберугроз для систем искусственного интеллекта
Документ включает десятки сценариев атак и предназначен для разработчиков, специалистов по кибербезопасности, бизнеса и государственных организаций.
Модель угроз кибербезопасности AI 2.0.
Сбер опубликовал в открытом доступе обновлённую модель угроз для систем искусственного интеллекта. Документ размещён на портале «Кибрарий» в разделе «Экспертам» и отражает современные риски, возникающие при использовании генеративного ИИ, мультиагентных систем, технологий RAG и LLM-адаптеров.
Обновлённая модель содержит описание 37 угроз и 51 способа их реализации. Для каждого сценария приведены возможные последствия, указаны затрагиваемые свойства информации, объекты защиты и этапы жизненного цикла, на которых может возникнуть риск.
Авторы отмечают, что подобные угрозы способны привести к:
— утечке и подмене данных
— сбоям в работе ИИ-систем
— компрометации моделей и инфраструктуры
— выполнению искусственным интеллектом несанкционированных действий
В документе угрозы распределены по типам потенциальных нарушителей с учётом их уровня подготовки, технических возможностей и доступа к компонентам ИИ-решений. Кроме того, расширен перечень объектов защиты — в него включены элементы, которые ещё недавно не считались критичными, но сегодня всё чаще становятся целями кибератак. Это позволяет более точно оценивать риски с учётом особенностей конкретной архитектуры и условий эксплуатации.
Модель рассчитана на широкий круг специалистов, среди которых:
— разработчики ИИ-решений
— MLOps-инженеры
— архитекторы
— специалисты по информационной безопасности
— руководители, отвечающие за управление рисками
Документ охватывает весь жизненный цикл ИИ — от сбора и подготовки данных до обучения моделей, их эксплуатации и интеграции с корпоративными сервисами. Его можно использовать при проектировании, разработке и сопровождении генеративных, агентных и мультиагентных систем.
В основе модели лежат анализ актуальных киберугроз, мировые практики в сфере защиты искусственного интеллекта и опыт Сбера по обеспечению безопасности собственной инфраструктуры разработки, обучения и эксплуатации ИИ.
Как считают в компании, открытая публикация модели позволит российским государственным структурам и частным компаниям использовать готовый инструмент для раннего выявления угроз, определения приоритетов по их снижению и распределения ответственности за защиту ИИ-решений.
