11:13 1 марта 2021
Сбер утвердил пять принципов этики искусственного интеллекта
Они разработаны с учетом требований Национальной стратегии развития искусственного интеллекта на период до 2030 года
Сбер.
Сбер одним из первых в РФ утвердил принципы этики разработки и применения технологий искусственного интеллекта (ИИ) в своей экосистеме. Об этом сообщили в понедельник, 1 марта 2021 года.
Всего принципов пять. Первый — это «Контролируемость и управляемость систем ИИ» (Secure AI). Разработка и применение технологий ИИ в Сбере безопасны, управляемы и контролируются в максимальной возможной степени. Также учитываются все возможные риски. Да и внедрение ИИ в Сбере никогда не является самоцелью — технологии должны пользоваться доверием клиентов, сотрудников и общества.
Второй принцип — это «Прозрачность и предсказуемость функционирования технологий ИИ» (Explainable AI). Это значит, что Сбер несёт ответственность за применение систем ИИ в своей деятельности, обеспечивает максимальную прозрачность работы. Технологии применяются с соблюдением законодательства, обеспечивая безопасность данных.
Третий принцип — «Стабильность и надёжность систем ИИ» (Reliable AI). Сбер обеспечивает стабильность и надёжность функционирования систем ИИ, обеспечивает нужный уровень технического оснащения. Также при применении ИИ реализуют высочайший уровень гарантий всех прав и свобод человека.
Четвертый принцип — «Ответственное применение ИИ» (Responsible AI). Здесь речь идет о том, что при внедрении ИИ в центре внимания всегда находится потребность клиентов и сотрудников. Принимаются во внимание все опасения, а технологии должны использоваться для улучшения клиентского опыта.
Пятый принцип — это «Непредвзятый ИИ» (Fair AI). Сбер применяет технологии искусственного интеллекта справедливо и объективно на равных для всех условиях и стремится, чтобы ИИ приносил пользу для развития человечества. Есть специальная рабочая группа по этике разработки и применения технологий ИИ (в качестве подгруппы комитета ESG). Её сотрудники рассматривают спорные этические моменты, помогает формировать корпоративную этику в сфере ИИ, проводит мониторинг эффективности реализации принципов и их восприятия в обществе и т.п.
«Технологии искусственного интеллекта, как и любые другие, несут с собой не только возможности, но и риски, — рассказал Президент, Председатель Правления Сбербанка Герман Греф. — Утверждая этические принципы разработки и применения технологий ИИ и создавая механизмы для их реализации, мы действуем в русле лучших мировых практик и в соответствии с Национальной стратегией развития ИИ».
По словам главы банка, принципы этики в дальнейшем будут совершенствоваться и конкретизироваться. Это очень масштабный и непростой вопрос. Сейчас для целого ряда этических проблем, возникающих при использовании ИИ, сложно найти ответы даже с учётом изучения лучшего мирового опыта в этой сфере. Сбер открыт к мнению экспертного сообщества, которое будет учитывать при обновлении принципов.
«Особенно я хочу отметить, что это принципы Сбера и мы их никому за пределами нашей группы не навязываем, более того, не считаем эти принципы идеальными, и другим компаниям необязательно использовать их в своей деятельности», — пояснил Герман Греф.
Отметим, что вышеперечисленные принципы обязательны для всех участников экосистемы Сбера и разработаны с учётом требований Национальной стратегии развития искусственного интеллекта на период до 2030 года, утверждённой президентом страны. В Сбере считают, что следование принципам поможет обеспечить безопасность и повысить доверие общества и клиентов к ИИ, который уже используется в большинстве процессов, продуктов и услуг компании.
