Использование искусственного интеллекта

Около двух десятков крупных российских компаний и организаций подписали первый российский Кодекс этики искусственного интеллекта (ИИ).

Документ является добровольным к исполнению и закрепляет базовые требования к применению этой технологии, в том числе в части:

обеспечения безопасности данных
идентификации ИИ при взаимодействии с людьми
сохранении ответственности при его применении за человеком

«Нравственные» нормы для систем ИИ описаны лишь в общих чертах, в каждом конкретном случае предлагается соотносить жесткость регулирования с рисками применения технологии.

Подписантами выступили:

Сбербанк
«Яндекс»
«Ростелеком»
МТС
Mail.ru
«Газпром нефть»
Infowatch
«Росатом»
ЦИАН

Также к кодексу присоединились НИУ ВШЭ, «Сколково», МФТИ, ИТМО, Иннополис, РФПИ и Институт системного программирования им. В. П. Иванникова.

Подобные документы есть в 20 странах, у 35 крупных компаний в мире уже есть и собственные кодексы (в России — у Сбербанка, «Яндекса» и ABBY).

Кодекс рекомендует применение «риск-ориентированного подхода» — соотнесения жесткости регулирования с потенциальным влиянием создаваемых систем (методику оценки рисков предлагается разработать дополнительно).

Ответственность за применение искусственного интеллекта всегда должна оставаться за человеком (в том числе на ИИ не должны перекладываться «полномочия ответственного нравственного выбора»).

В документе закреплено, что применение технологий «сильного» (схожего с человеческим) ИИ должно находиться под контролем государства.

Из практических аспектов кодексом обозначено требование об идентификации ИИ при общении с человеком, «когда это затрагивает вопросы прав человека и критических сфер его жизни», а также об обеспечении безопасности в работе с данными.

Закрепляется условия конкуренции между компаниями для исключения вреда развитию технологии.

Рекомендуется: