В России запретят с помощью ИИ манипулировать поведением человека

Разработчики систем искусственного интеллекта (ИИ) будут обязаны сообщать их пользователям о недопустимости использования нейросетей для манипулирования поведением и эксплуатации уязвимостей человека. Это следует из законопроекта об искусственном интеллекте, который разработан Минцифры и сейчас проходит межведомственное согласование, пишут «Известия».

Aree_S/Shutterstock/Fotodom

Под эксплуатацией уязвимостей в законе понимается использования тех или иных состояний человека (возрастных, социально-экономических, психологических и других) для «целенаправленного воздействия на поведение, принятия решений или несанкционированного доступа к информации».

«Запрет распространяется прежде всего на операторов и разработчиков систем ИИ — то есть, на организации и компании, которые внедряют такие системы в сервисы, приложения или продукты. По сути, „объяснить“ это роботу можно так: система ИИ не должна проектироваться или использоваться таким образом, чтобы сознательно подталкивать человека к решениям, которые он бы не принял без скрытого давления или манипуляции», — полагает ведущий эксперт в области ИИ «Университета 2035» Ярослав Селиверстов.

По словам эксперта, ИИ способен влиять на поведение человека через анализ данных о нем и персонализацию контента — например, подбирая сообщения, рекомендации или интерфейсы, которые повышают вероятность нужного действия. Такие технологии могут использоваться в рекламе, политических коммуникациях, рекомендательных системах или чат-ботах для усиления доверия, срочности или эмоциональной реакции, утверждает Селиверстов.

Amazon через суд добился запрета на доступ ИИ-сервиса на площадке

«Магнит» и Центральный университет займутся подготовкой IT-специалистов для ритейла