Искусственный интеллект в кибербезопасности: защита или угроза?

Владимир Садовский, руководитель отдела мониторинга и защиты информационной безопасности компании «М.Видео»

«Основные сложности применения ИИ сегодня связаны с двумя факторами – с точностью и достоверностью получаемых ответов, а также с риском разглашения конфиденциальной информации. Если первая проблема решается за счет компетенций специалиста, умеющего критически оценивать результат и корректировать запрос, то со второй все гораздо сложнее. Любая информация, переданная в публичную нейросеть, по сути, перестает быть закрытой.

Поэтому в работе допустимо использование публичных ИИ-сервисов только для поиска общедоступных данных и решения типовых задач, без передачи коммерческой или чувствительной информации. В перспективе, конечно, хотелось бы развивать внутренние нейронные сети – с локальным хранением данных, достаточным уровнем знаний и гарантированной защитой коммерческой информации.

Уже сейчас потенциал ИИ в сфере информационной безопасности очевиден, так как он помогает автоматизировать рутинные процессы – от подготовки базовых документов и анализа «сырых» логов до выявления аномалий и потенциальных кибератак, оценки уязвимостей, расчета рисков и помощи в принятии решений по различным направлениям.

В настоящее время «М.Видео» находится в поиске корпоративного инструмента, к которому любой специалист по информационной безопасности мог бы безопасно обратиться, загрузить данные и получить корректный результат».

«Возможности ИИ довольно активно используют злоумышленники. В частности, генеративный ИИ используется для проведения атак методами социальной инженерии: генерация аудио- и видеозаписей, подготовка фишинговых писем, написание ВПО.

Что касается увеличения рисков утечек данных из-за увлечения ИИ, то здесь дело не в самой технологии, а в необдуманных (а иногда просто безответственных) попытках ее использования. Загрузка конфиденциальных данных в облачные сервисы даже при самых благих намерениях может в итоге привести к утечке.

«Лента», как и любая компания, использующая современные средства киберзащиты, внедряет ИИ-технологии, поскольку все ведущие разработчики таких средств активно применяют эти возможности в своих продуктах. Справедливости ради стоит отметить, что реальная эффективность средств защиты с заявленным искусственным интеллектом значительно ниже ожиданий компаний и специалистов, которые используют эти средства.

Наиболее перспективные для использования ИИ в кибербезопасности направления: борьба с мошенничеством (и в целом все, что связано с поведенческим анализом), управление уязвимостями от их обнаружения до закрытия, выявление кибератак и реагирование на инциденты.

Генеративный ИИ может помочь практически во всех сферах и отраслях экономики, так как везде востребованы обработка текстов, голосовых сообщений, генерация различного контента, чат-боты, ИИ-ассистенты.

Технологии ИИ могут дать хорошие результаты в областях, связанных с обработкой больших объемов информации, при условии качественной подготовки данных для обучения моделей. Не надо думать, что ИИ является умным по умолчанию. Насколько правильно его обучат, настолько качественно он будет выдавать результаты.

Большинство современных технологий, в том числе и ИИ, требуют соблюдения определенных мер безопасности. Стоит говорить не о безопасных или небезопасных моделях или видах ИИ, а о безопасном или небезопасном способе использовании, о защищенной или незащищенной платформе. Многие крупные компании разворачивают собственные ИИ-платформы, чтобы снять риски, связанные с утечкой данных».

«Компании, серьезно относящиеся к кибербезопасности, рассматривают искусственный интеллект как источник новых возможностей и в то же время – потенциальных рисков. Например, крупная ритейл-сеть электроники, с которой мы работаем, использует ИИ для выявления мошеннических операций в реальном времени, что значительно повышает защиту. Вместе с тем, компании понимают, что внедрение ИИ требует серьезного контроля, поскольку ошибки или неправильная настройка могут привести к новым уязвимостям.

Сам по себе ИИ не провоцирует увеличение утечки данных. В одном из проектов для сети косметики и бытовой химии мы применяли ИИ для мониторинга аномалий в доступах к данным, это помогло оперативно блокировать несанкционированные попытки, снижая риски утечек. Однако если ИИ-инструменты внедряются без должного контроля прав доступа и политики безопасности, есть риск, что модель может получить слишком широкий доступ и тем самым увеличить уязвимость.

Технология ИИ уже активно используется для обеспечения кибербезопасности. Например, в одной крупной сети продуктовых магазинов ИИ помогает быстро выявлять уязвимости веб-приложений и реагировать на угрозы значительно оперативнее, чем при традиционных методах.

Менеджеры по ИИ есть у некоторых ритейлеров, но пока в основном в крупных компаниях. В ритейле одежды, с которым у нас есть опыт взаимодействия, такая роль помогла эффективно координировать внедрение ИИ-решений в области безопасности и минимизировать связанные риски. Сценарий, при котором ИИ «проникает» в ИТ-инфраструктуру компании, используя доступ к модели для выполнения заданий, технически возможен, но на практике такие случаи не зафиксированы. Основные угрозы возникают из-за неправильно настроенных прав и контроля доступа, а не от самого ИИ. Важно строить архитектуру с четким разграничением его прав и аудитом действий.

Рост «негативного» ИИ – это серьезный вызов. Хакеры действительно начинают использовать ИИ-технологии, чтобы создавать более сложные атаки. В этой ситуации критически важно развивать защиту также на базе ИИ: распознавать и блокировать атаки в режиме реального времени, обучать персонал и использовать современные методы обмена информацией о новых угрозах. Рекомендуем комплексный подход – технологии, процедуры и человеческий фактор».

Павел Кузнецов, директор по стратегическим альянсам и взаимодействию с органами государственной власти группы компаний «Гарда» 

«Компании, «озабоченные кибербезопасностью», как правило, довольно неплохо знакомы с предложениями рынка по опыту взаимодействия и с зарубежными, и с ведущими отечественными производителями. Поэтому они знают, что методы и средства, входящие в пул технологий искусственного интеллекта, применяются ведущими разработчиками в своих решениях уже десятилетиями. «Серебряной пули», способной мгновенно решить все запросы, никто не ожидает. По поводу усиления ИИ-рисков, массовую обеспокоенность порождает применение генеративных моделей в социотехнических атаках. Злоумышленники и так проводили их довольно успешно, а возможности генерации звука и видео, имитирующих реальных людей, а также качественных текстовых фишинговых сообщений эскалировали проблему. Вместе с тем, при правильном применении давно отработанных практик, таких как внедрение в процессы компаний киберкультуры сотрудников, в сочетании с передовыми технологиями защиты информации, можно достичь высокого уровня защищенности и от фишинга, «усиленного ИИ».

Надо взращивать уровень киберкультуры населения и разрабатывать средства противодействия. В частности – выявлять сгенерированный контент для борьбы с социотехническими атаками, маркировать оригинальный контент. Развитие детектирования вредоносных образцов (в контексте – созданных с помощью ИИ) идет уже длительное время и началось задолго до общего «бума ИИ» – это классическое «соревнование брони и снаряда». Методы машинного обучения успешно применялись в деле борьбы с вредоносным ПО несколько лет назад, применяются сейчас и будут применяться дальше».