По утверждению Станислава Кузнецова, заместителя председателя правления ПАО «Сбербанк», использующая алгоритмы искусственного интеллекта (ИИ) система защиты банка предотвратила выдачу более 600 кредитов для «инвестирования» на общую сумму 190 миллионов рублей. Именно эти деньги, по словам Кузнецова, клиенты банка хотели отдать мошенникам.
На рынке существует ряд решений по ИБ, в которых активно используются нейросети:
- в UEBA для предикативного поведенческого анализа на основе отклонения от паттернов поведения пользователя;
- в NGFW для сетевого предикативного анализа, в частности DDoS-атак и DNS-запросов (выявление DGA-доменов и т. п.);
- в SOAR и IRP платформах;
- в антифрод-системах используется множество механизмов, в частности механизмы построения графов и взаимосвязей событий, поведенческого анализа и отклонений, обучение на базе ранее выявленных мошеннических и легитимных действий, анализ «клавиатурного почерка» и «почерка движения мышки», перехода по кросс-ссылкам и баннерам и др.;
- в EDR и Sandbox-решениях для анализа поведения файлов и сопоставления с базой вредоносных действий и выявления подозрительного ПО;
- в физической безопасности и видеонаблюдении с технологией распознавания лиц и объектов (мобильных телефонов или планшетов, камер и др.).
Немного теории
В машинном обучении используется два класса алгоритмов: дискриминативная и генеративная модель. Задача первых алгоритмов – научиться выявлять на основе выборки обучения необходимые нам значения. Выборка в данном случае должна быть репрезентативной и непротиворечивой. Нейронная сеть с этим механизмом обучения сможет выявить соответствие входящих данных тому или иному выходящему значению, то есть, условно, произвести классификацию.
Генеративный ИИ – это ИИ как бы с механизмом генерирования значений или, если оперировать человеческими ощущениями, с «возможностью представить необходимое значение». Нейронная сеть строит алгоритмическую модель значения. И по итогу обучения может не только распознать принадлежность входящих данных тому или иному значению, но и сгенерировать значение в нужной выборке, отсутствующее в обучающем наборе. Этот механизм используется как раз в технологии дипфейка.
Наиболее интересны нейронные сети, использующие оба этих механизма, – это глубокие генеративно-состязательные сети (GAN — generative adversarial network). GAN состоит их двух подсетей, одна из которых генерирует значения, а вторая дискриминирует. Таким образом реализуется механизм обоюдной эволюции. В результате успешного обучения генеративная часть сети может создавать разнообразные значения, выполняющие требования к результирующему значению, например, создавать разные изображения, похожие на те, что были в тренировочном наборе.
Именно GAN-сети используются для детектирования и выявления аномалий и других сложных задач ИИ.
Плюсы и минусы нейронных сетей в ИБ
|
Плюсы |
Минусы |
|
Нет проблемы дефицита кадров при росте количества задач или событий
|
Не понятно, как ИИ принимает решение. Принципиальные решения остаются за человеком |
|
Быстрое решение типовых задач с настраиваем качеством |
Прямая зависимость от набора первоначальных данных |
|
Снижение зависимости от человеческого фактора |
False Positive, False Negative |
ИИ хорошо использовать для типовых задач и обогащения данных.При этом нейросети могут выдать рекомендации, но не способны реализовать их во всех случаях и решить комплексную задачу полностью без привлечения ИБ эксперта. В целом ИИ повышает эффективность ИБ-систем и снижает стоимость эксплуатации.
Источник: Икс-Медиа