Применение систем искусственного интеллекта в защите информации

Введение

Цифровая инфраструктура современной организации формирует непрерывный поток событий: сетевые соединения, обращения к файловым ресурсам, операции в прикладных системах, действия привилегированных пользователей, изменения конфигурации, сообщения средств защиты, журналы облачных платформ и конечных устройств. Объём такой телеметрии значительно превышает возможности ручного анализа. Одновременно злоумышленник стремится не столько выполнить очевидно запрещённую операцию, сколько встроить вредоносную активность в поток внешне допустимых действий. По этой причине защита информации всё в большей степени становится задачей обнаружения слабых, распределённых во времени признаков и сопоставления контекста из нескольких источников.

Традиционные механизмы остаются базой информационной безопасности. Контроль доступа, криптографическая защита, сегментация сети, управление уязвимостями, резервное копирование и сигнатурное выявление вредоносной активности не утрачивают значения. Однако их ограничение проявляется в ситуациях, когда заранее неизвестно точное правило, по которому следует распознать инцидент. Машинное обучение и другие методы искусственного интеллекта позволяют строить модели нормального поведения, выявлять отклонения, классифицировать сложные события и вычислять приоритет расследования. В обзорах по применению глубокого обучения к кибербезопасности отмечается использование нейросетевых методов для обнаружения вторжений, вредоносного программного обеспечения, спама, инсайдерских угроз и аномальных доменных имён [3].

Вместе с тем применение искусственного интеллекта создаёт двойственную ситуацию. С одной стороны, AI повышает способность защитной системы анализировать большие массивы событий. С другой стороны, сама AI-модель становится объектом атаки: возможно отравление обучающих данных, подбор входных воздействий, извлечение параметров, обход модели и эксплуатация особенностей генеративных систем. В актуальной таксономии NIST adversarial machine learning такие угрозы рассматриваются на различных стадиях жизненного цикла модели [2]. Следовательно, интеллектуализация защиты информации должна включать защиту самих интеллектуальных компонентов.

Цель исследования состоит в формировании архитектурной модели применения искусственного интеллекта в защите информации, в которой обнаружение угроз, оценка их значимости и автоматизированная реакция объединены с механизмами проверки качества модели. Объектом исследования являются процессы обеспечения информационной безопасности организации. Предмет исследования – методы искусственного интеллекта и архитектурные принципы их встраивания в процессы мониторинга и реагирования. Научная новизна состоит в предложении двухконтурной модели интеллектуальной защиты, разделяющей контур аналитического вывода и контур принятия автоматизированного защитного действия.

1. Материалы и методы исследования

Исследование носит концептуально-прикладной характер. Методологической основой выступает системный подход, при котором информационная защита рассматривается как непрерывный цикл наблюдения, интерпретации, принятия решения, воздействия на инфраструктуру и последующей проверки результата. Для декомпозиции функций использована логика современных фреймворков управления киберрисками. NIST Cybersecurity Framework 2.0 группирует результаты управления кибербезопасностью в функции Govern, Identify, Protect, Detect, Respond и Recover [1]. В предлагаемой модели искусственный интеллект может использоваться в каждой из них, однако его роль различна: от обработки текстовых источников угроз до поведенческой аналитики и оценки последствий инцидента.

Сравнение методов выполняется по пяти критериям: способность выявлять неизвестные ранее паттерны; устойчивость к изменению распределения данных; интерпретируемость результата; вычислительная стоимость; допустимость автоматического реагирования на основании вывода модели. Такой набор критериев важен потому, что высокая лабораторная точность сама по себе не обеспечивает операционной полезности. Модель с небольшой долей ложных срабатываний может быть непригодна в среде с миллионами событий, если абсолютное число ложных тревог остаётся чрезмерным.

В качестве исходного представления события безопасности используется вектор x(t) = {n, u, a, r, c, h}, где n – сетевые признаки, u – признаки поведения пользователя, a – характеристики актива, r – результат применения известных правил, c – контекст операции, h – исторические характеристики. Такое представление не требует, чтобы все компоненты обрабатывались одной моделью. Напротив, специализированные алгоритмы могут формировать частные оценки, которые затем объединяются на уровне метамодели.

2. Функциональные направления применения искусственного интеллекта

Первое направление – обнаружение аномалий. В этом случае система строит статистическое или машинно-обучаемое представление нормального поведения и фиксирует отклонения. Преимущество подхода состоит в потенциальной способности обнаруживать неизвестные сценарии атаки. Недостаток связан с тем, что необычное действие не обязательно является вредоносным. Поэтому аномалия должна интерпретироваться как сигнал для дальнейшей оценки, а не как доказанный инцидент.

Второе направление – классификация известных типов угроз. Для размеченных данных применяются деревья решений, методы опорных векторов, ансамбли, нейронные сети и другие алгоритмы. Современные обзоры систем обнаружения вторжений показывают активное использование как классических методов машинного обучения, так и глубоких архитектур; при этом сохраняются проблемы сопоставимости результатов из-за различий наборов данных и условий эксперимента [4]. Поэтому при корпоративном внедрении необходимо проводить проверку на собственных данных, а не переносить опубликованную метрику без валидации.

Третье направление – поведенческая аналитика пользователей и сущностей. Важным признаком является не абсолютное значение операции, а отличие от привычного профиля. Вход в систему ночью может быть нормой для администратора дежурной смены и аномалией для сотрудника подразделения, работающего только днём. AI позволяет учитывать персональные и групповые базовые линии, последовательность действий, географию подключения, тип устройства и изменение прав доступа.

Четвёртое направление – интеллектуальная корреляция событий. SIEM-платформа может получать сотни сообщений, относящихся к одной атаке. Задача AI заключается в группировке событий в причинно и временно связанные цепочки. Это особенно важно при многоэтапных атаках, когда каждое отдельное действие выглядит допустимым. Корреляционная модель должна учитывать не только сходство событий, но и порядок их возникновения, принадлежность к одному пользователю или активу, а также известные тактики злоумышленника.

Пятое направление – автоматизация реагирования. Здесь цена ошибки существенно выше. Если ошибочная классификация приводит только к дополнительному уведомлению аналитика, последствия ограничены. Если она автоматически блокирует учётную запись, изолирует сервер или останавливает производственный процесс, необходим более высокий уровень уверенности. Поэтому AI в SOAR целесообразно применять с политиками, которые определяют допустимость конкретного действия в зависимости от критичности актива и подтверждения независимыми источниками.

Таблица

3. Предлагаемая архитектура адаптивного интеллектуального контура защиты

Предлагаемая архитектура включает семь последовательных уровней. На первом уровне выполняется сбор телеметрии из сетевых устройств, серверов, рабочих станций, облачной инфраструктуры, приложений и систем управления идентификацией. На втором уровне осуществляется нормализация: приведение временных меток, идентификаторов пользователей и активов к единому формату, устранение технических дубликатов и контроль качества данных. Без такого уровня модель способна обучаться на артефактах конкретного источника, а не на содержательных признаках атаки.

Третий уровень формирует частные оценки. Сигнатурный механизм определяет совпадение с известными индикаторами; поведенческая модель оценивает нетипичность действия; модель угрозы оценивает сходство с известными цепочками; контекстный модуль получает критичность актива и полномочия пользователя. На четвёртом уровне частные оценки объединяются.

Для ранжирования инцидентов предлагается использовать интегральный показатель S = A · K · (1 + C) · E · (1 – U), где A – нормированная оценка аномальности, K – критичность затронутого актива, C – контекстный коэффициент, увеличивающий вес события при наличии дополнительных факторов риска, E – коэффициент подтверждения независимыми признаками, U – неопределённость модели. Все параметры могут быть нормированы в диапазоне от 0 до 1; конкретная функция агрегации выбирается с учётом практики организации. Смысл введения U состоит в том, что модель не должна интерпретировать собственную неуверенность как нейтральный фактор.

Подход согласуется с общей логикой многофакторного моделирования, при которой итоговая оценка определяется не одним признаком, а системой взаимосвязанных факторов. Значение такого подхода для управленческих и финансовых систем ранее рассматривалось В. В. Осадчим [8, с. 12-16]. В информационной безопасности принцип имеет особую ценность: одинаковая техническая аномалия приобретает разную значимость в зависимости от стоимости актива, роли пользователя, времени операции и наличия дополнительных индикаторов.

Пятый уровень – контур аналитического решения. Он формирует гипотезу инцидента: вероятный тип атаки, затронутые активы, последовательность событий и объяснение факторов, повлиявших на оценку. Шестой уровень – контур допуска автоматического воздействия. Его задача состоит не в повторной классификации угрозы, а в проверке того, разрешено ли автоматическое действие для данного класса актива. Например, система может автоматически завершить подозрительную сессию на обычной рабочей станции, но только предложить аналитику изоляцию критичного сервера.

Седьмой уровень обеспечивает обратную связь. Результат расследования используется для обновления профилей и калибровки порогов. При этом недопустимо автоматически дообучать модель на любом решении оператора без контроля качества: ошибочная разметка способна постепенно ухудшить модель. Поэтому обратная связь должна проходить через процесс верификации и версионирования.

4. Устойчивость интеллектуальной защиты и новые поверхности атаки

AI-система защиты должна рассматриваться как часть атакуемой инфраструктуры. NIST в таксономии adversarial machine learning выделяет атаки, связанные с нарушением процесса обучения и воздействием на модель при эксплуатации [2]. Для информационной защиты особенно критичны четыре группы угроз: загрязнение обучающих данных; обход детектора посредством специально подобранных признаков; извлечение информации о модели; злоупотребление генеративным компонентом при анализе инцидентов.

Отравление данных способно сместить представление о нормальном поведении. Если атакующий длительное время постепенно увеличивает интенсивность определённой операции, адаптивная модель может начать воспринимать её как норму. Следовательно, обновление базовой линии должно учитывать доверие к источнику и скорость изменения. Для критичных признаков требуется окно стабильности, в течение которого новая статистика не немедленно заменяет предыдущую.

Атаки обхода особенно актуальны для детекторов, использующих ограниченный набор признаков. Защитной мерой является ансамблевый подход и разделение независимых каналов наблюдения. Если сетевой детектор, журнал аутентификации и модель поведения пользователя формируют согласованные оценки, злоумышленнику сложнее воздействовать на все источники одновременно.

Отдельная проблема связана с генеративными AI-ассистентами для SOC. Они способны суммировать события, формировать запросы, предлагать гипотезы и объяснять правила. Однако генеративный ответ должен иметь ссылки на конкретные исходные события. Наличие убедительного текста не является доказательством корректности. NIST AI RMF и его профиль для генеративного AI подчёркивают важность управления рисками на протяжении жизненного цикла системы [7, 10]. В SOC это означает обязательную трассируемость: аналитик должен видеть, какие данные подтверждают каждый существенный вывод.

Практическим способом контроля является режим retrieval-grounded analysis: языковая модель получает только релевантные фрагменты журналов, карточки активов и проверенные источники threat intelligence, а формируемый вывод сопровождается идентификаторами этих источников. Для высокорисковых операций генеративная модель не должна иметь прямого права исполнения команды; она формирует структурированное предложение, которое проходит отдельный policy-engine.

5. Оценка эффективности и условия внедрения

Оценка интеллектуальной системы защиты не может ограничиваться показателями accuracy или F1. В реальной среде важны precision, recall, доля ложноположительных событий, среднее время обнаружения, среднее время подтверждения инцидента, доля автоматически закрытых безопасных событий и экономический эффект снижения нагрузки на аналитиков. Кроме того, необходимо измерять устойчивость метрик во времени.

Предлагается разделять три уровня качества. Технический уровень характеризует способность модели распознавать события на контрольной выборке. Операционный уровень отражает пригодность модели в рабочем потоке: сколько полезных приоритетов она создаёт и насколько уменьшает время расследования. Риск-уровень оценивает последствия ошибок: какую долю критичных инцидентов система пропустила и какие автоматические действия оказались ошибочными.

Для внедрения целесообразна поэтапная схема. На первом этапе AI работает в режиме наблюдения без влияния на инфраструктуру. На втором его оценки отображаются аналитику параллельно с существующими правилами. На третьем разрешается автоматизация низкорисковых действий. На четвёртом расширяется область автоматического реагирования при наличии статистически подтверждённого качества. Такой порядок снижает вероятность того, что организация заменит понятный, пусть и ограниченный, механизм защиты непрозрачной моделью без накопленной истории.

Организационная составляющая не менее важна, чем алгоритмическая. NIST CSF 2.0 вводит функцию Govern как отдельный элемент кибербезопасности [1]. Для AI это означает распределение ответственности за модель, данные, критерии качества, пороги автоматизации и процедуру отката. Должно быть заранее определено, кто имеет право изменить модель, кто утверждает новые источники данных, и кто принимает решение при конфликте оценки AI с мнением аналитика.

Результатом внедрения должна становиться не максимальная автономность как самоцель, а снижение времени между появлением значимого сигнала и контролируемым защитным действием. При этом человеческий контроль сохраняется в тех точках, где цена ошибки превышает выгоду от скорости. Именно сочетание машинной масштабируемости и управляемой ответственности обеспечивает практическую устойчивость системы.

Заключение

Искусственный интеллект расширяет возможности защиты информации за счёт анализа больших потоков телеметрии, построения поведенческих профилей, выявления неизвестных отклонений, корреляции многоэтапных атак и приоритизации расследований. Однако его эффективность проявляется прежде всего как дополнение к традиционным средствам безопасности, а не как их замена.

Предложенная архитектура адаптивного интеллектуального контура включает сбор и нормализацию данных, формирование независимых оценок, многофакторное ранжирование угроз, аналитический вывод, отдельный допуск автоматического действия и управляемую обратную связь. Научно-практическое значение двухконтурного подхода состоит в разделении вопроса «насколько событие похоже на угрозу?» и вопроса «можно ли автоматически выполнить защитное действие?». Такое разделение позволяет учитывать цену ошибки и критичность актива.

Перспективным направлением дальнейших исследований является экспериментальная проверка модели на корпоративных event logs, разработка методов калибровки интегрального показателя угрозы и исследование устойчивости к дрейфу данных и adversarial-воздействиям. В условиях дальнейшей интеллектуализации кибератак ключевым свойством защитной AI-системы будет не только точность, но и способность объяснять, подтверждать и безопасно ограничивать собственные решения.