Актуальность исследования
Актуальность исследования обусловлена тем, что искусственный интеллект все активнее применяется не только в управленческих и производственных процессах, но и в повседневной работе ИТ- и АСУТП-служб промышленных предприятий. Системные администраторы, сетевые администраторы и специалисты, сопровождающие автоматизированные системы управления технологическими процессами, используют ИИ для анализа журналов событий, поиска причин сбоев, проверки конфигураций серверного, сетевого и промышленного оборудования, интерпретации диагностических сообщений, подготовки технических инструкций и первичного анализа инцидентов информационной безопасности.
Вместе с тем использование искусственного интеллекта связано с серьезными рисками информационной безопасности. Промышленная ИТ-инфраструктура отличается высокой сложностью, поскольку цифровые системы в ней связаны с производственным оборудованием, автоматизированными системами управления и технологическими процессами. Поэтому нарушение безопасности может привести не только к утечке данных, но и к сбоям в работе предприятия, финансовым потерям и снижению его устойчивости [6, с. 79].
Особое значение имеет риск раскрытия конфиденциальной информации. При применении ИИ могут обрабатываться сведения о технологиях, оборудовании, производственных режимах, поставщиках, контрагентах, персонале и внутренней документации. Часть этих данных может относиться к коммерческой тайне, персональным данным или иной защищаемой информации. При передаче таких сведений во внешние ИИ-сервисы или использовании неподконтрольных инструментов возникает угроза их выхода за пределы организации [5, с. 803].
Цель исследования
Целью данного исследования является выявление основных рисков утечки конфиденциальной информации при использовании искусственного интеллекта специалистами ИТ- и АСУТП-служб для анализа конфигураций оборудования, журналов событий, диагностических выгрузок, сетевых схем и иных технических данных промышленной инфраструктуры, а также определение способов минимизации таких рисков, включая применение локальных ИИ-моделей, корпоративных ИИ-платформ и закрытых контуров обработки данных.
Материалы и методы исследования
Материалами исследования послужили открытые данные и положения, связанные с применением искусственного интеллекта, защитой конфиденциальной информации, персональных данных, коммерческой тайны и критической информационной инфраструктуры.
В работе использованы общенаучные методы анализа, обобщения и систематизации, а также сравнительный метод, который позволил выделить основные виды защищаемой информации, каналы ее возможной утечки и меры по снижению рисков.
Результаты исследования
Безопасное применение искусственного интеллекта в промышленной ИТ-инфраструктуре следует рассматривать через связь трех элементов: данных, программно-аппаратной инфраструктуры и производственных процессов. В промышленной среде ИИ не является самостоятельным изолированным инструментом. Он получает данные из информационных систем предприятия, датчиков, систем мониторинга, производственного оборудования, систем управления технологическими процессами и аналитических платформ. Поэтому безопасность ИИ зависит не только от качества модели, но и от того, какие данные передаются в обработку, где они хранятся, кто имеет к ним доступ и каким образом контролируется результат работы системы.
На практике одним из наиболее распространенных сценариев становится использование ИИ не конечными пользователями, а техническими специалистами. Системный администратор может передавать в ИИ фрагменты журналов Windows- или Linux-серверов, сообщения об ошибках служб, сведения о сбоях резервного копирования или виртуализации. Сетевой администратор может использовать ИИ для анализа конфигураций маршрутизаторов, коммутаторов, межсетевых экранов, VPN-подключений и правил маршрутизации. Специалист АСУТП может обращаться к ИИ при разборе сообщений SCADA-систем, диагностических выгрузок контроллеров, журналов промышленного оборудования и данных мониторинга. Во всех этих случаях ИИ получает не абстрактную техническую информацию, а сведения, которые могут раскрывать внутреннее устройство инфраструктуры предприятия.
Особенность промышленной инфраструктуры состоит в том, что она объединяет корпоративные ИТ-системы и технологические системы, связанные с реальным производственным процессом. Если в обычной корпоративной среде инцидент чаще затрагивает документы, базы данных или учетные системы, то в промышленной среде сбой может повлиять на оборудование, технологический режим, выпуск продукции и непрерывность работы предприятия. Поэтому при внедрении ИИ необходимо учитывать не только конфиденциальность данных, но и устойчивость, надежность и безопасность производственных процессов.
Основой безопасного применения ИИ является управление его жизненным циклом. На практике это означает, что предприятие должно контролировать не только готовую ИИ-систему, но и этапы сбора данных, подготовки обучающих выборок, настройки модели, интеграции с промышленными системами, эксплуатации, мониторинга и аудита. Такой подход соответствует современным международным документам по управлению рисками ИИ, где особое внимание уделяется управлению, оценке рисков, контролю качества данных и постоянному наблюдению за работой системы [1, с. 32].
В промышленной ИТ-инфраструктуре конфиденциальная информация имеет особую ценность, поскольку она связана не только с управленческой деятельностью, но и с технологическими процессами предприятия. К такой информации могут относиться производственные параметры, сведения о составе продукции, данные о загрузке оборудования, техническая документация, результаты испытаний, сведения о поставщиках, договорные условия, данные о персонале, внутренние отчеты, схемы сетей, сведения об уязвимостях и инцидентах информационной безопасности.
В российском правовом поле отдельные виды такой информации защищаются специальными режимами. Персональные данные охраняются законодательством о персональных данных. Сведения, имеющие коммерческую ценность из-за неизвестности третьим лицам, могут охраняться в режиме коммерческой тайны, если организация приняла необходимые меры по защите такой информации. Для предприятий, относящихся к субъектам критической информационной инфраструктуры, отдельное значение имеют требования к защите информационных систем, информационно-телекоммуникационных сетей и автоматизированных систем управления.
Для промышленного предприятия важно не просто назвать информацию конфиденциальной, а определить ее состав, владельца, порядок доступа, допустимые способы обработки и ограничения на передачу во внешние системы. Это особенно значимо при использовании ИИ, поскольку модель может работать с большими массивами данных, а сотрудник не всегда осознает, что вводимый им текст, документ, фрагмент кода или техническое описание содержит закрытые сведения [7, с. 135].
Виды информации и возможные последствия ее раскрытия приведены в таблице 1.
Таблица 1
Виды информации и возможные последствия ее раскрытия (разработка автора)
Вид информации | Пример | Возможные последствия раскрытия |
Технологическая информация | Параметры оборудования, производственные режимы | Потеря технологического преимущества, риск вмешательства в процесс |
Коммерческая информация | Цены, договоры, условия поставок | Убытки, ослабление переговорной позиции предприятия |
Данные о безопасности | Схемы сети, сведения об уязвимостях | Повышение вероятности кибератак |
Персональные данные | Сведения о сотрудниках | Правовые последствия и претензии со стороны работников |
Производственные данные | Отчеты о качестве, простоях, браке | Репутационные и экономические потери |
Данные ИТ- и АСУТП-инфраструктуры | Конфигурации оборудования, логи, сетевые схемы, сведения о правилах доступа и ошибках систем | Раскрытие архитектуры сети, уязвимых мест, способов подключения и потенциальных направлений кибератак |
Риски утечки конфиденциальной информации при применении ИИ имеют комплексный характер. Они возникают не только из-за технических уязвимостей, но и из-за ошибок в управлении данными, отсутствия внутренних правил, недостаточного контроля доступа, слабой проверки поставщиков и неосведомленности сотрудников. Поэтому защита информации при внедрении ИИ должна строиться одновременно на технических, организационных и правовых мерах [4, с. 25].
Типовые каналы утечки конфиденциальной информации при использовании ИИ специалистами ИТ- и АСУТП-служб представлены на рисунке ниже. Особое значение имеют ситуации, когда во внешний ИИ-сервис передаются логи, конфигурации оборудования, диагностические выгрузки, схемы сети и сведения об инцидентах.
Рис. Типовые каналы утечки конфиденциальной информации при использовании ИИ в ИТ- и АСУТП-инфраструктуре (разработка автора)
Угроза утечки данных в промышленной среде усиливается из-за сочетания информационных и технологических систем. В промышленной ИТ-инфраструктуре данные используются не только для учета и управления, но и для работы оборудования, контроля технологических процессов, анализа состояния производственных линий и принятия технических решений. Поэтому любые ошибки при передаче, хранении или обработке информации могут затронуть не только документы предприятия, но и производственный процесс [3, с. 7].
Одним из ключевых факторов является объединение корпоративной ИТ-среды и технологической среды. На практике это означает, что данные из производственного оборудования, систем мониторинга, SCADA, датчиков и серверов могут передаваться в аналитические платформы и ИИ-системы. Чем больше таких связей, тем выше значение контроля доступа, защиты каналов передачи и проверки внешних подключений.
Дополнительный риск создает использование устаревшего оборудования и программного обеспечения. В промышленности такие системы часто эксплуатируются длительное время, поскольку их быстрая замена может быть сложной и дорогой. При этом старые системы не всегда поддерживают современные механизмы защиты, что повышает вероятность несанкционированного доступа к данным [9, с. 17].
Серьезным фактором риска является подключение внешних сервисов, облачных решений и программных интерфейсов. При использовании ИИ предприятие может передавать данные за пределы собственной инфраструктуры. Если при этом не определены условия хранения, удаления и дальнейшего использования информации, организация теряет контроль над частью сведений.
Отдельное значение имеет человеческий фактор. Даже при наличии технических средств защиты сотрудник может случайно передать во внешний ИИ-сервис служебный документ, фрагмент производственного отчета, техническое описание или данные о внутренней инфраструктуре. Поэтому риск утечки зависит не только от программных средств, но и от дисциплины пользователей, внутренних инструкций и регулярного обучения персонала.
Основные способы минимизации рисков утечки данных приведены в таблице 2.
Таблица 2
Основные способы минимизации рисков утечки данных (разработка автора)
Направление защиты | Конкретные меры | Ожидаемый результат |
Управление данными | Определение запрещенных к передаче сведений, классификация информации | Снижение риска передачи закрытых данных во внешние сервисы |
Контроль доступа | Разграничение прав, минимально необходимый доступ, учет пользователей | Уменьшение числа лиц, имеющих доступ к чувствительной информации |
Техническая защита | Шифрование, журналирование, мониторинг, контроль загрузки файлов | Выявление и предотвращение подозрительных действий |
Работа с персоналом | Инструкции, обучение, ответственность за нарушение правил | Снижение риска случайной утечки по вине сотрудников |
Контроль поставщиков | Договорные условия, проверка хранения и обработки данных | Сохранение контроля над информацией при привлечении подрядчиков |
Аудит ИИ-систем | Регулярная проверка запросов, данных и результатов обработки | Выявление нарушений и корректировка мер защиты |
Безопасная архитектура ИИ | Использование локальных ИИ-моделей, корпоративных ИИ-платформ или частного облака | Сохранение логов, конфигураций и диагностических данных внутри контролируемого контура предприятия |
Комплексная модель безопасного применения ИИ должна строиться как постоянный процесс, а не как разовая настройка программного продукта (табл. 3). Ее смысл заключается в том, чтобы предприятие заранее определяло допустимые сценарии использования ИИ, контролировало данные, проверяло поставщиков, ограничивало доступ пользователей и регулярно оценивало риски.
Таблица 3
Комплексная модель безопасного применения ИИ (разработка автора)
Этап модели | Содержание этапа | Результат для предприятия |
1. Инвентаризация | Определение ИИ-сервисов, данных, пользователей и систем | Предприятие понимает, где и как используется ИИ |
2. Классификация данных | Разделение сведений по уровню конфиденциальности | Исключается передача закрытых данных в неподходящие системы |
3. Оценка рисков | Анализ угроз, каналов утечки и возможных последствий | Выбираются обоснованные меры защиты |
4. Выбор архитектуры | Приоритетно локальная ИИ-модель, корпоративная ИИ-платформа или частное облако; внешний сервис – только для обезличенных и некритичных данных | Конфигурации, логи и данные АСУТП не покидают контролируемый контур предприятия |
5. Внедрение мер защиты | Доступ, шифрование, журналирование, мониторинг, инструкции | Снижается вероятность утечки информации |
6. Контроль эксплуатации | Анализ запросов, действий пользователей и работы поставщиков | Нарушения выявляются на раннем этапе |
7. Аудит и обновление | Регулярная проверка правил, сервисов и мер защиты | Система безопасности поддерживается в актуальном состоянии |
Для безопасного применения искусственного интеллекта промышленным предприятиям необходимо заранее определить, какие данные могут использоваться в ИИ-системах, а какие сведения запрещено передавать во внешние сервисы. К закрытым данным следует относить технологическую документацию, параметры производственных процессов, сведения о поставщиках, персональные данные, коммерческую тайну и информацию о внутренней ИТ-инфраструктуре [10, с. 396].
Предприятию следует использовать только согласованные ИИ-инструменты, прошедшие проверку со стороны специалистов по информационной безопасности. Применение сотрудниками личных аккаунтов, открытых онлайн-сервисов и неподконтрольных платформ для обработки служебной информации должно быть ограничено или запрещено внутренними правилами [2, с. 16].
Важной мерой является разграничение прав доступа. Каждый работник должен иметь доступ только к тем данным и функциям ИИ-системы, которые необходимы ему для выполнения должностных обязанностей. Дополнительно следует применять журналирование действий пользователей, контроль загрузки файлов и мониторинг подозрительной активности.
При работе с конфигурациями оборудования, журналами событий, диагностическими выгрузками, сетевыми схемами, сведениями об инцидентах информационной безопасности и данными АСУТП целесообразно использовать локальные ИИ-модели, частные облачные платформы или корпоративные ИИ-системы, развернутые внутри контролируемого контура предприятия. Такой подход позволяет не передавать чувствительные технические данные во внешние ИИ-сервисы, сохранять контроль над их хранением и обработкой, применять внутренние правила доступа, вести журналирование запросов и проводить аудит действий пользователей. При привлечении внешних поставщиков необходимо закреплять в договорах требования к конфиденциальности, хранению, защите, удалению и недопустимости использования данных предприятия в иных целях [8, с. 523].
Отдельное внимание необходимо уделять обучению персонала. Работники должны понимать, какие сведения нельзя вводить в ИИ-системы, какие риски связаны с использованием внешних сервисов, и какая ответственность наступает за нарушение режима конфиденциальности. Регулярный аудит ИИ-систем, проверка прав доступа и обновление внутренних правил позволяют поддерживать безопасное применение ИИ в промышленной ИТ-инфраструктуре.
Выводы
Таким образом, применение искусственного интеллекта в промышленной ИТ- и АСУТП-инфраструктуре может существенно ускорить работу системных администраторов, сетевых администраторов и специалистов по сопровождению технологических систем. ИИ способен помогать при анализе логов, конфигураций оборудования, диагностических выгрузок, сетевых схем, сообщений об ошибках и инцидентов информационной безопасности. Вместе с тем именно такие данные часто содержат сведения о внутренней архитектуре предприятия, правилах доступа, IP-адресации, учетных записях, уязвимых местах, технологических контурах и критически важных элементах инфраструктуры. Поэтому передача подобных сведений во внешние ИИ-сервисы должна быть ограничена или запрещена внутренними правилами. Наиболее безопасным вариантом является применение локальных ИИ-моделей, корпоративных ИИ-платформ и закрытых контуров обработки данных. Дополнительно необходимо использовать классификацию технических данных, маскирование чувствительных фрагментов, разграничение доступа, журналирование запросов, аудит действий пользователей и регулярное обучение ИТ- и АСУТП-персонала. Такой подход позволяет использовать возможности ИИ в технической эксплуатации промышленной инфраструктуры без необоснованного раскрытия конфиденциальной информации.
