Главная
АИ #51 (181)
Статьи журнала АИ #51 (181)
Безопасные рекомендации: как обеспечить информационную безопасность в рекомендат...

Безопасные рекомендации: как обеспечить информационную безопасность в рекомендательных системах

Научный руководитель

Исмагилов Ильдар Рашидович

Рубрика

Информационные технологии

Ключевые слова

рекомендательные системы
безопасность
прозрачность
машинное обучение
этика
защита данных

Аннотация статьи

В данной статье рассматриваются ключевые аспекты обеспечения безопасности в рекомендательных системах, включая угрозы, технические меры безопасности, прозрачность и этические вопросы.

Текст статьи

В мире, где персональные рекомендации становятся неотъемлемой частью нашего цифрового опыта, растет необходимость в обеспечении безопасности данных, которые используются для формирования этих рекомендаций. Рассмотрим ключевые аспекты информационной безопасности в контексте рекомендательных систем.

Первоначальный взгляд на угрозы, с которыми сталкиваются рекомендательные системы, позволяет осознать масштаб вызовов. Когда рекомендательные системы обрабатывают массу личных данных, существует риск случайной или злонамеренной утечки этих данных. Это может привести к серьезным нарушениям приватности и даже к возможности кражи личной идентификационной информации [7, с. 88-115].

Злоумышленники могут попытаться искажать алгоритмы рекомендаций с целью распространения фейковой информации. А также, рекомендательные системы могут быть подвергнуты целенаправленным атакам, направленным на компрометацию алгоритмов или внедрение зловредного кода [4, с. 33-35]. Это создает риск, как для данных, так и для функционирования всей системы.

Рассмотрение этих угроз подчеркивает важность принятия мер для защиты данных и обеспечения устойчивости рекомендательных систем в условиях постоянно меняющейся цифровой среды.

Для защиты данных пользователей необходимо внедрять технические меры безопасности в алгоритмы рекомендаций [9, с. 102-105]. Шифрование данных, внедрение моделей безопасности и использование методов анонимизации - все это служит ключевыми элементами для обеспечения сохранности и конфиденциальности информации.

Обеспечение безопасности в алгоритмах рекомендаций - это лишь первый шаг. Важно также сделать эти алгоритмы прозрачными для пользователей. Предоставление пользовательских интерфейсов, объясняющих принципы работы алгоритмов, делает процесс принятия решений более понятным для конечного пользователя. Это не только укрепляет прозрачность системы, но и создает условия для формирования доверия. Прозрачность в функционировании рекомендательных систем напрямую влияет на уровень доверия пользователей [6, с. 274-277].

Чем лучше пользователи понимают, как работает система, тем больше у них доверия к предоставляемым рекомендациям. Этот переход к прозрачности и доверию становится естественным шагом в обеспечении информационной безопасности рекомендательных систем.

Преодолевая технические аспекты безопасности алгоритмов, важно также погрузиться в область машинного обучения (МО), которое становится важным инструментом в борьбе с угрозами. Методы машинного обучения позволяют создавать системы обнаружения аномалий, способные выявлять необычные или подозрительные активности, что является важным компонентом предотвращения утечек данных [5, с. 48-55].

Эффективное использование МО в безопасности рекомендательных систем усиливает их устойчивость к разнообразным угрозам. Переходя к следующему этапу, необходимо уделять внимание этическим вопросам, которые связаны с работой рекомендательных систем.

Исследование и устранение биасов в алгоритмах рекомендаций, чтобы обеспечить справедливость и равноправие в предоставлении рекомендаций [1, с. 115]. А также активное соблюдение правовых норм и нормативов, регулирующих сбор, обработку и хранение персональных данных пользователей. Эти этические аспекты тесно переплетаются с вопросами безопасности и являются неотъемлемой частью обеспечения целостности и долгосрочной устойчивости рекомендательных систем.

В конечном итоге, для обеспечения информационной безопасности рекомендательных систем, важно рассматривать стратегии, фокусирующиеся на конкретной защите персональных данных [8, с. 58]. Применение сильных методов шифрования, чтобы предотвратить несанкционированный доступ к личным данным [3, с. 72-79]. Разработка и внедрение стратегий управления доступом, чтобы ограничить доступ к данным только авторизованным пользователям.

Регулярное удаление устаревших данных и разработка политик удаления, чтобы минимизировать хранение чувствительной информации [10, с. 8-15]. Такие стратегии создают надежные барьеры, предотвращая утечки данных и обеспечивая долгосрочную безопасность пользовательской информации [2, с. 48-55].

Обеспечение безопасности в рекомендательных системах требует комплексного подхода, включая технические, этические и организационные аспекты. Переход от распознавания угроз к конкретным мерам безопасности, совмещая их с прозрачностью, доверием, машинным обучением и этическими стандартами, создает основу для безопасных и устойчивых рекомендательных систем в цифровом мире.

Рецензент — Рахматуллина Т. Г.

Список литературы

  1. Антипова А. В. Проблема савантизма современных нейронных сетей // Языки и смыслы. – 2022. – С. 274-277.
  2. Гаспарян Д., Стырин Е. Прикладные проблемы внедрения этики искусственного интеллекта в России. Отраслевой анализ и судебная система. – Litres, 2022. – С. 48-55.
  3. Золотов И. С. Теоретические аспекты разработки, внедрения и контроля политики информационной безопасности // ББК 94.3 М34 Ответственный редактор. – ВЮ Ермаченко. – 2021. – С. 58.
  4. Котенко И. В. Обнаружение инсайдеров в компьютерных сетях на основе комбинирования экспертных правил, методов машинного обучения и обработки больших данных. – С. 33-35.
  5. Курбанова И. Д., Качаева Г. И. Методы защиты информации в облачных технологиях // Международная научно-практическая конференция по компьютерной и информационной безопасности (INFSEC 2023). – 2023. – С. 102-105.
  6. Панфилов А. В., Дерюшев В. В., Короткий А. А. Рекомендательные системы безопасности для риск-ориентированного подхода // Безопасность труда в промышленности. – 2020. – Т. 5. – С. 48-55.
  7. Соколова М. А. Защита персональных данных – основа цифрового доверия. – С. 88-115.
  8. Филяк П. Ю. Информационная безопасность и комплексная система безопасности: анализ, подходы // Информация и безопасность. – 2016. – Т. 19. – №. 1. – С. 72-79.
  9. Харитонова Ю. С., Савина В. С., Паньини Ф. Предвзятость алгоритмов искусственного интеллекта: вопросы этики и права // Вестник пермского университета. Юридические науки. – 2021. – №. 53. – С. 488-515.
  10. Якель А. О. Массово-коммуникационный инструментарий новых медиа в формировании общественного мнения и сознания : дис. –русский язык, 2020. – С. 8-15.

Поделиться

325

Фаттахов О. А. Безопасные рекомендации: как обеспечить информационную безопасность в рекомендательных системах // Актуальные исследования. 2023. №51 (181). Ч.II.С. 38-40. URL: https://apni.ru/article/7934-bezopasnie-rekomendatsii-kak-obespechit-infor

Похожие статьи

Другие статьи из раздела «Информационные технологии»

Все статьи выпуска
Актуальные исследования

#30 (212)

Прием материалов

20 июля - 26 июля

осталось 6 дней

Размещение PDF-версии журнала

31 июля

Размещение электронной версии статьи

сразу после оплаты

Рассылка печатных экземпляров

13 августа