Информационная технология определения полезных данных при оптимизации структуры и минимизации объемов узла распределенной базы данных

Исследование ставит целью повышение уровня общей доступности данных в отдельном узле распределенной базы данных и эффективности использования программных систем по работе с данными за счет уменьшения количества распределенных запросов. Цель достигается путем оптимизации структуры узла распределенной базы данных и минимизации объемов данных, хранящихся в нем.

Для достижения цели была создана подсистема учета пользовательских запросов, грамматика языка T-SQL и выполнен парсинг кода SQL-запросов. В результате запросы классифицируются по списку таблиц базы данных, которые встречаются в запросе, а также, после выполнения более детального анализа, по списку атрибутов и кортежей отношения. Последнее достигается за счет выполнения набора запросов с обращением к первичному ключу каждого отношения, входящего в состав запроса.

Выполнение полного анализа оценки полезности атрибутов и кортежей таблиц базы данных является весьма ресурсоемкой операцией, поэтому не может выполняться при каждом изменении данных. В рамках исследования предложено реализовать решение задачи классификации новых данных с использованием нейронной сети прямого распространения, обучаемой на базе оцененных предварительно данных на базе парсинга SQL-запросов. Учитывая необходимость выполнения анализа накопленных данных с точки зрения множественности измерений, а также, вероятно, большие их объемы, было выполнено представление данных, необходимых для анализа, в виде многомерной модели.

Аннотация статьи
нейронная сеть
интеллектуальный анализ данных
распределенная транзакция
система управления базами данных
распределенная база данных
распределенный SQL-запрос
репликация данных
парсинг текста
дерево парсинга
профайлинг
ANTLR
OLAP
задача классификации
Ключевые слова

Вступление. Создавая базу данных, пользователь стремится упорядочить информацию по различным признакам для быстрого получения нужных сведений с произвольным сопряжением критериев поиска. Необходимость автоматизации различных типов учета (складской, Бухгалтерский, учет кадров и т.п.) В рамках предприятия в некоторых случаях ведет к использованию «универсальных» учетных систем. Этот подход имеет ряд недостатков, среди которых перегруженность центральной базы данных (БД), низкая отказоустойчивость, уязвимость системы и недостаточно развитые механизмы учета большинства направлений автоматизации [1-2].

Анализ публикаций и последних достижений. Использование отдельных специализированных решений может решить приведенные недостатки, но ведет к появлению различных платформ систем управления базами данных (СКБД), требующих дальнейшей синхронизации. Поэтому, в развитии современных информационных систем прослеживается тенденция перехода от локальных БД к распределенным [3]. Основной задачей, распределенной СКБД является обеспечение управления доступом к данным многих потребителей, целостности и согласованности данных в условиях использования сети. То есть основная функция таких СКБД – это координирование совместной работы многих пользователей с распределенной информацией [5-7].

Решение проблемы автономности работы пользователей распределенной системы создает много специфических проблем в организации данных. Комбинированная стратегия распределения данных объединяет два подхода, связанных с распределением без дублирования и с дублированием данных, с целью использования их преимуществ [8]. Но при ее использовании, кроме задачи синхронизации дублированной информации, актуальной встает задача оптимального проектирования структуры БД с точки зрения принадлежности данных к категории того или иного узла распределенной БД. Кроме того, производительность системы напрямую будет зависеть от принятия решения о необходимости частичного или полного дублирования данных.

Обзор информационных систем при решении задач автоматизации различных типов учета в рамках одной организации и недостатков использования универсальных учетных систем [1-4] дал возможность обосновать необходимость оптимизации структуры удаленных узлов распределенной базы данных (РБД) путем определения полезных данных и минимизации объемов ее узла [8].

Целью работы является повышение уровня общей доступности данных в отдельном узле РБД и эффективности использования программных систем по работе с данными БД за счет уменьшения количества распределенных запросов. Цель достигается путем оптимизации структуры узла РБД и минимизации объемов данных, хранящихся в нем.

Во время выполнения исследования для достижения сформулированной цели были решены следующие задачи: выполнено исследование методов создания и использования формальных грамматик и разработана подсистема парсинга кода SQL-запросов к центральной БД; разработана модель и реализована подсистема учета пользовательской активности на основе профайлинга SQL-запросов по различным аналитическим характеристикам; выполнена детализация обращений пользовательских запросов к отношениям БД на уровне множеств атрибутов и кортежей; разработана информационная технология поддержки принятия решений при проектировании структуры узла распределенной БД и определении количества необходимых данных.

Изложение основного материала. При использовании комбинированного подхода представления данных в RBD выбор типа репликации зависит от нескольких факторов, в том числе от того, является ли тип запроса удаленным или распределенным. В случае удаленного запроса, когда взаимодействие с другими узлами необходимо только для обеспечения репликации данных, считается целесообразным использование асинхронной репликации [9-10]. Подобное решение обосновано возможностью исключить из транзакции все «лишние» узлы, оставив лишь один, на котором, фактически, находятся данные (рис. 1).

Рис. 1. Сравнение режимов репликации в случае удаленного запроса

При синхронизации данных в случае распределенного запроса взаимодействие с удаленными узлами не может быть вынесено за пределы транзакции. Это обусловлено тем фактом, что в распределенную транзакцию в любом случае входят фрагменты данных, хранящиеся на других узлах и не представленные на узле выполнения запроса. Учитывая этот факт, не представляется целесообразным вынесение процесса репликации за пределы транзакции [9, 11], поскольку уменьшение времени выполнения транзакции незначительно по сравнению с возможными противоречиями в данных, связанными с несинхронностью обновления (рис. 2).

Исходя из приведенного, при проектировании удаленного узла распределенной БД главной задачей на пути к повышению уровня общей доступности и эффективности использования программных систем по работе с данными БД является уменьшение количества распределенных запросов, в которых задействованы данные нескольких узлов БД, и замена их локальными [12-13].

Рис. 2. Сравнение режимов репликации в случае распределенного запроса

Для минимизации количества распределенных транзакций [14] в пределах удаленного узла РБД была создана подсистема учета пользовательских запросов с классификацией в соответствии с принадлежностью к тому или иному автоматизированному рабочему месту, географическому местоположению, роли пользователя и другим критериям, что возможно добавить к системе динамически при ее использовании согласно особенностям той или иной предметной области. Даталогическая архитектура разработанной модели приведена на рис. 3.

Рис. 3. Даталогическая модель подсистемы профайлинга пользовательских SQL-запросов

Центральное место занимают журнал и справочник пользовательских запросов (таблицы QueriesLog и QueryList). Если запрос является вложенным или имеет несколько уровней, его древовидная структура описывается с помощью таблицы InnerQueriesList. Запросы классифицируются по типу программного обеспечения, рабочей станции, пользователя и местоположения (привязка к будущим узлам RBD), из которого они поступают (таблицы Workstation, Places, ApplicatioList, WorksAppList и WorkPlaceType). Исходя из приведенной структуры, также видим, что введение в систему дополнительных аналитических характеристик, которые могут понадобиться в зависимости от той или иной предметной области, не потребует больших изменений в БД. После выполнения парсинга кода SQL-запросов (парсинг – процесс преобразования исходного кода в структурированный вид), они также разбиваются по списку таблиц БД, которые встречаются в запросе, а также, после выполнения более глубинного анализа, по списку атрибутов и кортежей отношения (таблицы QueryRelations, RelationList и FieldList).

Наполнение разработанной модели входными данными реализовано с помощью механизмов профайлинга СКБД. В рамках исследования был выбран программный продукт SQL Profiler, входящий в стандартный установочный пакет SQL Server. Этот выбор обусловлен достаточным перечнем аналитических свойств, придающим функционал программному обеспечению (ПО), и совместимостью с версией СКБД, используемой на предприятии – базе автоматизации. При изменении входных условий выбор может быть изменен в пользу другого ПО.

Подсистема имеет пользовательский интерфейс, состоящий из форм ввода и редактирования данных для основных сущностей. Предусмотрены механизмы импорта данных из текстовых И.csv файлов для возможности взаимодействия со сторонними программными продуктами (например, при решении задач получения списков пользователей, программного обеспечения или рабочих станций). Некоторые объекты также могут быть заполнены данными на основе результатов статистической выборки пользовательских SQL-запросов.

Для выполнения дальнейшего аналитического анализа накопленных статистических данных необходимо выделение конкретных отношений (а также ссылок на их атрибуты и кортежи) из текста пользовательских запросов. Для решения этой задачи использованы средства разбора и лингвистического анализа текста. SQL, как и каждый язык программирования, имеет правила, определяющие синтаксическую структуру корректных программ. Синтаксис конструкций языка программирования может быть описан с помощью контекстно-свободных грамматик или нотации БНФ (Backus-Naur Form, форм Бэкуса-Наура).

Рис. 4. Дерево парсинга запроса T-SQL

Использованный в рамках исследования генератор парсеров ANTLR является LL ( * ), он существует уже более 20 лет, а в 2013 г. вышла его 4-я версия. Сейчас его разработка ведется на GitHub. В настоящее время он позволяет создавать Парсеры на языках Java, C#, Python2, Python3, JavaScript. Начальным этапом реализации подсистемы парсинга T-SQL запросов является создание грамматики. Далее, сгенерированные классы лексера и парсера дают возможность представить код запроса в виде древовидной модели, на базе которой происходит определение списка отношений и атрибутов, которые были использованы в запросе. На рисунке 4 показано дерево иерархии элементов для запроса «select (select number from groups where id=students.id), name, age from students», что обращается к нескольким атрибутам и имеет в своем составе один вложенный запрос.

Далее каждый запрос представляется в виде объекта, имеющего следующие атрибуты: рабочая станция, пользователь и ПО, от которых поступил запрос; сам текст запроса; коллекция таблиц, к которым обращается запрос; и коллекция вложенных запросов, если таковые имеют место. Сущность «таблица» (TsqlRelation) в этом случае является подмножеством таблицы БД и содержит имя таблицы, набор атрибутов, задействованных в запросе, и набор значений первичного ключа таблицы в соответствии с набором кортежей, возвращаемых в результате работы запроса [15, 16]. Фрагмент диаграммы классов информационной технологии парсера SQL-запросов изображен на рис. 5.

Рис. 5. Классы, отвечающие за представление запросов в модели

Итак, на этом этапе у нас есть множество отношений с атрибутами, используемыми в запросе. Этого достаточно для определения списка таблиц, представленных в узле РБД, и для ограничения общего количества данных из-за выполнения операции проекции к ним. Однако этого может быть мало, поскольку обычно в БД учетных систем существуют таблицы с большим количеством кортежей, занимающие много места на диске и создающие дополнительную нагрузку при выполнении запросов к ним. При этом, в том или ином узле РБД реально используется достаточно небольшой процент от общего объема входящих в них данных.

Следующий шаг-определение множества кортежей, используемых в том или ином запросе. Для этого дополняем класс TsqlRelation коллекцией типа TsqlField, определяющей первичный ключ отношения. В случае, если первичный ключ в отношении отсутствует или он состоит из большого количества атрибутов нечислового типа данных, и, как следствие, имеет большой объем, на уровне БД может быть создано уникальное автоинкрементное поле not null, которое будет использоваться в дальнейшем для идентификации кортежа.

Далее, если запрос имеет в своем составе вложенные запросы, каждый из них обрабатывается отдельно. Для каждой таблицы из коллекции отношений запроса выполняется дополнительный запрос к БД, список атрибутов в котором заменяется на первичный ключ отношения. Результат запроса запоминается как набор атрибутов таблицы, используемых текущим запросом. Так, например, в случае поступления запроса, выбирающего фамилии студентов с номерами студенческих групп из двух таблиц с использованием вложенного запроса для фильтрации по специальности (рис. 6), он будет разбит на следующий набор запросов (рис. 7).

Рис. 6. Пример входящего запроса

Рис. 7. Список запросов для получения множеств атрибутов отношений, используемых входным запросом

После обнаружения множеств атрибутов появляется возможность определения полезного для узла РБД подмножества данных с использованием фильтрации таблиц по значению первичного ключа, что дает возможность разместить подавляющее большинство необходимых узлу данных локально и, соответственно, снизить количество распределенных запросов. При этом объем данных локального узла также является минимальным, что, в свою очередь, минимизирует потребность в синхронизации различных версий одних и тех же данных.

Однако в процессе эксплуатации описанной технологии возникает проблема, связанная с модификацией данных БД: когда к таблицам добавляются новые данные, существующие модифицируются или удаляются. В этом случае самым простым вариантом решения проблемы является репликация удаленного узла БД всех новых или измененных данных (поскольку мы не знаем степени их полезности для узла). Когда же объем этих данных достигает некой критической точки, исходя, например, из соображений нагрузки при выборке данных или их синхронизации, необходимо заново провести анализ SQL-запросов и выполнить обновление базы использования атрибутов и кортежей таблиц БД удаленным узлом.

Следует заметить, что выполнение полного анализа используемости атрибутов и кортежей таблиц БД является достаточно ресурсоемкой операцией и не может выполняться часто, поэтому вышеприведенный подход является неприемлемым для больших и часто изменяемых БД. Поэтому было предложено представить проблему с решением полезности новых или измененных данных в виде задачи классификации интеллектуального анализа данных. На входе у нас есть имя таблицы и список значений ее атрибутов (новая или измененная строка), а на выходе – решение о ее полезности для удаленного узла БД. Для решения этой задачи предложено использовать нейронную сеть прямого распространения [17] с одним скрытым слоем. Обучение сети происходит на базе данных, полученных в результате анализа результатов парсинга SQL-запросов. Затем, после обучения, сеть выполняет классификацию новых и измененных данных.

Учитывая необходимость выполнения анализа накопленных данных с точки зрения множественности измерений, а также, вероятно, большие их объемы, было выполнено представление данных, необходимых для анализа, в виде многомерной модели [18]. Для этого на уровне РБД информационной системы учета пользовательских запросов вводится ряд представлений, реализующий таблицу фактов и таблицы измерений в виде схемы «звезда». Структура полученного многомерного Куба изображена на рис. 8.

Рис. 8. Структура многомерного Куба подсистемы оперативно-аналитического анализа запросов

Выводы. В ходе исследования впервые предложено использование многоуровневых справочников аналитических характеристик пользовательских SQL-запросов с оценкой степени актуальности данных; разработана подсистема парсинга SQL-запросов, что дает возможность представить пользовательский запрос в виде множеств отношений с детализацией к использованным атрибутам и кортежам. Также впервые при анализе пользовательских SQL-запросов использована многомерная модель данных и на ее базе реализована система поддержки принятия решений при проектировании структуры удаленного автоматизированного рабочего места, что позволяет проводить оперативно-аналитический анализ SQL-запросов по измерениям, быстро и эффективно выполнять операции консолидации, детализации, вращения и среза. При модификации данных Центральной БД предлагается использовать нейронную сеть для решения задачи классификации новых или измененных данных в соответствии со степенью их полезности для удаленного узла РБД.

Результаты исследования были произведены при разработке структуры БД автоматизированного рабочего места кассира супермаркета и при реализации дальнейшей синхронизации с центральной БД. Результат выполненного сравнительного анализа при использовании централизованной и РБД приведен в таблице.

Таблица

Сравнительный анализ использования централизованного и распределенного подходов к реализации структуры БД

 

Централизованная БД

БД независимого АРМ

Разница

Объем БД, мб

29025,63

174,88

165 раз

Количество таблиц

460

34

14 раз

Время резервного копирования БД,

7:58

0:13

37 раз

Среднее количество подключений к БД

59,75

1,02

58 раз

Среднее количество запросов в Мин

817

44

19 раз

Среднее время обработки, мс

5665

99

57 раз

Время синхронизации, сек

0

18

Необходимость синхронизации данных

Независимость от центрального сервера БД

Нет

Да

Независимость от центральной БД

Независимость от коммуникационного оборудования

Нет

Да

Независимость от центральной БД

Следовательно, результатом является повышение скорости работы информационной системы удаленного автоматизированного рабочего места и разгрузка центральной БД за счет оптимизации структуры РБД и минимизации распределенных транзакций и использования синхронного режима репликации данных.

Рецензент – Благодельський А. С.

Текст статьи
  1. Родионов А. Н., Эйрих Н. В., Дубей О. Я. Исследование производительности приложений баз данных: транзакционная модель и архитектура имитационной системы / Н.В. Эйрих // Вестник Новосибирского государственного университета. Серия: Информационные технологии. – 2018. – Т. 16. – №. 1. – С. 100-112.
  2. Торговля, склад и CRM в облаке [Электронный ресурс]. – Режим доступа: https://www.moysklad.ru (дата обращения: 10.09.2023).
  3. Дударев В. А., Темкин И. О., Корнюшко В. Ф. Анализ методов интеграции для разработки информационно-аналитических систем по свойствам неорганических соединений / И.О. Темкин // Программные продукты и системы. – 2020. – Т. 33. – № 2. – С. 283-296.
  4. Тхуреин К. Л., Богданов А. В. Система управления распределенными базами данных на основе инструментария GRID / К.Л. Тхуреин // Современные наукоемкие технологии. – 2019. – № 8. – С. 84-88.
  5. Кузнецов М. В. MySQL 5: [наиболее полное руководство] / М.В. Кузнецов, И.А. Симдянов. – Спб: БХВ-Петербург, 2010. – 1002 с.
  6. Петкович Д. Microsoft SQL Server 2008: руководство для начинающих / Д. Петкович; [пер. с англ. А. Бондаря]. – Спб: БХВ-Петербург, 2012. – 730 с.
  7. Коннолли Т. Базы данных: проектирование, реализация и сопровождение. Теория и практика / Т. Коннолли [перевод с английского Р.Г. Имамутдиновой, К.А. Птицына]. – 3-е изд. – М.: Вильямс, 2018. – 1439 с.
  8. Valduriez P., Jiménez-Peris R., Özsu M. T. Distributed database systems: The case for NewSQL / Р. Valduriez // Transactions on Large-Scale Data-and Knowledge-Centered Systems XLVIII: Special Issue In Memory of Univ. Prof. Dr. Roland Wagner. – Berlin, Heidelberg: Springer Berlin Heidelberg, 2021. – С. 1-15.
  9. Автоматическая синхронизация распределенных баз данных в разделенном режиме [Электронный ресурс]. – Режим доступа: http://stimul.kiev.ua / materialy.htm?a=avtomaticheskaya_sinkhro nizatsiya_raspredelennykh_baz_dannykh_v_ razdelennom_rezh (дата обращения: 10.09.2023).
  10. Ульман Д. Д., Уидом Д., Гарсиа-Молина Г. Системы баз данных: Полный курс / Г. Гарсиа-Молина, Д.Д. Ульман, Д. Уидом ; [Пер. с англ. и ред. А.С. Варакина]. – М.: Вильямс, 2003. – 1083 с.
  11. Управление транзакциями (компонент Database Engine) [Электронный ресурс]. – Режим доступа: https://technet.microsoft.com/ruru/library/ms175523 (v=sql.105).aspx (дата обращения: 10.09.2023).
  12. Райордан Р. М. Основы реляционных баз данных: Базовый курс. Теория и практика / Р. Райордан; [Пер. с англ. под общ. ред. Н.Б. Желновой]. – М.: Рус. Ред. – 352 с.
  13.  Черноморов Г. А. Базы данных в среде промышленных СУБД: учебное пособие для студентов высших учебных заведений, обучающихся по специальности «Прикладная информатика (по областям)» / Г.А. Черноморов. – Новочеркасск: Южно-Российский гос. технический ун-т (Новочерскасский политехнический ин-т), 2006. – 531 с.
  14. Использование синхронных и асинхронных операций базы данных [Электронный ресурс]. – Режим доступа: http://help.adobe.com/ru_RU/as3/dev/WS5b ccc516d4fbf351e63e3d118666ade46 - 7d39.html (дата обращения: 10.09.2023).
  15. Питер Р. Системы баз данных: проектирование, реализация и управление: основы баз данных: язык структурир. запросов (SQL): системы упр. распредел. БД: объект.-ориентир. и клиент-сервер. системы: разраб. БД для Web: администрирование баз данных: [пер. с англ.] / Р. Питер, К. Коронел. – 5-е изд. – СПб.: БХВ-Петербург, 2004. – 1024 с.
  16. Фисун М. Т., Дворецкий М. Л., Швед А. А. и Давыденко Ю. В. Синтаксический анализ запросов с целью оптимизации структуры распределенной базы данных / М.Л. Дворецкий // Интеллектуальный сбор данных и передовые вычислительные системы: технологии и приложения (IDAACS). – 2017. – С. 172-178.
  17. What is an artificial neural network? Here’s everything you need to know [Электронный ресурс]. – Режим доступа: Available: https://www.digitaltrends.com/ cool-tech/what-is-an-artificial-neuralnetwork/ (дата обращения: 10.09.2023).
  18. Фисун М. Т., Дворецкий М. Л., Юхатов А. В. Сравнительный анализ методов построения olap-систем с использованием средств MS SQL SERVER и ORACLE / М.Л. Дворецкий // Научные труды Черномор. нац. ун-та им. Петра комплекса «Киево-Могилянская академия». – 2016 – С. 36-42.
Список литературы