Введение
Важным аспектом для современных центров обработки данных (ЦОД) является надежная система и бесперебойное электропитание. Отказ холодильных установок в серверном помещении может привести к перегреву оборудования и простоям, наносящим серьезный ущерб, поэтому для дата-центров высокой категории надежности (например, Tier II-III) [1] предусматривается резервирование мощности охлаждения по схеме N+1. Это означает дублирование холодильных установок и всех ее составляющих как минимум одним аналогичным резервным блоком, что позволяет проводить плановое обслуживание без остановки работы ЦОД.
Требования стандартов
Международный стандарт [2, 3] напрямую требует резервирования и отказоустойчивости инженерных систем ЦОД. Также существует стандарт, где прописаны степени отказоустойчивости и резервирования по уровням Tier I–IV [1]. Рассмотрим данные по классификации уровней надежности ЦОД, приведенные в таблице.
Таблица
Классификация уровней надежности центра обработки данных
| Tier I | Tier II | Tier III | Tier IV |
Резервирование оборудования | нет | N+1 | N+1/2N | 2(N+1) |
Возможность обслуживания без остановки | нет | нет | да | да |
Таким образом в зависимости от уровня проектируемого ЦОД (малый, средний, крупный и т. п.) выбирается оптимальная схема резервирования. В статье рассматривается уровень надежности Tier II.
Схемы резервирования охлаждения
На сегодняшний день при проектировании дата-центров применяется несколько основных схем резервирования при проектировании системы холодоснабжения в ЦОД: N, N+1, 2N, 2 (N+1) и т. п. N обозначает количество рабочих единиц оборудования, необходимое для обеспечения 100% расчетной холодопроизводительности. Дополнительное число сверх N обозначают резерв на случай отказа или вывода из работы основного оборудования. Основное правило – чем выше степень резервирования, тем лучше и выше отказоустойчивость, но минусом является рост стоимости системы и потенциальное снижение энергоэффективности.
Анализ распределения температур
Наилучшим методом анализа таких ситуаций служит моделирование, где можно наглядно увидеть возможные горячие точки, перегревы и убедиться, что при аварии (выход из строя одного кондиционера) не повлияет на бесперебойную работу ЦОД и нормируемая температура не выйдет за пределы допустимых значений.
Для анализа распределение температур моделируется две ситуации:
- Работа кондиционеров без резервирования (N);
- Работа кондиционеров по схеме резервирования (N+1).
Для обеспечения равномерного охлаждения ИТ-оборудования в серверном помещении применим схему «изолированного холодного коридора». В модели рассматривается 3 кластера изолированных коридоров. Каждый кластер имеет конфигурацию двух рядов стоек, обращенные лицевыми сторонами друг к другу. Между рядами расположен холодных коридор, который закрыт сверху панелями для предотвращения смешивания холодного воздуха в проходе с горячим воздухом, выходящим с задней стороны шкафов. Тепловая нагрузка на каждую стойку составляет 11 кВт, соответственно тепловыделения для проектируемых 66 стоек будет составлять 726 кВт. Эти тепловыделения должны отводиться системой кондиционирования и обеспечить нормируемые параметры микроклимата.
Система кондиционирования запроектирована таким образом, что на 1 работающий кластер холодного коридора предусмотрено 4 кондиционера (два сверху и два снизу). Подача холодного воздуха в коридор происходит через фальшпол. Мощность холодильных установок рассчитана на работу по схеме резервирования N+1.
Ситуация № 1
Рассмотрим первый вариант, когда система холодоснабжения запроектирована без резервирования (N). В данной схеме резерв холодильной установки отсутствует, и система охлаждения установлена ровно в количестве, которое необходимо для охлаждения проектируемого помещения. В работе все 4 прецизионных кондиционера на один кластер. На рисунке 1 показаны температурные поля на отметке +1.000 рабочей зоны (середина стойки).

Рис. 1. Температурные поля на отм. +1.000 (рабочая зона) без резервирования
Также приведем вертикальное сечение 1-1 на рисунке 2.

Рис. 2. Поле температур, вертикальное сечение 1-1 без резервирования
Температура воздуха на входе каждой стойки (у передней дверцы серверного шкафа) в холодном коридоре равняется 22ºС. На выходе из стоек температура наружного воздуха в диапазоне от 28–30ºС, что соответствует допустимому диапазону для А2 класса [3]. Также видно, что по вертикальному и горизонтальному сечению распределение температуры в помещении ЦОД равномерное.
Плюсами такой конфигурации является равномерность распределение воздушных потоков и меньше риск локальных перегревов, однако нет никакого резерва, что не соответствует стандартам по классификации надежности [1], а значит невозможность бесперебойной работы ЦОД и данная конфигурация не является достаточно надежной. В случае аварийной ситуации снижается холодопроизводительность, есть вероятность перегрева оборудования и выхода из строя дата-центра.
Ситуация № 2
Смоделируем ситуацию с резервированием по схеме N+1. В этой конфигурации предусматривается установка одного резервного блока кондиционирования, который автоматически включается при отказе одного из рабочих блоков. Расчетная тепловая нагрузка на один кластер соответствует 3-м кондиционерам, соответственно устанавливаются 4 шт. На рисунке 3 показаны температурные поля на отметке +1.000 рабочей зоны (середина стойки) с резервированием, а также на рисунке 4 показано вертикальное сечение 2-2.

Рис. 3. Поле температур, горизонтальное сечение на отметке +1.000 рабочая зона по схеме резервирования (N+1)

Рис. 4. Поле температур, вертикальное сечение 2-2
Таким образом на рисунке 3 видно, что распределение температур получилось менее равномерное, чем в первой ситуации, а также температура в некоторых точках выше (33–35ºС), но незначительно и попадает в допустимый диапазон [3].
Выводом является, что при схеме резервирования N+1 все 66 стоек получают достаточное охлаждение – критического перегрева не наблюдается, резервные кондиционеры при этом не задействованы и экономят энергию.
Вывод
Итак, расчёты моделирования наглядно демонстрируют незначительные различия температурных полей при проектировании системы кондиционирования без резервирования и со схемой резервирования N+1. Однако положительной характеристикой резервирования системы охлаждения является соответствие требованиям уровню Tier II по бесперебойности охлаждения при отказе одной холодильной установки, соответственно не осуществляется перегрев оборудования.
Таким образом лучше использовать всегда схемы резервирования при проектировании ЦОД, поскольку сохраняется допустимый диапазон температур в помещении, соответствие требованиям надежности ЦОД, снижает аварийные и эксплуатационные риски.
.png&w=384&q=75)
.png&w=640&q=75)