Южно-Уральский государственный университет В Лаборатории суперкомпьютерного моделирования Южно-Уральского государственного национального исследовательского университета разработана и активно развивается система мониторинга и обработки данных с суперкомпьютеров. Система позволяет администраторам и руководителям лаборатории получать различные отчеты о состоянии суперкомпьютеров и предоставляет инструменты для быстрого разрешения возникающих проблемных ситуаций. Работа посвящена проблемам сбора и отображения статистических данных, получаемых администраторами с суперкомпьютеров ЮУрГУ.
бодных узлах в очереди, о задачах данного пользователя, как о завершенных, так и о выполняющихся.
Рис. 1. Веб-интерфейс системы мониторинга загрузки суперкомпьютеров Очередь задач SLURM настроена на хранение данных о задачах в базе данных MySQL. С помощью Django Framework информация о загрузке суперкомпьютера извлекается из базы, обрабатывается, после чего генерируется веб-страница с подготовленными для визуализации данными. Поскольку Django Framework построен по технологии MVT (Model-View-Template), он позволяет быстро разрабатывать гибкие и надежные веб-приложения, сосредотачиваясь непосредственно на реализации внутренней логики.
На рис. 1 показана главная страница веб-интерфейса системы мониторинга загрузки
суперкомпьютеров ЮУрГУ. На данной странице собрана основная информация, интересующая
руководителя и системных администраторов Лаборатории суперкомпьютерного моделирования
ЮУрГУ, как например:
1) статистика по узлам в процентном соотношении (работающие, свободные,
зарезервированные для определенных пользователей, выключенные);
2) статистика по количеству задач и узлов, запрошенных в рамках этих задач:
a. количество уже выполняющихся задач;
b. количество задач, находящихся в очереди на расчет;
c. количество заблокированных задач (например, превышено максимальное
суммарное количество запрашиваемых узлов по всем задачам в очереди; или
запрошена лицензия, которая в данный момент уже используется в другом
расчете);
d. узлы, которые освобождаются и в скором времени вернутся обратно в очередь;
3) пользователи, которые находятся «онлайн» в данный момент времени (то есть
запустившие терминал удаленного доступа и работающие в нем);
4) динамика загруженности суперкомпьютера за определенный период;
5) вывод консольной команды «sudo squeue», показывающей подробную информацию о
всех задачах, работающий в данный момент с очередью задач.
Рис. 2. Пример графика загрузки суперкомпьютера по неделям для квартального отчета
Рис. 3. Пример отчета о текущем состояние узлов суперкомпьютера
Кроме вышеописанных возможностей, система позволяет формировать отчеты с
ограниченным доступом. На рис. 2 можно увидеть динамику изменения загруженности
суперкомпьютера за определенный период, на рис. 3 представлен отчет о текущем состоянии узлов
суперкомпьютера, а на рис. 4 – пример вывода информации о текущих и завершившихся расчетах
выбранного пользователя суперкомпьютера за указанный период.
Рис. 4. Пример вывода информации о текущих и завершившихся расчетах выбранного пользователя
суперкомпьютера за указанный период
Часто перед администратором стоит задача организовать формирование новых видов
отчетов о загрузке суперкомпьютеров. Обычно это вызвано появлением новых требований к отчету
подразделения в рамках программы развития Национального исследовательского университета,
либо появлением новых сервисов на базе суперкомпьютеров. Создание системы многократно
упростило данную задачу, позволив свести задачу к написанию нового модуля в рамках
системы мониторинга. Например, в 2015 году был добавлен учет ресурсов, занятых под систему
Персональный Виртуальный Компьютер [