Высокопроизводительные парал. вычисления на кластерных системах. Воеводин (2005) (1186026), страница 31
Текст из файла (страница 31)
1 изображена общая схема организации процесса удаленной загрузки отдельного узла.Рис. 1. Схема процесса удаленной загрузки вычислительного узлаВ месте с ядром ОС на вычислительные узлы загружается образначального RAM-диска, с которого осуществляется запуск сценарияинициализации, обеспечивающего создание в памяти вычислительногоузла RAM-диска, загрузку с центральной машины сжатого образа кор151невой ФС и размещение полученной ФС на созданном диске.Инициализация системы продолжается с RAM-диска.
В дальнейшем осуществляется синхронизация системных часов и монтированиекаталогов с центральной машины для обеспечения доступа к прикладному ПО.Для уменьшения размера начального RAM-диска в его состав вошел минимально необходимый набор ПО. Стандартные системныеутилиты заменены оптимизированными по размеру аналогами из пакета BusyBox.В случае присутствия в сети двух функционирующих DHCPсерверов клиенты могут получить информацию с IP-параметрами отлюбого из них.
Решением данной проблемы стала модификация DHCPклиента, используемого узлами в процессе загрузки, что обеспечиловозможность игнорировать ответы посторонних DHCP-серверов. Отбрасывание ответов посторонних DHCP-серверов реализовано на базезапроса дополнительных опций протокола DHCP.3.
Опыт внедренияОписанный подход использован при построении двух экспериментальных кластерных ВС Duron-10 и P4-10. Системы построены на базесуществующих компьютерных лабораторий. Вычислительные узлыобъединены сетью Fast Ethernet (см. табл.).ТаблицаПараметры кластерных вычислительных систем№12КластерКонфигурация узлаКол- Производивотель-ность,узлов GflopsAMD DuronDuron800 MHz,1010RAM 128 MbIntel Pentium 4P4-10 2.0 GHz, RAM 10256Латентность,мкс3.374e+001027.124e+0081Оценка производительности развернутых ВС осуществлялась припомощи пакета HPL (High-Performance Linpack) [2] – свободно-распространяемой реализации теста Linpack, являющейся официальнымпакетом оценки производительности систем списка TOP500.Оценка производительности межпроцессорных обменов MPI осуществлялась при помощи набора тестов MPI Benchmark Suite, разрабо152танных в НИВЦ МГУ [3].
Пакет включает ряд тестов позволяющихоценить латентность и пропускную способность среды передачи данных, а также измерить производительность совместного доступа узловк NFS-серверу.На рис. 2 и 3 соответственно приведены графики роста производительности с увеличением количества узлов в ВС Duron-10 и P4-10.Масштабируемость ВСПроизводительность, MFLOPS40003500337430003036250020001500168410001020500024810Количество процессоровРис. 2.
График роста производительности ВС Duron-10 с увеличениемколичества узловМасштабируемость ВСПроизводительность, MFLOPS800070007124600056195000400030003451200019441000024810Количество процессоровРис. 3. График роста производительности ВС P4-10 с увеличениемколичества узлов1533. ЗаключениеОписанный подход находит применение при построении кластерных ВС с удаленной загрузкой узлов на базе существующих компьютерных лабораторий, а также в случае построения ВС на базе бездисковых рабочих станций.Отличительной особенностью данного подхода является использование смешанного подхода – размещение корневой файловой системына RAM-диске и монтирование каталогов с прикладным ПО с центральной машины кластера.Данное решение позволяет сохранить масштабируемость подходас использованием RAM-диска и обеспечить приемлемый уровень использования оперативной памяти на узлах ВС.Модификация DHCP-клиента обеспечила возможность приема IPпараметров от DHCP-сервера центрального узла и игнорирование ответов других серверов на основе запроса дополнительных опций протокола DHCP.Опыт внедрения показывает, что системы с подобной организацией могут быть успешно использованы для оперативного построениявременных и учебных кластерных ВС.Литература1.
Benoıt des Ligneris, Michel Barrette, Francis Giraldeau, Michel Dagenais. Thin-OSCAR: Design and future implementation. [Электронный ресурс]:Centre de Calcul Scientifique, Universit´e de Sherbrooke, Quebec, Canada. –Режим доступа: http://thin-oscar.ccs.usherbrooke.ca/, свободный.2. HPL – A Portable Implementation of the High-Performance LinpackBenchmark for Distributed-Memory Computers. [Электронный ресурс]: Innovative Computing Laboratory, 2004. – Режим доступа: http://www.netlib.org/benchmark/hpl/, свободный.3. Система тестов производительности для параллельных компьютеров. [Электронный ресурс]: Информационно-аналитический центр по параллельным вычислениям. – М.: Лаборатория параллельных информационных технологий НИВЦ МГУ.
– Режим доступа: http://parallel.ru/testmpi/,свободный.154ИЗМЕРЕНИЕ И ПРОГНОЗИРОВАНИЕ ИЗМЕНЕНИЯПАРАМЕТРОВ ЗАГРУЖЕННОСТИ КЛАСТЕРНЫХ СИСТЕМВ.П. Кутепов, Д.В. Котляров, В.Я. МаркинМосковский энергетический институтВведениеПроблема измерения параметров загруженности вычислительныхсистем, в особенности кластеров, чрезвычайно важна [1,2]. Ее состояние подробно обсуждалось в работе [3].Как показывает анализ, существующие методы и программныесредства измерения загруженности компьютеров в различных ОС реализованы по разному, их точность часто требует специальных исследований (достаточно указать на работу [4], в которой весьма критическиобсуждаются используемые в ОС методы измерения путем усредненияопределенным образом загруженности процессора компьютера).В действительности, наиболее важными измеряемыми параметрами, по которым можно судить о загруженности компьютеров кластераи самого кластера, являются следующие:– относительная величина простоя или загруженности процессора,– количество активных процессов,– интенсивность обмена между оперативной памятью и жесткимдиском,– интенсивность межкомпьютерного обмена,– объем свободной памяти.Изменение каждого из этих параметров может происходить непредсказуемым образом и, как правило, определение его значенияосуществляется путем усреднения значений на некотором интервалевремени, выбор которого определяет точность измерения и существенно зависит от характера (в общем случае частотных характеристик)поведения параметра во времени.Измерение параметров загруженностиБудем предполагать, что загруженность компьютера определяет онсам, а регулирование загруженности кластера осуществляет сервер(рис.
1):155Зi (t )λi(1) (t )λi(2) (t )Vi ( св.) (t )ni (t )Рис. 1. Схема управления загруженностью кластераВ качестве основных параметров, по которым можно судить о загруженности компьютера кластера, рассматриваются следующие усредненные их значения, определяемые по измерениям (средствами ОС)на определенном интервале времени:Зi(t) – загруженность процессора (которая, вообще говоря, складывается из двух величин: а) загруженности полезной работой и б) загруженности, связанной с выполнением системных функций)ni(t) – количество выполняемых процессов,λ(i1) (t ) – интенсивность обмена ОП/дисковая память,λ(i2) (t ) – интенсивность межкомпьютерного обмена,Vi (св) (t ) – объем свободной памяти.Введем понятие средней загруженности компьютеров кластера вмомент времени t:1 NЗ (t ) = ∑ Зi (t ), где N – количество компьютеров, Зi(t)– средняяN i =1загруженность i-го компьютера, а также определим величинуЗi (t ) − З (t ),max{Зi (t ) | i = 1, 2, ..., N }характеризующую относительную загруженность i-го компьютера.Периодически через интервал ∆t каждый компьютер посылает серверу значения указанных параметров, по которым сервер вычисляет∆Зi (t ) =156относительную загруженность компьютера кластера, а также относительные значения параметров ni(t), λi(1), λi(2), Vi(св)(t).Заметим, что величина ∆Зi(t) – относительная загруженность процессора компьютера позволяет в определенной степени оценивать загруженность безотносительно к «характеру» выполняемой программы(для одной и той же программы для малого числа компьютеров в кластере загрузка будет большой, для большого – малой, однако относительная загрузка может оставаться близкой).
Кроме того, по ∆Зi(t)можно легко упорядочить по степени загруженности все компьютерыкластера.Вычисляя дисперсиюσ(t ) =1( Зi (t ) − З (t )) 2 ,Nможно судить о «разбросе» в загруженности компьютеров (также можно поступить с другими параметрами загруженности). При этом очевидно, что при малой средней загруженности З(t) компьютеров кластера надо либо уменьшать количество компьютеров в кластере, либоувеличивать количество выполняемых программ.Прогнозирование параметров загруженностиИзмерение параметров производится через равные промежуткивремени и их значения представляют собой «стационарный» временной ряд, который идентифицируется, как и всякий случайный процесс,следующими основными характеристиками:– математическим ожиданием,– дисперсией,– автокорреляционной функцией,– спектральной функцией.Автокорреляционной функцией случайного стационарного процесса f (t) называется функция:∞∫ f (t ) f (t + h) dt ,r ( h) = −∞σ2где σ – дисперсия.В случае временного ряда это выражение (функция имеет смыслтолько для натуральных h) принимает вид:157n−hr (h) =1σ2∑ ξ(t )ξ(t + h)t =1n−h.В случае прогнозирования корреляционная функция даст информацию о том, насколько шагов можно эффективно прогнозировать значение параметра.Представление временного ряда как суммы случайных гармоникприводит к понятию спектра временного ряда, связанного с корреляционной функцией (косинус-преобразование Фурье):S (ω) =∞2σ 2r (t ) cos ωt dt.π ∫0В случае временного ряда спектральная функция S(ω) примет вид:∞S (ω) = 1 + 2σ 2 ∑ r (h) cos ωh.h =1Важной характеристикой спектральной функции является эффективнаявеличина спектра:∆ω =∞12σ 2S (ω) dω =.∫max(ω) −∞max(ω)ωωМерой эффективной дальности прогнозирования значения случайного процесса является средний интервал корреляционной функции:∞∆τ = 2 ∫ | r (τ) | dτ.0Рассмотрим линейный оператор Θ(B), где В – оператор смещенияномера элемента ряда на 1 Bat = at−1.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
