Смагин М.С. Вычислительные машины, системы и сети (1088253), страница 27
Текст из файла (страница 27)
Однако, как можно понять из схемы, задержки прохождения информации в каскадных коммутаторах будет гораздо выше, чем в матричных.Каскадные коммутационные блоки используются в некоторых суперкомпьютерах фирмы IBM, например в IBM ASCI-White, производительность которого составляет свыше 100 триллионов операций в секунду.Работают многопроцессорные системы, как правило, под управлениемединой операционной системы, которая осуществляет распределение вычислительной работы между процессорами.
В этом случае программист гораздосвободнее в своей работе и ему нет необходимости учитывать особенностифизической структуры вычислительной системы, программу для которой онпишет.Законы Амдала и ГустафсонаОднако надо заметить, что простое увеличение числа процессоров недаёт прямо пропорционального прироста производительности. То есть, придобавлении к однопроцессорной системе второго процессора её производительность не вырастет в два раза. Дело в том, что не существует идеальнораспараллеливаемых программ, – во всякой программе всегда имеется доляпоследовательных вычислений. Кроме того, чем больше в системе процессоров, тем больше ресурсов тратится на обеспечение взаимодействия междуними.Зависимость роста производительности многопроцессорной вычислительной системы от числа процессоров в ней и доли последовательных вычислений описывается так называемым законом Амдала.185sp ≤11−αα+PГде: P – число процессоров, ά – доля последовательных вычислений.Если свести в таблицу некоторые результаты вычислений для типовыхзначений P и ά, то она примет следующий вид:α\p101001000010100100010% 5,2639,174 9,91025% 3,0773,383 3,98840% 2,1742,463 2,496Как видно из таблицы, если доля последовательных вычислений составляет всего 10 % от общего объема, то эффективность системы из 10 процессоров будет всего в 5,263 раза выше, чем однопроцессорной.
А при 40% −и тысяча процессоров будут всего в два с половиной раза эффективнее, чемодин.Закон Амдала был сформулирован в 1967 году и с тех пор является существенным теоретическим ограничением на пути развития параллельныхвычислительных систем. Он показывает, что повышение количества параллельно работающих вычислительных устройств в одной системе довольнобыстро перестаёт быть эффективным.Попытка обойти это ограничение привела к формулировке нового закона, – закона Густафсона.
В своей статье, опубликованной в 1988 году, американский учёный Джон Густафсон заметил, что для пользователей параллельных вычислительных систем чаще всего важна не столько скорость выполнения задач, сколько предельная сложность задачи, которую вычислительная система может выполнить в течение фиксированного периода времени. Усложнение задач же, чаще всего, достигается не за счёт усложнения ал186горитма, а за счёт увеличения числа операндов.
Таким образом, получается,что при увеличении вычислительной сложности задач количество последовательных операций остаётся практически неизменным. Это значит, что доляпоследовательных операций уменьшается.Это наблюдение позволило Джону Густафсону сформулировать новыйзакон, описывающий рост производительности вычислительных систем приувеличении числа процессоров. Закон Густафсона имеет следующий вид:S P = P − α ⋅ ( P − 1)Построим для закона Густафсона таблицу результатов для типовыхзначений P и ά, аналогичную построенной выше для закона Амдала. Она будет иметь следующий вид:α\p101001000010100100010% 9,190,1900,125% 7,7575,25 750,2540% 6,460,4600,4Следует отметить, что законы Амдала и Густафсона не противоречатдруг другу.
Закон Густафсона, фактически, является частным случаем законаАмдала, верным в ситуациях, когда доля последовательных вычислений убывает с ростом числа процессоров.В плане практического использования данных законов следует сказать,что закон Амдала следует использовать для прогноза производительностивычислительной системы до её использования, например, когда решается вопрос о расширении возможностей существующей системы или закупке новой. Закон Густафсона уместнее использовать в тех случаях, когда нужнооценить эффективность использования уже имеющейся системы. Он позволяет вычислить максимальные достижимые показатели производительности,которые удобно сравнивать с текущими.187Лекция №13Многомашинные системыТеперь рассмотрим более подробно многомашинные системы.
Напомню, что под многомашинными системами понимают группу взаимосвязанных функционально замкнутых вычислительных машин, каждая из которыхимеет свою локальную память. Эти машины выполняют совместную работутаким образом, что со стороны многомашинная система воспринимается какединый вычислительный ресурс.По сравнению с многопроцессорными системами многомашинные системы обладают более высокой масштабируемостью, которая достигается засчёт сравнительно легко модернизируемой коммутационной среды, а такжеболее низкой стоимостью за счёт того, что они могут быть построены на базесерийных вычислительных устройств, доступных на коммерческом рынке.Современные многомашинные системы объединяют тысячи и десятки тысячвычислительных машин.
Многомашинные вычислительные системы называют ещё массово параллельными или MPP-системами (MPP – massively parallel processors).Одним из самых важных и сложных вопросов, возникающих при разработке многомашинной системы, является вопрос построения системы передачи данных. От данной системы требуется, чтобы данные между машинами передавались по кратчайшему пути, а сама система использовала минимум оборудования. При этом зачастую бывает необходимо, чтобы системапродолжала сохранять работоспособность в случае нарушения некоторыхсвязей.Система передачи данных представляет собой совокупность каналовпередачи данных между вычислительными машинами.
Основной её характеристикой является топологическая схема построения – принцип, по которомумашины связаны между собой. Топологические схемы можно представить188графически, обозначив вычислительные машины узлами, а каналы передачиданных – связями между ними.На приведённом ниже рисунке представлены основные виды топологических схем многомашинных вычислительных систем.Рис.85 Топологические схемы построениямногомашинных систем189Самой быстрой и надёжной является полносвязаная схема, в которойкаждый узел соединён со всеми остальными узлами. Однако эта схема является наиболее дорогой и сложной.
Удешевление упрощение системы можетбыть достигнуто за счёт исключения избыточных связей между машинами.Однако, вместе с тем будет снижаться и производительность многомашинной системы. Попытки найти оптимум, позволяющий добиться максимальной производительности при минимальном количестве связей привели к появлению большого количества различных топологических схем, получаемыхпутём удаления определённой части связей в полносвязной схеме.Если убрать часть связей, получится тороид.
Он дешевле, но менеебыстр и надёжен. Минус ещё часть связей – получаем двумерную решётку.Удаляем ещё несколько связей – получаем кольцо. Оставляем самый минимум связей, получаем общую шину. Кроме того, довольно интересна схемапод названием «гиперкуб».Ещё один вариант построения связей между машинами, – топологиятипа «Звезда». Если машины на лучах звезды будут, в свою очередь, являтьсяцентрами аналогичных звёзд для некоторых групп машин, то такой вид топологической схемы называют «многоуровневой звездой», или топологией типа«дерево».Рис.86 Топологические схемы построениямногомашинных систем190Если в древовидной схеме пропускная способность линий связи увеличивается по мере продвижения от периферических узлов к центральным, тотакая топологическая схема называется «толстое дерево» или по-английски«Fat Tree».Рис.87 Схема типа «Толстое дерево»Такая схема позволяет снизить задержки передачи данных между узлами, находящимися на различных «ветвях дерева», когда они проходят через линии связи, связывающие несколько ветвей между собой.
Чаще всего,повышение пропускной способности на верхних уровнях «толстого дерева»достигается за счёт экстенсивного увеличения числа каналов передачи данных, связывающих высокоуровневые узлы дерева с узлами, лежащими на более низком уровне. Например, на представленном рисунке узлы нижнегоуровня имеют один канал связи с узлами среднего уровня, а узлы среднегоуровня – по два канала связи с центральным узлом « толстого дерева».Для того, чтобы сравнивать различные варианты топологических схеммежду собой, существует ряд общепринятых характеристик, которые можнорассчитать в числовой форме. Итак, система соединений состоит из узлов исвязей между ними.
В качестве узлов могут выступать процессоры, вычислительные машины или коммутаторы для передачи данных. Данная системаимеет следующие характеристики:191• Размер сети.Общее количество узлов, объединённых в сеть• Число связей.Суммарное количество линий связи в сети.• Степень узла.Количество узлов, с которыми связан каждый узел. Чем выше степеньузла, тем выше сложность, а следовательно и стоимость коммуникационныхинтерфейсов узла.• Ширина критического сечения сети.Это количество связей, которые необходимо разорвать, чтобы сеть стала неработоспособность. Чем она больше, тем выше надёжность и отказоустойчивость сети.• Пропускная способность.Объём данных, которые могут быть переданы по сети в единицу времени.
Различают общую и полезную пропускную способность. Общая пропускная способность является максимальной технически достижимой дляданной сети. Она делится между пользовательскими данными и служебнойинформацией, которой узлы обмениваются между собой. Количество пользовательских данных, которые могут быть переданы за единицу времени, соответствует полезной пропускной способности.• Задержка сети.Время, требуемое на передачу одного сообщения через сеть. Чаще всего, под сообщением понимают один файл, а задержка измеряется от моментаначала отправки файла с узла-отправителя до момента начала его полученияна узле-получателе.• Диаметр сети.Кратчайшее расстояние между двумя наиболее удалёнными узлами сети. По мере роста диаметра сети, растёт максимальная задержка передачиданных между узлами сети и падает производительность сети.192С точки зрения состава узлов многомашинные системы можно поделить на однородные и неоднородные.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
