ВКР: Распараллеливание прикладной программы и исследование эффективности ее выполнения на графическом процессоре

1 Введение
В современных условиях необходимость обработки все больших и больших объемов информации постоянно ставит перед программистами задачи повышения производительности разрабатываемых ими систем. Эволюционный метод увеличения производительности за счет уменьшения размера технологического процесса и увеличения числа функциональных элементов на кристалле приблизился к своим физическим пределам. Время переключения электронных схем достигло долей наносекунды, а скорость распространения сигналов в линиях, связывающих элементы и узлы машины, ограничена значением скорости света. Поэтому дальнейшее уменьшение времени переключения электронных схем не позволит существенно повысить производительность ЭВМ. Текущей практикой повышения производительности является создание многомашинных и многопроцессорных вычислительных систем. Практически все современные компьютеры являются многоядерными, а современные вычислительные центры оснащены мощными многопроцессорными серверами. Однако для достижения максимальной эффективности данные системы требуют использования специализированных параллельных алгоритмов и написания программ на специальных параллельных языках программирования. Недостатком многопроцессорных систем является их относительно высокая стоимость. Решением данной проблемы является использование других архитектур, включающих более дешевые специализированные процессоры, взамен разнообразным топологическим структурам объединяющим универсальные процессоры в современных кластерах и мультипроцессорных системах. Примером такой архитектуры является современная графическая карта, оптимизированная под параллельное выполнение одних и тех же операций над большим количеством данных. По сравнению с CPU вычислительные ядра графической карты имеют урезанный набор команд, большую часть платы занимают именно вычислительные элементы, за счет чего достигается высокая производительность. Однако также из-за этого в архитектуре графической карты кэш память имеет очень маленький размер. Использование графических карт для решения вычислительных задач общего назначения является достаточно перспективным, однако специфичность их архитектуры создает определнные сложности по написанию и отладке программ. Ведущим разработчиком в области GPGPU(решение задач общего назначения с использованием графических процессоров) является компания NVIDIA, представляющая архитектуру вычислений CUDA.
1.2 Постановка задачи
Высокопроизводительные вычисления – очень активно развивающаяся часть информационных технологий, широко применяемая в разных областях науки, таких как метеорология, структурная биология, квантовая хромодинамика, астрономия, гидродинамика, распознавание изображений и многих других. Данная работа посвящена анализу эффективности различных параллельных версий программы, выполняющей математическое моделирование релятивистских магнитогидродинамических течений в астрофизических условиях. В качестве эталона используется последовательная программа на языке FORTRAN. В рамках данной дипломной работы проводится написание параллельной версии исходной программы с использованием расширения CUDA для FORTRAN(реализация PGI Group) [1] и анализ ее эффективности, а также написание параллельной версии программы с использованием DVM-H – полуавтоматического распараллеливателя для FORTRAN-программ.
1.1.2 Модель памяти
Самым узким местом для вычислений на графическом процессоре является память: вопервых, графический процессор не может работать напрямую с оперативной памятью CPU – перед выполнением каких-либо операций на графической карте необходимо скопировать данные с центрального процессора (хоста) в глобальную память устройства, а для доступа к результатам работы графического процессора необходимо скопировать их обратно. Глобальная память имеет достаточно высокую латентность, компенсировать которую можно при помощи программируемого кэша симметрических мультипроцессоров или интенсивных вычислений, выполняемых в других блоках. Существует специальный блок памяти – константная – доступный всем нитям, как и глобальная, но имеющая более высокую скорость доступа. Текстурная память – подвид константной памяти 3 с произвольным доступом – создана для работы с двух- или трехмерными массивами и также доступна только для чтения. Однако для задач общего назначения больший интерес представляет работа с изменяемыми массивами (например, при решении задач с помощью разностных схем). В последних версиях архитектуры CUDA введен кэш глобальной памяти и возможность увеличивать его размер за счет уменьшения размера программируемого кэша мультипроцессоров, однако он все равно остается маленьким по сравнению с кэшем CPU. Покрытие латентности памяти осуществляется за счет большого количества вычислений, однако простое увеличение числа рабочих потоков внутри одного блока может снизить общую эффективность программы из-за маленького размера программируемого кэша. Статический анализ позволяет рассчитать в зависимости от версии архитектуры загруженность графического процессора, однако как показывает практика, эффективность программы не зависит линейно от загруженности.