ДС19в09-иерархия_памятей (1238919)
Текст из файла
Carnegie MellonИерархия памятейОсновыинформатики.Компьютерныеосновыпрограммированияgoo.gl/X7evFНаосновеCMU15-213/18-243:IntroducContoComputerSystemsgoo.gl/Q7vgWwЛекция9,19апреля,2019Лектор:ДмитрийСеверов,dseverov@mail.mipt.ruДмитрийПодлесных,кафедраинформатики608КПМcs.mipt.ru/wp/?page_id=3461Иерархияпамятей¢¢¢ТехнологииитрендыЛокальностьобращенияКешированиевиерархиипамятей2ПамятьспроизвольнымдоступомRandom-AccessMemory(RAM)¢Ключевыеособенности§ RAMобычноизготавливаетсяввиде(части)интегральнойсхемы.§ Базоваяединицахранения-ячейка(1битвячейке).§ НесколькоИСRAMобразуютпамять.¢2классическихвидапамятиспроизвольнымдоступом§ СтатическаяRAM(SRAM)§ ДинамическаяRAM(DRAM)3СводкапосвойствамSRAMиDRAMТранз. Время Регене- Коррек- Стоина бит доступа рация ция?мостьSRAM4 или 6 1X Нет Не обяз.
100xDRAM1ПримененияКэш-память10X Да Да 1X Основная память,видео-память4Постояннаяпамять¢DRAMиSRAM–непостояннаяпамять§ Теряютинформациюпривыключенииэлектропитания¢Постояннаяпамятьсохраняетзначениепривыключени觧§§§¢Read-onlymemory(ROM):программируетсяприизготовленииProgrammableROM(PROM):однократно-программируемаяEraseablePROM(EPROM):можетстиратьсяцеликом(УФ,рентген)ElectricallyeraseablePROM(EEPROM):электрическистираемаяFlashmemory:EEPROMсчастичным(секторным)стиранием§ Выходитизстрояпосле0.1-1Мстираний.Применениепостояннойпамяти§ «Встроенные»программы,хранимыев*ROM(BIOS,модули/платырасширения,подсистемыбезопасности…)§ ТвердотельныедискиSolidstatedisks(заменавращающихсядисковв«брелках»,смартфонах,плеерах,планшетах,ноутбуках…)§ Дисковыекеши5ТрадиционноеподключениеЦПкОЗУ¢¢Шинанаборпараллельныхпроводников,несущихсигналыадреса,данныхиуправления.ОбычнокшинеподключаютсянесколькоустройствИнтегральная схема CPUРегистровый блокАЛУСистемная шинаШинный интерфейсМоств/вШина памятиОсновнаяпамять6Чтениеизпамяти-1¢ЦПвыставляетадресAнашинепамятиИнтегральная схема CPUБлок регистров%eaxОперация чтения: movq A, %raxАЛУМост в/вШинный интерфейсAОсновная память0xA7Чтениеизпамяти-2¢ОсновнаяпамятьпринимаетAсшиныпамяти,выбираетсловоx,ивыставляетегонашинуИнтегральная схема CPUБлок регистров%eaxОперация чтения: movq A, %raxАЛУМост в/вШинный интерфейсAОсновная память0xA8Чтениепамяти-3¢ЦПсчитываетсловоxсшиныипомещаетврегистр%eax.Интегральная схема CPUБлок регистров%eaxОперация чтения: movq A, %raxАЛУМост в/вШинный интерфейсAОсновная память0xA9Записьвпамять-1¢ЦПвыставляетнашинуадресA.Основнаяпамятьсчитываетегоиожидаетсловаданных.Интегральная схема CPUБлок регистров%eaxОперация записи: movq %rax, AАЛУМост в/вШинный интерфейсAОсновная память0A10Записьвпамять–2¢ЦПCPUвыставляетнашинусловоданныхy.Интегральная схема CPUБлок регистров%eaxyОперация записи: movq %rax, AАЛУМост в/вШинный интерфейсAОсновная память0A11Записьвпамять-3¢ПамятьсчитываетсшинысловоданныхyиразмещаетпоадресуA.Интегральная схема CPUБлок регистров%eaxyОперация записи: movq %rax, AАЛУМост в/вШинный интерфейсAОсновная память0yA12Быстраяэнергонезависимаяпамять¢¢¢¢¢3DXpointХалькогениды3-мерныесвойстваматериаловВразъёмDRAMЭнергонезависима13Резистивнаяпамять●Созданиеиуничтожениенитейвысокойпроводимостивдиэлектрике●РазработкивМФТИ●Энергонезависима14Чтовнутрижёсткогодиска?ДержательВалПластиныПриводРазъёмЭлектроника(включаяпроцессори память!)Схема Seagate Technology15Геометриядиска-1¢¢¢Дисксостоитизпластин,подвеповерхностинакаждойКаждаяповерхностьсостоитизконцентрическихдорожекКаждаядорожкасостоитизсекторовразделённыхзазорамиДорожкиПоверхностьДорожка k ЗазорыВалСекторы16Геометриядиска-2¢ОдинаковыедорожкиобразуютцилиндрЦилиндр kПоверхность 0Пластина 0Поверхность 1Поверхность 2Пластина 1Поверхность 3Поверхность 4Пластина 2Поверхность 5Вал17Ёмкостьдиска¢Ёмкость:максимальноеколичествохранимыхбайт§ Изготовителисчитаютёмкостьв(GB),где1GB=109байт.¢Ёмкостьопределяетсятехнологией:§ Плотностьзаписи(бит/дюйм):количествобитв1-дюймовомсегментедорожки§ Плотностьдорожек(дорожек/дюйм):количестводорожекпересекающих1дюймрадиуса§ Поверхностнаяплотность(бит/кв.дюйм):произведениеплотностейзаписиидорожек.18Зонызаписи¢Современныедискиразделяютвсёмножестводорожекназонызаписи§ Вкаждойдорожкеоднойзоны–§§одинаковоеколичествосекторовопределяемоесамойвнутреннейдорожкой.Вкаждойзонесвоёсвоёзначениесекторов/дорожку.§ вовнешних–больше,§ вовнутренних–меньшеДлявычисленияёмкостииспользуетсясреднеезначение…Вал19ВычислениеёмкостидискаЁмкость=(к-вобайт/сектор)x(среднеек-восекторов/дорожку)x(к-водорожек/поверхность)x(2поверхности/пластину)x(к-вопластин/диск)Пример:§ 512байтвсекторе§ 300секторовнадорожке(всреднем)§ 20000дорожекнаповерхность§ 2поверхностинапластине§ 5пластинвдискеЁмкость=512x300x20000x2x5=30,720,000,000=30.72GB20Работадиска-1Поверхностивращаются спостояннойугловойскоростьюГоловки чтения/записина держателях «плавают»над поверхностью на прослойкевоздухавалвалвалвалСмещаясь по радиусудержатель может разместитьголовки над любой дорожкой21Работадиска-2Головки чтения записьперемещаются вместепо цилиндрамДержательВал22Структурадиска–виднапластинуПоверхность делится надорожкиДорожки делятся на сектора23Доступкдиску-1Головка размещается наддорожкой24Доступкдиску-2Вращение против часовойстрелки25Доступкдиску-3Перед чтением синегосектора26Доступкдиску-4После чтенияСИНЕГОДанные переданы27ОчереднойзапросПосле чтенияСИНЕГОСледующим требуетсяпрочитать красный28ПодводПосле чтенияСИНЕГОПодвод кКРАСНОМУПодвод головки к дорожке красного29ДоворотПосле чтенияСИНЕГОПодвод кКРАСНОМУДоворот кКРАСНОМУОжидание красного сектора30ЧтениеПосле чтенияСИНЕГОПодвод кКРАСНОМУДоворот кКРАСНОМУПосле чтенияКРАСНОГОЧтение и передача данных31СоставляющиевременивыполненияПосле чтенияСИНЕГОПодвод кКРАСНОМУДоворот кКРАСНОМУВремяПодводаВремядоворотаПосле чтенияКРАСНОГОВремяпередачи32Времядоступакдиску¢Среднеевремядоступаксектору:§ Tдоступаср.=Tподводаср.+Tдоворотаср.+Tчтенияср.¢Времяподводаголовок(Tподводаср.)§ ТипичноеTподводаср.=3—9мс¢Времядоворотапластин(Tдоворотаср.)§ Tдоворотаср.=1/2x1/(частотавращения)x60сек/мин§ Типичнаячастотавращения=5400-15000об/мин¢Времячтениясектора(Tчтенияср.)§ Timetoreadthebitsinthetargetsector.§ Tчтенияср.=1/(частотавращения)x1/(ср.к-восекторов/дорожку)x60сек/мин33Времядоступакдиску:Пример¢Дано:§ Скоростьвращения=7,200об/мин§ Среднеевремяподвода=9мс§ Среднееколичествосекторов/дорожку=400.¢Считаем:§ Tдоворотаср.=1/2x(60/7200)x1000ms/sec=4мс§ Tчтенияср.=60/7200x1/400x1000=0.02мс§ Tдоступаср.=9мс+4мс+0.02мс¢Важно:§ Основныезатратывременинаподводидоворот§ Доступкпервомубитувсекторе–дорого,костальным-даром.§ ВремядоступакSRAM-4нс,DRAM-60нс§§Дискв40000размедленнееSRAM,В2500размедленнееDRAM.34Логическиеблокидиска¢Современныедискипредлагаютболеепростойабстрактныйвидгеометрии:§ Набордоступныхсекторовпредставляетсяпоследовательностьюлогическихблоков(0,1,2,...)¢Отображениелогическихблоковнафизическиесектора§ Выполняетсяотдельнымустройством–дисковымконтроллером§ Преобразуетсязапрослогическогоблокавфизическуютриаду(поверхность,дорожка,сектор)¢Контроллеррезервируетнесколькоцилиндроввкаждойзоне§ Различаются«форматированная»и«максимальная»ёмкости35Шинаввода/выводаИнтегральная схема ЦПБлок регистров%eaxАЛУМост в/вОсновнаяпамятьШинный интерфейсШина в/вКонтроллерUSBМышь КлавиатураГрафическийадаптерДисковыйконтроллерСлоты расширениядля других устройств.Например,сетевого адаптера.МониторДиск36Чтениесекторадиска-1Интегральная схема ЦПБлок регистров%eaxАЛУЦП инициирует чтение диска записьюкоманды, номера блока, и целевогоадреса памяти в порт (адрес) дисковогоконтроллера.Мост в/вОсновнаяпамятьШинный интерфейсШина в/вКонтроллерUSBМышь КлавиатураГрафическийадаптерДисковыйконтроллерМониторДиск37Чтениесекторадиска-2Интегральная схема ЦПБлок регистров%eaxАЛУДисковый контроллер читаетсектор и выполняет процедурупрямого доступа в память (ПДП,DMA).Мост в/вОсновнаяпамятьШинный интерфейсШина в/вКонтроллерUSBМышь КлавиатураГрафическийадаптерДисковыйконтроллерМониторДиск38Чтениесекторадиска-3Интегральная схема ЦПБлок регистров%eaxАЛУДисковый контроллер уведомляетЦП о завершении ПДП(DMA)прерыванием (т.e., передачейсигнала на специальный выводпрерывания ЦП)Мост в/вОсновнаяпамятьШинный интерфейсШина в/вКонтроллерUSBМышь КлавиатураГрафическийадаптерДисковыйконтроллерМониторДиск39Твердотельныедиски(SSDs)Шина в/вЗапросы на чтение и записьлогических блоков дискаSolid State Disk (SSD)УровеньинтерпретацииFlash - памятьБлок 0Стр.
0¢¢¢¢Стр. 1Блок B-1…Стр.P-1…Стр.0Стр.1…Стр.P-1Страницы:512B-4KB,Блоки:32-128страницЧтение/записьстраницамиСтраницам.б.записанатолькопослестиранияблокаБлокизнашиваетсяпосле100000повторныхзаписей40БыстродействиеSSDПоследоват.чтение 550MБ/сек Последоват.Запись 470MБ/секПроизвольноечтение 365MБ/сек Произвольнаязапись 303MБ/секДоступкпосл.чтению 50мксДоступкпосл.записи 60мкс¢¢ПоследовательныйдоступбыстрееслучайногоСлучайнаязаписьнемногомедленнеечтения§ Блокстираетсямедленно(~1ms)§ Записьвстраницувызываеткопированиевсехостальныхстраницблокавновый§ ВраннихSSDразличиявскоростяхзаписиичтениямногобольшеИсточник:спецификацияIntelSSD73041Особенноститвердотельныхдисков¢Преимущества§ Бездвижущихсячастейàбыстрее,экономнее,устойчивее¢Недостатки§ ИзнашиваниеНивелируется“логикойравномерногоизноса”науровнеинтерпретации§ НапримерIntelSSD730гарантирует128петабайт(128x1015)байт)записейдоизноса§ В2015,удельнаястоимостьв~30развыше§¢Применения§ MP3плееры,смартфоны,планшеты,ноутбуки§ ВысокопроизводительныенастольныеПКисервера42ПропастьЦП-памятьРастёт пропасть между скоростями DRAM, диска, и ЦП100 000 000,0Диск10 000 000,01 000 000,0SSDнс100 000,0Disk seek timeFlash SSD access timeDRAM access timeSRAM access timeCPU cycle timeEffective CPU cycle time10 000,01 000,0DRAM100,010,01,0ЦП0,10,019801985199019952000Годы20032005201043Спасениевлокальности!Ключкпереходучерезпропастьпамятьпроцессор–этофундаментальноесвойствокомпьютерныхпрограммизвестноекаклокальность44Иерархияпамятей¢¢¢ТехнологииитрендыЛокальностьобращенияКешированиевиерархиипамятей45Локальность¢Принциплокальности:Программычащеобращаютсякданнымикомандам,чьиадресаблизкиектемкоторыенедавноиспользовались¢ВременнАялокальность:§ Недавноиспользованныеячейкивероятновскоребудутиспользованывновь¢Пространственнаялокальность:§ Кячейкамсближайшимиадресамиобращенияпроизойдутвближайшеевремя46Примерлокальностиsum = 0;for (i = 0; i < n; i++)sum += a[i];return sum;¢Обращениекданным§ Последовательнаявыборкаэлементовмассива§ Обращениекsumвкаждойитерации¢Обращениеккомандам§ Последовательнаявыборкакоманд§ ПовторениекомандциклаПространсвеннаяВременнАяПространственнаяВременнАя47Качественнаяоценкалокальности¢Утверждение:Способностьвзглянувнакодполучитькачественнуюоценкуеголокальности–ключевойнавыкпрофессиональногопрограммиста.¢Вопрос:Этафункцияимеетхорошуюлокальностьвотношениимассиваa?int sum_array_rows(int a[M][N]){int i, j, sum = 0;for (i = 0; i < M; i++)for (j = 0; j < N; j++)sum += a[i][j];return sum;}48Примерлокальности¢Вопрос:Этафункцияимеетхорошуюлокальностьвотношениимассиваa?int sum_array_cols(int a[M][N]){int i, j, sum = 0;for (j = 0; j < N; j++)for (i = 0; i < M; i++)sum += a[i][j];return sum;}49Примерлокальности¢Вопрос:Выможетепереставитьциклытак,чтобыфункциясканировала3-мерныймассивa такжеэффективнокакодномерный?Схорошейпространственнойлокальностью.int sum_array_3d(int a[M][N][N]){int i, j, k, sum = 0;for (i = 0; i < M; i++)for (j = 0; j < N; j++)for (k = 0; k < N; k++)sum += a[k][i][j];return sum;}50Иерархияхраненияданных¢НекоторыефундаментальныеистабильныесвойствааппаратурыиПО:§ Болеебыстрыетехнологиихраненияудельнодороже,менееёмкие,иболееэнергоёмкие(нагрев!).§ Пропасть«процессор-память»растёт.§ Хорошийкоддемонстрируетхорошуюлокальность.¢Этифундаментальныесвойствазамечательнодополняютдругдруга¢Этоподсказываетподходкорганизацииподсистемыпамятиизвестныйкакиерархияхраненияданных.51Иерархияпамятей¢¢¢ТехнологииитрендыЛокальностьобращенияКешированиевиерархиипамятей52Кеши¢¢Кеш(Cache):Устройствохраненияменьшейёмкостиибольшегобыстродействия,действующеекаквспомогательноедлядоступакчастиданныхболеекрупногоимедленногоустройства.Фундаментальнаяидеяиерархии:§ Устройствоуровняkслужиткешемдляустройствауровняk+1.¢Почемуработаетиерархияхраненияданных?§ Благодарялокальностипрограммыкданнымуровняkдоступпроисходитчаще,чемкданнымуровняk+1.§ Значитуровеньхраненияk+1можетбытьмедленнее,азначитбольшеидешевле(наединицухранения)¢Идеально:Иерархияпредоставляетбольшойобъёмхраненияпоценеэкономичногонижнегоуровнясскоростьюдоступаверхнегоуровнядляпрограмм.54КэшвобщемКэш8493Данныекопируютсякэш-блоками104Память1410Небольшая,быстрая,дорогаяпамятькэшируетчастькэш-блоков0123456789101112131415Большая,медленная,дешёваяпамятьразделенанакэш-блоки55Кэшвобщем:ПопаданиеЗапрос:14КэшПамять891430123456789101112131415НуженблокданныхbБлокbвкэшеесть:Попадание!56Кэшвобщем:ПромахЗапрос:12Кэш89123Запрос:1212Память140123456789101112131415НуженблокданныхbБлокаbвкэшенет:Промах!БлокbпоступаетизпамятиБлокbпомещаетсявкеше• Политикаразмещения:определяет,гдеbвкэше• Политиказамещения:определяетудаляемыйблок(жертву)57Кэшвобщем:типыпромахов¢Холодныйпромах§ Кешпуст.Напримерпристарте.¢Конфликтныйпромах§ Большинствокэшейограничивает(вплотьдо1)количествопозицийразмещениявкэшедлякаждогокэш-блокапамяти.§ Пример:блокiвпамятидолженразмещатьсяв(imod4)позициикэша.§ Конфликтныйпромах,есливкэшеестьместо,нонесколькоблоковпамятипретендуютнаодноместовкэше.§ Пример:обращениякблокам0,8,0,8,0,8,...промахиваютсявсегда.¢Промахёмкости§ Множествоиспользуемыхкэш-блоков,рабочийнабор(workingset)превышаетразмеркэша.58ПримеркэшированиявиерархииЗадержка(циклов)Ктоуправляет?ТипкэшаЧтокэшируем?Гдекэшируем?РегистрыСлова4-8байтЯдроЦП0 КомпиляторTLBТрансляцияадресовTLBнакристаллеЦП0 АппаратураКэшуровня1Блок64байтаНакристаллеЦП1 АппаратураКэшуровня2Блок64байтаНакристаллеЦП10 АппаратураВиртуальнаяпам.Страница4-KБОсновнаяпамять100 Аппарат.+ОСКэш-буферЧастифайловОсновнаяпамять100 ОСКэшдискаСекторадисковКонтроллердискаКэшсетиЧастифайловМестныйдиск10,000,000 КлиентсетевойФСКэшбраузераВеб-страницыМестныйдиск10,000,000 ВеббраузерВеб-кэшВеб-страницыУдалённыйсервер100,000 ПОвдиске1,000,000,000 Вебпроксисервер59Сводка¢РазличиявскоростиЦП,ОЗУидисковпродолжаютнарастать.¢Хорошонаписанныепрограммыдемонстрируютсвойство,называемое«локальность».¢Иерархиипамятейоснованныенакешированиинивелируютразличияиспользуялокальность.60Дополнительныеслайды61ОбычнаяорганизацияDRAM¢dxwDRAM:§ dwбиторганизуютсявdмакроячеекразмеромwбитИнтегральная схема DRAM 16 x 802 бита/(к/от CPU)30адресстрокиконтроллерпамятистолбцы121макроячейка(2,1)28 бит/3данныеВнутренний буфер строки62ЧтениемакроячейкиDRAM(2,1)Шаг1(a):Выборстроки2посигналу«Rowaccessstrobe»(RAS).Шаг1(b):Строка2копируетсяизмассиваDRAMвбуферстоки.Интегральная схема DRAM 16 x 8RAS02 бита/30адрес = 2строкиконтроллерпамятистолбцы12128 бит/3данныеВнутренний буфер строки63ЧтениемакроячейкиDRAM(2,1)Шаг2(a):Выбираетсястолбец1посигналу«Columnaccessstrobe»(CAS)Шаг2(b):Макроячейка(2,1)копируетсяизбуферанашинуданных,изатемвCPU.Интегральная схема DRAM 16 x 8CAS02 бита/строкиконтроллерпамятимакроячейка(2,1)30адрес = 1в CPUстолбцы12128 бит/3данныемакроячейка(2,1)Внутренний буфер строки64Модулипамяти65УсовершенствованныеDRAM¢ОсновнаяячейкаDRAMпрактическинеменяласьсмоментаизобретенияв1966.§ КоммерциализованаIntelв1970.¢DRAM-массивысулучшеннойлогикойввода/вывода:§ СинхроннаяDRAM(SDRAM)Используетсинхронноеуправлениевместоасинхронного§ Повторноиспользуетадресстроки(например:RAS,CAS,CAS,CAS)§ СинхроннаяDRAMудвоенногобыстродействия(DDRSDRAM)§ Отсылкапоодномупроводудвухбитзациклсинхронизации§ Различиявразмеренебольшихбуферовпредвыборки:– DDR(2бита),DDR2(4бита)…§ Типичнов2010г.длядлябольшинствасерверовинастольныхПК§ IntelCorei7поддерживаеттолькоDDR3SDRAM§66ТенденцииразвитияпамятиSRAMПараметр198519901995$/MБ2,900320 256 100 75доступ (нс) 150 35 15 3220002005201020152015:19852005201020152015:19858,00016.00062,50020052010201560 320 1161.5 200 115DRAMПараметр19851990$/MБ880 100 30 1доступ (нс) 200 100 70тип.
ёмкость (ГБ) 0.256199520000.1 0.06 0.02 44,00060 50 40 20 10416 64 2,000ДискПараметр198519901995$/ГБ100,000 8,000300 10доступ (мс) 75 28 10 85тип. ёмкость (ГБ) 0.01 0.16 12020002015:198550.3 0.03 3,333,3333325160 1,5003,000300,00067ТактоваячастотаЦП198019908080386 Pentium P-III P-4 Core 2ЦПТактоваяч-та (МГц)1 2019952000Переломнаяточкавкомпьютернойистории.Столкновениесо“стенойэнергопотребления”2003Core i761.6 0.3 0.50 0.4 2500Ядер1161.6 0.3 0.25 0.1 10,000Эффект.время 1000 50цикла (нс)20102010:1980---150 600 3300 2000 2500 2500Времятакта (нс)1000 501 12005124468.
Характеристики
Тип файла PDF
PDF-формат наиболее широко используется для просмотра любого типа файлов на любом устройстве. В него можно сохранить документ, таблицы, презентацию, текст, чертежи, вычисления, графики и всё остальное, что можно показать на экране любого устройства. Именно его лучше всего использовать для печати.
Например, если Вам нужно распечатать чертёж из автокада, Вы сохраните чертёж на флешку, но будет ли автокад в пункте печати? А если будет, то нужная версия с нужными библиотеками? Именно для этого и нужен формат PDF - в нём точно будет показано верно вне зависимости от того, в какой программе создали PDF-файл и есть ли нужная программа для его просмотра.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
