Лабораторная работа № 1 Исследование кэш-памяти и обхода памяти
Цель Определение размеров кэш-памяти 1. сравнить различные способы обхода данных 2. научиться определять размер кэш-памяти Задание Написать программу, многократно выполняющую чтение элементов массива заданного размера. Элементы массива представляют собой связный список, в котором значение очередного элемента представляет собой номер следующего. Таким образом, способ заполнения элементов массива определяет способ его обхода. Сам обход данных может быть выполнен циклом следующего вида: for (k=0, i=0; i<N; i++) k = x[k];
Определение размеров кэш-памяти Обходы Требуется реализовать три способа обхода массива 1. Прямой 1 2 3 4 5 6 7 0 1 2 3 4 5 6 2. Обратный 3. Случайный 7 3 4 2 5 0 1 6
Определение размеров кэш-памяти Заполнение массива для случайного обхода
Определение размеров кэш-памяти Построить графики зависимости среднего времени обращения к элементу массива (в тактах) от размера обрабатываемого массива для трех видов обхода. На графиках должны быть видны размеры всех уровней кэш-памяти. По результатам измерений сделать вывод о скорости различных способов обхода массива, а также о размерах различных уровней кэш-памяти. Сравнить полученные размеры уровней кэш-памяти с реальными значениями. Пример графиков, полученных на процессоре Intel Xeon E 5420 (L 1: 32 KB, L 2: 6 MB):
Контрольные вопросы 1. Что такое кэш-память? Какую проблему она решает? 2. Какой способ обхода данных в памяти является самым быстрым? Почему? 3. Какой способ обхода данных в памяти является самым медленным? Почему? 4. Приведите пример оптимального и неоптимального алгоритмов умножения двух матриц с точки зрения порядка обхода данных в памяти.
Определение степени ассоциативности кэш-памяти множественно-ассоциативная организация кэш-памяти Большинство современных процессоров имеют множественноассоциативную организацию кэш-памяти. При множественноассоциативной организации кэш-память разделена на несколько множеств и на несколько банков ассоциативности. Каждый блок данных из оперативной памяти может быть помещен в одну из некоторого множества строк кэш-памяти. Число строк во множестве определяется числом банков ассоциативности. Например, кэш данных L 1 в процессоре Pentium III имеет объем 16 KB, число банков ассоциативности - 4, число множеств - 128, размер строки - 32 Byte. Размер кэш-памяти: 16 KB = 4 × 128 × 32 B.
Определение степени ассоциативности кэш-памяти множественно-ассоциативная организация кэш-памяти ОП Кэш 32 B 128 × 32 В = 4 КВ 32 B … 32 B 0 0 1 2 3 … 126 127 1 2 3 32 B 32 B 32 B … … 32 B 32 B 32 B Номер множества, в которое будет помещен элемент данных из памяти, определяется адресом этого элемента. Какой конкретный элемент множества будет выбран, определяется алгоритмом замещения (циклический, случайный, LRU, псевдо-LRU, …). Число элементов в каждом множестве (равное числу банков кэш-памяти) называется степенью ассоциативности кэш-памяти. Если вычислительная система имеет несколько уровней кэш-памяти, то у каждого уровня может быть своя степень ассоциативности.
Определение степени ассоциативности кэш-памяти множественно-ассоциативная организация кэш-памяти 4 КВ ОП 32 B 32 B 32 B … … 32 B 32 B Кэш 32 B Элементы данных, имеющих одинаковые номера множеств, т. е. отстоящие на определенное расстояние в памяти (4 KB), помещаются в одно и то же множество кэш-строк. На все эти данные приходится всего 4 кэш-строки, т. е. 4 × 32 B = 128 B. Если выполнять обход данных с шагом 4 KB (или кратным 4 KB), то из всех 16 KB кэша L 1 будет использоваться всего 128 B, которые будут постоянно перезаписываться (эффект «буксования» кэш-памяти). Производительность подсистемы памяти при этом будет такая же, как при отсутствии кэш-памяти.
Определение степени ассоциативности кэш-памяти Цель работы Научиться определять степень ассоциативности кэшпамяти. Определить степени ассоциативности кэш-памяти можно следующим способом. Выполняется обход N фрагментов данных суммарным объемом Block. Size, отстоящих друг от друга на величину Offset:
Определение степени ассоциативности кэш-памяти Параметры обхода: Block. Size – суммарный объем данных, к которым происходит обращение. Offset – расстояние между началами соседних блоков. N – число фрагментов (на картинке N = 4). Block. Size должен быть не больше объема исследуемого уровня кэш-памяти. Offset должен быть кратен размеру банка ассоциативности. Как правило, эти размеры являются степенями двоек, так что в качестве Offset можно взять большое заведомо кратное значение (например, 8 MB). Изменяя число частей N, мы увидим, как меняется время обращения к одному элементу. Когда N превысит число банков ассоциативности, время сильно возрастет.
Определение степени ассоциативности кэш-памяти
Определение степени ассоциативности кэш-памяти Написать программу, определяющую степень ассоциативности кэш-памяти. Программа должна многократно выполнять чтение элементов массива в порядке, указанном выше. Элементы массива представляют собой связный список, в котором значение очередного элемента представляет собой номер следующего. Параметры: Block. Size = 1 KB, Offset = 8 MB, N = 1… 20. Построить график зависимости среднего времени обращения к элементу массива (в тактах) от N – числа фрагментов. По полученному графику определить степень ассоциативности кэш-памяти. Пример графика, полученного на процессоре Intel Xeon E 5420 (L 1: 4 -way, L 2: 8 -way): На графике видно замедление после 4 и после 8 фрагментов, что соответствует степеням ассоциативности кэшей L 1 и L 2 процессора Intel Xeon E 5420.
Контрольные вопросы 1. Что такое степень ассоциативности кэшпамяти? 2. Что такое эффект буксования кэш-памяти? Как его вызвать? Как его избежать? 3. Какой график получится в результате исследования кэша данных L 1, описанного в теоретической части? Как изменится график, если расстояние между фрагментами взять 1 KB?
Скачать презентацию Лабораторная работа 1 Исследование кэш-памяти и обхода
cache.ppt