Нижегородский государственный университет им Н И Лобачевского Факультет

Нижегородский государственный университет им. Н. И. Лобачевского Факультет вычислительной математики и кибернетики Учебно-исследовательская лаборатория "Информационные технологии" Введение в Hyper-Threading Technology ИТЛаб ВМК ННГУ, Июнь 2003 Hyper Threading © Д. Кукушкин

Содержание Немного фактов Необходимость роста вычислительной мощности. Multithreading Подронее о работе одно-потокового процессора Super. Threading Hyper-threading или SMT Воплощение технологии hyper-threading Копированные ресурсы Секционированные ресурсы Общие Ресурсы КЭШ и система с SMT Конфликты КЭШа Влияние пустых циклов Результаты сравнительного тестирования на i. XBT Ссылки Библиография Приложение 1 ИТЛаб ВМК ННГУ, Июнь 2003 Hyper Threading © Д. Кукушкин 2

Определение n Hyper. Threading предоставляет доступ к двум логическим процессорам используя один физический процессор путем добавления минимального количества управляющей и контролирующей логики в кристал. Это делает возможным использование большей части ранее свободных ресурсов физического процессора в еденицу времени. ИТЛаб ВМК ННГУ, Июнь 2003 Hyper Threading © Д. Кукушкин 3

Необходимость и возможности роста производительности n n n Вычисления при моделировании сложных процессов в реальном времени Распознавание и перевод речи Коммерческий интерес при продаже ИТЛаб ВМК ННГУ, Июнь 2003 n n Повышение тактовой частоты Наращивание ресурсов процессора Использование многопроцессорных систем Оптимизация работы существующего процессора Hyper Threading © Д. Кукушкин 4

Как можно оптимизировать? n n Time-Slice Multithreading. Switch-on-Event Multithreading. Simultaneous Multithreading. Superthreading. ИТЛаб ВМК ННГУ, Июнь 2003 Hyper Threading © Д. Кукушкин 5

Иллюзия многопоточности n n В каждый момент времени исполняется один поток Порядок исполнения команд в потоке определяется процессором Преймущественная и кооперативная многозадачность. Ограничения на совмещение команд исполняемых в один такт процессора ИТЛаб ВМК ННГУ, Июнь 2003 Hyper Threading © Д. Кукушкин 6

Двухпроцессорность n n Стоимость процессоров удваивается. Стоимость материнской платы растет. Задержки на синхронизацию КЭШа Ограницения наисполнение коменд в каждом процессоре не изменились – эффективность такая же. ИТЛаб ВМК ННГУ, Июнь 2003 Hyper Threading © Д. Кукушкин 7

Super. Threading n n n Возможность загрузки в процессор двух потоков и переключения между ними без потери такта. В один такт выполняются команды одного потока с учетом ограничений. Уровень параллельности остается тем же для каждого потока. ИТЛаб ВМК ННГУ, Июнь 2003 Hyper Threading © Д. Кукушкин 8

Hyperthreading или SMT n n Возможно исполнение команд из двух разных потоков за один такт. Исполнение происходит на тех же ресурсах. Верхний уровень иммитирует два независимых процессора. Внедрение технологии увеличило площадь кристала всего на 5%. ИТЛаб ВМК ННГУ, Июнь 2003 Hyper Threading © Д. Кукушкин 9

Копированн ые Секциониро ванные (динамичес ки разделяемы е) Общие ИТЛаб ВМК ННГУ, Июнь 2003 Логика переименования регистров (Register renaming logic ) Указатель на инструкции( Instruction Pointer ) ITLB Return stack predictor Другие регистры. Re-order buffers (ROBs) Буфферы сохранения/загрузки Различные очереди. КЭШ: trace cache, L 1, L 2, L 3 Микроархитектурные регистры Конвееры. Hyper Threading © Д. Кукушкин 10

Копированные ресурсы Некоторые ресурсы необходимо копиросать чтобы получить два независимых процессора – IP, RAT. n Увеличение числа копируемых ресурсов ведет к усложнению и следовательно удорожанию процессора n ИТЛаб ВМК ННГУ, Июнь 2003 Hyper Threading © Д. Кукушкин 11

Секционированные ресурсы В основном это Очереди n Можно разделить на статически и динамически разделяемые. n ИТЛаб ВМК ННГУ, Июнь 2003 Hyper Threading © Д. Кукушкин 12

Общие Ресурсы n n n Общие ресурсы остались неизменными от предудыщих поколений. Исполнительные модули Поле регистров КЭШ Существует опасность спада производительности при монополизации ресурсов одним потоком. Существенное отличие от SMP – влияние пустых циклов. ИТЛаб ВМК ННГУ, Июнь 2003 Hyper Threading © Д. Кукушкин 13

Немного фактов n n n n Intel® 845 GE/E/PE/G/GV, 850 E, 865 G/P/PE и 875 P чипсеты в настоящее время выпускаются и поддерживают Hyper-Threading Technology Intel Hyper-Threading Technology основываетс на имеющихся достоинствах архитектуры Intel® Net. Burst™. Код написанный для двухпроцессорных станций (DP) и для многопроцессорныйх (MP) совместим с технологией Hyper-Threading Technology. Среднестатистический набор инструкций Intel® IA-32 использует только 35% архитектуры Intel® Net. Burst™. Hyper-Threading Technology позволяет использовать ольше ресурсов, путем предоставления свободных ресурсов для исполнения второй нити кода, тем самым увеличивая производительность многопотоковых приложений. При использовании Hyper-Threading Technology систем некоторые потоки кода имеющие циклы Spin-wait могут занимать общие ресурсы при этом не производя вычислений и тем самым снижая общую производительность системы. В настоящее время технологию HT поддерживают процессоры Intel Xeon и Pentium 4 с тактовой частотой выше 3. 06 G MS-DOS являлся однопотоковой системой предназначенной для запуска на одном процесоре – самая примитивная конфигурация В тестировании большинства приложений наблюдается прирост производительности около 30% ИТЛаб ВМК ННГУ, Июнь 2003 Hyper Threading © Д. Кукушкин 14

Результаты тестирования Задачи: n. Оценить влияние Hyper-Threading на производительность приложений различного класса. n. Сравнить этот эффект с эффектом от установки второго процессора. n. Проверить, насколько "честно" ресурсы отдаются активному логическому процессору, когда второй LP бездействует. ИТЛаб ВМК ННГУ, Июнь 2003 Hyper Threading © Д. Кукушкин

Однопотоковая загрузка ИТЛаб ВМК ННГУ, Июнь 2003 Hyper Threading © Д. Кукушкин 16

Рендеринг ИТЛаб ВМК ННГУ, Июнь 2003 Hyper Threading © Д. Кукушкин 17

ИТЛаб ВМК ННГУ, Июнь 2003 Hyper Threading © Д. Кукушкин 18

Open-GL ИТЛаб ВМК ННГУ, Июнь 2003 Hyper Threading © Д. Кукушкин 19

CAD-приложения ИТЛаб ВМК ННГУ, Июнь 2003 Hyper Threading © Д. Кукушкин 20

Серверные приложения ИТЛаб ВМК ННГУ, Июнь 2003 Hyper Threading © Д. Кукушкин 21

Контакты: Нижегородский университет, Факультет вычислительной математики и кибернетики, Учебно-исследовательская Лаборатория "Информационные технологии" 603950, Нижний Новгород, пр. Гагарина, 23, р. т. : +7 (8312) 65 -48 -59, E-mail: itlab@unn. ac. ru ИТЛаб ВМК ННГУ, Июнь 2003 Hyper Threading © Д. Кукушкин 22