Политика включения кеша - Cache inclusion policy

Многоуровневые кеши могут быть разработаны различными способами в зависимости от того, присутствует ли содержимое одного кэша на других уровнях кешей. Если все блоки в кеш-памяти более высокого уровня также присутствуют в кеш-памяти нижнего уровня, то кеш-память нижнего уровня называется включающий кеша более высокого уровня. Если кэш нижнего уровня содержит только блоки, которых нет в кэше верхнего уровня, то кеш нижнего уровня называется эксклюзивный кеша более высокого уровня. Если содержимое кэша нижнего уровня не является ни строго включающим, ни исключающим из кеша более высокого уровня, то оно называется неисключительный неисключительный (ДЕВЯТЬ) кеш.[1][2]

Инклюзивная политика

Рисунок 1. Инклюзивная политика

Рассмотрим на примере двухуровневого иерархия кеша где L2 может быть включающим, исключающим или ДЕВЯТЬ из L1. Рассмотрим случай, когда L2 включает L1. Предположим, есть процессор запрос на чтение для блока X. Если блок найден в кэше L1, то данные считываются из кеша L1 и возвращаются процессору. Если блок не найден в кэше L1, но присутствует в кэше L2, то блок кэша извлекается из кеша L2 и помещается в L1. Если это вызывает вытеснение блока из L1, L2 не участвует. Если блок не найден ни в L1, ни в L2, он извлекается из основной памяти и помещается как в L1, так и в L2. Теперь, если есть вытеснение из L2, кэш L2 отправляет обратно недействительность кешу L1, чтобы включение не нарушалось.

Как показано на рисунке 1, сначала рассмотрите кеш-память L1 и L2 как пустые (a). Предположим, что процессор отправляет X-запрос на чтение. Это будет пропуск как в L1, так и в L2, и, следовательно, блок будет перенесен в L1 и L2 из основная память как показано в (b). Теперь предположим, что процессор выдает запрос чтения Y, который является пропуском как в L1, так и в L2. Итак, блок Y помещается как в L1, так и в L2, как показано в (c). Если блок X должен быть исключен из L1, то он удаляется из L1 только, как показано в (d). Если блок Y должен быть исключен из L2, он отправляет обратно запрос признания недействительным в L1, и, следовательно, блок Y удаляется из L1, как показано в (e).

Чтобы включение имело место, должны быть выполнены определенные условия. L2 ассоциативность должен быть больше или равен ассоциативности L1 независимо от количества наборов. Количество наборов L2 должно быть больше или равно количеству наборов L1, независимо от ассоциативности L2. Вся справочная информация из L1 передается в L2, чтобы он мог обновлять свои замена биты.

Одним из примеров инклюзивного кеша является Четырехъядерный процессор Intel с 4x256 КБ кэша L2 и 8 МБ (включительно) кэшем L3.[3]

Эксклюзивная Политика

Рисунок 2. Эксклюзивная политика

Рассмотрим случай, когда L2 исключает L1. Предположим, есть запрос на чтение процессора для блока X. Если блок обнаружен в кэше L1, то данные считываются из кеша L1 и возвращаются процессору. Если блок не найден в кэше L1, но присутствует в кэше L2, то блок кэша перемещается из кеша L2 в кэш L1. Если это приводит к удалению блока из L1, удаленный блок затем помещается в L2. Это единственный способ заполнения L2. Здесь L2 ведет себя как кеш жертвы. Если блок не найден ни в L1, ни в L2, он извлекается из основной памяти и помещается только в L1, а не в L2.

Как показано на рисунке 2, сначала рассмотрите кеш-память L1 и L2 как пустые (a). Предположим, что процессор отправляет X-запрос на чтение. Это будет пропуск как в L1, так и в L2, и, следовательно, блок будет перенесен в L1 из основной памяти, как показано на (b). Теперь процессор снова выдает запрос чтения Y, который является пропуском как в L1, так и в L2. Итак, блок Y помещается в L1, как показано в (c). Если блок X должен быть исключен из L1, то он удаляется из L1 и помещается в L2, как показано в (d).

Пример эксклюзивного кеша: AMD Opteron с 512 КБ (на ядро) кеш-памятью L2, не считая L1.[3]

NINE Политика

Рисунок 3. Политика NINE

Рассмотрим случай, когда L2 не включает неисключение L1. Предположим, есть запрос на чтение процессора для блока X. Если блок обнаружен в кэше L1, то данные считываются из кеша L1 и возвращаются процессору. Если блок не найден в кэше L1, но присутствует в кэше L2, то блок кэша извлекается из кеша L2 и помещается в L1. Если это приводит к вытеснению блока из L1, L2 не участвует, что аналогично случаю инклюзивной политики. Если блок не найден ни в L1, ни в L2, он извлекается из основной памяти и помещается в L1 и L2. Теперь, если есть выселение из L2, в отличие от инклюзивной политики, обратного аннулирования нет.

Как показано на рисунке 3, сначала рассмотрите кеш-память L1 и L2 как пустые (a). Предположим, что процессор отправляет X-запрос на чтение. Это будет пропуск как в L1, так и в L2, и, следовательно, блок будет перенесен в L1 и L2 из основной памяти, как показано на (b). Теперь процессор снова выдает запрос чтения Y, который является пропуском как в L1, так и в L2. Итак, блок Y помещается как в L1, так и в L2, как показано в (c). Если блок X должен быть исключен из L1, то он удаляется из L1 только, как показано в (d). Если блок Y должен быть исключен из L2, он удаляется из L2 только, как показано в (e).

Пример неисключительного неисключительного кеша: AMD Opteron с не включенным кешем L3 объемом 6 МБ (общий).[3]

Сравнение

Достоинство инклюзивной политики в том, что в параллельные системы с частным кешем для каждого процессора, если есть пропуск кеша, другие одноранговые кеши проверяются для блока. Если кэш нижнего уровня включает в себя кэш более высокого уровня и отсутствует в кэше нижнего уровня, то поиск в кэше более высокого уровня не требуется. Это означает более короткий пропустить задержку для инклюзивного кеша по сравнению с эксклюзивным и NINE.[1]

Недостатком инклюзивной политики является то, что уникальная емкость памяти кеша определяется кешем нижнего уровня. В отличие от случая эксклюзивного кэша, где уникальная емкость памяти - это совокупная емкость всех кешей в иерархии.[4] Если размер кэша нижнего уровня невелик и сопоставим с размером кэша более высокого уровня, во включенных кэшах будет больше потраченной впустую емкости. Хотя эксклюзивный кеш имеет более уникальную емкость памяти, он использует большую пропускную способность, поскольку страдает от более высокой скорости заполнения новых блоков (равной скорости промахов кеша более высокого уровня) по сравнению с кешем NINE, который заполняется только новым блоком когда он терпит неудачу. Следовательно, оценка затрат по сравнению с выгодой должна производиться, используя выбор между Инклюзивный, Эксклюзивный и ДЕВЯТЬ кешей.

Включение ценностей: Для блока необязательно иметь одинаковые значения данных, когда он кэшируется как в кэшах верхнего, так и нижнего уровня, даже если включение сохраняется. Но если значения данных совпадают, включение значений сохраняется.[1] Это зависит от используемой политики записи, так как политика обратной записи не уведомляет кэш нижнего уровня об изменениях, внесенных в блок в кеше верхнего уровня. Однако в случае кэш со сквозной записью нет такого беспокойства.

Рекомендации

  1. ^ а б c Солихин, Ян (2016). Основы параллельной многоядерной архитектуры. Чепмен и Холл / CRC. С. 146–150. ISBN  9781482211184.
  2. ^ Каллер, Дэвид; Гупта, Ануп; Сингх, Джасвиндер Пал (1999). Параллельная компьютерная архитектура: аппаратно-программный подход. Сан-Франциско: Издательство Морган Кауфманн. стр.369 –372. ISBN  1558603433.
  3. ^ а б c «Сравнение архитектур кэша и протоколов когерентности в многоядерных системах SMP x86-64». Материалы 42-го Международного симпозиума по микроархитектуре. МИКРО’09.
  4. ^ Ин Чжэн; Дэвис, Б.Т .; Джордан, М. (2004). «Оценка производительности эксклюзивных иерархий кеша». Международный симпозиум IEEE по анализу производительности систем и программного обеспечения ISPASS, 2004 г.. С. 89–96. Дои:10.1109 / ISPASS.2004.1291359. ISBN  0-7803-8385-0.