Сжатие виртуальной памяти - Virtual memory compression

Сжатие виртуальной памяти (также называемый Сжатие RAM и сжатие памяти) это управление памятью техника, которая использует Сжатие данных уменьшить размер или количество пейджинг запросы к и от вспомогательная память.[1] В системе сжатия виртуальной памяти страницы, выгружаемые из виртуальной памяти, сжимаются и сохраняются в физическая память, что обычно оперативная память (RAM) или отправляются в сжатом виде во вспомогательную память, например привод жесткого диска (HDD) или твердотельный накопитель (SSD). В обоих случаях виртуальная память диапазон, содержимое которого было сжато, помечается как недоступный, чтобы попытки доступа к сжатым страницам могли запускаться ошибки страницы и обращение процесса (извлечение из вспомогательной памяти и декомпрессия). Объем выгружаемых данных уменьшается за счет процесса сжатия; в первом случае освобожденная ОЗУ возвращается в доступный пул физической памяти, а сжатая часть сохраняется в ОЗУ. Во втором случае сжатые данные отправляются во вспомогательную память, но результирующая операция ввода-вывода меньше и, следовательно, занимает меньше времени.[2][3]

В некоторых реализациях, включая zswap, зрам и Компания Helix Software С ураган, весь процесс реализован программно. В других системах, таких как IBM MXT, процесс сжатия происходит в выделенном процессоре, который обрабатывает передачи между локальными тайник и RAM.

Сжатие виртуальной памяти отличается от вывоз мусора (GC) системы, которые удаляют неиспользуемые блоки памяти и в некоторых случаях объединяют используемые области памяти, уменьшая фрагментацию и повышая эффективность. Сжатие виртуальной памяти также отличается от переключение контекста системы, такие как Connectix с Удвоитель RAM (хотя он также выполнял онлайн-сжатие) и Apple OS 7.1, в которой неактивные процессы приостанавливаются, а затем сжимаются целиком.[4]

Преимущества

За счет снижения активности ввода-вывода, вызванной запросами на подкачку, сжатие виртуальной памяти может привести к повышению общей производительности. Степень повышения производительности зависит от множества факторов, включая доступность любых сопроцессоров сжатия, свободную полосу пропускания ЦП, скорость канала ввода-вывода, скорость физической памяти и сжимаемость содержимого физической памяти. .

На многоядерных многопоточных процессорах некоторые тесты показывают повышение производительности более чем на 50%.[5][6]

В некоторых ситуациях, например, в встроенные устройства, вспомогательная память ограничена или отсутствует. В этих случаях сжатие виртуальной памяти может позволить системе виртуальной памяти работать, в противном случае виртуальная память должна быть отключена. Это позволяет системе запускать определенное программное обеспечение, которое в противном случае не могло бы работать в среде без виртуальной памяти.[7]

Флэш-память имеет определенные ограничения по сроку службы на максимальное количество циклов стирания, которое он может выдержать, которое может составлять всего 100 циклов стирания. В системах, где флэш-память используется в качестве единственной системы вспомогательной памяти, реализация сжатия виртуальной памяти может уменьшить общий объем данных, записываемых во вспомогательную память, повышая надежность системы.

Недостатки

Низкая степень сжатия

Одна из основных проблем - это степень, в которой содержимое физической памяти может быть сжато при реальных нагрузках. Программный код и большая часть данных, хранящихся в физической памяти, часто не поддаются сжатию, поскольку эффективные методы программирования и архитектуры данных предназначены для автоматического устранения избыточности в наборах данных. Различные исследования показывают типичные коэффициенты сжатия данных от 2: 1 до 2,5: 1 для данных программы,[8][9] аналогичны обычно достижимым степеням сжатия с сжатие диска.[7]

Фоновый ввод / вывод

Чтобы сжатие виртуальной памяти обеспечивало измеримые улучшения производительности, пропускная способность системы виртуальной памяти должна быть улучшена по сравнению с несжатым эквивалентом. Таким образом, дополнительная обработка, вносимая сжатием, не должна увеличивать общую задержку. Однако в С привязкой к вводу / выводу систем или приложений с наборами данных с высокой степенью сжатия выигрыш может быть значительным.[7]

Повышенная обмолота

Физическая память, используемая системой сжатия, уменьшает объем физической памяти, доступной для процессы что система работает, что может привести к увеличению активности подкачки и снижению общей эффективности сжатия виртуальной памяти. Эта взаимосвязь между активностью подкачки и доступной физической памятью является примерно экспоненциальной, что означает, что уменьшение объема физической памяти, доступной для системных процессов, приводит к экспоненциальному увеличению активности подкачки.[10][11]

В обстоятельствах, когда объем свободной физической памяти невелик и подкачка довольно распространена, любое повышение производительности, обеспечиваемое системой сжатия (по сравнению с подкачкой напрямую во вспомогательную память и из нее), может быть компенсировано увеличением ошибка страницы скорость, которая приводит к взбучка и снижение производительности системы. В противоположном состоянии, когда доступно достаточно физической памяти, а активность подкачки низка, сжатие может недостаточно влиять на производительность, чтобы быть заметным. Золотая середина между этими двумя обстоятельствами - «низкий объем ОЗУ с высокой активностью подкачки» и большой объем ОЗУ с низкой подкачкой »- это то место, где сжатие виртуальной памяти может быть наиболее полезным. Однако чем более сжимаемы программные данные, тем более выражено улучшение производительности, поскольку для хранения сжатых данных требуется меньше физической памяти.

Например, чтобы максимально использовать кеш сжатых страниц, Компания Helix Software Hurricane 2.0 предоставляет настраиваемый пользователем порог отказа от сжатия. Сжимая первые 256 до 512 байтов страницы размером 4 КиБ, эта система сжатия виртуальной памяти определяет, может ли быть достигнут настроенный порог уровня сжатия для конкретной страницы; если это возможно, остальная часть страницы будет сжата и сохранена в сжатом кэше, в противном случае страница будет отправлена ​​во вспомогательную память через обычную систему подкачки. По умолчанию для этого порога используется степень сжатия 8: 1.[12][4]

Проблемы с ценой / производительностью

В аппаратных реализациях технология также зависит от разницы в цене между различными компонентами системы, например, разницы между стоимостью ОЗУ и стоимостью процессора, предназначенного для сжатия. Относительные различия в цене / производительности различных компонентов, как правило, со временем меняются. Например, добавление сопроцессора сжатия может иметь минимальное влияние на стоимость ЦП.

Приоритезация

В типичной реализации виртуальной памяти разбиение на страницы происходит на наименее недавно использованный Это может привести к тому, что алгоритм сжатия будет использовать циклы ЦП для обработки данных с самым низким приоритетом. Более того, программный код обычно доступен только для чтения и поэтому никогда не выгружается. Вместо этого код просто отбрасывается и при необходимости перезагружается из файла вспомогательной памяти программы. В этом случае планка сжатия выше, поскольку цикл ввода-вывода, который он пытается исключить, намного короче, особенно на устройствах флэш-памяти.

Сжатие с использованием квантования

Разработчики ускорителей используют квантование, чтобы уменьшить разрядность значений и снизить стоимость перемещения данных. Однако любое значение, которое не вписывается в уменьшенную битовую ширину, приводит к переполнению (мы называем эти значения выбросами). Поэтому ускорители используют квантование для приложений, устойчивых к переполнениям. В большинстве приложений уровень выбросов невелик, а значения часто находятся в узком диапазоне. [13]предоставление возможности использовать квантование в процессорах общего назначения. Однако программная реализация квантования в процессорах общего назначения имеет три проблемы: во-первых, программист должен вручную реализовать преобразования и дополнительные инструкции, которые квантовывают и деквантовывают значения, что требует усилий программиста и накладных расходов на производительность. Во-вторых, чтобы покрыть выбросы, битовая ширина квантованных значений часто становится больше или равна исходным значениям. В-третьих, программист должен использовать стандартную битовую ширину; в противном случае, извлечение нестандартной битовой ширины (например, 1-7, 9-15 и 17-31) для представления узких целых чисел увеличивает накладные расходы на программное квантование. Аппаратная поддержка в иерархии памяти процессоров общего назначения для квантования может решить эти проблемы. Аппаратная поддержка позволяет представлять значения небольшим и гибким числом битов и сохранять выбросы в их исходном формате в отдельном пространстве, предотвращая переполнение. Он минимизирует метаданные и накладные расходы на поиск квантованных значений с помощью программно-аппаратного взаимодействия, которое передает параметры квантования и структуру данных на оборудование. В результате прозрачное аппаратное квантование имеет три преимущества по сравнению с методами сжатия кэша: (i) меньше метаданных, (ii) выше степень сжатия для значений с плавающей запятой и блоков кэша с несколькими типами данных и (iii) меньшие накладные расходы на поиск сжатых блоков.[13]

История

Сжатие виртуальной памяти как технология входило и выходило из него. Цена и скорость оперативной памяти и внешнего хранилища резко упали из-за Закон Мура и улучшенные интерфейсы RAM, такие как DDR3, таким образом уменьшая потребность в сжатии виртуальной памяти, в то время как многоядерные процессоры, серверные фермы и мобильные технологии вместе с появлением систем на основе флэш-памяти делают сжатие виртуальной памяти более привлекательным.

Происхождение

Пол Р. Уилсон предложил сжатое кэширование страниц виртуальной памяти в 1990 году в статье, распространенной на семинаре ACM OOPSLA / ECOOP '90 по сбору мусора («Некоторые проблемы и стратегии в управлении кучей и иерархиями памяти») и появившейся в ACM SIGPLAN Уведомления в январе 1991 г.[14]

Компания Helix Software впервые применил сжатие виртуальной памяти в 1992 году, подав патентную заявку на этот процесс в октябре того же года.[2] В 1994 и 1995 годах Helix усовершенствовал процесс, используя тестовое сжатие и кеши вторичной памяти на видеокартах и ​​других устройствах.[3] Однако Helix не выпускала продукт, включающий сжатие виртуальной памяти, до июля 1996 г. и выпуска Hurricane 2.0, в котором использовалась Stac Electronics Лемпель – Зив – Стац алгоритм сжатия, а также использовала видеопамять вне экрана в качестве буфера сжатия для повышения производительности.[12]

В 1995 г. оперативная память стоила почти 50 долларов за штуку. мегабайт, и Microsoft с Windows 95 перечислено минимальное требование 4 МБ ОЗУ.[15] Из-за высоких требований к ОЗУ было выпущено несколько программ, в которых утверждалось, что для увеличения «памяти» используется технология сжатия. Самым известным был SoftRAM программа от Syncronys Softcorp. SoftRAM оказался «программным плацебо», в котором вообще не было технологий сжатия.[16][7] Другие продукты, включая ураган и MagnaRAM, включено сжатие виртуальной памяти, но реализовано только кодирование длин серий с плохими результатами, что дало технологии отрицательную репутацию.[17]

В своем выпуске от 8 апреля 1997 г. журнал PC Magazine опубликовал всесторонний тест заявлений о повышении производительности нескольких программных инструментов сжатия виртуальной памяти. В своем тестировании журнал PC Magazine обнаружил минимальное (5% в целом) улучшение производительности от использования Hurricane и ни одного из других пакетов.[17] Однако тесты проводились на Intel. Pentium системы, которые имели одно ядро ​​и были однопоточными, и поэтому сжатие напрямую влияло на всю активность системы.

В 1996 году IBM начала экспериментировать со сжатием, а в 2000 году IBM анонсировала свою технологию Memory eXpansion Technology (MXT).[18][19] MXT был автономным чипом, который действовал как Кэш процессора между ЦП и контроллером памяти. MXT имел встроенный механизм сжатия, который сжимал все заголовки данных в / из физической памяти. Последующее тестирование технологии Intel показало улучшение общей производительности системы на 5–20%, что аналогично результатам, полученным журналом PC Magazine с Hurricane.[20]

Последние достижения

  • В начале 2008 г. Linux проект назван зрам (первоначально назывался compcache) был выпущен; в обновлении 2013 года он был включен в Chrome OS[21] и Android  4.4
  • В 2010 году IBM выпустила Active Memory Expansion (AME) для AIX 6.1, который реализует сжатие виртуальной памяти.[22]
  • В 2012 году некоторые версии МОЩНОСТЬ7 + чип включал аппаратный ускоритель AME для поддержки сжатия данных, используемый в AIX, для сжатия виртуальной памяти.[23]
  • В декабре 2012 г. zswap анонсирован проект; он был объединен с Основная линия ядра Linux в сентябре 2013 г.
  • В июне 2013 года Apple объявила, что будет включать сжатие виртуальной памяти в OS X Mavericks, используя алгоритм WKdm Вильсона-Каплана.[24][25]
  • 10 августа 2015 г. "Программа предварительной оценки Windows Предварительный просмотр "обновления для Windows 10 (сборка 10525) добавлена ​​поддержка сжатия RAM.[26]

Смотрите также

Рекомендации

  1. ^ Уилсон, Пол Р .; Каплан, Скотт Ф .; Смарагдакис, Яннис (1999-06-06). Доводы в пользу сжатого кэширования в системах виртуальной памяти (PDF). Ежегодная техническая конференция USENIX. Монтерей, Калифорния, США. С. 101–116.
  2. ^ а б Патент США 5559978 
  3. ^ а б Патент США 5875474 
  4. ^ а б Mac Memory Booster получает обновление. Журнал ComputerWorld. 1996-09-09. Получено 2015-01-12.
  5. ^ Дженнингс, Сет. «Прозрачное сжатие памяти в Linux» (PDF). linuxfoundation.org. Получено 2015-01-01.
  6. ^ «Показатели производительности для compcache». Получено 2015-01-01.
  7. ^ а б c d Пол, Маттиас Р. (1997-07-30) [1996-04-14]. «Kapitel II.18. Mit STACKER Hauptspeicher 'virtuell' verdoppeln…» [Использование СТЕКЕР «практически» удвоить основную память…]. NWDOS-TIPs - Советы и приемы для Novell DOS 7, с подробностями, исправлениями и обходными путями Blick auf undokumentierte [Советы и приемы для Novell DOS 7 с акцентом на недокументированные детали, ошибки и обходные пути]. MPDOSTIP. Выпуск 157 (на немецком языке) (3-е изд.). В архиве из оригинала от 05.11.2016. Получено 2012-01-11.
  8. ^ Симпсон, Мэтью (2014). «Анализ алгоритмов сжатия программных данных» (PDF). п. 6. Получено 2015-01-09.
  9. ^ Риццо, Луиджи (1996). «Очень быстрый алгоритм сжатия RAM». Обзор операционных систем ACM SIGOPS: 8. Получено 2015-01-09.
  10. ^ Деннинг, Питер Дж. (1968). «Взбучка: причины и профилактика» (PDF). Труды AFIPS, Fall Joint Computer Conference. 33: 918. Получено 2015-01-05.
  11. ^ Фридман, Майкл Дж. (2000-03-16). «Кэш сжатия: сжатие виртуальной памяти для карманных компьютеров» (PDF). Получено 2015-01-09.
  12. ^ а б «Ураган 2.0 выжимает из вашей системы максимум памяти». Журнал ПК. 1996-10-08. Получено 2015-01-01.
  13. ^ а б Ленджани, Марзи (2019-11-03). «Иерархия квантованной памяти без переполнения в процессорах общего назначения» (PDF). in Proceedings of the IEEE International Symposium on Workload Characterization. Получено 2020-03-16.
  14. ^ Уилсон, Пол Р. (1991). «Некоторые вопросы и стратегии в управлении кучей и иерархиями памяти». Уведомления ACM SIGPLAN. 26 (3): 45–52. Дои:10.1145/122167.122173.
  15. ^ «Требования для установки Windows 95». Microsoft. Получено 2015-01-01.
  16. ^ «SoftRAM под Scruitny». Журнал ПК. 1996-01-23. Получено 2015-01-01.
  17. ^ а б «Усилители производительности». Журнал ПК. 1997-04-08. Получено 2015-01-01.
  18. ^ «Прорыв IBM в исследованиях удвоил объем памяти компьютера». IBM. 2000-06-26. Получено 2015-01-01.
  19. ^ «Технологии расширения памяти». IBM. Получено 2015-01-01.
  20. ^ Кант, Кришна (01.02.2003). «Оценка альтернатив сжатия памяти». Корпорация Intel. Получено 2015-01-01.
  21. ^ «CompCache». Код Google. Получено 2015-01-01.
  22. ^ «AIX 6.1 Active Memory Expansion». IBM. Получено 2015-01-01.
  23. ^ «Глубокое погружение в аппаратное обеспечение IBM Power Systems» (PDF). IBM. Получено 2015-01-01.
  24. ^ https://arstechnica.com/apple/2013/10/os-x-10-9/17/#compressed-memory
  25. ^ https://www.usenix.org/legacy/publications/library/proceedings/usenix01/cfp/wilson/wilson_html/acc.html
  26. ^ Аул, Гейб (18.08.2015). «Объявление о выпуске сборки 10525 для предварительной оценки Windows 10». Блоги Windows. Microsoft. Получено 2015-08-19.