Алгоритм сортировки - Sorting algorithm

В Информатика, а алгоритм сортировки является алгоритм который помещает элементы список в определенном порядок. Наиболее часто используемые заказы: порядковый номер и лексикографический порядок. Эффективный сортировка важно для оптимизации эффективность других алгоритмов (например, поиск и слияние алгоритмы), которые требуют, чтобы входные данные были в отсортированных списках. Сортировка также часто бывает полезна канонизация данные и для создания удобочитаемого вывода. Более формально, вывод любого алгоритма сортировки должен удовлетворять двум условиям:

  1. Вывод находится в неубывающем порядке (каждый элемент не меньше предыдущего элемента в соответствии с желаемым общий заказ );
  2. На выходе получается перестановка (переупорядочение, но с сохранением всех исходных элементов) ввода.

Кроме того, входные данные часто хранятся в множество, который позволяет произвольный доступ, а не список, который позволяет последовательный доступ; хотя многие алгоритмы могут применяться к любому типу данных после соответствующей модификации.

Алгоритмы сортировки часто называют словом, за которым следует слово «sort», и грамматически используются в английском языке как словосочетания с существительными, например, в предложении «неэффективно использовать сортировку вставкой в ​​больших списках» фраза вставка сортировки относится к вставка сортировки алгоритм сортировки.

История

С самого начала вычислений проблема сортировки привлекала большое количество исследований, возможно, из-за сложности ее эффективного решения, несмотря на простую и знакомую формулировку. Среди авторов ранних алгоритмов сортировки около 1951 г. Бетти Холбертон (урожденный Снайдер), который работал над ENIAC и UNIVAC.[1][2] Пузырьковая сортировка был проанализирован еще в 1956 г.[3] Алгоритмы сравнительной сортировки имеют фундаментальное требование: Ω (п бревно п) сравнения (для некоторых входных последовательностей потребуется кратное п бревно п сравнений, где n - количество элементов в массиве для сортировки). Алгоритмы, не основанные на сравнениях, например счетная сортировка, может иметь лучшую производительность. Асимптотически оптимальные алгоритмы были известны с середины 20-го века - новые полезные алгоритмы все еще изобретаются, и теперь широко используются Тимсорт датируется 2002 годом, а сортировка библиотеки впервые опубликовано в 2006 году.

Алгоритмы сортировки преобладают во вводных Информатика классы, где обилие алгоритмов для решения проблемы обеспечивает мягкое введение в различные основные концепции алгоритмов, такие как нотация большой O, разделяй и властвуй алгоритмы, структуры данных Такие как кучи и бинарные деревья, рандомизированные алгоритмы, лучший, худший и средний случай анализ, время-пространство компромиссы, и верхняя и нижняя границы.

Сортировка небольших массивов оптимально (при минимальном количестве сравнений и свопов) или быстро (т.е. с учетом специфических деталей машины) по-прежнему остается открытой исследовательской проблемой, решения которой известны только для очень маленьких массивов (<20 элементов). Аналогично оптимальная (по разным определениям) сортировка на параллельной машине - открытая тема для исследований.

Классификация

Алгоритмы сортировки часто классифицируются по:

  • Вычислительная сложность (худший, средний и лучший поведение) с точки зрения размера списка (п). Для типичных алгоритмов последовательной сортировки хорошее поведение - O (п бревноп) с параллельной сортировкой в ​​O (log2 п), а плохое поведение - O (п2). (Видеть Обозначение Big O.) Идеальное поведение для последовательной сортировки - O (п), но в среднем это невозможно. Оптимальная параллельная сортировка - O (журналп). Алгоритмы сортировки на основе сравнения нужно не менее Ω (п бревноп) сравнения для большинства входных данных.
  • Вычислительная сложность свопов (для алгоритмов "на месте").
  • объем памяти использование (и использование других компьютерных ресурсов). В частности, некоторые алгоритмы сортировки:на месте ". Строго говоря, для сортировки на месте требуется только O (1) памяти помимо сортируемых элементов; иногда O (log (п)) дополнительная память считается "на месте".
  • Рекурсия. Некоторые алгоритмы рекурсивны или нерекурсивны, а другие могут быть и тем, и другим (например, сортировка слиянием).
  • Стабильность: стабильные алгоритмы сортировки поддерживать относительный порядок записей с одинаковыми ключами (т. е. значениями).
  • Независимо от того, являются ли они сортировка сравнения. Сортировка сравнения проверяет данные только путем сравнения двух элементов с помощью оператора сравнения.
  • Общий метод: вставка, обмен, выбор, объединение, и Т. Д. Сортировки Exchange включают пузырьковую сортировку и быструю сортировку. Сортировки выбора включают сортировку встряхиванием и сортировку в кучу.
  • Является ли алгоритм последовательным или параллельным. Остальная часть этого обсуждения почти полностью сосредоточена на последовательных алгоритмах и предполагает последовательную работу.
  • Адаптивность: влияет ли предварительная сортировка ввода на время работы. Алгоритмы, учитывающие это, известны как адаптивный.

Стабильность

Пример стабильной сортировки на игральных картах. Когда карты сортируются по рангу со стабильной сортировкой, две пятерки должны оставаться в том же порядке в отсортированном выходе, в котором они были изначально. Когда они сортируются с нестабильной сортировкой, пятерки могут оказаться в противоположном порядке. порядок в отсортированном выводе.

Стабильные алгоритмы сортировки сортируют повторяющиеся элементы в том же порядке, в котором они появляются во входных данных. При сортировке некоторых типов данных при определении порядка сортировки проверяется только часть данных. Например, в примере сортировки карт справа карты сортируются по их рангу, а их масть игнорируется. Это позволяет создать несколько различных правильно отсортированных версий исходного списка. Алгоритмы стабильной сортировки выбирают один из них в соответствии со следующим правилом: если два элемента сравниваются как равные, как две карты 5, то их относительный порядок будет сохранен, так что, если один пришел раньше другого во входных данных, он также будет приходите раньше других на выходе.

Стабильность важна по следующей причине: предположим, что записи учащихся, состоящие из имени и раздела класса, динамически сортируются на веб-странице, сначала по имени, затем по разделу класса во второй операции. Если в обоих случаях используется стабильный алгоритм сортировки, операция сортировки по разделам классов не изменит порядок имен; при нестабильной сортировке может случиться так, что сортировка по разделам меняет порядок имен. Используя стабильную сортировку, пользователи могут выбрать сортировку по разделу, а затем по имени, сначала сортируя по имени, а затем снова сортируя по разделу, в результате чего порядок имен сохраняется. (Некоторые программы для работы с электронными таблицами подчиняются такому поведению: сортировка по имени, затем по разделам дает алфавитный список студентов по разделам.)

Более формально сортируемые данные могут быть представлены как запись или кортеж значений, а часть данных, которая используется для сортировки, называется ключ. В примере с картами карты представлены как запись (ранг, масть), а ключом является ранг. Алгоритм сортировки стабилен, если когда есть две записи R и S с одним и тем же ключом, и R появляется перед S в исходном списке, тогда R всегда будет стоять перед S в отсортированном списке.

Когда равные элементы неразличимы, например, с целыми числами или, в более общем смысле, с любыми данными, в которых весь элемент является ключом, стабильность не является проблемой. Стабильность также не является проблемой, если все ключи разные.

Алгоритмы нестабильной сортировки могут быть специально реализованы для обеспечения стабильности. Один из способов сделать это - искусственно расширить сравнение ключей, чтобы сравнение между двумя объектами с одинаковыми ключами решалось с использованием порядка записей в исходном входном списке в качестве средства разрешения конфликтов. Однако запоминание этого порядка может потребовать дополнительного времени и места.

Одним из применений стабильных алгоритмов сортировки является сортировка списка с использованием первичного и вторичного ключей. Например, предположим, что мы хотим отсортировать комбинацию карт таким образом, чтобы масти располагались в следующем порядке: трефы (♣), бубны (), сердечки (), пики (♠), и в каждой масти карты сортируются по рангу. Это можно сделать, сначала отсортировав карты по рангу (используя любую сортировку), а затем выполнив стабильную сортировку по масти:

Сортировка игральных карт с помощью стабильного sort.svg

Внутри каждой масти стабильная сортировка сохраняет уже выполненную сортировку по рангу. Эта идея может быть распространена на любое количество ключей и используется радиальная сортировка. Тот же эффект может быть достигнут с нестабильной сортировкой с помощью лексикографического ключевого сравнения, которое, например, сначала сравнивает по масти, а затем сравнивает по рангу, если масти совпадают.

Сравнение алгоритмов

В этой таблице п - количество сортируемых записей. В столбцах «Среднее» и «Худшее» указано временная сложность в каждом случае при условии, что длина каждого ключа постоянна, и поэтому все сравнения, свопы и другие необходимые операции могут выполняться за постоянное время. «Память» обозначает объем вспомогательной памяти, необходимый сверх того, который используется самим списком, при том же предположении. Следует понимать, что время работы и требования к памяти, перечисленные ниже, находятся внутри нотация большой O, следовательно, основание логарифмов не имеет значения; обозначение бревно2 п средства (бревно п)2.

Сортировки сравнения

Ниже представлена ​​таблица виды сравнения. Сортировка сравнения не может работать лучше, чем О(п бревно п).[4]

Виды сравнения
ИмяЛучшийСреднийНаихудшийобъем памятиСтабильныйМетодПрочие примечания
Быстрая сортировкаНетРазбиениеБыстрая сортировка обычно выполняется на месте с помощью О(бревно п) пространство стека.[5][6]
Сортировка слияниемпдаСлияниеВысокая степень распараллеливания (вплоть до О(бревно п) с использованием алгоритма трех венгров).[7]
Сортировка слиянием на месте1даСлияниеМожет быть реализована как стабильная сортировка на основе стабильного слияния на месте.[8]
ИнтросортНетРазбиение и выборИспользуется в нескольких STL реализации.
Heapsort1НетВыбор
Вставка сортировкип1даВставкаО(п + d), в худшем случае над последовательностями, имеющими d инверсии.
Блочная сортировкап1даВставка и слияниеКомбинируйте блочную алгоритм слияния на месте[9] с восходящая сортировка слиянием.
QuadsortппдаСлияниеИспользует 4 входа сортировочная сеть.[10]
ТимсортппдаВставка и слияниеДелает п сравнения, когда данные уже отсортированы или отсортированы обратным образом.
Выборочная сортировка1НетВыборСтабильно с лишнее пространство или при использовании связанных списков.[11]
CubesortппдаВставкаДелает п сравнения, когда данные уже отсортированы или отсортированы обратным образом.
Shellsort1НетВставкаНебольшой размер кода.
Пузырьковая сортировкап1даОбменКрошечный размер кода.
Сортировка дерева(сбалансированный)пдаВставкаПри использовании самобалансирующееся двоичное дерево поиска.
Цикл сортировки1НетВставкаНа месте с теоретически оптимальным количеством операций записи.
Сортировка библиотекипНетВставкаАналогично сортировке вставкой с разрывом. Это требует случайной перестановки входных данных, чтобы гарантировать с высокой вероятностью временные границы, что делает его нестабильным.
Сортировка терпенияппНетВставка и выборНаходит все самые длинные возрастающие подпоследовательности в О(п бревно п).
Smoothsortп1НетВыборAn адаптивный вариант heapsort на основе Последовательность Леонардо а не традиционный двоичная куча.
Сортировка прядейппдаВыбор
Сортировка турнирап[12]НетВыборВариант сортировки кучи.
Сорт коктейльный шейкерп1даОбменВариант Bubblesort, который хорошо работает с небольшими значениями в конце списка
Сортировка гребней1НетОбменВ среднем быстрее, чем пузырьковая сортировка.
Сортировка гномовп1даОбменКрошечный размер кода.
Сортировка в случайном порядке[13]пкнкнпНетРаспространение и слияниеОбмены не производятся. Параметр k пропорционален энтропии на входе. k = 1 для упорядоченного или обратного ввода.
Метод Франческини[14]1да?Выполняет О(п) данные перемещаются.
Нечетно-четная сортировкап1даОбменЛегко запускается на параллельных процессорах.

Несравнительные сорта

В следующей таблице описаны целочисленная сортировка алгоритмы и другие алгоритмы сортировки, которые не виды сравнения. Таким образом, они не ограничиваются Ω(п бревно п).[15] Приведенные ниже сложности предполагают п элементы для сортировки, с ключами размера k, размер цифры d, и р диапазон сортируемых чисел. Многие из них основаны на предположении, что размер ключа достаточно велик, чтобы все записи имели уникальные значения ключа, и, следовательно, п ≪ 2k, где ≪ означает «намного меньше». В удельной стоимости машина с произвольным доступом модель, алгоритмы с временем работы , например, поразрядная сортировка, по-прежнему занимают время, пропорциональное Θ (п бревно п), потому что п ограничено быть не более чем , а для сортировки большего количества элементов потребуется больший k чтобы сохранить их в памяти.[16]

Несравнительные сорта
ИмяЛучшийСреднийНаихудшийобъем памятиСтабильныйп ≪ 2kПримечания
Сорт голубятнидада
Ковшовая сортировка (единые ключи)даНетПредполагает равномерное распределение элементов из домена в массиве.[17]
Ковшовая сортировка (целые ключи)дадаЕсли р является , то средняя временная сложность .[18]
Счетная сортировкададаЕсли р является , то средняя временная сложность .[17]
LSD Radix сортировкадаНет уровни рекурсии, 2d для массива count.[17][18]
MSD Radix SortдаНетСтабильная версия использует внешний массив размера п чтобы вместить все мусорные ведра.
MSD Radix Sort (на месте)НетНетd = 1 для на месте, уровни рекурсии, без счетного массива.
SpreadsortпНетНетАсимптотики основаны на предположении, что п ≪ 2k, но алгоритм этого не требует.
BurstsortНетНетИмеет лучший постоянный коэффициент, чем сортировка по основанию для сортировки строк. Хотя в некоторой степени полагается на особенности часто встречающихся строк.
FlashsortппНетНетТребуется равномерное распределение элементов из домена в массиве для выполнения за линейное время. Если распределение сильно искажено, оно может стать квадратичным, если базовая сортировка квадратична (обычно это сортировка вставкой). Версия на месте нестабильна.
Почтальон сортировкаНетВариант сортировки по корзине, которая очень похожа на MSD Radix Sort. Специально для нужд почтовой службы.

Samplesort может использоваться для распараллеливания любых сортировок без сравнения, эффективно распределяя данные по нескольким сегментам, а затем передавая сортировку нескольким процессорам без необходимости слияния, поскольку сегменты уже отсортированы между собой.

Другие

Некоторые алгоритмы медленны по сравнению с описанными выше, например Богосорт с неограниченным временем работы и марионетка у которого есть О(п2.7) время выполнения. Эти виды обычно описываются в образовательных целях, чтобы продемонстрировать, как оценивается время выполнения алгоритмов. В следующей таблице описаны некоторые алгоритмы сортировки, которые непрактичны для реального использования в традиционных контекстах программного обеспечения из-за крайне низкой производительности или специальных требований к оборудованию.

ИмяЛучшийСреднийНаихудшийобъем памятиСтабильныйСравнениеПрочие примечания
Сортировка бисерапSSНет данныхНетРаботает только с положительными целыми числами. Требуется специализированное оборудование для гарантированной работы время. Есть возможность программной реализации, но время работы будет , куда S представляет собой сумму всех целых чисел, подлежащих сортировке, в случае малых целых чисел его можно считать линейным.
Блины простыеппНетдаСчетчик - это количество переворотов.
Сортировка спагетти (опрос)пппдаОпросЭто аналоговый алгоритм линейного времени для сортировки последовательности элементов, требующий О(п) стековое пространство, и сортировка стабильна. Это требует п параллельные процессоры. Видеть спагетти сортировка # Анализ.
Сортировочная сетьВарьируется (стабильные сортировочные сети требуют большего количества сравнений)даПорядок сравнений устанавливается заранее исходя из фиксированного размера сети. Нецелесообразно для более 32 позиций.[оспаривается ]
Bitonic сортировщикНетдаЭффективный вариант Сортировочных сетей.
Богосортпнеограниченный (определенный), (ожидал)1НетдаСлучайное перемешивание. Используется только в качестве примера, так как даже ожидаемое время выполнения в лучшем случае ужасно.[19]
Stooge sortпНетдаМедленнее, чем большинство алгоритмов сортировки (даже наивных), с временной сложностью О(пжурнал 3 / журнал 1,5 ) = О(п2.7095...).

Теоретики-информатики подробно описали другие алгоритмы сортировки, которые обеспечивают лучше, чем О(п бревно п) временная сложность, предполагающая дополнительные ограничения, в том числе:

  • Алгоритм Торупа, рандомизированный алгоритм сортировки ключей из домена конечного размера, принимая О(п журнал журнал п) время и О(п) Космос.[20]
  • Рандомизированный целочисленная сортировка алгоритм взятия ожидаемое время и О(п) Космос.[21]

Популярные алгоритмы сортировки

Хотя существует большое количество алгоритмов сортировки, в практических реализациях преобладает несколько алгоритмов. Сортировка вставкой широко используется для небольших наборов данных, в то время как для больших наборов данных используется асимптотически эффективная сортировка, в первую очередь сортировка по куче, сортировка слиянием или быстрая сортировка. В эффективных реализациях обычно используется гибридный алгоритм, комбинируя асимптотически эффективный алгоритм для общей сортировки с сортировкой вставкой для небольших списков в конце рекурсии. Хорошо настроенные реализации используют более сложные варианты, такие как Тимсорт (сортировка слиянием, сортировка вставкой и дополнительная логика), используемые в Android, Java и Python, и интросорт (быстрая сортировка и сортировка кучей), используется (в вариантных формах) в некоторых C ++ сортировка реализации и в .NET.

Для более ограниченных данных, таких как числа в фиксированном интервале, виды распределения такие как сортировка счётчиком или сортировка по основанию. Пузырьковая сортировка и варианты редко используются на практике, но обычно встречаются в обучении и теоретических дискуссиях.

При физической сортировке объектов (таких как алфавитные листы, тесты или книги) люди интуитивно обычно используют сортировку вставкой для небольших наборов. Для более крупных наборов люди часто сначала создают ведра, например, по начальной букве, а группирование по нескольким сегментам позволяет практически сортировать очень большие наборы. Часто пространство является относительно дешевым, например, за счет размещения объектов на полу или на большой площади, но операции дороги, особенно перемещение объекта на большое расстояние - важна местность ссылки. Сортировка слиянием также практична для физических объектов, особенно потому, что можно использовать две руки, по одной для каждого списка для слияния, в то время как другие алгоритмы, такие как сортировка кучей или быстрая сортировка, плохо подходят для использования человеком. Другие алгоритмы, такие как сортировка библиотеки, вариант сортировки вставкой, который оставляет пробелы, также практичен для физического использования.

Простые сорта

Двумя простейшими сортировками являются сортировка вставкой и сортировка по выбору, обе из которых эффективны для небольших данных из-за низких накладных расходов, но неэффективны для больших данных. Сортировка вставкой обычно быстрее, чем сортировка выбора на практике из-за меньшего количества сравнений и хорошей производительности для почти отсортированных данных, и поэтому предпочтительна на практике, но сортировка выбора использует меньше операций записи и, таким образом, используется, когда производительность записи является ограничивающим фактором.

Вставка сортировки

Вставка сортировки - это простой алгоритм сортировки, который относительно эффективен для небольших списков и в основном отсортированных списков и часто используется как часть более сложных алгоритмов. Он работает, выбирая элементы из списка один за другим и вставляя их в правильном положении в новый отсортированный список, аналогично тому, как мы кладем деньги в наш кошелек.[22] В массивах новый список и оставшиеся элементы могут совместно использовать пространство массива, но вставка дорогостоящая, требуя сдвига всех следующих элементов на один. Shellsort (см. ниже) - это вариант сортировки вставкой, который более эффективен для больших списков.

Выборочная сортировка

Выборочная сортировка является на месте сортировка сравнения. Она имеет О (п2) сложности, что делает его неэффективным для больших списков и, как правило, хуже, чем аналогичный вставка сортировки. Сортировка выбора отличается своей простотой, а также имеет преимущество в производительности по сравнению с более сложными алгоритмами в определенных ситуациях.

Алгоритм находит минимальное значение, меняет его местами на значение в первой позиции и повторяет эти шаги для оставшейся части списка.[23] Это не более чем п свопы, и поэтому полезен там, где обмен очень дорог.

Эффективные сортировки

Практические общие алгоритмы сортировки почти всегда основаны на алгоритме со средней временной сложностью (и, как правило, сложностью наихудшего случая) O (п бревно п), наиболее распространенными из которых являются сортировка кучей, сортировка слиянием и быстрая сортировка. У каждого есть свои преимущества и недостатки, наиболее существенным из которых является то, что простая реализация сортировки слиянием использует O (п) дополнительное пространство, а простая реализация быстрой сортировки имеет O (п2) сложность наихудшего случая. Эти проблемы можно решить или улучшить за счет более сложного алгоритма.

Хотя эти алгоритмы асимптотически эффективны для случайных данных, для практической эффективности для реальных данных используются различные модификации. Во-первых, накладные расходы этих алгоритмов становятся значительными для небольших данных, поэтому часто используется гибридный алгоритм, обычно переключающийся на сортировку вставкой, когда данные становятся достаточно маленькими. Во-вторых, алгоритмы часто плохо работают с уже отсортированными или почти отсортированными данными - это обычное явление для реальных данных и может быть отсортировано за O (п) времени по соответствующим алгоритмам. Наконец, они также могут быть неустойчивый, а стабильность часто является желательным свойством сорта. Таким образом, часто используются более сложные алгоритмы, такие как Тимсорт (на основе сортировки слиянием) или интросорт (на основе быстрой сортировки, возврат к сортировке в куче).

Сортировка слиянием

Сортировка слиянием пользуется преимуществом простоты объединения уже отсортированных списков в новый отсортированный список. Он начинается со сравнения каждых двух элементов (т.е. 1 с 2, затем 3 с 4 ...) и их замены, если первый должен идти после второго. Затем он объединяет каждый из результирующих списков из двух в списки из четырех, затем объединяет эти списки из четырех и так далее; пока, наконец, два списка не будут объединены в окончательный отсортированный список.[24] Из описанных здесь алгоритмов это первый алгоритм, который хорошо масштабируется до очень больших списков, потому что время его работы в худшем случае составляет O (п бревно п). Он также легко применяется к спискам, а не только к массивам, поскольку требует только последовательного доступа, а не произвольного доступа. Однако в нем есть дополнительные O (п) пространственная сложность и включает большое количество копий в простых реализациях.

Сортировка слиянием относительно недавно стала популярной среди практических реализаций из-за ее использования в сложном алгоритме. Тимсорт, который используется для стандартной процедуры сортировки в языках программирования Python[25] и Ява (по состоянию на JDK7[26]). Сама сортировка слиянием - стандартная процедура в Perl,[27] среди прочего, и использовался в Java по крайней мере с 2000 года в JDK1.3.[28]

Heapsort

Heapsort гораздо более эффективная версия сортировка выбора. Он также работает, определяя наибольший (или наименьший) элемент списка, помещая его в конец (или начало) списка, а затем продолжая работу с остальной частью списка, но эффективно выполняет эту задачу, используя структуру данных, называемую куча, особый вид двоичное дерево.[29] После того как список данных был преобразован в кучу, корневой узел гарантированно будет самым большим (или самым маленьким) элементом. Когда он удаляется и помещается в конец списка, куча перестраивается, так что самый большой оставшийся элемент перемещается в корень. Используя кучу, поиск следующего по величине элемента занимает O (log п) времени вместо O (п) для линейного сканирования, как при простой сортировке по выбору. Это позволяет Heapsort работать за O (п бревно п) времени, и это тоже наихудший случай сложности.

Быстрая сортировка

Быстрая сортировка это разделяй и властвуй алгоритм который опирается на раздел операция: для разделения массива элемент, называемый вращаться выбрано.[30][31] Все элементы, меньшие, чем точка поворота, перемещаются перед ней, а все более крупные элементы перемещаются после нее. Это можно сделать эффективно за линейное время и на месте. Затем рекурсивно сортируются меньший и больший подсписки. Это дает среднюю временную сложность O (п бревно п) с низкими накладными расходами, поэтому это популярный алгоритм. Эффективные реализации быстрой сортировки (с разделением по месту) обычно являются нестабильными и довольно сложными, но на практике являются одними из самых быстрых алгоритмов сортировки. Вместе со своей скромной O (log п) использование пространства, быстрая сортировка - один из самых популярных алгоритмов сортировки, доступный во многих стандартных библиотеках программирования.

Важное предостережение относительно быстрой сортировки заключается в том, что ее производительность в худшем случае равна O (п2); в то время как это бывает редко, в наивных реализациях (выбирая первый или последний элемент в качестве опоры), это имеет место для отсортированных данных, который является общим случаем. Таким образом, наиболее сложной проблемой быстрой сортировки является выбор хорошего элемента поворота, поскольку неизменно неправильный выбор точек поворота может привести к значительно более медленному O (п2) производительность, но хороший выбор опорных точек дает O (п бревно п) производительность, которая является асимптотически оптимальной. Например, если на каждом шаге медиана выбирается в качестве точки поворота, тогда алгоритм работает в O (п бревноп). Нахождение медианы, например, по медиана медиан алгоритм выбора однако является O (п) для несортированных списков и, следовательно, требует значительных накладных расходов при сортировке. На практике выбор случайной точки поворота почти наверняка дает O (п бревноп) спектакль.

Shellsort

Сортировка Shell отличается от пузырьковой сортировки тем, что перемещает элементы во множество меняются местами.

Shellsort был изобретен Дональд Шелл в 1959 г.[32] Он улучшает сортировку вставкой, перемещая элементы не по порядку более чем на одну позицию за раз. Концепция Shellsort заключается в том, что сортировка вставкой выполняется в время, где k - наибольшее расстояние между двумя неуместными элементами. Это означает, что обычно они работают в О(п2), но для данных, которые в основном отсортированы, с несколькими неуместными элементами, они работают быстрее. Таким образом, если сначала отсортировать элементы на большом расстоянии и постепенно уменьшить промежуток между элементами для сортировки, окончательная сортировка будет выполняться намного быстрее. Одна реализация может быть описана как упорядочивание последовательности данных в двумерном массиве с последующей сортировкой столбцов массива с помощью сортировки вставкой.

Наихудшая временная сложность Shellsort - это открытая проблема и зависит от используемой последовательности разрывов, с известными сложностями в диапазоне от О(п2) к О(п4/3) и Θ (п бревно2 п). Это в сочетании с тем, что Shellsort на месте, требуется только относительно небольшой объем кода и не требуется использование стек вызовов, делает его полезным в ситуациях, когда память не хватает, например, в встроенные системы и ядра операционной системы.

Пузырьковая сортировка и варианты

Пузырьковая сортировка и такие варианты, как сортировка по скорлупе и коктейль, являются простыми и крайне неэффективными алгоритмами сортировки. Их часто можно увидеть во вводных текстах из-за простоты анализа, но на практике они используются редко.

Пузырьковая сортировка

Пузырьковая сортировка, алгоритм сортировки, который непрерывно просматривает список, обмен элементы, пока они не появятся в правильном порядке.

Пузырьковая сортировка это простой алгоритм сортировки. Алгоритм запускается в начале набора данных. Он сравнивает первые два элемента и, если первый больше второго, меняет их местами. Он продолжает делать это для каждой пары смежных элементов до конца набора данных. Затем он снова начинается с первых двух элементов, повторяется до тех пор, пока на последнем проходе не перестанут работать.[33] Среднее время и производительность этого алгоритма в худшем случае - O (п2), поэтому его редко используют для сортировки больших неупорядоченных наборов данных. Пузырьковая сортировка может использоваться для сортировки небольшого количества элементов (где ее асимптотическая неэффективность не является большим штрафом). Пузырьковая сортировка также может быть эффективно использована для списка любой длины, который почти отсортирован (то есть элементы не сильно неуместны). Например, если какое-либо количество элементов неуместны только по одной позиции (например, 0123546789 и 1032547698), при обмене пузырьковой сортировкой они будут упорядочены на первом проходе, второй проход найдет все элементы по порядку, поэтому сортировка будет взять только 2п время.

[34]

Сортировка гребней

Сортировка гребней относительно простой алгоритм сортировки, основанный на пузырьковая сортировка и первоначально спроектированный Влодзимежем Добосевичем в 1980 году.[35] Позже он был заново открыт и популяризирован Стивеном Лейси и Ричардом Боксом с Байт Журнал статья опубликована в апреле 1991 года. Основная идея - исключить черепахи, или небольшие значения в конце списка, так как при пузырьковой сортировке они значительно замедляют сортировку. (Кролики(большие значения в начале списка не создают проблем при пузырьковой сортировке). Это достигается путем первоначальной замены элементов, находящихся на определенном расстоянии друг от друга в массиве, а не только замены элементов, если они находятся рядом друг с другом , а затем сокращает выбранное расстояние до тех пор, пока оно не будет работать как обычная пузырьковая сортировка. Таким образом, если Shellsort можно рассматривать как обобщенную версию сортировки вставкой, которая меняет местами элементы, расположенные на определенном расстоянии друг от друга, гребенчатую сортировку можно рассматривать как то же обобщение, которое применяется к пузырьковой сортировке.

Сортировка распределения

Сортировка распределения относится к любому алгоритму сортировки, в котором данные распределяются от их ввода к нескольким промежуточным структурам, которые затем собираются и помещаются на выходе. Например, оба ведро сортировка и flashsort алгоритмы сортировки на основе распределения. Алгоритмы распределения распределения могут использоваться на одном процессоре или они могут быть распределенный алгоритм, где отдельные подмножества отдельно сортируются на разных процессорах, а затем объединяются. Это позволяет внешняя сортировка данных слишком велик, чтобы поместиться в памяти одного компьютера.

Счетная сортировка

Подсчетная сортировка применима, когда известно, что каждый вход принадлежит определенному набору, S, возможностей. Алгоритм работает за O (|S| + п) время и O (|S|) память, где п - длина ввода. Он работает путем создания целочисленного массива размером |S| и используя я-й бункер для подсчета вхождений я-й член S на входе. Затем каждый ввод подсчитывается путем увеличения значения соответствующей ячейки. После этого счетный массив проходит по циклу, чтобы упорядочить все входы. Этот алгоритм сортировки часто нельзя использовать, потому что S должен быть достаточно маленьким, чтобы алгоритм был эффективным, но он чрезвычайно быстр и демонстрирует отличное асимптотическое поведение при п увеличивается. Его также можно изменить для обеспечения стабильного поведения.

Ковшовая сортировка

Сортировка по ведру - это разделяй и властвуй алгоритм сортировки, который обобщает счетная сортировка путем разделения массива на конечное число сегментов. Затем каждая корзина сортируется индивидуально, либо с использованием другого алгоритма сортировки, либо путем рекурсивного применения алгоритма сортировки корзин.

Сортировка по сегментам работает лучше всего, когда элементы набора данных равномерно распределены по всем сегментам.

Radix sort

Radix sort представляет собой алгоритм сортировки чисел путем обработки отдельных цифр. п числа, состоящие из k цифры отсортированы по O (п · k) время. Сортировка Radix может обрабатывать цифры каждого числа, начиная с младшая цифра (LSD) или начиная с самая значимая цифра (МСД). Алгоритм LSD сначала сортирует список по наименьшей значащей цифре, сохраняя при этом их относительный порядок, используя стабильную сортировку. Затем он сортирует их по следующей цифре и так далее от наименее значимого к наиболее значимому, в результате чего получается отсортированный список. В то время как поразрядная сортировка LSD требует использования стабильной сортировки, алгоритм поразрядной сортировки MSD - нет (если не требуется стабильная сортировка). Сортировка по основанию MSD на месте нестабильна. Это обычное дело для счетная сортировка алгоритм для внутреннего использования при сортировке по основанию. А гибридный подход к сортировке, такой как использование вставка сортировки для небольших ячеек значительно улучшает производительность сортировки по основанию.

Шаблоны использования памяти и сортировка индексов

Когда размер сортируемого массива приближается к доступной первичной памяти или превышает ее, так что необходимо использовать (гораздо более медленный) диск или пространство подкачки, становится важным паттерн использования памяти алгоритма сортировки, и алгоритм, который мог бы быть справедливым. эффективен, когда массив легко помещается в ОЗУ, может стать непрактичным. В этом сценарии общее количество сравнений становится (относительно) менее важным, и количество раз, когда разделы памяти должны быть скопированы или заменены на диск и с диска, может доминировать над характеристиками производительности алгоритма. Таким образом, количество проходов и локализация сравнений могут быть более важными, чем исходное количество сравнений, поскольку сравнения соседних элементов друг с другом происходят в системная шина скорость (или, с кешированием, даже при ЦПУ скорость), что по сравнению со скоростью диска практически мгновенно.

Например, популярный рекурсивный быстрая сортировка Алгоритм обеспечивает вполне разумную производительность с адекватной оперативной памятью, но из-за рекурсивного способа копирования частей массива он становится гораздо менее практичным, когда массив не помещается в ОЗУ, поскольку это может вызвать ряд медленных операций копирования или перемещения в и с диска. В этом сценарии другой алгоритм может быть предпочтительнее, даже если он требует более полных сравнений.

Один из способов обойти эту проблему, который хорошо работает, когда сложные записи (например, в реляционная база данных ) сортируются по относительно небольшому ключевому полю, заключается в создании индекса в массиве, а затем сортировке индекса, а не всего массива. (Отсортированная версия всего массива затем может быть создана за один проход, считывая из индекса, но часто даже в этом нет необходимости, поскольку наличие отсортированного индекса является достаточным.) Поскольку индекс намного меньше, чем весь массив, он может легко помещается в память там, где не может быть весь массив, эффективно устраняя проблему подкачки диска. Эту процедуру иногда называют «сортировкой по тегам».[36]

Другой метод решения проблемы с размером памяти - использование внешняя сортировка, например, одним из способов является объединение двух алгоритмов таким образом, чтобы использовать преимущества каждого из них для повышения общей производительности. Например, массив может быть разделен на фрагменты, размер которых соответствует ОЗУ, содержимое каждого фрагмента может быть отсортировано с использованием эффективного алгоритма (например, быстрая сортировка ), а результаты были объединены с использованием k-way слияние, аналогичное используемому в Сортировка слиянием. Это быстрее, чем выполнять сортировку слиянием или быструю сортировку по всему списку.[37][38]

Приемы также можно комбинировать. Для сортировки очень больших наборов данных, которые значительно превышают объем системной памяти, может потребоваться сортировка даже индекса с использованием алгоритма или комбинации алгоритмов, предназначенных для разумной работы с виртуальная память, т. е. уменьшить объем требуемой подкачки.

Связанные алгоритмы

Связанные проблемы включают частичная сортировка (сортировка только k наименьшие элементы списка или, альтернативно, вычисление k наименьшие элементы, но неупорядоченные) и отбор (вычисляя kнаименьший элемент). Их можно неэффективно решить с помощью полной сортировки, но существуют более эффективные алгоритмы, часто получаемые путем обобщения алгоритма сортировки. Наиболее ярким примером является быстрый выбор, что связано с быстрая сортировка. И наоборот, некоторые алгоритмы сортировки могут быть получены путем многократного применения алгоритма выбора; быструю сортировку и быстрый выбор можно рассматривать как одно и то же поворотное движение, различающееся только тем, выполняется ли рекурсия с обеих сторон (быстрая сортировка, разделяй и властвуй ) или с одной стороны (быстрый выбор, уменьшаться и побеждать ).

Своего рода противоположность алгоритму сортировки - это алгоритм перемешивания. Они принципиально разные, потому что требуют источника случайных чисел. Перемешивание также может быть реализовано с помощью алгоритма сортировки, а именно случайной сортировки: присвоение случайного числа каждому элементу списка, а затем сортировка на основе случайных чисел. Однако на практике это обычно не делается, и существует хорошо известный простой и эффективный алгоритм перетасовки: Перемешивание Фишера – Йетса.

Смотрите также

Рекомендации

  1. ^ «Познакомьтесь с« дамами-холодильниками », которые программировали ENIAC». Ментальная нить. 2013-10-13. Получено 2016-06-16.
  2. ^ Лор, Стив (17 декабря 2001 г.). "Фрэнсис Э. Холбертон, 84 года, первый программист". Нью-Йорк Таймс. Получено 16 декабря 2014.
  3. ^ Демут, Ховард Б. (1956). Электронная сортировка данных (Кандидатская диссертация). Стэндфордский Университет. ProQuest  301940891.
  4. ^ Кормен, Томас Х.; Лейзерсон, Чарльз Э.; Ривест, Рональд Л.; Штейн, Клиффорд (2009), "8", Введение в алгоритмы (3-е изд.), Кембридж, Массачусетс: MIT Press, стр. 167, ISBN  978-0-262-03293-3
  5. ^ Седжвик, Роберт (1 сентября 1998 г.). Алгоритмы на C: основы, структуры данных, сортировка, поиск, части 1-4 (3-е изд.). Pearson Education. ISBN  978-81-317-1291-7. Получено 27 ноября 2012.
  6. ^ Седжвик, Р. (1978). «Реализация программ Quicksort». Comm. ACM. 21 (10): 847–857. Дои:10.1145/359619.359631.
  7. ^ Айтай, М.; Комлос, Я.; Семереди, Э. (1983). An O (п войти п) сортировочная сеть. STOC '83. Материалы пятнадцатого ежегодного симпозиума ACM по теории вычислений.. С. 1–9. Дои:10.1145/800061.808726. ISBN  0-89791-099-0.
  8. ^ Huang, B.C .; Лэнгстон, М.А. (декабрь 1992 г.). «Быстрое стабильное слияние и сортировка в постоянном дополнительном пространстве» (PDF). Comput. Дж. 35 (6): 643–650. CiteSeerX  10.1.1.54.8381. Дои:10.1093 / comjnl / 35.6.643.
  9. ^ Kim, P. S .; Куцнер, А. (2008). Стабильное слияние на месте на основе соотношения. ТАМС 2008. Теория и приложения моделей вычислений. LNCS. 4978. С. 246–257. CiteSeerX  10.1.1.330.2641. Дои:10.1007/978-3-540-79228-4_22. ISBN  978-3-540-79227-7.
  10. ^ https://qiita.com/hon_no_mushi/items/92ff1a220f179b8d40f9
  11. ^ «СОРТИРОВКА ВЫБОРА (Java, C ++) - алгоритмы и структуры данных». www.algolist.net. Получено 14 апреля 2018.
  12. ^ http://dbs.uni-leipzig.de/skripte/ADS1/PDF4/kap4.pdf
  13. ^ Кагель, Искусство (ноябрь 1985 г.). «Не перемешать, не совсем так». Компьютерный язык. 2 (11).
  14. ^ Франческини, Г. (июнь 2007 г.). «Стабильная сортировка на месте, с O (n log n) сравнениями и O (n) перемещениями». Теория вычислительных систем. 40 (4): 327–353. Дои:10.1007 / s00224-006-1311-1.
  15. ^ Кормен, Томас Х.; Лейзерсон, Чарльз Э.; Ривест, Рональд Л.; Штейн, Клиффорд (2001), "8", Введение в алгоритмы (2-е изд.), Кембридж, Массачусетс: MIT Press, стр. 165, ISBN  0-262-03293-7
  16. ^ Нильссон, Стефан (2000). "Самый быстрый алгоритм сортировки?". Доктора Добба.
  17. ^ а б c Кормен, Томас Х.; Лейзерсон, Чарльз Э.; Ривест, Рональд Л.; Штейн, Клиффорд (2001) [1990]. Введение в алгоритмы (2-е изд.). MIT Press и McGraw-Hill. ISBN  0-262-03293-7.
  18. ^ а б Гудрич, Майкл Т.; Тамассия, Роберто (2002). «4.5 Бакет-сортировка и радикс-сортировка». Разработка алгоритмов: основы, анализ и примеры в Интернете. Джон Вили и сыновья. С. 241–243. ISBN  978-0-471-38365-9.
  19. ^ Gruber, H .; Holzer, M .; Рупп, О., "Сортировка медленным способом: анализ извращенно ужасных алгоритмов рандомизированной сортировки", 4-я Международная конференция по развлечениям с алгоритмами, Кастильончелло, Италия, 2007 г. (PDF), Конспект лекций по информатике, 4475, Springer-Verlag, стр. 183–197, Дои:10.1007/978-3-540-72914-3_17.
  20. ^ Торуп, М. (Февраль 2002 г.). «Рандомизированная сортировка за O (n log log n) времени и линейного пространства с использованием сложения, сдвига и побитовых логических операций». Журнал алгоритмов. 42 (2): 205–230. Дои:10.1006 / jagm.2002.1211.
  21. ^ Хан, Ицзе; Торуп, М. (2002). Целочисленная сортировка в O (n√ (log log n)) ожидаемом времени и линейном пространстве. 43-я ежегодная конференция IEEE Симпозиум по основам информатики. С. 135–144. Дои:10.1109 / SFCS.2002.1181890. ISBN  0-7695-1822-2.
  22. ^ Вирт, Никлаус (1986), Алгоритмы и структуры данных, Верхняя Сэдл Ривер, Нью-Джерси: Прентис-Холл, стр. 76–77, ISBN  978-0130220059
  23. ^ Вирт 1986, стр. 79–80
  24. ^ Вирт 1986, стр. 101–102
  25. ^ "Оригинальное описание Timsort, данное Тимом Питерсом". python.org. Получено 14 апреля 2018.
  26. ^ "OpenJDK's TimSort.java". java.net. Получено 14 апреля 2018.
  27. ^ "сортировка - perldoc.perl.org". perldoc.perl.org. Получено 14 апреля 2018.
  28. ^ Сортировка слиянием в Java 1.3, Солнце. В архиве 2009-03-04 на Wayback Machine
  29. ^ Вирт 1986, стр. 87–89
  30. ^ Вирт 1986, п. 93
  31. ^ Кормен, Томас Х.; Лейзерсон, Чарльз Э.; Ривест, Рональд Л.; Штейн, Клиффорд (2009), Введение в алгоритмы (3-е изд.), Кембридж, Массачусетс: MIT Press, стр. 171–172, ISBN  978-0262033848
  32. ^ Шелл, Д. Л. (1959). «Процедура высокоскоростной сортировки» (PDF). Коммуникации ACM. 2 (7): 30–32. Дои:10.1145/368370.368387.
  33. ^ Вирт 1986, стр. 81–82
  34. ^ "ядро / groups.c". Получено 2012-05-05.
  35. ^ Брейова, Б. (15 сентября 2001 г.). «Анализируем варианты Shellsort». Инф. Процесс. Lett. 79 (5): 223–227. Дои:10.1016 / S0020-0190 (00) 00223-4.
  36. ^ "Определение сортировки тегов из энциклопедии журнала PC". www.pcmag.com. Получено 14 апреля 2018.
  37. ^ Дональд Кнут, Искусство программирования, Том 3: Сортировка и поиск, Второе издание. Эддисон-Уэсли, 1998 г., ISBN  0-201-89685-0, Раздел 5.4: Внешняя сортировка, стр. 248–379.
  38. ^ Эллис Горовиц и Сартадж Сахни, Основы структур данных, Х. Фриман и Ко, ISBN  0-7167-8042-9.

дальнейшее чтение

внешняя ссылка