排序的定義

排序，就是重新排列表中的元素，使表中的元素滿足按關(guān)鍵字遞增或遞減的過程。為了査找方便，通常要求計算機(jī)中的表是按關(guān)鍵字有序的。

排序的確切定義如下：

算法的穩(wěn)定性：

若待排序表中有兩個元素 Ri 和 Rj，其對應(yīng)的關(guān)鍵字 keyi = kcyj , 且在排序前 Ri 在 Rj 的前面。使用某一排序算法排序后，Ri 仍然在 Rj 的前面盡的前面，則稱這個排序算法是穩(wěn)定的。否則稱排序算法是不穩(wěn)定的。

需要注意的是，算法是否具有穩(wěn)定性并不能衡量—個算法的優(yōu)劣，它主要針對算法的性質(zhì)進(jìn)行描述。只需舉出一組關(guān)徤字的實例，即可說明一個算法是不穩(wěn)定的。

時間復(fù)雜度：[1]（來自百度百科）

分析：隨著模塊n的增大，算法執(zhí)行的時間的增長率和 f(n) 的增長率成正比，所以 f(n) 越小，算法的時間復(fù)雜度越低，算法的效率越高。

空間復(fù)雜度：[2]（來自百度百科）

類似于時間復(fù)雜度的討論，一個算法的空間復(fù)雜度 S(n) 定義為該算法所耗費(fèi)的存儲空間，它也是問題規(guī)模n的函數(shù)。漸近空間復(fù)雜度也常常簡稱為空間復(fù)雜度。

空間復(fù)雜度(SpaceComplexity)是對一個算法在運(yùn)行過程中臨時占用存儲空間大小的量度。一個算法在計算機(jī)存儲器上所占用的存儲空間，包括存儲算法本身所占用的存儲空間，算法的輸入輸出數(shù)據(jù)所占用的存儲空間和算法在運(yùn)行過程中臨時占用的存儲空間這三個方面。

算法的輸入輸出數(shù)據(jù)所占用的存儲空間是由要解決的問題決定的，是通過參數(shù)表由調(diào)用函數(shù)傳遞而來的，它不隨本算法的不同而改變。存儲算法本身所占用的存儲空間與算法書寫的長短成正比，要壓縮這方面的存儲空間，就必須編寫出較短的算法。

算法在運(yùn)行過程中臨時占用的存儲空間隨算法的不同而異，有的算法只需要占用少量的臨時工作單元，而且不隨問題規(guī)模的大小而改變，我們稱這種算法是“就地"進(jìn)行的，是節(jié)省存儲的算法，有的算法需要占用的臨時工作單元數(shù)與解決問題的規(guī)模 n 有關(guān)，它隨著n的增大而增大，當(dāng)n較大時，將占用較多的存儲單元，例如快速排序和歸并排序算法就屬于這種情況。

算法的分類可以按照是否是比較類的算法來分類，也可以按照排序過程中數(shù)據(jù)是否都存在于內(nèi)存中來分類：

如下：

按照內(nèi)部排序和外部排序分類：

插入排序（Insertion-Sort）的算法描述是一種簡單直觀的排序算法。它的工作原理是通過構(gòu)建有序序列，對于未排序數(shù)據(jù)，在已排序序列中從后向前掃描，找到相應(yīng)位置并插入。

算法描述

一般來說，插入排序都采用in-place在數(shù)組上實現(xiàn)。具體算法描述如下：

• 從第一個元素開始，該元素可以認(rèn)為已經(jīng)被排序；

• 取出下一個元素，在已經(jīng)排序的元素序列中從后向前掃描；

• 如果該元素（已排序）大于新元素，將該元素移到下一位置；

• 重復(fù)步驟3，直到找到已排序的元素小于或者等于新元素的位置；

• 將新元素插入到該位置后；

• 重復(fù)步驟2~5。
  動圖演示

C代碼實現(xiàn)
算法分析
插入排序在實現(xiàn)上，通常采用in-place排序（即只需用到O(1)的額外空間的排序），因而在從后向前掃描過程中，需要反復(fù)把已排序元素逐步向后挪位，為最新元素提供插入空間。
1959年Shell發(fā)明，第一個突破O(n2)的排序算法，是簡單插入排序的改進(jìn)版。它與插入排序的不同之處在于，它會優(yōu)先比較距離較遠(yuǎn)的元素。希爾排序又叫縮小增量排序。
算法描述
先將整個待排序的記錄序列分割成為若干子序列分別進(jìn)行直接插入排序，具體算法描述：
1.選擇一個增量序列t1，t2，…，tk，其中ti > tj，tk=1；
2.按增量序列個數(shù)k，對序列進(jìn)行k 趟排序；
3.每趟排序，根據(jù)對應(yīng)的增量ti，將待排序列分割成若干長度為m 的子序列，分別對各子表進(jìn)行直接插入排序。僅增量因子為1 時，整個序列作為一個表來處理，表長度即為整個序列的長度。
動圖演示
C代碼實現(xiàn)
算法分析
希爾排序是基于插入排序的以下兩點性質(zhì)而提出改進(jìn)方法的：

• 插入排序在對幾乎已經(jīng)排好序的數(shù)據(jù)操作時， 效率高， 即可以達(dá)到線性排序的效率

• 但插入排序一般來說是低效的， 因為插入排序每次只能將數(shù)據(jù)移動一位
  時間復(fù)雜度：最壞情況下為O(n^2)，平均時間復(fù)雜度為O(nlogn)；
  空間復(fù)雜度：歸并排序需要一個大小為1的臨時存儲空間用以保存合并序列，所以空間復(fù)雜度為O(1)；
  算法穩(wěn)定性：從上面圖片中可以看出，數(shù)字5在排序后交換了位置，所以它是不穩(wěn)定的算法。
  選擇排序(Selection-sort)是一種簡單直觀的排序算法。它的工作原理：首先在未排序序列中找到最?。ù螅┰?，存放到排序序列的起始位置，然后，再從剩余未排序元素中繼續(xù)尋找最?。ù螅┰?，然后放到已排序序列的末尾。以此類推，直到所有元素均排序完畢。
  算法描述
  n個記錄的直接選擇排序可經(jīng)過n-1趟直接選擇排序得到有序結(jié)果。具體算法描述如下：
  4.初始狀態(tài)：無序區(qū)為R[1…n]，有序區(qū)為空；
  5.第i趟排序(i=1,2,3…n-1)開始時，當(dāng)前有序區(qū)和無序區(qū)分別為R[1…i-1]和R(i…n）。該趟排序從當(dāng)前無序區(qū)中-選出關(guān)鍵字最小的記錄 R[k]，將它與無序區(qū)的第1個記錄R交換，使R[1…i]和R[i+1…n)分別變?yōu)橛涗泜€數(shù)增加1個的新有序區(qū)和記錄個數(shù)減少1個的新無序區(qū)； 6.n-1趟結(jié)束，數(shù)組有序化了。 動圖演示 !(https://ceshiren.com/uploads/default/original/2X/d/db250639763b82615a6395147e5929a2248b94fd.gif)
  C語言實現(xiàn)
  算法分析
  表現(xiàn)最穩(wěn)定的排序算法之一，因為無論什么數(shù)據(jù)進(jìn)去都是O(n2)的時間復(fù)雜度，所以用到它的時候，數(shù)據(jù)規(guī)模越小越好。唯一的好處可能就是不占用額外的內(nèi)存空間了吧。理論上講，選擇排序可能也是平時排序一般人想到的最多的排序方法了吧。
  堆排序（Heapsort）是指利用堆這種數(shù)據(jù)結(jié)構(gòu)所設(shè)計的一種排序算法。堆積是一個近似完全二叉樹的結(jié)構(gòu)，并同時滿足堆積的性質(zhì)：即子結(jié)點的鍵值或索引總是小于（或者大于）它的父節(jié)點。
  算法描述
  7.將初始待排序關(guān)鍵字序列(R1,R2….Rn)構(gòu)建成大頂堆，此堆為初始的無序區(qū)；
  8.將堆頂元素R[1]與最后一個元素R[n]交換，此時得到新的無序區(qū)(R1,R2,……Rn-1)和新的有序區(qū)(Rn),且滿足R[1,2…n-1]<=R[n]；
  9.由于交換后新的堆頂R[1]可能違反堆的性質(zhì)，因此需要對當(dāng)前無序區(qū)(R1,R2,……Rn-1)調(diào)整為新堆，然后再次將R[1]與無序區(qū)最后一個元素交換，得到新的無序區(qū)(R1,R2….Rn-2)和新的有序區(qū)(Rn-1,Rn)。不斷重復(fù)此過程直到有序區(qū)的元素個數(shù)為n-1，則整個排序過程完成。
  動圖演示
  

代碼實現(xiàn)：
算法分析：
堆排序是一種選擇排序，整體主要由構(gòu)建初始堆+交換堆頂元素和末尾元素并重建堆兩部分組成。其中構(gòu)建初始堆經(jīng)推導(dǎo)復(fù)雜度為O(n)，在交換并重建堆的過程中，需交換n-1次，而重建堆的過程中，根據(jù)完全二叉樹的性質(zhì)，[log2(n-1),log2(n-2)…1]逐步遞減，近似為nlogn。所以堆排序時間復(fù)雜度一般認(rèn)為就是O(nlogn)級。
冒泡排序是一種簡單的排序算法。它重復(fù)地走訪過要排序的數(shù)列，一次比較兩個元素，如果它們的順序錯誤就把它們交換過來。走訪數(shù)列的工作是重復(fù)地進(jìn)行直到?jīng)]有再需要交換，也就是說該數(shù)列已經(jīng)排序完成。這個算法的名字由來是因為越小的元素會經(jīng)由交換慢慢“浮”到數(shù)列的頂端。
算法描述
10.比較相鄰的元素。如果第一個比第二個大，就交換它們兩個；
11.對每一對相鄰元素作同樣的工作，從開始第一對到結(jié)尾的最后一對，這樣在最后的元素應(yīng)該會是最大的數(shù)；
12.針對所有的元素重復(fù)以上的步驟，除了最后一個；
13.重復(fù)步驟1~3，直到排序完成。
動圖演示

C語言實現(xiàn)
算法分析
若文件的初始狀態(tài)是正序的，一趟掃描即可完成排序。所需的關(guān)鍵字比較次數(shù)C和記錄移動次數(shù)M均達(dá)到最小值：Cmin = N - 1, Mmin = 0。所以，冒泡排序最好時間復(fù)雜度為O(N)。
若初始文件是反序的，需要進(jìn)行 N -1 趟排序。每趟排序要進(jìn)行 N - i 次關(guān)鍵字的比較(1 ≤ i ≤ N - 1)，且每次比較都必須移動記錄三次來達(dá)到交換記錄位置。在這種情況下，比較和移動次數(shù)均達(dá)到最大值：
Cmax = N(N-1)/2 = O(N2)
Mmax = 3N(N-1)/2 = O(N2)
冒泡排序的最壞時間復(fù)雜度為O(N2)。因此，冒泡排序的平均時間復(fù)雜度為O(N2)。
快速排序的基本思想：通過一趟排序?qū)⒋庞涗浄指舫瑟毩⒌膬刹糠?，其中一部分記錄的關(guān)鍵字均比另一部分的關(guān)鍵字小，則可分別對這兩部分記錄繼續(xù)進(jìn)行排序，以達(dá)到整個序列有序。
算法描述
快速排序使用分治法來把一個串（list）分為兩個子串（sub-lists）。具體算法描述如下：
14.從數(shù)列中挑出一個元素，稱為 “基準(zhǔn)”（pivot）；
15.重新排序數(shù)列，所有元素比基準(zhǔn)值小的擺放在基準(zhǔn)前面，所有元素比基準(zhǔn)值大的擺在基準(zhǔn)的后面（相同的數(shù)可以到任一邊）。在這個分區(qū)退出之后，該基準(zhǔn)就處于數(shù)列的中間位置。這個稱為分區(qū)（partition）操作；
16.遞歸地（recursive）把小于基準(zhǔn)值元素的子數(shù)列和大于基準(zhǔn)值元素的子數(shù)列排序。
動圖演示
C語言實現(xiàn)
算法分析：
當(dāng)數(shù)據(jù)有序時，以第一個關(guān)鍵字為基準(zhǔn)分為兩個子序列，前一個子序列為空，此時執(zhí)行效率最差。
而當(dāng)數(shù)據(jù)隨機(jī)分布時，以第一個關(guān)鍵字為基準(zhǔn)分為兩個子序列，兩個子序列的元素個數(shù)接近相等，此時執(zhí)行效率最好。
所以，數(shù)據(jù)越隨機(jī)分布時，快速排序性能越好；數(shù)據(jù)越接近有序，快速排序性能越差。
歸并排序是建立在歸并操作上的一種有效的排序算法。該算法是采用分治法（Divide and Conquer）的一個非常典型的應(yīng)用。將已有序的子序列合并，得到完全有序的序列；即先使每個子序列有序，再使子序列段間有序。若將兩個有序表合并成一個有序表，稱為2-路歸并。
算法描述
17.把長度為n的輸入序列分成兩個長度為n/2的子序列；
18.對這兩個子序列分別采用歸并排序；
19.將兩個排序好的子序列合并成一個最終的排序序列。
動圖演示

C語言實現(xiàn)
算法分析
歸并排序是一種穩(wěn)定的排序方法。和選擇排序一樣，歸并排序的性能不受輸入數(shù)據(jù)的影響，但表現(xiàn)比選擇排序好的多，因為始終都是O(nlogn）的時間復(fù)雜度。代價是需要額外的內(nèi)存空間。
計數(shù)排序不是基于比較的排序算法，其核心在于將輸入的數(shù)據(jù)值轉(zhuǎn)化為鍵存儲在額外開辟的數(shù)組空間中。作為一種線性時間復(fù)雜度的排序，計數(shù)排序要求輸入的數(shù)據(jù)必須是有確定范圍的整數(shù)。
算法描述
20.找出待排序的數(shù)組中最大和最小的元素；
21.統(tǒng)計數(shù)組中每個值為i的元素出現(xiàn)的次數(shù)，存入數(shù)組C的第i項；
22.對所有的計數(shù)累加（從C中的第一個元素開始，每一項和前一項相加）；
23.反向填充目標(biāo)數(shù)組：將每個元素i放在新數(shù)組的第C(i)項，每放一個元素就將C(i)減去1。
動圖演示
C語言實現(xiàn)
算法分析
計數(shù)排序是一個穩(wěn)定的排序算法。當(dāng)輸入的元素是 n 個 0到 k 之間的整數(shù)時，時間復(fù)雜度是O(n+k)，空間復(fù)雜度也是O(n+k)，其排序速度快于任何比較排序算法。當(dāng)k不是很大并且序列比較集中時，計數(shù)排序是一個很有效的排序算法。
基數(shù)排序是按照低位先排序，然后收集；再按照高位排序，然后再收集；依次類推，直到最高位。有時候有些屬性是有優(yōu)先級順序的，先按低優(yōu)先級排序，再按高優(yōu)先級排序。最后的次序就是高優(yōu)先級高的在前，高優(yōu)先級相同的低優(yōu)先級高的在前。
算法描述
24.取得數(shù)組中的最大數(shù)，并取得位數(shù)；
25.arr為原始數(shù)組，從最低位開始取每個位組成radix數(shù)組；
26.對radix進(jìn)行計數(shù)排序（利用計數(shù)排序適用于小范圍數(shù)的特點）；
動圖演示
C語言實現(xiàn)
算法分析
基數(shù)排序基于分別排序，分別收集，所以是穩(wěn)定的。但基數(shù)排序的性能比桶排序要略差，每一次關(guān)鍵字的桶分配都需要O(n)的時間復(fù)雜度，而且分配之后得到新的關(guān)鍵字序列又需要O(n)的時間復(fù)雜度。假如待排數(shù)據(jù)可以分為d個關(guān)鍵字，則基數(shù)排序的時間復(fù)雜度將是O(d*2n) ，當(dāng)然d要遠(yuǎn)遠(yuǎn)小于n，因此基本上還是線性級別的。
基數(shù)排序的空間復(fù)雜度為O(n+k)，其中k為桶的數(shù)量。一般來說n>>k，因此額外空間需要大概n個左右。
桶排序是計數(shù)排序的升級版。它利用了函數(shù)的映射關(guān)系，高效與否的關(guān)鍵就在于這個映射函數(shù)的確定。桶排序 (Bucket sort)的工作的原理：假設(shè)輸入數(shù)據(jù)服從均勻分布，將數(shù)據(jù)分到有限數(shù)量的桶里，每個桶再分別排序（有可能再使用別的排序算法或是以遞歸方式繼續(xù)使用桶排序進(jìn)行排）。
算法描述
27.設(shè)置一個定量的數(shù)組當(dāng)作空桶；
28.遍歷輸入數(shù)據(jù)，并且把數(shù)據(jù)一個一個放到對應(yīng)的桶里去；
29.對每個不是空的桶進(jìn)行排序；
30.從不是空的桶里把排好序的數(shù)據(jù)拼接起來。
動圖演示
C語言實現(xiàn)
算法分析
桶排序最好情況下使用線性時間O(n)，桶排序的時間復(fù)雜度，取決與對各個桶之間數(shù)據(jù)進(jìn)行排序的時間復(fù)雜度，因為其它部分的時間復(fù)雜度都為O(n)。很顯然，桶劃分的越小，各個桶之間的數(shù)據(jù)越少，排序所用的時間也會越少。但相應(yīng)的空間消耗就會增大。(end)