前言

Python 一直以來(lái)被大家所詬病的一點(diǎn)就是執(zhí)行速度慢，但不可否認(rèn)的是 Python 依然是我們學(xué)習(xí)和工作中的一大利器。因此，我們對(duì) Python 呢是“又愛(ài)又恨”。

本文總結(jié)了一些小 tips 有助于提升 Python 執(zhí)行速度、優(yōu)化性能。以下所有技巧都經(jīng)過(guò)我的驗(yàn)證，可放心食用??。

先上結(jié)論：

1. 使用map()進(jìn)行函數(shù)映射

2. 使用set()求交集

3. 使用sort()或sorted()排序

4. 使用collections.Counter()計(jì)數(shù)

5. 使用列表推導(dǎo)

6. 使用join()連接字符串

7. 使用x, y = y, x交換變量

8. 使用while 1取代while True

9. 使用裝飾器緩存

10. 減少點(diǎn)運(yùn)算符(.)的使用

11. 使用for循環(huán)取代while循環(huán)

12. 使用Numba.jit加速計(jì)算

13. 使用Numpy矢量化數(shù)組

14. 使用in檢查列表成員

15. 使用itertools庫(kù)迭代

如何測(cè)量程序的執(zhí)行時(shí)間?

關(guān)于 Python 如何精確地測(cè)量程序的執(zhí)行時(shí)間，這個(gè)問(wèn)題看起來(lái)簡(jiǎn)單其實(shí)很復(fù)雜，因?yàn)槌绦虻膱?zhí)行時(shí)間受到很多因素的影響，例如操作系統(tǒng)、Python 版本以及相關(guān)硬件（CPU 性能、內(nèi)存讀寫(xiě)速度）等。在同一臺(tái)電腦上運(yùn)行相同版本的語(yǔ)言時(shí)，上述因素就是確定的了，但是程序的睡眠時(shí)間依然是變化的，且電腦上正在運(yùn)行的其他程序也會(huì)對(duì)實(shí)驗(yàn)有干擾，因此嚴(yán)格來(lái)說(shuō)這就是《實(shí)驗(yàn)不可重復(fù)》。

我了解到的關(guān)于計(jì)時(shí)比較有代表性的兩個(gè)庫(kù)就是time和timeit。

其中，time庫(kù)中有time()、perf_counter()以及process_time()三個(gè)函數(shù)可用來(lái)計(jì)時(shí)?（以秒為單位），加后綴_ns表示以納秒計(jì)時(shí)（自 Python3.7 始）。在此之前還有clock()函數(shù)，但是在 Python3.3 之后被移除了。上述三者的區(qū)別如下：

• time()精度上相對(duì)沒(méi)有那么高，而且受系統(tǒng)的影響，適合表示日期時(shí)間或者大程序的計(jì)時(shí)。

• perf_counter()適合小一點(diǎn)的程序測(cè)試，會(huì)計(jì)算sleep()時(shí)間。

• process_time()適合小一點(diǎn)的程序測(cè)試，不計(jì)算sleep()時(shí)間。

與time庫(kù)相比，timeit 有兩個(gè)優(yōu)點(diǎn)：

• timeit 會(huì)根據(jù)您的操作系統(tǒng)和 Python 版本選擇最佳計(jì)時(shí)器。

• timeit 在計(jì)時(shí)期間會(huì)暫時(shí)禁用垃圾回收。

timeit.timeit(stmt='pass', setup='pass', timer=<default timer>, number=1000000, globals=None) 參數(shù)說(shuō)明：

• stmt='pass'：需要計(jì)時(shí)的語(yǔ)句或者函數(shù)。

• setup='pass'：執(zhí)行stmt之前要運(yùn)行的代碼。通常，它用于導(dǎo)入一些模塊或聲明一些必要的變量。

• timer=<default timer>：計(jì)時(shí)器函數(shù)，默認(rèn)為time.perf_counter()。

• number=1000000：執(zhí)行計(jì)時(shí)語(yǔ)句的次數(shù)，默認(rèn)為一百萬(wàn)次。

• globals=None：指定執(zhí)行代碼的命名空間。

本文所有的計(jì)時(shí)均采用timeit方法，且采用默認(rèn)的執(zhí)行次數(shù)一百萬(wàn)次。

為什么要執(zhí)行一百萬(wàn)次呢？因?yàn)槲覀兊臏y(cè)試程序很短，如果不執(zhí)行這么多次的話(huà)，根本看不出差距。

正文

1.使用map()進(jìn)行函數(shù)映射

? Exp1：將字符串?dāng)?shù)組中的小寫(xiě)字母轉(zhuǎn)為大寫(xiě)字母。

測(cè)試數(shù)組為 oldlist = ['life', 'is', 'short', 'i', 'choose', 'python']。

• 方法一

• 方法二
  

方法一耗時(shí) 0.5267724000000005s，方法二耗時(shí) 0.41462569999999843s，性能提升 21.29% ??

2.使用set()求交集

? Exp2：求兩個(gè)list的交集。

測(cè)試數(shù)組：a = [1,2,3,4,5]，b = [2,4,6,8,10]。

• 方法一

• 方法二

方法一耗時(shí) 0.9507264000000006s，方法二耗時(shí) 0.6148200999999993s，性能提升 35.33% ??

關(guān)于set()的語(yǔ)法：|、&、-分別表示求并集、交集、差集。

3.使用sort()或sorted()排序

我們可以通過(guò)多種方式對(duì)序列進(jìn)行排序，但其實(shí)自己編寫(xiě)排序算法的方法有些得不償失。因?yàn)閮?nèi)置的 sort()或 sorted() 方法已經(jīng)足夠優(yōu)秀了，且利用參數(shù)key可以實(shí)現(xiàn)不同的功能，非常靈活。二者的區(qū)別是sort()方法僅被定義在list中，而sorted()是全局方法對(duì)所有的可迭代序列都有效。

? Exp3：分別使用快排和sort()方法對(duì)同一列表排序。

測(cè)試數(shù)組：lists = [2,1,4,3,0]。

• 方法一

• 方法二

方法一耗時(shí) 2.4796975000000003s，方法二耗時(shí) 0.05551999999999424s，性能提升 97.76% ??

順帶一提，sorted()方法耗時(shí) 0.1339823999987857s。

可以看出，sort()作為list專(zhuān)屬的排序方法還是很強(qiáng)的，sorted()雖然比前者慢一點(diǎn)，但是勝在它“不挑食”，它對(duì)所有的可迭代序列都有效。

擴(kuò)展：如何定義sort()或sorted()方法的key?

1. 通過(guò)lambda定義

2.通過(guò)operator定義

operator的itemgetter()適用于普通數(shù)組排序，attrgetter()適用于對(duì)象數(shù)組排序

3.通過(guò)cmp_to_key()定義，最為靈活

4.使用collections.Counter()計(jì)數(shù)

? Exp4：統(tǒng)計(jì)字符串中每個(gè)字符出現(xiàn)的次數(shù)。

測(cè)試數(shù)組：sentence='life is short, i choose python'。

• 方法一

• 方法二

方法一耗時(shí) 2.8105250000000055s，方法二耗時(shí) 1.6317423000000062s，性能提升 41.94% ??

5.使用列表推導(dǎo)

列表推導(dǎo)（list comprehension）短小精悍。在小代碼片段中，可能沒(méi)有太大的區(qū)別。但是在大型開(kāi)發(fā)中，它可以節(jié)省一些時(shí)間。

? Exp5：對(duì)列表中的奇數(shù)求平方，偶數(shù)不變。

測(cè)試數(shù)組：oldlist = range(10)。

• 方法一

• 方法二

方法一耗時(shí) 1.5342976000000021s，方法二耗時(shí) 1.4181957999999923s，性能提升 7.57% ??

6.使用 join() 連接字符串

大多數(shù)人都習(xí)慣使用+來(lái)連接字符串。但其實(shí)，這種方法非常低效。因?yàn)椋?code>+操作在每一步中都會(huì)創(chuàng)建一個(gè)新字符串并復(fù)制舊字符串。更好的方法是用 join() 來(lái)連接字符串。關(guān)于字符串的其他操作，也盡量使用內(nèi)置函數(shù)，如isalpha()、isdigit()、startswith()、endswith()等。

? Exp6：將字符串列表中的元素連接起來(lái)。

測(cè)試數(shù)組：oldlist = ['life', 'is', 'short', 'i', 'choose', 'python']。

• 方法一

?

• 方法二

方法一耗時(shí) 0.27489080000000854s，方法二耗時(shí) 0.08166570000000206s，性能提升 70.29% ??

join還有一個(gè)非常舒服的點(diǎn)，就是它可以指定連接的分隔符，舉個(gè)例子??

life//is//short//i//choose//python

7.使用x, y = y, x交換變量

? Exp6：交換x，y的值。

測(cè)試數(shù)據(jù)：x, y = 100, 200。

• 方法一

• 方法二

方法一耗時(shí) 0.027853900000010867s，方法二耗時(shí) 0.02398730000000171s，性能提升 13.88% ??

8.使用while 1取代while True

在不知道確切的循環(huán)次數(shù)時(shí)，常規(guī)方法是使用while True進(jìn)行無(wú)限循環(huán)，在代碼塊中判斷是否滿(mǎn)足循環(huán)終止條件。雖然這樣做沒(méi)有任何問(wèn)題，但while 1的執(zhí)行速度比while True更快。因?yàn)樗且环N數(shù)值轉(zhuǎn)換，可以更快地生成輸出。

? Exp8：分別用while 1和while True循環(huán) 100 次。

• 方法一

• 方法二

方法一耗時(shí) 3.679268300000004s，方法二耗時(shí) 3.607847499999991s，性能提升1.94% ??

9.使用裝飾器緩存

將文件存儲(chǔ)在高速緩存中有助于快速恢復(fù)功能。Python 支持裝飾器緩存，該緩存在內(nèi)存中維護(hù)特定類(lèi)型的緩存，以實(shí)現(xiàn)最佳軟件驅(qū)動(dòng)速度。我們使用lru_cache裝飾器來(lái)為斐波那契函數(shù)提供緩存功能，在使用fibonacci遞歸函數(shù)時(shí)，存在大量的重復(fù)計(jì)算，例如fibonacci(1)、fibonacci(2)就運(yùn)行了很多次。而在使用了lru_cache后，所有的重復(fù)計(jì)算只會(huì)執(zhí)行一次，從而大大提高程序的執(zhí)行效率。

? Exp9：求斐波那契數(shù)列。

測(cè)試數(shù)據(jù)：fibonacci(7)。

• 方法一

?

• 方法二

方法一耗時(shí) 3.955014900000009s，方法二耗時(shí) 0.05077979999998661s，性能提升 98.72% ??

?注意事項(xiàng)：

• 緩存是按照參數(shù)作為鍵，也就說(shuō)在參數(shù)不變時(shí)，被lru_cache裝飾的函數(shù)只會(huì)執(zhí)行一次。

• 所有參數(shù)必須可哈希，例如list不能作為被lru_cache裝飾的函數(shù)的參數(shù)。

我被執(zhí)行了（執(zhí)行了兩次demo(1, 2)，卻只輸出一次）

TypeError: unhashable type: 'list'

functools.lru_cache(maxsize=128, typed=False)的兩個(gè)可選參數(shù)：

• maxsize代表緩存的內(nèi)存占用值，超過(guò)這個(gè)值之后，就的結(jié)果就會(huì)被釋放，然后將新的計(jì)算結(jié)果進(jìn)行緩存，其值應(yīng)當(dāng)設(shè)為 2 的冪。

• typed若為True，則會(huì)把不同的參數(shù)類(lèi)型得到的結(jié)果分開(kāi)保存。

10.減少點(diǎn)運(yùn)算符(.)的使用

點(diǎn)運(yùn)算符(.)用來(lái)訪問(wèn)對(duì)象的屬性或方法，這會(huì)引起程序使用__getattribute__()和__getattr__()進(jìn)行字典查找，從而帶來(lái)不必要的開(kāi)銷(xiāo)。尤其注意，在循環(huán)當(dāng)中，更要減少點(diǎn)運(yùn)算符的使用，應(yīng)該將它移到循環(huán)外處理。

這啟發(fā)我們應(yīng)該盡量使用from ... import ...這種方式來(lái)導(dǎo)包，而不是在需要使用某方法時(shí)通過(guò)點(diǎn)運(yùn)算符來(lái)獲取。其實(shí)不光是點(diǎn)運(yùn)算符，其他很多不必要的運(yùn)算我們都盡量移到循環(huán)外處理。

? Exp10：將字符串?dāng)?shù)組中的小寫(xiě)字母轉(zhuǎn)為大寫(xiě)字母。

測(cè)試數(shù)組為 oldlist = ['life', 'is', 'short', 'i', 'choose', 'python']。

• 方法一

?

• 方法二

方法一耗時(shí) 0.7235491999999795s，方法二耗時(shí) 0.5475435999999831s，性能提升 24.33% ??

11.使用for循環(huán)取代while循環(huán)

當(dāng)我們知道具體要循環(huán)多少次時(shí)，使用for循環(huán)比使用while循環(huán)更好。

? Exp12：使用for和while分別循環(huán) 100 次。

• 方法一

?

• 方法二

方法一耗時(shí) 3.894683299999997s，方法二耗時(shí) 1.0198077999999953s，性能提升73.82% ??

12.使用Numba.jit加速計(jì)算

Numba 可以將 Python 函數(shù)編譯碼為機(jī)器碼執(zhí)行，大大提高代碼執(zhí)行速度，甚至可以接近 C 或 FORTRAN 的速度。它能和 Numpy 配合使用，在 for 循環(huán)中或存在大量計(jì)算時(shí)能顯著地提高執(zhí)行效率。

? Exp12：求從 1 加到 100 的和。

• 方法一

• 方法二
  

方法一耗時(shí) 3.894683299999997s，方法二耗時(shí) 1.0198077999999953s，性能提升73.82% ??

12.使用Numba.jit加速計(jì)算

Numba 可以將 Python 函數(shù)編譯碼為機(jī)器碼執(zhí)行，大大提高代碼執(zhí)行速度，甚至可以接近 C 或 FORTRAN 的速度。它能和 Numpy 配合使用，在 for 循環(huán)中或存在大量計(jì)算時(shí)能顯著地提高執(zhí)行效率。

? Exp12：求從 1 加到 100 的和。

• 方法一

• 方法二

方法一耗時(shí) 3.7199997000000167s，方法二耗時(shí) 0.23769430000001535s，性能提升 93.61% ??

13.使用Numpy矢量化數(shù)組

矢量化是 NumPy 中的一種強(qiáng)大功能，可以將操作表達(dá)為在整個(gè)數(shù)組上而不是在各個(gè)元素上發(fā)生。這種用數(shù)組表達(dá)式替換顯式循環(huán)的做法通常稱(chēng)為矢量化。

在 Python 中循環(huán)數(shù)組或任何數(shù)據(jù)結(jié)構(gòu)時(shí)，會(huì)涉及很多開(kāi)銷(xiāo)。NumPy 中的向量化操作將內(nèi)部循環(huán)委托給高度優(yōu)化的 C 和 Fortran 函數(shù)，從而使 Python 代碼更加快速。

? Exp13：兩個(gè)長(zhǎng)度相同的序列逐元素相乘。

測(cè)試數(shù)組：a = [1,2,3,4,5], b = [2,4,6,8,10]

• 方法一

• 方法二

方法一耗時(shí) 0.6706845000000214s，方法二耗時(shí) 0.3070132000000001s，性能提升 54.22% ??

14.使用in檢查列表成員

若要檢查列表中是否包含某成員，通常使用in關(guān)鍵字更快。

? Exp14：檢查列表中是否包含某成員。

測(cè)試數(shù)組：lists = ['life', 'is', 'short', 'i', 'choose', 'python']

• 方法一

• 方法二

方法一耗時(shí) 0.16038449999999216s，方法二耗時(shí) 0.04139250000000061s，性能提升 74.19% ??

15.使用itertools庫(kù)迭代

itertools是用來(lái)操作迭代器的一個(gè)模塊，其函數(shù)主要可以分為三類(lèi)：無(wú)限迭代器、有限迭代器、組合迭代器。

? Exp15：返回列表的全排列。

測(cè)試數(shù)組：["Alice", "Bob", "Carol"]

• 方法一

• 方法二

方法一耗時(shí) 3.867292899999484s，方法二耗時(shí) 0.3875405000007959s，性能提升 89.98% ??

擴(kuò)展：itertools

結(jié)語(yǔ)

根據(jù)上面的測(cè)試數(shù)據(jù)，我繪制了下面這張實(shí)驗(yàn)結(jié)果圖，可以更加直觀的看出不同方法帶來(lái)的性能差異。

從圖中可以看出，大部分的技巧所帶來(lái)的性能增幅還是比較可觀的，但也有少部分技巧的增幅較?。ɡ缇幪?hào)5、7、8，其中，第 8 條的兩種方法幾乎沒(méi)有差異）。

總結(jié)下來(lái)，我覺(jué)得其實(shí)就是下面這兩條原則：

1.盡量使用內(nèi)置庫(kù)函數(shù)

內(nèi)置庫(kù)函數(shù)由專(zhuān)業(yè)的開(kāi)發(fā)人員編寫(xiě)并經(jīng)過(guò)了多次測(cè)試，很多庫(kù)函數(shù)的底層是用C語(yǔ)言開(kāi)發(fā)的。因此，這些函數(shù)總體來(lái)說(shuō)是非常高效的（比如sort()、join()等），自己編寫(xiě)的方法很難超越它們，還不如省省功夫，不要重復(fù)造輪子了，何況你造的輪子可能更差。所以，如果函數(shù)庫(kù)中已經(jīng)存在該函數(shù)，就直接拿來(lái)用。

2.盡量使用優(yōu)秀的第三方庫(kù)

有很多優(yōu)秀的第三方庫(kù)，它們的底層可能是用 C 和 Fortran 來(lái)實(shí)現(xiàn)的，像這樣的庫(kù)用起來(lái)絕對(duì)不會(huì)吃虧，比如前文提到的 Numpy 和 Numba，它們帶來(lái)的提升都是非常驚人的。類(lèi)似這樣的庫(kù)還有很多，比如Cython、PyPy等，這里我只是拋磚引玉。

其實(shí)加快 Python 代碼執(zhí)行速度的方法還有很多，比如避免使用全局變量、使用最新版本、使用合適的數(shù)據(jù)結(jié)構(gòu)、利用if條件的惰性等等，我這里就不一一例舉了。這些方法都需要我們親身去實(shí)踐才會(huì)有深刻的感受和理解，但最根本的方法就是保持我們對(duì)編程的熱情和對(duì)最佳實(shí)踐的追求，這才是我們能不斷突破自我、勇攀高峰的不竭動(dòng)力源泉！??

最后
??? 小伙伴們學(xué)習(xí)編程，有時(shí)候不知道怎么學(xué)，從哪里開(kāi)始學(xué)。掌握了基本的一些語(yǔ)法或者做了兩個(gè)案例后，不知道下一步怎么走，不知道如何去學(xué)習(xí)更加高深的知識(shí)。

那么對(duì)于這些小伙伴們，我準(zhǔn)備了大量的視頻教程，PDF電子書(shū)籍，以及源代碼！
只要+up主威信wangkeit1備注“B站”就可以白嫖領(lǐng)取啦！