歡迎加入QQ討論群258996829
蘋果6袋
麥子學(xué)院
Python自動(dòng)化運(yùn)維之高級(jí)函數(shù)
發(fā)布時(shí)間：2017-08-08 15:32 回復(fù):0 查看:2329 最后回復(fù)：2017-08-08 15:32
本文和大家分享的主要是python自動(dòng)化運(yùn)維中高級(jí)函數(shù)相關(guān)內(nèi)容，一起來看看吧，希望對(duì)大家學(xué)習(xí)python有所幫助。
一、協(xié)程
1.1協(xié)程的概念
協(xié)程，又稱微線程，纖程。英文名Coroutine。一句話說明什么是線程：協(xié)程是一種用戶態(tài)的輕量級(jí)線程。（其實(shí)并沒有說明白~）
那么這么來理解協(xié)程比較容易：
線程是系統(tǒng)級(jí)別的，它們是由操作系統(tǒng)調(diào)度；協(xié)程是程序級(jí)別的，由程序員根據(jù)需要自己調(diào)度。我們把一個(gè)線程中的一個(gè)個(gè)函數(shù)叫做子程序，那么子程序在執(zhí)行過程中可以中斷去執(zhí)行別的子程序；別的子程序也可以中斷回來繼續(xù)執(zhí)行之前的子程序，這就是協(xié)程。也就是說同一線程下的一段代碼執(zhí)行著執(zhí)行著就可以中斷，然后跳去執(zhí)行另一段代碼，當(dāng)再次回來執(zhí)行代碼塊的時(shí)候，接著從之前中斷的地方開始執(zhí)行。
比較專業(yè)的理解是：
協(xié)程擁有自己的寄存器上下文和棧。協(xié)程調(diào)度切換時(shí)，將寄存器上下文和棧保存到其他地方，在切回來的時(shí)候，恢復(fù)先前保存的寄存器上下文和棧。因此：協(xié)程能保留上一次調(diào)用時(shí)的狀態(tài)（即所有局部狀態(tài)的一個(gè)特定組合），每次過程重入時(shí)，就相當(dāng)于進(jìn)入上一次調(diào)用的狀態(tài)，換種說法：進(jìn)入上一次離開時(shí)所處邏輯流的位置。
1.2 協(xié)程的優(yōu)缺點(diǎn)
協(xié)程的優(yōu)點(diǎn)：
?。?/span>1）無需線程上下文切換的開銷，協(xié)程避免了無意義的調(diào)度，由此可以提高性能（但也因此，程序員必須自己承擔(dān)調(diào)度的責(zé)任，同時(shí)，協(xié)程也失去了標(biāo)準(zhǔn)線程使用多CPU的能力）
?。?/span>2）無需原子操作鎖定及同步的開銷
?。?/span>3）方便切換控制流，簡(jiǎn)化編程模型
（4）高并發(fā)+高擴(kuò)展性+低成本：一個(gè)CPU支持上萬的協(xié)程都不是問題。所以很適合用于高并發(fā)處理。
協(xié)程的缺點(diǎn)：
?。?/span>1）無法利用多核資源：協(xié)程的本質(zhì)是個(gè)單線程,它不能同時(shí)將 單個(gè)CPU 的多個(gè)核用上,協(xié)程需要和進(jìn)程配合才能運(yùn)行在多CPU上.當(dāng)然我們?nèi)粘Ｋ帉懙慕^大部分應(yīng)用都沒有這個(gè)必要，除非是cpu密集型應(yīng)用。
?。?/span>2）進(jìn)行阻塞（Blocking）操作（如IO時(shí)）會(huì)阻塞掉整個(gè)程序
2、Python中如何實(shí)現(xiàn)協(xié)程
2.1 yield實(shí)現(xiàn)協(xié)程
前文所述“子程序（函數(shù)）在執(zhí)行過程中可以中斷去執(zhí)行別的子程序；別的子程序也可以中斷回來繼續(xù)執(zhí)行之前的子程序”，那么很容易想到Python的yield，顯然yield是可以實(shí)現(xiàn)這種切換的。
def eater(name):
print("%s eat food" %name)
while True:
food = yield
print("done")
g = eater("gangdan")
print(g)
執(zhí)行結(jié)果：
<generator object eater at 0x0000000002140FC0>
由執(zhí)行結(jié)果可以證明g現(xiàn)在就是生成器函數(shù)
2.2 協(xié)程函數(shù)賦值過程
用的是yield的表達(dá)式形式，要先運(yùn)行next()，讓函數(shù)初始化并停在yield，然后再send() ，send會(huì)在觸發(fā)下一次代碼的執(zhí)行時(shí)，給yield賦值
next()和send() 都是讓函數(shù)在上次暫停的位置繼續(xù)運(yùn)行，
def creater(name):
print('%s start to eat food' %name)
food_list = []
while True:
food = yield food_list
print('%s get %s ,to start eat' %(name,food))
food_list.append(food)# 獲取生成器
builder = creater('tom')# 現(xiàn)在是運(yùn)行函數(shù)，讓函數(shù)初始化
next(builder)
print(builder.send('包子'))
print(builder.send('骨頭'))
print(builder.send('菜湯'))
執(zhí)行結(jié)果：
tom start to eat food
tom get 包子 ,to start eat
['包子
tom get 骨頭 ,to start eat
['包子', '骨頭
tom get 菜湯 ,to start eat
['包子', '骨頭', '菜湯
需要注意的是每次都需要先運(yùn)行next()函數(shù)，讓程序停留在yield位置。
如果有多個(gè)這樣的函數(shù)都需要執(zhí)行next()函數(shù)，讓程序停留在yield位置。為了防止忘記初始化next操作，需要用到裝飾器來解決此問題
def init(func):
def wrapper(*args,**kwargs):
builder = func(*args,**kwargs)
next(builder) # 這個(gè)地方是關(guān)鍵可以使用builder.send("None")，第一次必須傳入None。
return builder
return wrapper@initdef creater(name):
print('%s start to eat food' %name)
food_list = []
while True:
food = yield food_list
print('%s get %s ,to start eat' %(name,food))
food_list.append(food)# 獲取生成器
builder = creater("tom")# 現(xiàn)在是直接運(yùn)行函數(shù)，無須再函數(shù)初始化
print(builder.send('包子'))
print(builder.send('骨頭'))
print(builder.send('菜湯'))
執(zhí)行結(jié)果：
tom start to eat food
tom get 包子 ,to start eat
['包子
tom get 骨頭 ,to start eat
['包子', '骨頭
tom get 菜湯 ,to start eat
['包子', '骨頭', '菜湯
2.3 協(xié)程函數(shù)簡(jiǎn)單應(yīng)用
請(qǐng)給Tom投喂食物
def init(func):
def wrapper(*args,**kwargs):
builder = func(*args,**kwargs)
next(builder)
return builder
return wrapper@initdef creater(name):
print('%s start to eat food' %name)
food_list = []
while True:
food = yield food_list
print('%s get %s ,to start eat' %(name,food))
food_list.append(food)def food():
builder = creater("Tom")
while True:
food = input("請(qǐng)給Tom投喂食物：").strip()
if food == "q":
print("投喂結(jié)束")
return 0
else:
builder.send(food)if __name__ == '__main__':
food()
執(zhí)行結(jié)果：
Tom start to eat food
請(qǐng)給Tom投喂食物：骨頭
Tom get 骨頭 ,to start eat
請(qǐng)給Tom投喂食物：菜湯
Tom get 菜湯 ,to start eat
請(qǐng)給Tom投喂食物：q
投喂結(jié)束
2.4 協(xié)程函數(shù)的應(yīng)用
實(shí)現(xiàn)linux中"grep -rl error <目錄>"命令，過濾一個(gè)文件下的子文件、字文件夾的內(nèi)容中的相應(yīng)的內(nèi)容的功能程序
首先了解一個(gè)OS模塊中的walk方法,能夠把參數(shù)中的路徑下的文件夾打開并返回一個(gè)元組
>>> import os # 導(dǎo)入模塊>>> os.walk(r"E:\Python\script") #使用r 是讓字符串中的符號(hào)沒有特殊意義，針對(duì)的是轉(zhuǎn)義
>>> g = os.walk(r"E:\Python\script")>>> next(g)
('E:\\Python\\script', ['.idea', '函數(shù)'], [])
返回的是一個(gè)元組，第一個(gè)元素是文件的路徑，第二個(gè)是文件夾，第三個(gè)是該路徑下的文件
這里需要用到一個(gè)寫程序的思想：面向過程編程
二、面向過程編程
面向過程：核心是過程二字，過程及即解決問題的步驟，基于面向過程設(shè)計(jì)程序就是一條工業(yè)流水線，是一種機(jī)械式的思維方式。流水線式的編程思想，在設(shè)計(jì)程序時(shí)，需要把整個(gè)流程設(shè)計(jì)出來
優(yōu)點(diǎn)：
1：體系結(jié)構(gòu)更加清晰
2：簡(jiǎn)化程序的復(fù)雜度
缺點(diǎn)：
可擴(kuò)展性極其的差，所以說面向過程的應(yīng)用場(chǎng)景是：不需要經(jīng)常變化的軟件，如：linux內(nèi)核，httpd，git等軟件
下面就根據(jù)面向過程的思想完成協(xié)程函數(shù)應(yīng)用中的功能
目錄結(jié)構(gòu)：
test
├── aa
│ ├── bb1
│ │ └── file2.txt
│ └── bb2
│ └── file3.txt
└─ file1.txt
文件內(nèi)容：file1.txt：error123file2.txt：123file3.txt：123error
程序流程
第一階段：找到所有文件的絕對(duì)路徑
第二階段：打開文件
第三階段：循環(huán)讀取每一行
第四階段：過濾“error”
第五階段：打印該行屬于的文件名
第一階段：找到所有文件的絕對(duì)路徑
g是一個(gè)生成器，就能夠用next()執(zhí)行，每次next就是運(yùn)行一次，這里的運(yùn)行結(jié)果是依次打開文件的路徑
>>> import os>>> g = os.walk(r"E:\Python\script\函數(shù)\test")>>> next(g)
('E:\\Python\\script\\函數(shù)\\test', ['aa'], [])>>> next(g)
('E:\\Python\\script\\函數(shù)\\test\\aa', ['bb1', 'bb2'], ['file1.txt'])>>> next(g)
('E:\\Python\\script\\函數(shù)\\test\\aa\\bb1', [], ['file2.txt'])>>> next(g)
('E:\\Python\\script\\函數(shù)\\test\\aa\\bb2', [], ['file3.txt'])>>> next(g)
Traceback (most recent call last):
File "file:///C:\Users\wlc\AppData\Local\Temp\ksohtml\wps86F5.tmp.wmf", line 1, in
StopIteration
我們?cè)诖蜷_文件的時(shí)候需要找到文件的絕對(duì)路徑，現(xiàn)在可以通過字符串拼接的方法把第一部分和第三部分進(jìn)行拼接
用循環(huán)打開：
import os
dir_g = os.walk(r"E:\Python\script\函數(shù)\test")for dir_path in dir_g:
print(dir_path)
結(jié)果：
('E:\\Python\\script\\函數(shù)\\test', ['aa'], [])
('E:\\Python\\script\\函數(shù)\\test\\aa', ['bb1', 'bb2'], ['file1.txt'])
('E:\\Python\\script\\函數(shù)\\test\\aa\\bb1', [], ['file2.txt'])
('E:\\Python\\script\\函數(shù)\\test\\aa\\bb2', [], ['file3.txt'])
將查詢出來的文件和路徑進(jìn)行拼接，拼接成絕對(duì)路徑
import os
dir_g = os.walk(r"E:\Python\script\函數(shù)\test")for dir_path in dir_g:
for file in dir_path[2]:
file = "%s\\%s" %(dir_path[0],file)
print(file)
執(zhí)行結(jié)果：
E:\Python\script\函數(shù)\test\aa\file1.txtE:\Python\script\函數(shù)\test\aa\bb1\file2.txtE:\Python\script\函數(shù)\test\aa\bb2\file3.txt
用函數(shù)實(shí)現(xiàn):
import osdef search():
while True:
dir_name = yield
dir_g = os.walk(dir_name)
for dir_path in dir_g:
for file in dir_path[2]:
file = "%s\\%s" %(dir_path[0],file)
print(file)
g = search()
next(g)
g.send(r"E:\Python\script\函數(shù)\test")
為了把結(jié)果返回給下一流程
@init # 初始化生成器def search(target):
while True:
dir_name = yield
dir_g = os.walk(dir_name)
for pardir,_,files in dir_g:
for file in files:
abspath = r"%s\%s" %(pardir,file)
target.send(abspath)
第二階段：打開文件
@initdef opener(target):
while True:
abspath=yield
with open(abspath,'rb') as f:
target.send((abspath,f))
第三階段：循環(huán)讀出每一行內(nèi)容
@initdef cat(target):
while True:
abspath,f=yield #(abspath,f)
for line in f:
res=target.send((abspath,line))
if res:break
第四階段：過濾
@initdef grep(pattern,target):
tag=False
while True:
abspath,line=yield tag
tag=False
if pattern in line:
target.send(abspath)
tag=True
第五階段：打印該行屬于的文件名
@initdef printer():
while True:
abspath=yield
print(abspath)
g = search(opener(cat(grep('error'.encode('utf-8'), printer()))))
g.send(r'E:\Python\script\函數(shù)\test')
執(zhí)行結(jié)果：
E:\Python\script\函數(shù)\test\aa\file1.txt
E:\Python\script\函數(shù)\test\aa\bb2\file3.txt
來源：51CTO
您還未登錄，請(qǐng)先登錄
熱門帖子
- iDev 全平臺(tái)開發(fā)者大會(huì)門票免費(fèi)送！限量10張！
- 蘋果Mac Pro垃圾桶 最低配的ME253CH
- 本人想買個(gè)蘋果電腦搞開發(fā)，哪位大俠指點(diǎn)下
- 求助：failable initializer 'init(name:)' cannot override a non-failable initializer
- 為慶祝Swift發(fā)布1個(gè)月，雨燕社區(qū)正式上線。
- 在UITextFeild里輸入數(shù)據(jù)，這個(gè)數(shù)據(jù)怎么做加減乘除？
- Swift 高仿喜馬拉雅FM
- 要成為自由職業(yè)者？先要學(xué)會(huì)蘋果的Swift哦
- 用swift實(shí)現(xiàn)的調(diào)用系統(tǒng)相機(jī)，相冊(cè)的DEMO
- 關(guān)于嵌入式引用\()