ITPub博客

首页 > IT职业 > IT职场 > python之协程的那些事

python之协程的那些事

IT职场 作者:jerrysun 时间:2021-09-09 09:27:49 0 删除 编辑

python如何设置多进程(直通车)

协程

基本概念

协程,又称微线程,纤程。英文名Coroutine。协程是一种用户态的轻量级线程。

协程原理

协程拥有自己的寄存器上下文和栈。协程调度切换时,将寄存器上下文和栈保存到其他地方,在切回来的时候,恢复先前保存的寄存器上下文和栈。因此:协程能保留上一次调用时的状态(即所有局部状态的一个特定组合),每次过程重入时,就相当于进入上一次调用的状态,换种说法:进入上一次离开时所处逻辑流的位置。线程的切换,会保存到CPU的寄存器里。 CPU感觉不到协程的存在,协程是用户自己控制的。之前通过yield做的生产者消费者模型,就是协程,在单线程下实现并发效果。

原理解读

协程原理:利用一个线程,分解一个线程成为多个“微线程”==>程序级别 
如果写爬虫,就访问别的网站,拿别人源码。http请求叫IO请求,用多线程。 
假设要访问3个url,创建3个线程,都在等待着,第一个有数据返回就继续执行,以此类推。 
在等待过程中,就什么事也没干。

协程的方式。

计算机帮你创建进程、线程。线程是人为创建出来的。用一个线程,一会儿执行这个操作,一会儿执行那个操作。 
协程是只用一个线程。程序员利用io多路复用的方式,让协程: 
先访问一个url,不等待返回,就再访问第二个url,访问第三个url,然后也在等待。 
greenlet本质是实现协程的。 
注意:协程本身不高效,协程的本质只是程序员调用的,那为啥gevent这么高效率呢,是因为用了协程(greenlet)+IO多路复用的方式。 
是IO多路复用的用法才能高效。所以用的时候就用gevent就好了。 
#####协程的好处:

无需线程上下文切换的开销 
无需数据操作锁定及同步的开销 
方便切换控制流,简化编程模型 
高并发+高扩展性+低成本:一个CPU支持上万的协程都不是问题。所以很适合用于高并发处理。

缺点:

无法利用多核资源:协程的本质是个单线程,它不能同时将 单个CPU 的多个核用上,协程需要和进程配合才能运行在多CPU上.当然我们日常所编写的绝大部分应用都没有这个必要,除非是cpu密集型应用。 
进行阻塞(Blocking)操作(如IO时)会阻塞掉整个程序

应用场景:

IO密集型:用多线程+gevent(更好),多线程 
计算密集型:用多进程

案例解读:

用多线程:假设每爬一个网址需要2秒,3个url,就是3个请求,等待2秒,就可以继续往下走。 
如果用gevent,用单线程,单线程应该从上到下执行,用for循环读取3个url,往地址发送url请求,就是IO请求,线程是不等待的。 
for循环再拿第二个url,再发第三个url。在这过程中,谁先回来,就处理谁。 
资源占用上,多线程占用了3个线程,2秒钟,多线程啥也没干,在等待。gevent在2秒钟,只要发送请求了,接着就想干什么干什么。 
案例:

from urllib import requestimport gevent, time# 注意!:Gevent检测不到urllib的io操作,还是串行的,让它知道就需要打补丁from gevent import monkey
monkey.patch_all()  # 把当前程序的所有IO操作单独的做上标记def f(url):
    print("Get %s" %url)
    resp = request.urlopen(url)
    data = resp.read()    # with open("url.html", 'wb') as f:
    #     f.write(data)
    print("%d bytes received from %s" %(len(data), url))

print("异步时间统计中……")  # 协程实现async_start_time = time.time()
gevent.joinall([
    gevent.spawn(f, "https://www.python.org"),
    gevent.spawn(f, "https://www.yahoo.com"),
    gevent.spawn(f, "https://github.com"),
])
print("

来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/151/viewspace-2803290/ ,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论

注册时间:2018-09-29

  • 博文量
    122
  • 访问量
    16192