博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
多任务——进程
阅读量:5025 次
发布时间:2019-06-12

本文共 4147 字,大约阅读时间需要 13 分钟。

多任务
多任务:操作系统可以同时运行多个任务
并行:任务数小于cpu核数,任务一起执行
并发:任务数多于cpu核数,通过操作系统的各种任务调度算法,实现多个任务一起执行
 
进程
进程:操作系统分配资源和调度的单位,是一个执行中的程序,是资源分配最小单位
进程的创建:multiprocessing模块就是跨平台版本的多进程模块,提供了一个Process类来创建进程对象
from multiprocessing import Process
进程pid
import multiprocessingimport osimport timedef run_proc():    # os.getpid() 取得当前进程的id    # os.getppid() :取得当前进程的父进程的id    while True:        time.sleep(1)        print("--run_proc--子进程的父进程的id=%d   子进程的id= %d" % (os.getppid(), os.getpid()))if __name__ == '__main__':    print("--main--主进程的父进程id=%d   主进程的id= %d" % (os.getppid(), os.getpid()))    # 在主进程中创建一个子进程p1   ,p1的父进程就是主进程    p1 = multiprocessing.Process(target=run_proc)    p1.start()

Process语法结构如下

Process([group [, target [, name [, args [, kwargs]]]]])

  • target:如果传递了函数的引用,可以认为这个子进程就执行这里的代码
  • args:给target指定的函数传递的参数,以元组的方式传递
  • kwargs:给target指定的函数传递命名参数
  • name:给进程设定一个名字,可以不设定
  • group:指定进程组,大多数情况下用不到

Process创建的实例对象的常用方法:

  • start():启动子进程实例(创建子进程)
  • is_alive():判断进程子进程是否还在活着
  • join([timeout]):是否等待子进程执行结束,或等待多少秒
  • terminate():不管任务是否完成,立即终止子进程

Process创建的实例对象的常用属性:

  • name:当前进程的别名,默认为Process-N,N为从1开始递增的整数
  • pid:当前进程的pid(进程号)
q=multiprocessing.Queue(maxsize=3)q.maxsize:设置队列的最大值q.put(xxx):向队列存放数据q.get():向队列获取数据q.full():判断队列是否满了q.empty():判断队列是否为空

进程池Pool

当需要创建的子进程数量不多时,可以直接利用multiprocessing中的Process动态成生多个进程,但如果是上百甚至上千个目标,手动的去创建进程的工作量巨大,此时就可以用到multiprocessing模块提供的Pool方法。
from multiprocessing import Poolimport os, time, randomdef worker(msg):    t_start = time.time()    print("%s开始执行,进程号为%d" % (msg,os.getpid()))    # random.random()随机生成0~1之间的浮点数    time.sleep(random.random()*2)     t_stop = time.time()    print(msg,"执行完毕,耗时%0.2f" % (t_stop-t_start))po = Pool(3)  # 定义一个进程池,最大进程数3for i in range(0,10):    # Pool().apply_async(要调用的目标,(传递给目标的参数元祖,))    # 每次循环将会用空闲出来的子进程去调用目标    po.apply_async(worker,(i,))print("----start----")po.close()  # 关闭进程池,关闭后po不再接收新的请求po.join()  # 等待po中所有子进程执行完成,必须放在close语句之后print("-----end-----")

multiprocessing.Pool常用函数解析:

  • apply_async(func[, args[, kwds]]) :使用非阻塞方式调用func(并行执行,堵塞方式必须等待上一个进程退出才能执行下一个进程),args为传递给func的参数列表,kwds为传递给func的关键字参数列表;
  • close():关闭Pool,使其不再接受新的任务;
  • terminate():不管任务是否完成,立即终止;
  • join():主进程阻塞,等待子进程的退出, 必须在close或terminate之后使用;

进程池中的Queue

如果要使用Pool创建进程,就需要使用multiprocessing.Manager()中的Queue(),而不是multiprocessing.Queue(),否则会得到一条如下的错误信息:

RuntimeError: Queue objects should only be shared between processes through inheritance.

进程池中的进程之间的通信,代码如下:

# 修改import中的Queue为Managerfrom multiprocessing import Manager,Poolimport os,time,randomdef reader(q):    print("reader启动(%s),父进程为(%s)" % (os.getpid(), os.getppid()))    for i in range(q.qsize()):        print("reader从Queue获取到消息:%s" % q.get(True))def writer(q):    print("writer启动(%s),父进程为(%s)" % (os.getpid(), os.getppid()))    for i in "itcast":        q.put(i)if __name__=="__main__":    print("(%s) start" % os.getpid())    q = Manager().Queue()  # 使用Manager中的Queue    po = Pool()    po.apply_async(writer, (q,))    time.sleep(1)  # 先让上面的任务向Queue存入数据,然后再让下面的任务开始从中取数据    po.apply_async(reader, (q,))    po.close()    po.join()    print("(%s) End" % os.getpid())
进程池:节省内存空间,节省创建多个进程消耗的时间 解释:
pool=multiprocessing.Pool()  # 进程池默认最大为cpu的核数
pool.apply_async(func=子进程执行的函数,args=向func指向函数传递的可变参数,kwds=传递的关键字参数,callback=要回调的函数,)
关闭进程池pool.close()
终止进程池中的子进程的任务执行:pool.terminate()
阻塞主进程,等进程池中的所有子进程执行完毕pool.join()
进程锁Lock
使用进程锁购查票代码如下:
import jsonimport timefrom multiprocessing import Process, Lock# 查票def show(i):    with open('ticket')as f:        dic = json.load(f)    print('余票:%s' % dic['ticket'])def buy_titck(i, lock):    lock.acquire()  # 拿到钥匙    with open('ticket')as f:        dic = json.load(f)        # 网络延迟        time.sleep(0.1)    if dic['ticket'] > 0:        dic['ticket'] -= 1        print('\033[32m%s买到票了\033[0m' % i)    else:        print('\033[31m%s没买到票\033[0m' % i)    time.sleep(0.1)    with open('ticket', 'w')as f:        json.dump(dic, f)    lock.release()  # 还钥匙if __name__ == '__main__':    # 多进程,开10个进程    # 查票    for i in range(10):        p = Process(target=show, args=(i,))        p.start()    # 进程锁    lock = Lock()    # 买票    for i in range(10):        p = Process(target=buy_titck, args=(i, lock))        p.start()

 

 
 

转载于:https://www.cnblogs.com/xiaolu915/p/10516974.html

你可能感兴趣的文章
SpringMVC(十六) 处理模型数据之SessionAttributes
查看>>
阅读笔记01
查看>>
mysql设置有外键的主键自增及其他
查看>>
laravel常用函数大全Helper
查看>>
poj2299 Ultra-QuickSort
查看>>
第三部分shell编程3(shell脚本2)
查看>>
一个基于jQuery的移动端条件选择查询插件(原创)
查看>>
C# Winform 自适应
查看>>
IE阻止个别AC插件的原因及解决办法
查看>>
网络编程原始套接字
查看>>
Centos下源码安装git
查看>>
gulp-rev-append md5版本号
查看>>
IO流之File类
查看>>
sql 基础语句
查看>>
CF717A Festival Organization(第一类斯特林数,斐波那契数列)
查看>>
oracle直接读写ms sqlserver数据库(二)配置透明网关
查看>>
控件发布:div2dropdownlist(div模拟dropdownlist控件)
查看>>
Oracle composite index column ordering
查看>>
大话设计模式随笔四
查看>>
关于 ORA-01439: 要更改数据类型, 则要修改的列必须为空
查看>>