热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

进程管理:并发、并行、子进程启动与进程池应用

本文介绍了进程的基本概念及其在操作系统中的重要性,探讨了进程与程序的区别,以及如何通过多进程实现并发和并行。文章还详细讲解了Python中的multiprocessing模块,包括Process类的使用方法、进程间的同步与异步调用、阻塞与非阻塞操作,并通过实例演示了进程池的应用。

一、进程概述


进程是操作系统进行资源分配和调度的基本单位,它是程序执行的一个实例。即使在单CPU环境下,操作系统也能通过时间片轮转等机制实现多任务的并发执行。进程的存在使得现代计算机能够高效地管理和执行多个任务。


二、进程与程序的关系


程序是静态的指令集合,而进程是程序的一次动态执行过程。同一程序多次运行会产生多个独立的进程,每个进程拥有自己独立的内存空间和系统资源。


三、并发与并行


并发是指多个任务在同一时间段内交错执行,而并行是指多个任务同时执行。在单核CPU上,通过多道技术实现并发;在多核CPU上,可以通过每个核心执行不同的任务来实现并行。两者在用户体验上都是“同时”运行的。


四、同步与异步


同步调用是指调用者在没有得到结果前不会返回,而异步调用则会在调用后立即返回,结果通过回调或其他方式通知调用者。阻塞调用会使调用者在等待结果期间暂停执行,而非阻塞调用则不会。


五、Python中的多进程实现


1. multiprocessing模块


Python的multiprocessing模块提供了丰富的API来创建和管理进程。该模块支持子进程的创建、进程间的通信和同步等操作。与线程不同,进程之间没有共享状态,每个进程都有自己独立的内存空间。


2. Process类


Process类用于创建子进程。主要方法包括:start() 启动进程,join() 主进程等待子进程结束,terminate() 强制终止进程等。主要属性包括:pid 进程ID,name 进程名称等。


3. 创建并启动子进程


from multiprocessing import Process
import time

def task(name):
print(f'{name} is running')
time.sleep(2)

if __name__ == '__main__':
p = Process(target=task, args=('egon',))
p.start()
print('主')

4. 通过继承Process类创建子进程


from multiprocessing import Process
import time

class MyProcess(Process):
def __init__(self, name):
super().__init__()
self.name = name

def run(self):
print(f'{self.name} is running')
time.sleep(2)

if __name__ == '__main__':
p = MyProcess('egon')
p.start()
print('主')

5. 进程间的通信与同步


进程间通信可以通过Queue、Pipe等机制实现。同步可以通过Lock、Event等机制实现。


6. 进程池(Pool)


进程池可以预先创建一组进程,当有任务提交时,从池中取出一个空闲进程来执行任务。进程池适用于任务量大但核心数有限的场景。


from concurrent.futures import ProcessPoolExecutor
import time, os

def run(name, n):
print(f'{name} is running {os.getpid()}')
time.sleep(1)
return n ** 2

if __name__ == '__main__':
with ProcessPoolExecutor(4) as p:
results = [p.submit(run, f'alex {i}', i) for i in range(10)]
for future in results:
print(future.result())
print('主', os.getpid())

六、Socket并发编程示例


通过多进程可以实现Socket服务端与多个客户端的并发通信。


服务端


from socket import *
from multiprocessing import Process

server = socket(AF_INET, SOCK_STREAM)
server.setsockopt(SOL_SOCKET, SO_REUSEADDR, 1)
server.bind(('127.0.0.1', 8080))
server.listen(5)

def talk(conn):
while True:
try:
msg = conn.recv(1024)
if not msg:
break
conn.send(msg.upper())
except Exception:
break

if __name__ == '__main__':
while True:
conn, client_addr = server.accept()
p = Process(target=talk, args=(conn,))
p.start()

客户端


from socket import *

client = socket(AF_INET, SOCK_STREAM)
client.connect(('127.0.0.1', 8080))

while True:
msg = input('>>: ').strip()
if not msg:
continue
client.send(msg.encode('utf-8'))
msg = client.recv(1024)
print(msg.decode('utf-8'))

七、总结


本文详细介绍了进程的概念、多进程的实现方式以及Python中多进程的相关技术。通过这些技术,可以有效地管理和调度多个任务,提高程序的并发性能。


推荐阅读
  • 1.如何在运行状态查看源代码?查看函数的源代码,我们通常会使用IDE来完成。比如在PyCharm中,你可以Ctrl+鼠标点击进入函数的源代码。那如果没有IDE呢?当我们想使用一个函 ... [详细]
  • 掌握远程执行Linux脚本和命令的技巧
    本文将详细介绍如何利用Python的Paramiko库实现远程执行Linux脚本和命令,帮助读者快速掌握这一实用技能。通过具体的示例和详尽的解释,让初学者也能轻松上手。 ... [详细]
  • 从 .NET 转 Java 的自学之路:IO 流基础篇
    本文详细介绍了 Java 中的 IO 流,包括字节流和字符流的基本概念及其操作方式。探讨了如何处理不同类型的文件数据,并结合编码机制确保字符数据的正确读写。同时,文中还涵盖了装饰设计模式的应用,以及多种常见的 IO 操作实例。 ... [详细]
  • 本文介绍如何使用Python进行文本处理,包括分词和生成词云图。通过整合多个文本文件、去除停用词并生成词云图,展示文本数据的可视化分析方法。 ... [详细]
  • 毕业设计:基于机器学习与深度学习的垃圾邮件(短信)分类算法实现
    本文详细介绍了如何使用机器学习和深度学习技术对垃圾邮件和短信进行分类。内容涵盖从数据集介绍、预处理、特征提取到模型训练与评估的完整流程,并提供了具体的代码示例和实验结果。 ... [详细]
  • 本文介绍如何使用 Python 的 xlrd 库读取 Excel 文件,并将其数据处理后存储到数据库中。通过实际案例,详细讲解了文件路径、合并单元格处理等常见问题。 ... [详细]
  • Python处理Word文档的高效技巧
    本文详细介绍了如何使用Python处理Word文档,涵盖从基础操作到高级功能的各种技巧。我们将探讨如何生成文档、定义样式、提取表格数据以及处理超链接和图片等内容。 ... [详细]
  • 本文详细介绍了Java中org.neo4j.helpers.collection.Iterators.single()方法的功能、使用场景及代码示例,帮助开发者更好地理解和应用该方法。 ... [详细]
  • 本文详细介绍如何使用Python进行配置文件的读写操作,涵盖常见的配置文件格式(如INI、JSON、TOML和YAML),并提供具体的代码示例。 ... [详细]
  • 数据库内核开发入门 | 搭建研发环境的初步指南
    本课程将带你从零开始,逐步掌握数据库内核开发的基础知识和实践技能,重点介绍如何搭建OceanBase的开发环境。 ... [详细]
  • 本文详细介绍了Akka中的BackoffSupervisor机制,探讨其在处理持久化失败和Actor重启时的应用。通过具体示例,展示了如何配置和使用BackoffSupervisor以实现更细粒度的异常处理。 ... [详细]
  • 360SRC安全应急响应:从漏洞提交到修复的全过程
    本文详细介绍了360SRC平台处理一起关键安全事件的过程,涵盖从漏洞提交、验证、排查到最终修复的各个环节。通过这一案例,展示了360在安全应急响应方面的专业能力和严谨态度。 ... [详细]
  • 2023年京东Android面试真题解析与经验分享
    本文由一位拥有6年Android开发经验的工程师撰写,详细解析了京东面试中常见的技术问题。涵盖引用传递、Handler机制、ListView优化、多线程控制及ANR处理等核心知识点。 ... [详细]
  • 对象自省自省在计算机编程领域里,是指在运行时判断一个对象的类型和能力。dir能够返回一个列表,列举了一个对象所拥有的属性和方法。my_list[ ... [详细]
  • 本文详细介绍了Flask项目的配置方法,包括DEBUG模式的设置和配置文件的使用,帮助开发者更好地理解和应用Flask框架。 ... [详细]
author-avatar
sendymylove睛飘益
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有