热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

day33锁和队列

队列#put和get#__author:liuyang#date:20194160016上午11:32#多进程之间的数据是隔离的#进程之间的数据交互#是可以通过网络文件来实

队列

  #put 和  get

#__author : 'liuyang'
#
date : 2019/4/16 0016 上午 11:32
#
多进程之间的数据是隔离的
#
进程之间的数据交互
#
是可以通过网络/文件来实现的
#
socket 来实现# IPC inter process communication# 多个进程之间的通信#通过python的模块实现的# 基于原生socket# 基于进程队列的 *****#第三方的软件/工具来实现:# 不需要写socket(写好了)# 需要安装#memcache redis rabbitMQ kafka
#
网络
def son():pass
from multiprocessing import Queue #可以完成进程之间的通信的特殊的队列
#
from queue import Queue #不能完成进程之间的通信
#
q = Queue()
#
q.put(1)
#
q.put(2)
#
print(q.get())
#
print(q.get())
#
from multiprocessing import Queue,Process
# def son(q):
#
print(q.get())
#
if __name__ == '__main__':
#
q = Queue()
#
Process(target=son,args=(q,)).start()
#
# Process
#
q.put('wahah')#生产者消费者模型#python 程序#模仿浏览器去访问一个网页#urllib.urlopen(url)
#
开多线程 同样的时间 可以爬更多的网站# 紧耦合 松耦合 ?(包一个包子 买一个包子)(包很多包子 买很多包子)
#
获得数据 生产者
#
处理数据 消费者
#
调节生产者的个数或者消费者的个数让程序的效率达到最平衡和最大化
#
解耦思想
import time
import random
# def producer(q): #爬虫
#
for i in range(10):
#
time.sleep(random.random())#爬虫的时间
#
food = '泔水%s'%i
#
print('%s 生产了 %s'%('taibai',food))
#
q.put(food)
#
# num = random.randint(1,100)
#
# print('producer 生产了一个数据%s'%num,)
#
q.put(food)
#
def consumer(q,name):
#
while True: # 处理数据
#
food = q.get() # food = shiwu / None
#
if not food : break
#
time.sleep(random.uniform(1,2)) #处理数据再短也要处理一会
#
print('%s 吃了 %s '%(name,food))# num = q.get()# print('消费者受到了一个%s'%num)
#
if __name__ == '__main__':
#
q = Queue()
#
p1 = Process(target=producer,args=(q,))
#
p1.start()
#
c1 = Process(target=consumer,args=(q,'alex'))
#
c1.start()
#
c2 = Process(target=consumer,args=(q,'wusir'))
#
c2.start()
#
p1.join() #阻在这里
#
q.put(None) #传过去None 判断退出
#
q.put(None)from multiprocessing import JoinableQueue,Process
# 放任务 取任务#生产数据 放进来 计数器 加 1# q.join() 阻塞 直到为零
#
反回 一个消息 q.task_donedef consumer(jq,name):while True: # 处理数据food = jq.get()# if food : breaktime.sleep(random.uniform(1,2)) #处理数据再短也要处理一会print('%s 吃了 %s '%(name,food))jq.task_done()def producer(jq): #爬虫for i in range(10):time.sleep(random.random())#爬虫的时间food = '泔水%s'%iprint('%s 生产了 %s'%('taibai',food))jq.put(food)jq.join()if __name__ == '__main__':jq = JoinableQueue()c1 = Process(target=consumer,args = (jq,'alex'))p1 = Process(target=producer,args = (jq,))c1.daemon = Truec1.start()p1.start()p1.join()# consumer 所有数据消费完
#
队列join 结束
#
producer 继承结束
#
p1 进程阻塞结束
#
主进程的代码结束
#
守护进程结束# 锁 同一时刻 同一段代码, 只能有一个进程来执行这段代码#保证数据的安全#多进程中,只有去操作一些,进程之间可以共享的数据资源的时候才需要枷锁#lock = Lock()#acquire() release#with lock :#Lock 互斥锁# 队列#IPC#PUT#GET# 生产者消费者模型 基于队列把生产者和消费者数据的过程分开了#补充:#队列 是进程安全的(自带了锁) :一个人来取得时候不会有另个人来##AttributeError: module 'socket' has no attribute 'socket#队列 基于什么实现的 文件家族的socket服务# 基于文件家族的socket 服务实现的ipc不止一个,管道pipe#pipe 会出现安全问题 没带锁# 队列 = 管道+锁#管道 是基于文件家族的socket 服务实现
from multiprocessing import Pipe

队列

  #acquire()  和 release()

#__author : 'liuyang'
#
date : 2019/4/16 0016 上午 10:31
#
抢票 的 多台机器服务 (请求票的时候有可能信息修改了) #票的信息都存到一个大的#
from multiprocessing import Process
import json
import time# 数据的安全性 一张票 被很多个人买了
def search_ticket(name):with open('ticket',encoding='utf-8')as f:dic = json.load(f)print('%s查询余票为%s'%(name,dic['count']))
# def buy_ticket(name):
#
with open('ticket', encoding='utf-8')as f:
#
dic = json.load(f)
#
time.sleep(0.2)
#
if dic['count'] >= 1 :
#
print('%s买到票了'%name)
#
dic['count'] -= 1
#
time.sleep(0.2)
#
with open('ticket', encoding='utf-8')as f:
#
# dic = json.load
#
else:
#
print('没了')
#
十个人同时查票
def user(name):#不涉及买 随便 并发
search_ticket(name)# buy_ticket(name)# with 还会处理异常 前一个 出错了 以后的都可以释放 跳出异常# 不等了
if __name__ == '__main__':l = ['alex','b','c']for name in l:search_ticket(name)# p = Process(target=search_ticket,args=(name,))# p.start()# 1. 牺牲了效率 ,保证了数据安全 关闭了 多进程 异步 并发# 在数据安全面前 效率不值一提 (和钱打交道的app都巨慢)# 不涉及钱的 可以 牺牲一点安全
#
2 用户就觉得 很慢 体验很差.# join() 是同步 加单道了 一个个执行# 锁的应用场景# # 内存里还有 子进程结束 子进程没了 变量 join 加入内存里了

内容回顾

#__author : 'liuyang'
#
date : 2019/4/16 0016 上午 10:31
#
抢票 的 多台机器服务 (请求票的时候有可能信息修改了) #票的信息都存到一个大的#
from multiprocessing import Process
import json
import time# 数据的安全性 一张票 被很多个人买了
def search_ticket(name):with open('ticket',encoding='utf-8')as f:dic = json.load(f)print('%s查询余票为%s'%(name,dic['count']))
# def buy_ticket(name):
#
with open('ticket', encoding='utf-8')as f:
#
dic = json.load(f)
#
time.sleep(0.2)
#
if dic['count'] >= 1 :
#
print('%s买到票了'%name)
#
dic['count'] -= 1
#
time.sleep(0.2)
#
with open('ticket', encoding='utf-8')as f:
#
# dic = json.load
#
else:
#
print('没了')
#
十个人同时查票
def user(name):#不涉及买 随便 并发
search_ticket(name)# buy_ticket(name)# with 还会处理异常 前一个 出错了 以后的都可以释放 跳出异常# 不等了
if __name__ == '__main__':l = ['alex','b','c']for name in l:search_ticket(name)# p = Process(target=search_ticket,args=(name,))# p.start()# 1. 牺牲了效率 ,保证了数据安全 关闭了 多进程 异步 并发# 在数据安全面前 效率不值一提 (和钱打交道的app都巨慢)# 不涉及钱的 可以 牺牲一点安全
#
2 用户就觉得 很慢 体验很差.# join() 是同步 加单道了 一个个执行# 锁的应用场景# # 内存里还有 子进程结束 子进程没了 变量 join 加入内存里了

内容回顾到10.40

 

转:https://www.cnblogs.com/Doner/p/10716292.html



推荐阅读
  • 利用决策树预测NBA比赛胜负的Python数据挖掘实践
    本文通过使用2013-14赛季NBA赛程与结果数据集以及2013年NBA排名数据,结合《Python数据挖掘入门与实践》一书中的方法,展示如何应用决策树算法进行比赛胜负预测。我们将详细讲解数据预处理、特征工程及模型评估等关键步骤。 ... [详细]
  • 并发编程 12—— 任务取消与关闭 之 shutdownNow 的局限性
    Java并发编程实践目录并发编程01——ThreadLocal并发编程02——ConcurrentHashMap并发编程03——阻塞队列和生产者-消费者模式并发编程04——闭锁Co ... [详细]
  • 深入解析 Android IPC 中的 Messenger 机制
    本文详细介绍了 Android 中基于消息传递的进程间通信(IPC)机制——Messenger。通过实例和源码分析,帮助开发者更好地理解和使用这一高效的通信工具。 ... [详细]
  • 优化Flask应用的并发处理:解决Mysql连接过多问题
    本文探讨了在Flask应用中通过优化后端架构来应对高并发请求,特别是针对Mysql 'too many connections' 错误的解决方案。我们将介绍如何利用Redis缓存、Gunicorn多进程和Celery异步任务队列来提升系统的性能和稳定性。 ... [详细]
  • 本文探讨了如何在给定整数N的情况下,找到两个不同的整数a和b,使得它们的和最大,并且满足特定的数学条件。 ... [详细]
  • 从 .NET 转 Java 的自学之路:IO 流基础篇
    本文详细介绍了 Java 中的 IO 流,包括字节流和字符流的基本概念及其操作方式。探讨了如何处理不同类型的文件数据,并结合编码机制确保字符数据的正确读写。同时,文中还涵盖了装饰设计模式的应用,以及多种常见的 IO 操作实例。 ... [详细]
  • andr ... [详细]
  • 尽管使用TensorFlow和PyTorch等成熟框架可以显著降低实现递归神经网络(RNN)的门槛,但对于初学者来说,理解其底层原理至关重要。本文将引导您使用NumPy从头构建一个用于自然语言处理(NLP)的RNN模型。 ... [详细]
  • 深入解析 Spring Security 用户认证机制
    本文将详细介绍 Spring Security 中用户登录认证的核心流程,重点分析 AbstractAuthenticationProcessingFilter 和 AuthenticationManager 的工作原理。通过理解这些组件的实现,读者可以更好地掌握 Spring Security 的认证机制。 ... [详细]
  • FinOps 与 Serverless 的结合:破解云成本难题
    本文探讨了如何通过 FinOps 实践优化 Serverless 应用的成本管理,提出了首个 Serverless 函数总成本估计模型,并分享了多种有效的成本优化策略。 ... [详细]
  • 尽管深度学习带来了广泛的应用前景,其训练通常需要强大的计算资源。然而,并非所有开发者都能负担得起高性能服务器或专用硬件。本文探讨了如何在有限的硬件条件下(如ARM CPU)高效运行深度神经网络,特别是通过选择合适的工具和框架来加速模型推理。 ... [详细]
  • CentOS系统安装与配置常见问题及解决方案
    本文详细介绍了在CentOS系统安装过程中遇到的常见问题及其解决方案,包括Vi编辑器的操作、图形界面的安装、网络连接故障排除等。通过本文,读者可以更好地理解和解决这些常见问题。 ... [详细]
  • 本文详细探讨了HTML表单中GET和POST请求的区别,包括它们的工作原理、数据传输方式、安全性及适用场景。同时,通过实例展示了如何在Servlet中处理这两种请求。 ... [详细]
  • 本文探讨了如何通过预处理器开关选择不同的类实现,并解决在特定情况下遇到的链接器错误。 ... [详细]
  • This post discusses an issue encountered while using the @name annotation in documentation generation, specifically regarding nested class processing and unexpected output. ... [详细]
author-avatar
Z-ji
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有