环境:python3.8

参考:

    https://segmentfault.com/a/1190000003063859(linux io模式等,本文的原理图片来自这个 )

    https://blog.csdn.net/zhuangzi123456/article/details/84400108(select的使用)

    https://blog.51cto.com/linzb/1911468(以前的笔记)

本文所有模型的客户端程序如下:

import  socketc=socket.socket()c.connect(("127.0.0.1",456))while True:    c.sendall(input(":").encode('utf-8'))    print(c.recv(1024).decode('utf-8'))


民以食为天,让我们从吃饭说起。

假设你去食堂吃饭(取用户空间外的数据),你要做的事是什么?

  1. 排队取餐(发起系统调用)

  2.打饭阿姨等厨师的饭菜端上来(内核等数据)

  3.油腻的抽风阿姨把饭打给你(内核拷贝数据)

这就是所谓的阻塞i/o模型啦

体现在代码就跟简单的socket程序一样

from socket import *backlog=10buffsize=1024server=socket(AF_INET,SOCK_STREAM)server.bind(("127.0.0.1",5666))server.listen(backlog)clientsocket, clientaddr = server.accept()while True:    msg=clientsocket.recv(buffsize)    print('client msg:', msg.decode('utf-8'))    clientsocket.sendall(input('your msg:').encode('utf-8'))

recv方法发起了一个系统调用,等待内核把数据拷贝到用户内存区,然后用户进程才能读取数据。

为什么要这么拷贝数据呢?

因为socket程序运行在用户态,而接受的数据被客户端发送到网卡,网卡是硬件,只有内核才有资格去操作硬件

这种模型会阻塞在两个地方:

  1. 用户在等待用户空间有数据(你在等阿姨把饭给你)

  2. 系统在等待取得数据(阿姨在等厨师做好饭)


这好比饭还有很久才熟,你却只能在那等着,不能出去玩,于是你想了个好办法:

你还是出去玩,但是隔一段时间回来问下:我的饭熟了吗?

这个就是所谓的不阻塞io

这里我利用socket模块的setblocking来模拟这个过程,当服务器收到客户端的链接的时会打印“hello”,其他时候隔3秒打印“waiting”,代码如下:

import socket,select,times=socket.socket()s.bind(("127.0.0.1",456))s.listen(5)s.setblocking(0)while 1:    try:        print ('waiting')        s.accept()        print('hello')    except Exception:        time.sleep(3)

显然,这种模型要自己大量的来回询问,所以你又想了个偷懒的办法:

色诱打饭阿姨,给阿姨留个号码,让她饭好了告诉你声,自己跑出去玩

这就是所谓的io复用:

给阿姨留号码又分两种:

    一种是匿名电话,每次阿姨都要询问这是哪个英俊的小伙子的xx餐好了[,收匿名电话的阿姨也分两类,有原则的(一次1024个,用select实现),无原则的(不限个数,用poll实现)]

    一种是留姓名的,阿姨省去轮询步骤,饭好了直接通知(用epoll实现),可以想象,这种效率是最高的


select实现如下:参考:https://blog.csdn.net/zhuangzi123456/article/details/84400108

import socket,select,times=socket.socket()s.bind(("127.0.0.1",456))s.listen(5)s.setblocking(0)l=[s,]while True:    r,w,err=select.select(l,[],[])    for i in r:        if s==i:            conn,addr=s.accept()            conn.setblocking(0)            l.append(conn)        else:            print(i.recv(1024).decode('utf-8'))            i.sendall('hello sir'.encode('utf-8'))


debug:

    select监听的三个列表不能初始内容都为空,否则后续会报错(具体原因待查明)

epoll实现如下:(抄自https://my.oschina.net/SnifferApache/blog/776123)

import socket, selects=socket.socket()host="127.0.0.1"port=8889s.bind((host,port))fdmap={s.fileno():s}s.listen(5)p=select.poll()p.register(s)whileTrue:events=p.poll()for fd,event in events:if fd==s.fileno():c,addr = s.accept()print ('got connection from ',addr)p.register(c)fdmap[c.fileno()] = celif event & select.POLLIN:data=fdmap[fd].recv(1024)if not data:print (fdmap[fd].getpeername(),'disconnected')p.unregister(fd)del fdmap[fd]else:print (data)

epoll实现如下:(抄自http://scotdoyle.com/python-epoll-howto.html)

import socket, selectEOL1 = b'\n\n'EOL2 = b'\n\r\n'response = b'HTTP/1.0 200 OK\r\nDate: Mon, 1 Jan 1996 01:01:01 GMT\r\n'response += b'Content-Type: text/plain\r\nContent-Length: 13\r\n\r\n'response += b'Hello, world!'serversocket = socket.socket(socket.AF_INET, socket.SOCK_STREAM)serversocket.setsockopt(socket.SOL_SOCKET, socket.SO_REUSEADDR, 1)serversocket.bind(('0.0.0.0', 8080))serversocket.listen(1)serversocket.setblocking(0)epoll = select.epoll()epoll.register(serversocket.fileno(), select.EPOLLIN)try:   connections = {}; requests = {}; responses = {}   while True:      events = epoll.poll(1)      for fileno, event in events:         if fileno == serversocket.fileno():            connection, address = serversocket.accept()            connection.setblocking(0)            epoll.register(connection.fileno(), select.EPOLLIN)            connections[connection.fileno()] = connection            requests[connection.fileno()] = b''            responses[connection.fileno()] = response         elif event & select.EPOLLIN:            requests[fileno] += connections[fileno].recv(1024)            if EOL1 in requests[fileno] or EOL2 in requests[fileno]:               epoll.modify(fileno, select.EPOLLOUT)               print('-'*40 + '\n' + requests[fileno].decode()[:-2])         elif event & select.EPOLLOUT:            byteswritten = connections[fileno].send(responses[fileno])            responses[fileno] = responses[fileno][byteswritten:]            if len(responses[fileno]) == 0:               epoll.modify(fileno, 0)               connections[fileno].shutdown(socket.SHUT_RDWR)         elif event & select.EPOLLHUP:            epoll.unregister(fileno)            connections[fileno].close()            del connections[fileno]finally:   epoll.unregister(serversocket.fileno())   epoll.close()   serversocket.close()


现在好了,你已经能算好点过来等饭了,但是打饭还是需要时间呀,于是你:

献身阿姨,让阿姨在你来的时候就已经打好饭等你,你只需要取走,这就是所谓的异步io模型

显然这种模型是最为高效的,这里我能力有限不提供代码,最后推荐看:https://segmentfault.com/a/1190000003063859

©著作权归作者所有:来自51CTO博客作者biao007h的原创作品,如需转载,请注明出处,否则将追究法律责任

更多相关文章

  1. 如何基于Apache Pulsar和Spark进行批流一体的弹性数据处理?
  2. AI首次全面超越数据库专家!腾讯、华科推出基于深度DL的云数据库自
  3. 思迈特软件Smartbi_大数据分析软件在销售中的应用
  4. Prometheus监控系统 之 添加监控项
  5. 思迈特软件Smartbi:大数据分析软件的本质是什么?
  6. 运维人员如何有效的防止误删数据?Linux学习!
  7. 流式数据处理在百度数据工厂的应用与实践
  8. 被敖丙用烂的「数据库调优」连招?真香,淦!
  9. 进击的实时数仓:Flink在OPPO实时计算平台的研发与应用实践

随机推荐

  1. android 环境安装、helloworld demo 创建
  2. Android新手入门 FAQ
  3. Android学习札记13:为什么更推荐使用Parce
  4. 在 Android 上使用协程(三) :Real Work
  5. Android网络游戏之神农诀项目开发--视频
  6. 《Android和PHP开发最佳实践》迷你书
  7. Android NDK入门实例 计算斐波那契数列一
  8. Android换肤的两种思路
  9. android利用JNI调用C++自定义类
  10. 利用HTML5开发Android笔记