一区二区三区日韩精品-日韩经典一区二区三区-五月激情综合丁香婷婷-欧美精品中文字幕专区

搜索
分享

【原】我開(kāi)始學(xué)Python網(wǎng)絡(luò)編程了

 ml_Py 2021-12-08

大家好，我是老胡。最近在和小伙伴們一起搞事情，我是學(xué)統(tǒng)計(jì)出身，編程能力其實(shí)很差，有點(diǎn)拖后腿了。所以需要惡補(bǔ)基礎(chǔ)，這個(gè)系列會(huì)更新幾篇，感興趣的同學(xué)可以一起學(xué)習(xí)交流。

ZeroMQ概述

  • ZeroMQ（又名?MQ，MQ，或zmq）像一個(gè)可嵌入的網(wǎng)絡(luò)庫(kù)，但其作用就像一個(gè)并發(fā)框架。
  • ZeroMQ類似于標(biāo)準(zhǔn)Berkeley套接字，其提供了各種傳輸工具，如進(jìn)程內(nèi)、進(jìn)程間、TCP和組播中進(jìn)行原子消息傳送的套接字。
  • 可以使用各種模式實(shí)現(xiàn)N對(duì)N的套接字連接，這些模式包括：發(fā)布-訂閱、任務(wù)分配、請(qǐng)求-應(yīng)答。
  • ZeroMQ的速度足夠快，因此可充當(dāng)集群產(chǎn)品的結(jié)構(gòu)。
  • ZeroMQ的異步I/O模型提供了可擴(kuò)展的多核應(yīng)用程序，用異步消息來(lái)處理任務(wù)
  • ZeroMQ核心由C語(yǔ)言編寫(xiě)，支持C、C++、java、python等多種編程語(yǔ)言的API，并可運(yùn)行在大多數(shù)操作系統(tǒng)上

總結(jié)以下：?MQ (ZeroMQ) 是一個(gè)基于消息隊(duì)列的多線程網(wǎng)絡(luò)庫(kù)，它封裝了網(wǎng)絡(luò)通信、消息隊(duì)列、線程調(diào)度等功能，向上層提供簡(jiǎn)潔的API，應(yīng)用程序通過(guò)加載庫(kù)文件，調(diào)用API函數(shù)來(lái)實(shí)現(xiàn)高性能網(wǎng)絡(luò)通信。

看起來(lái)有些抽象，下面我們結(jié)合ZeroMQ 的 Python 封裝———— pyzmp,

用實(shí)例看一下ZeroMQ最基本的三種工作模式。

安裝

安裝方法

pip install pyzmq

查看是否安裝成功

>>> import zmq
>>> print(zmq.__version__)
22.0.3

Request-Reply (請(qǐng)求響應(yīng)模式)

Request-Reply模式概述：

  • 消息雙向的，有來(lái)有往。
  • Client請(qǐng)求的消息，Server必須答復(fù)給Client。
  • Client在請(qǐng)求后，Server必須回響應(yīng)，注意：Server不返回響應(yīng)會(huì)報(bào)錯(cuò)。
  • Server和Client都可以是1：N的模型。通常把1認(rèn)為是Server，N認(rèn)為是Client。
  • 更底層的端點(diǎn)地址是對(duì)上層隱藏的，每個(gè)請(qǐng)求都隱含回應(yīng)地址，而應(yīng)用則不關(guān)心它。
  • ZMQ 可以很好的支持路由功能（實(shí)現(xiàn)路由功能的組件叫做 Device），把 1：N 擴(kuò)展為 N：M（只需要加入若干路由節(jié)點(diǎn)）。
Request-Reply流程

Client端python實(shí)現(xiàn)

#client.py

import zmq

context = zmq.Context()

#  Socket to talk to server
print("Connecting to hello world server…")
socket = context.socket(zmq.REQ)
socket.connect("tcp://localhost:5555")
socket.send(b"Hello")
#  Get the reply.
message = socket.recv()
print(f"Received reply [ {message} ]")

Server端python實(shí)現(xiàn)

#server.py
import time
import zmq

context = zmq.Context()
socket = context.socket(zmq.REP)
socket.bind("tcp://*:5555")

while True:
    #  Wait for next request from client
    message = socket.recv()
    print("Received request: %s" % message)

    #  Do some 'work'
    time.sleep(1)

    #  Send reply back to client
    socket.send(b"World")
  • 啟動(dòng)client.py 首先會(huì)打印Connecting to hello world server… 但不會(huì)受到任何消息。
  • 然后啟動(dòng)server.py ，客戶端收到來(lái)自客戶端的request: b'Hello'
  • 此時(shí)client端收到來(lái)自server端的 reply：[ b'World' ]
python client.py 
Connecting to hello world server…
Received reply [ b'World' ]
python server.py 
Received request: b'Hello'

可以試一下，多運(yùn)行幾個(gè)client.py，看看情況是什么樣的。

Server和Client都可以是1：N的模型

Publish/Subscribe（訂閱-發(fā)布模式 ）

Pub-Subs模式概述：

  • 消息單向，有去無(wú)回
  • 一個(gè)發(fā)布端，多個(gè)訂閱端；發(fā)布端只管產(chǎn)生數(shù)據(jù),發(fā)布端發(fā)布一條消息，可被多個(gè)訂閱端同時(shí)收到。
  • 發(fā)布者不必關(guān)心訂閱者的加入和離開(kāi)，消息會(huì)以 1:N 的方式擴(kuò)散到每個(gè)訂閱者。
  • 廣播所有client，沒(méi)有隊(duì)列緩存，斷開(kāi)連接數(shù)據(jù)將永遠(yuǎn)丟失。
  • 如果Publish端開(kāi)始發(fā)布信息時(shí)，Subscribe端尚未連接進(jìn)來(lái)，則這些信息會(huì)被直接丟棄。
  • PUB和SUB誰(shuí)bind誰(shuí)connect并無(wú)嚴(yán)格要求（雖本質(zhì)并無(wú)區(qū)別），但仍建議PUB使用bind，SUB使用connect
  • 使用SUB設(shè)置一個(gè)訂閱時(shí)，必須使用zmq_setsockopt()對(duì)消息進(jìn)行過(guò)濾
Pub-Subs模式流程

這里直接引用官方文檔的例子：

發(fā)布者：類似于一個(gè)天氣更新服務(wù)器，向訂閱者發(fā)送天氣更新，內(nèi)容包括郵政編碼、溫度、濕度等信息

#Publisher.py
import zmq
from random import randrange


context = zmq.Context()
socket = context.socket(zmq.PUB)
socket.bind("tcp://*:5556")

while True:
    zipcode = randrange(1, 100000)
    temperature = randrange(-80, 135)
    relhumidity = randrange(10, 60)

    socket.send_string("%i %i %i" % (zipcode, temperature, relhumidity))

訂閱者：它監(jiān)聽(tīng)發(fā)布者更新的數(shù)據(jù)流，過(guò)濾只接收與特定郵政編碼相關(guān)的天氣信息，默認(rèn)接收接收10條數(shù)據(jù)

#Subscribe.py 
import sys
import zmq


#  Socket to talk to server
context = zmq.Context()
socket = context.socket(zmq.SUB)

print("Collecting updates from weather server...")
socket.connect("tcp://localhost:5556")

# Subscribe to zipcode, default is NYC, 10001
zip_filter = sys.argv[1] if len(sys.argv) > 1 else "10001"

# Python 2 - ascii bytes to unicode str
if isinstance(zip_filter, bytes):
    zip_filter = zip_filter.decode('ascii')
socket.setsockopt_string(zmq.SUBSCRIBE, zip_filter)

# Process 5 updates
total_temp = 0
for update_nbr in range(5):
    string = socket.recv_string()
    zipcode, temperature, relhumidity = string.split()
    total_temp += int(temperature)

print(
    "Average temperature for zipcode '%s' was %dF"
    % (zip_filter, total_temp / (update_nbr + 1))
)
消息會(huì)以 1:N 的方式擴(kuò)散到每個(gè)訂閱者

Push/Pull（流水線模式）

流水線模式概述：

  • 主要用于多任務(wù)并行。
  • 消息單向，有去無(wú)回。
  • Push的任何一個(gè)消息，始終只會(huì)有一個(gè)Pull端收到消息。
  • Push 端還是 Pull 端都可以做 server，bind 到某個(gè)地址等待對(duì)方訪問(wèn)。
  • 如果有多個(gè)PULL端同時(shí)連接到PUSH端，則PUSH端會(huì)在內(nèi)部做一個(gè)負(fù)載均衡，采用平均分配的算法，將所有消息均衡發(fā)布到PULL端上。
  • 由三部分組成，Push進(jìn)行數(shù)據(jù)推送，work進(jìn)行數(shù)據(jù)緩存，Pull進(jìn)行數(shù)據(jù)競(jìng)爭(zhēng)獲取處理。
  • 存在一個(gè)數(shù)據(jù)緩存和處理負(fù)載，當(dāng)連接被斷開(kāi)，數(shù)據(jù)不會(huì)丟失，重連后數(shù)據(jù)繼續(xù)發(fā)送到對(duì)端。
Push/Pull模式流程

ventilator 使用的是 SOCKET_PUSH，將任務(wù)分發(fā)到 Worker 節(jié)點(diǎn)上。Worker 節(jié)點(diǎn)上，使用 SOCKET_PULL 從上游接受任務(wù)，并使用 SOCKET_PUSH 將結(jié)果匯集到 Sink。值得注意的是，任務(wù)的分發(fā)的時(shí)候也同樣有一個(gè)負(fù)載均衡的路由功能，worker 可以隨時(shí)自由加入，ventilator 可以均衡將任務(wù)分發(fā)出去。

Push/Pull模式還是蠻常用的，這里我們主要測(cè)試一下它的負(fù)載均衡。

Ventilator

# ventilator.py
import zmq
import time

context = zmq.Context()
socket = context.socket(zmq.PUSH)
socket.bind("tcp://*:5557")

while True:
    socket.send(b"test")
    print("已發(fā)送")
    time.sleep(1)

worker

# worker.py
import zmq

context = zmq.Context()

recive = context.socket(zmq.PULL)
recive.connect('tcp://127.0.0.1:5557')

sender = context.socket(zmq.PUSH)
sender.connect('tcp://127.0.0.1:5558')

while True:
    data = recive.recv()
    print("work1 正在轉(zhuǎn)發(fā)...")
    sender.send(data)

sink

# sink.py
import zmq
import sys

context = zmq.Context()
socket = context.socket(zmq.PULL)
socket.bind("tcp://*:5558")

while True:
    response = socket.recv()
    print("response: %s" % response)

打開(kāi)4個(gè)Terminal，分別運(yùn)行

python sink.py
python worker.py
python worker.py
python ventilator.py
采用平均分配的算法，將所有消息均衡發(fā)布到PULL端上

總結(jié)

zmq的模型可以根據(jù)需要組合使用，后續(xù)的代理模式和路由模式等都是在三種基本模式上面的擴(kuò)展或變異。繼續(xù)探索，請(qǐng)移步官方文檔????

Github:https://github.com/zeromq/pyzmq
Docs:https://zeromq./pyzmq/
Guide:http://zguide./py:all
pypi:https:///project/pyzmq/

也可以加一下老胡的微信
圍觀朋友圈~~~

推薦閱讀

（點(diǎn)擊標(biāo)題可跳轉(zhuǎn)閱讀）

我愛(ài)線代，線代使我快樂(lè)

麻省理工學(xué)院計(jì)算機(jī)課程【中文版】

【清華大學(xué)王東老師】現(xiàn)代機(jī)器學(xué)習(xí)技術(shù)導(dǎo)論.pdf

機(jī)器學(xué)習(xí)中令你事半功倍的pipeline處理機(jī)制

機(jī)器學(xué)習(xí)避坑指南：訓(xùn)練集/測(cè)試集分布一致性檢查

機(jī)器學(xué)習(xí)深度研究：特征選擇中幾個(gè)重要的統(tǒng)計(jì)學(xué)概念

老鐵，三連支持一下，好嗎？↓↓↓

    轉(zhuǎn)藏 分享 獻(xiàn)花（0）

    0條評(píng)論

    發(fā)表

    請(qǐng)遵守用戶 評(píng)論公約

    類似文章 更多

    久久中文字幕中文字幕中文| 国产传媒精品视频一区| 欧美一区二区在线日韩| 欧美日韩一区二区午夜| 欧美日韩高清不卡在线播放| 久久午夜福利精品日韩| 中文字幕日韩欧美一区| 亚洲夫妻性生活免费视频| 久久精品国产在热久久| 国产又色又爽又黄又免费| 中文字幕久热精品视频在线 | 日本福利写真在线观看| 欧美日韩精品视频在线| 国产av精品高清一区二区三区 | 99亚洲综合精品成人网色播| 91国自产精品中文字幕亚洲| 欧美熟妇喷浆一区二区| 国产人妻精品区一区二区三区| 年轻女房东2中文字幕| 欧美精品久久一二三区| 亚洲精品蜜桃在线观看| 亚洲综合一区二区三区在线| 日韩人妻少妇一区二区| 午夜资源在线观看免费高清| 黄色片国产一区二区三区| 色婷婷在线视频免费播放| 欧美偷拍一区二区三区四区| 国产美女精品午夜福利视频| 免费在线观看欧美喷水黄片| 日本中文字幕在线精品| 久久综合九色综合欧美| 麻豆视传媒短视频在线看| 人妻精品一区二区三区视频免精| 夫妻性生活动态图视频| 久久这里只精品免费福利| 欧美一级特黄特色大色大片| 黄色片一区二区在线观看| 日本高清一道一二三区四五区 | 欧美成人黄色一区二区三区| 国产亚洲精品一二三区| 黄色片一区二区三区高清|