當前位置:名人名言大全網 - 短信平臺 - 服務被限流什麽意思

服務被限流什麽意思

對超出服務處理能力之外的請求進行攔截,對訪問服務的流量進行限制,這就是服務限流。

常見的限流方式可以分為兩類:基於請求限流和基於資源限流。第壹種是限制總量,也就是限制某個指標的累積上限,常見的是限制當前系統服務的用戶總量,例如:某個直播間限制總用戶數上限為100萬,超過100萬後新的用戶無法進入;某個搶購活動商品數量只有100個,限制參與搶購的用戶上限為1萬個,1萬以後的用戶直接拒絕。

第二種是限制時間量,也就是限制壹段時間內某個指標的上限,例如1分鐘內只允許10000個用戶訪問,每秒請求峰值最高為10萬。

五種限流策略

1、服務拒絕

當請求流量達到限流閾值時,對多余的請求直接拒絕,可通過設計實現對指定域名、IP、客戶端、應用、用戶等不同來源的請求進行拒絕。

2、延時處理

通過將多余的請求加入緩存隊列或延時隊列,來應對短期的流量突增,高峰期過後開始將堆積的請求流量逐漸處理。

3、請求分級(優先級)

對不同來源的請求設置優先級,先處理優先級更高的請求。如VIP客戶、重要的業務應用(如交易服務優先級高於日誌服務)。

4、動態限流

可以監控系統相關指標、評估系統壓力,通過註冊中心、配置中心等動態調整限流閾值。

5、監控預警和動態擴容

如果有優秀的服務監控系統與自動部署、發布系統,可以通過監控系統自動監測系統運行情況,對短期內服務壓力暴增、流量大幅寫入的情況進行郵件、短信等方式進行預警,在滿足特定條件下,可自動部署、發布相關服務,起到動態擴容的效果。