1.緩存命中率和延時是技術上兩大挑戰(zhàn)，
時間：2022-03-09 05:15:01 | 來源：行業(yè)動態(tài)
時間：2022-03-09 05:15:01 來源：行業(yè)動態(tài)
網關和COS之間需要走外網來通訊，外網網絡存在延時高、抖動和丟包等問題，而且還會占用客戶大量帶寬。
實際場景下，我們發(fā)現用戶經常訪問的數據只是一小部分熱點數據，存在局部性特點，所以如果能在網關上加一層緩存且緩存命中率足夠高的話，理論上網關就可以達到接近本地磁盤的讀性能，也可以減少對帶寬占用。
緩存的大小受容量的限制只能保存一部分熱點數據， 需要根據場景選擇合適的緩存算法。評價緩存系統(tǒng)好壞一般通過命中率和延時兩個指標，緩存算法一般都是在兩者間權衡。影響命中率的關鍵就是緩存替換算法，而延時主要跟并發(fā)鎖設計有關。一般緩存系統(tǒng)采用一把大的全局鎖，對于CSG采用本地磁盤作為存儲介質的系統(tǒng)，普通的SATA盤延時差不多10ms左右，如果采用全局鎖最多只有100qps/s, 所以需要對鎖進行優(yōu)化。
在線咨詢
