摘要：余數(shù)分布式算法就是根據(jù)服務(wù)器臺(tái)數(shù)的余數(shù)進(jìn)行分散。余數(shù)分布式算法由于保存鍵的服務(wù)器會(huì)發(fā)生巨大變化，而影響緩存的命中率，但中，只有在上增加服務(wù)器的地點(diǎn)逆時(shí)針方向的第一臺(tái)服務(wù)器上的鍵會(huì)受到影響。

Free & open source, high-performance, distributed memory object caching system, generic in nature, but intended for use in speeding up dynamic web applications by alleviating database load.
memcached是一個(gè)免費(fèi)開源、高性能、分布式的內(nèi)存對(duì)象緩存系統(tǒng)，本質(zhì)上是通用的，但旨在通過加速動(dòng)態(tài)Web應(yīng)用程序來減輕數(shù)據(jù)庫負(fù)載。

Memcache是一款開發(fā)工具，其設(shè)計(jì)思想主要反映以下幾個(gè)方面：

簡單的key/value存儲(chǔ)：服務(wù)器不關(guān)心數(shù)據(jù)本身意義及結(jié)構(gòu)，主要是可序列化數(shù)據(jù)即可。

功能實(shí)現(xiàn)一半依賴與客戶端，一半基于服務(wù)器端。

各服務(wù)器間彼此無視，不在服務(wù)器間進(jìn)行數(shù)據(jù)同步。

O(1)的執(zhí)行效率。

內(nèi)存空間的再利用，Lazy Expiration + LRU 機(jī)制。

1.客戶端兩者區(qū)別：

兩個(gè)不同版本PHP的memcached的客戶端

memcache是原生版本，完全是在PHP框架內(nèi)開發(fā)的，支持OO和非OO兩套接口并存；而memcached是建立在libmemcached的基礎(chǔ)上，只支持OO接口。

其他一些實(shí)現(xiàn)和支持方面的不同等。

2.服務(wù)器端兩者區(qū)別：

Memcache 是項(xiàng)目名稱

Memcached 是Memcache服務(wù)器端可執(zhí)行文件的名稱，Memcached是以守護(hù)程序(監(jiān)聽)方式運(yùn)行于一個(gè)或多個(gè)服務(wù)器中，隨時(shí)會(huì)接收客戶端的連接和操作。

ps：本文說明的內(nèi)容是關(guān)于memcache服務(wù)器的，請(qǐng)不要跟客戶端的叫法混淆。

1. Memcached 的高性能

首先從內(nèi)存模型來研究memcached：C++里分配內(nèi)存有兩種方式，預(yù)先分配和動(dòng)態(tài)分配內(nèi)存，顯然預(yù)先分配內(nèi)存會(huì)使程序比較快，但是它的缺點(diǎn)是不能有效利用內(nèi)存；而動(dòng)態(tài)分配可以有效利用內(nèi)存，但是會(huì)使程序運(yùn)行效率下降，memcached的內(nèi)存分配就是基于以上原理，顯然為了獲得更快的速度，有時(shí)候我們不得不以空間換時(shí)間。
Memcached的高性能源于兩階段哈希(two-stage-hash)結(jié)構(gòu)。Memcached就像一個(gè)巨大的、存儲(chǔ)了很多對(duì)的哈希表，通過key可以存儲(chǔ)或查詢?nèi)我獾臄?shù)據(jù)。客戶端可以把數(shù)據(jù)存儲(chǔ)在多臺(tái)memcached上，當(dāng)查詢數(shù)據(jù)時(shí)，客戶端首先參考節(jié)點(diǎn)列表計(jì)算出key的哈希值（階段一哈希），進(jìn)而選中一個(gè)節(jié)點(diǎn)；客戶端將請(qǐng)求發(fā)送給選中的節(jié)點(diǎn)，然后memcached節(jié)點(diǎn)通過一個(gè)內(nèi)部的哈希算法（階段二哈希），查找真正的數(shù)據(jù)（item）并返回個(gè)客戶端。從實(shí)現(xiàn)的角度看，memcached是一個(gè)非阻塞、基于事件驅(qū)動(dòng)的服務(wù)器程序。
為了提高性能，memcacahed中保存的數(shù)據(jù)都存儲(chǔ)在memcached內(nèi)置的內(nèi)存存儲(chǔ)空間中。由于數(shù)據(jù)僅存在于內(nèi)存中，因此重啟memcached、重啟操作系統(tǒng)會(huì)導(dǎo)致全部數(shù)據(jù)丟失。另外，內(nèi)存容量達(dá)到指定值之后，就基于LRU(Least Recently Used)算法自動(dòng)刪除不使用的緩存。memcached本身是為了緩存而設(shè)計(jì)的服務(wù)器，因此并沒有過多考慮數(shù)據(jù)的永久性問題。

2. Slab Allocator 內(nèi)存分配、管理機(jī)制

1.在該機(jī)制出現(xiàn)以前，內(nèi)存的分配是通過對(duì)所有記錄簡單地進(jìn)行malloc和free 來進(jìn)行的。但是，這種方式會(huì)導(dǎo)致內(nèi)存碎片，加重操作系統(tǒng)內(nèi)存管理器的負(fù)擔(dān)，最壞的情況下，會(huì)導(dǎo)致操作系統(tǒng)比memcached 進(jìn)程本身還慢。Slab Allocator 就是為解決該問題而誕生的, 它按照預(yù)先規(guī)定的大小，將分配的內(nèi)存分割成特定長度的塊，以完成解決內(nèi)存碎片的問題。存儲(chǔ)結(jié)構(gòu)圖如下：

Memcached的存儲(chǔ)涉及到slab、page、chunk三個(gè)概念
chunk：固定大小的內(nèi)存空間，用于緩存記錄，默認(rèn)為88Byte。
page：分配給Slab的內(nèi)存空間，默認(rèn)是1M。分配給Slab之后根據(jù)Slab的大小切成chunk。
slab：同樣大小的chunk組成一類slab。

2.在Slab中緩存記錄的原理
memcached 根據(jù)收到的數(shù)據(jù)大小，選擇最適合數(shù)據(jù)大小的Slab，memcached中保存著Slab內(nèi)空閑chunk的列表，根據(jù)該列表選擇chunk，然后將數(shù)據(jù)緩存其中。Slab allocator分配的內(nèi)存不會(huì)釋放，而是重復(fù)利用。

3.Slab Allocator 的缺點(diǎn)
由于分配的是特定長度的內(nèi)存，因此無法有效的利用分配的內(nèi)存。對(duì)與該問題沒有完美的解決方案，但可以調(diào)節(jié)slab class的大小差別來減少空間浪費(fèi)。

4.使用Growth Factor進(jìn)行調(diào)優(yōu)
memcached在啟動(dòng)時(shí)制定Growth Factor因子（通過f選項(xiàng)），就可以在某種程度上控制slab之間的差異。默認(rèn)值時(shí)1.25.

memcached是緩存，不需要永久的保存到服務(wù)器上，下面介紹它的刪除機(jī)制：
1.Lazy Expiration
memcached 不會(huì)釋放已經(jīng)分配的內(nèi)存，記錄過期后，客戶端無法在看到這條記錄，其存儲(chǔ)空間可以再利用。memcached內(nèi)部不會(huì)監(jiān)視記錄是否過期，而是在get時(shí)查看記錄的時(shí)間戳，檢查記錄是否過期。這種技術(shù)被稱為Lazy Expiration。因此，memcached不會(huì)在過期監(jiān)視上耗費(fèi)CPU時(shí)間。

2.LRU（Least Recently Used）
memcached會(huì)優(yōu)先使用已超時(shí)的記錄空間，但即使如此，也會(huì)發(fā)生追加新記錄時(shí)空間不足的情況，此時(shí)就要使用名為LRU機(jī)制來分配空間。顧名思義，這是刪除“最近最少使用”記錄的機(jī)制。因此，當(dāng)memcahced的內(nèi)存空間不足時(shí)（無法從slab class獲取新的空間時(shí)），就從最近未被使用的記錄中搜索，并將其空間分配給新的記錄。

1.Memcached "分布式"

特別澄清一個(gè)問題：MemCache雖然被稱為"分布式緩存"，但是MemCache本身完全不具備分布式的功能，Memcache集群之間不會(huì)相互通信（與之形成對(duì)比的，比如JBoss Cache，某臺(tái)服務(wù)器有緩存數(shù)據(jù)更新時(shí)，會(huì)通知集群中其他機(jī)器更新緩存或清除緩存數(shù)據(jù)），所謂的"分布式"，完全依賴于客戶端程序的實(shí)現(xiàn)。前面已經(jīng)講過memcached的兩段哈希了，數(shù)據(jù)的保存和獲取都使用相同的算法。這樣將不同的鍵保存到不同的服務(wù)器上，就實(shí)現(xiàn)了memcached的分布式。Memcached服務(wù)器增多后，鍵就會(huì)分散，即使一臺(tái)memcached服務(wù)器發(fā)生故障無法連接，也不會(huì)影響其他的緩存，系統(tǒng)依然能繼續(xù)進(jìn)行。

2.余數(shù)分布式算法

就是“根據(jù)服務(wù)器臺(tái)數(shù)的余數(shù)進(jìn)行分散”。求得鍵的整數(shù)哈希值，再除以服務(wù)器臺(tái)數(shù)，根據(jù)其余數(shù)來選擇服務(wù)器。
余數(shù)算法的缺點(diǎn)：余數(shù)計(jì)算的方法簡單，數(shù)據(jù)的分散性也相當(dāng)優(yōu)秀，但也有其缺點(diǎn)。那就是當(dāng)添加或移除服務(wù)器時(shí)，緩存重組的代價(jià)相當(dāng)巨大。添加服務(wù)器后，余數(shù)就會(huì)產(chǎn)生巨變，這樣就無法獲取與保存時(shí)相同的服務(wù)器，從而影響緩存的命中率。

3.Consistent hashing（一致哈希）

首先求出memcached 服務(wù)器（節(jié)點(diǎn)）的哈希值，并將其配置到0～2^32-1 的圓（continuum）上。然后用同樣的方法求出存儲(chǔ)數(shù)據(jù)的鍵的哈希值，并映射到圓上。然后從數(shù)據(jù)映射到的位置開始順時(shí)針查找，將數(shù)據(jù)保存到找到的第一個(gè)服務(wù)器上。如果超過2^32-1仍然找不到服務(wù)器，就會(huì)保存到第一臺(tái)memcached 服務(wù)器上。

從上圖的狀態(tài)中添加一臺(tái)Memcached 服務(wù)器。余數(shù)分布式算法由于保存鍵的服務(wù)器會(huì)發(fā)生巨大變化，而影響緩存的命中率，但Consistent Hashing中，只有在continuum 上增加服務(wù)器的地點(diǎn)逆時(shí)針方向的第一臺(tái)服務(wù)器上的鍵會(huì)受到影響。

Consistent Hashing（添加服務(wù)器）：
因此，Consistent Hashing 最大限度地抑制了鍵的重新分布。而且，有的Consistent Hashing 的實(shí)現(xiàn)方法還采用了虛擬節(jié)點(diǎn)的思想。使用一般的hash函數(shù)的話，服務(wù)器的映射地點(diǎn)的分布非常不均勻。因此，使用虛擬節(jié)點(diǎn)的思想，為每個(gè)物理節(jié)點(diǎn)（服務(wù)器）在continum上分配100～200 個(gè)點(diǎn)。這樣就能抑制分布不均勻，最大限度地減小服務(wù)器增減時(shí)的緩存重新分布。
通過上文中介紹的使用Consistent Hashing 算法的Memcached 客戶端函數(shù)庫進(jìn)行測(cè)試的結(jié)果是，由服務(wù)器臺(tái)數(shù)（n）和增加的服務(wù)器臺(tái)數(shù)（m）計(jì)算增加服務(wù)器后的命中率計(jì)算公式: (1 -m/(n+m)) * 100

1.存儲(chǔ)及刪除命令，簡單易用，使用語法如下：
command

參數(shù)說明如下：
command set/add/replace
key key 用于查找緩存值
flags 可以包括鍵值對(duì)的整型參數(shù)，客戶機(jī)使用它存儲(chǔ)關(guān)于鍵值對(duì)的額外信息
expiration time 在緩存中保存鍵值對(duì)的時(shí)間長度（以秒為單位，0 表示永遠(yuǎn)）
bytes 在緩存中存儲(chǔ)的字節(jié)數(shù)
value 存儲(chǔ)的值（始終位于第二行）

set 命令用于向緩存添加新的鍵值對(duì)，如果已經(jīng)存在，則之前的值將被替換。設(shè)置成功，服務(wù)器會(huì)使用單詞STORED進(jìn)行響應(yīng)。

add 僅當(dāng)緩存中不存在鍵時(shí)，add 命令才會(huì)向緩存中添加一個(gè)鍵值對(duì)。如果緩存中已經(jīng)存在鍵，則之前的值將仍然保持相同，并且您將獲得響應(yīng) NOT_STORED。

replace 僅當(dāng)鍵已經(jīng)存在時(shí)，replace 命令才會(huì)替換緩存中的鍵。如果緩存中不存在鍵，那么您將從 memcached 服務(wù)器接受到一條 NOT_STORED 響應(yīng)。

delete 刪除命令的語法：command ，delete 命令用于刪除 memcached 中的任何現(xiàn)有值。您將使用一個(gè)鍵調(diào)用delete，如果該鍵存在于緩存中，則刪除該值。如果不存在，則返回一條NOT_FOUND 消息。

2.讀取命令

get 命令用于檢索與之前添加的鍵值對(duì)相關(guān)的值。當(dāng)使用一個(gè)鍵來調(diào)用 get，如果這個(gè)鍵存在于緩存中，則返回相應(yīng)的值。如果不存在，則不返回任何內(nèi)容。get命令的key可以表示一個(gè)或者多個(gè)鍵，鍵之間以空格隔開。

gets 命令比普通的get命令多返回一個(gè)數(shù)字。這個(gè)數(shù)字可以檢查數(shù)據(jù)是否發(fā)生變化：當(dāng)key對(duì)應(yīng)的數(shù)據(jù)變化時(shí)，這個(gè)數(shù)字也會(huì)改變。

cas 即check and set，只有當(dāng)最后一個(gè)參數(shù)和gets所獲取的參數(shù)匹配時(shí)才能存儲(chǔ)，否則返回“EXISTS”。

3.統(tǒng)計(jì)命令

stats 顯示服務(wù)器信息、統(tǒng)計(jì)數(shù)據(jù)

stats settings 顯示所有的參數(shù)設(shè)置

stats slabs 顯示各個(gè)slab的信息，包括chunk的大小、數(shù)目、使用情況等

stats items 顯示各個(gè)slab的item信息

stats cachedump slab_id limit_num 查看指定slab前l(fā)imit_num個(gè)item，[key，expiration_time]

flush_all 用于清理緩存中所有鍵值對(duì)

stats reset 清空統(tǒng)計(jì)數(shù)據(jù)

1.stats指令解讀

stats是一個(gè)比較重要的指令，用于列出當(dāng)前MemCache服務(wù)器的狀態(tài)，返回的參數(shù)反映著Memcache服務(wù)器的基本信息，他們的意思是：

比較關(guān)注的點(diǎn)：get_hits 和 get_misses，命中率：get_hits/(get_hits + get_misses) 是衡量memcache服務(wù)器的一個(gè)重要指標(biāo)。

2.stats slabs 指令解讀

通過此命令返回的信息，可以查看slab class的分布情況，以及每個(gè)slab中chunk使用情況；根據(jù)slab的分布，可以判斷增長因子的設(shè)置的是否合理等。

3.stats items 命令解讀

因?yàn)閙emcached的內(nèi)存分配策略導(dǎo)致一旦memcached的總內(nèi)存達(dá)到了設(shè)置的最大內(nèi)存，表示所有的slab能夠使用的page都已經(jīng)固定，這時(shí)如果還有數(shù)據(jù)放入，將導(dǎo)致memcached使用LRU策略剔除數(shù)據(jù)。而LRU策略不是針對(duì)所有的slabs，而是只針對(duì)新數(shù)據(jù)應(yīng)該被放入的slab，例如有一個(gè)新的數(shù)據(jù)要被放入slab 3，則LRU只對(duì)slab 3進(jìn)行，通過stats items就可以觀察到這些剔除的情況。
注意evicted_time：并不是發(fā)生了LRU就代表memcached負(fù)載過載了，因?yàn)橛行r(shí)候在使用cache時(shí)會(huì)設(shè)置過期時(shí)間為0，這樣緩存將被存放30天，如果內(nèi)存滿了還持續(xù)放入數(shù)據(jù)，而這些為過期的數(shù)據(jù)很久沒有被使用，則可能被剔除。把evicted_time換算成標(biāo)準(zhǔn)時(shí)間看下是否已經(jīng)達(dá)到了你可以接受的時(shí)間，例如：你認(rèn)為數(shù)據(jù)被緩存了2天是你可以接受的，而最后被剔除的數(shù)據(jù)已經(jīng)存放了3天以上，則可以認(rèn)為這個(gè)slab的壓力其實(shí)可以接受的；但是如果最后被剔除的數(shù)據(jù)只被緩存了20秒，不用考慮，這個(gè)slab已經(jīng)負(fù)載過重了。

memcache已經(jīng)分配的內(nèi)存不會(huì)再主動(dòng)清理。

memcache分配給某個(gè)slab的內(nèi)存頁不能再分配給其他slab。

flush_all不能重置memcache分配內(nèi)存頁的格局，只是給所有的item置為過期。

memcache最大存儲(chǔ)的item(key+value)大小限制為1M，這由page大小1M限制

由于memcache的分布式是客戶端程序通過hash算法得到的key取模來實(shí)現(xiàn)，不同的語言可能會(huì)采用不同的hash算法，同樣的客戶端程序也有可能使用相異的方法，因此在多語言、多模塊共用同一組memcached服務(wù)時(shí)，一定要注意在客戶端選擇相同的hash算法

啟動(dòng)memcached時(shí)可以通過-M參數(shù)禁止LRU替換，在內(nèi)存用盡時(shí)add和set會(huì)返回失敗

memcached啟動(dòng)時(shí)指定的是數(shù)據(jù)存儲(chǔ)量，沒有包括本身占用的內(nèi)存、以及為了保存數(shù)據(jù)而設(shè)置的管理空間。因此它占用的內(nèi)存量會(huì)多于啟動(dòng)時(shí)指定的內(nèi)存分配量，這點(diǎn)需要注意。

memcache存儲(chǔ)的時(shí)候?qū)ey的長度有限制，php和C的最大長度都是250

https://www.cnblogs.com/xrq73...
http://zhihuzeye.com/archives...