web-dev-qa-db-ja.com

Redisがメモリを使い果たした場合、何をしますか?

これは簡単な質問かもしれませんが、答えを見つけるのに苦労しています。 Redis 2.0は最大割り当てメモリの不足をどのように処理しますか?どのデータを削除するか、どのデータをメモリに保持するかをどのように決定しますか?

96
Cory

仮想メモリ機能が有効になっている場合(バージョン2.0または2.2の新機能だと思います)、Redisはメモリがなくなると「あまり使用されない」データをディスクに保存し始めます。

Redisの仮想メモリが無効になっている場合、オペレーティングシステムの仮想メモリが使い果たされ始め(スワップなど)、パフォーマンスが大幅に低下しているように見えます。

また、maxmemoryパラメーターを使用してRedisを構成することもできます。これにより、Redisはそれ以上メモリーを使用できなくなります(デフォルト)。

Redisの新しいバージョンには、maxmemoryに達したときにさまざまなポリシーがあります。

  • volatile-lruは、有効期限が設定されているキーからキーを削除し、最近使用されていないキーを削除しようとします。
  • volatile-ttlは、有効期限が設定されているキーからキーを削除し、残りの残り時間が短いキーを削除しようとします。
  • volatile-randomは、有効期限が設定されているキーをランダムに削除します。
  • allkeys-lruはvolatile-lruに似ていますが、すべての種類のキー(通常のキーまたは有効期限が設定されたキーの両方)を削除します。
  • allkeys-randomはvolatile-randomに似ていますが、通常のキーと有効期限が設定されたキーの両方のすべての種類のキーを削除します。

EXPIREが設定されたキーのみを削除するポリシーを選択した場合、Redisのメモリが不足すると、プログラムはmalloc()操作を中止するように見えます。つまり、さらに多くのデータを保存しようとすると、操作は惨めに失敗するだけです。

詳細については、いくつかのリンクを参照してください(私のWordだけを使用しないでください)。

83
BMiner

redis.conf 、バージョン2.8から

# Don't use more memory than the specified amount of bytes.
# When the memory limit is reached Redis will try to remove keys
# according to the eviction policy selected (see maxmemory-policy).
#
# If Redis can't remove keys according to the policy, or if the policy is
# set to 'noeviction', Redis will start to reply with errors to commands
# that would use more memory, like SET, LPUSH, and so on, and will continue
# to reply to read-only commands like GET.
#
# This option is usually useful when using Redis as an LRU cache, or to set
# a hard memory limit for an instance (using the 'noeviction' policy).
#
# WARNING: If you have slaves attached to an instance with maxmemory on,
# the size of the output buffers needed to feed the slaves are subtracted
# from the used memory count, so that network problems / resyncs will
# not trigger a loop where keys are evicted, and in turn the output
# buffer of slaves is full with DELs of keys evicted triggering the deletion
# of more keys, and so forth until the database is completely emptied.
#
# In short... if you have slaves attached it is suggested that you set a lower
# limit for maxmemory so that there is some free RAM on the system for slave
# output buffers (but this is not needed if the policy is 'noeviction').
#
# maxmemory <bytes>

# MAXMEMORY POLICY: how Redis will select what to remove when maxmemory
# is reached. You can select among five behaviors:
#
# volatile-lru -> remove the key with an expire set using an LRU algorithm
# allkeys-lru -> remove any key according to the LRU algorithm
# volatile-random -> remove a random key with an expire set
# allkeys-random -> remove a random key, any key
# volatile-ttl -> remove the key with the nearest expire time (minor TTL)
# noeviction -> don't expire at all, just return an error on write operations
#
# Note: with any of the above policies, Redis will return an error on write
#       operations, when there are no suitable keys for eviction.
#
#       At the date of writing these commands are: set setnx setex append
#       incr decr rpush lpush rpushx lpushx linsert lset rpoplpush sadd
#       sinter sinterstore sunion sunionstore sdiff sdiffstore zadd zincrby
#       zunionstore zinterstore hset hsetnx hmset hincrby incrby decrby
#       getset mset msetnx exec sort
#
# The default is:
#
# maxmemory-policy volatile-lru
17
daniel__

私は最近Redisについて読み始めたばかりなので、ポジティブではありません。しかし、私は役に立つかもしれないいくつかのちょっとしたことに出くわしました。

http://antirez.com/post/redis-as-LRU-cache.html の抜粋を次に示します。

Redisをキャッシュとして使用する別の方法は、使用するメモリの最大量を指定できる機能であるmaxmemoryディレクティブです。新しいデータがサーバーに追加され、メモリ制限に既に達した場合、サーバーは古いキーを削除し、キーがまだ遠くても、揮発性キー、つまりEXPIRE(タイムアウト)が設定されたキーを削除します自動的に期限切れになることから。

また、Redis 2.0にはVMモードがあり、すべてのキーがメモリに収まる必要がありますが、めったに使用されないキーの値はディスク上にあります。

4
bporter

Redis 4.0を更新

127.0.0.1:6379> MEMORY HELP
1) "MEMORY DOCTOR                        - Outputs memory problems report"
2) "MEMORY USAGE <key> [SAMPLES <count>] - Estimate memory usage of key"
3) "MEMORY STATS                         - Show memory usage details"
4) "MEMORY PURGE                         - Ask the allocator to release memory"
5) "MEMORY MALLOC-STATS                  - Show allocator internal stats"

/usr/local/etc/redis.conf

############################## MEMORY MANAGEMENT ################################

# Set a memory usage limit to the specified amount of bytes.
# When the memory limit is reached Redis will try to remove keys
# according to the eviction policy selected (see maxmemory-policy).
#
# If Redis can't remove keys according to the policy, or if the policy is
# set to 'noeviction', Redis will start to reply with errors to commands
# that would use more memory, like SET, LPUSH, and so on, and will continue
# to reply to read-only commands like GET.
#
# This option is usually useful when using Redis as an LRU or LFU cache, or to
# set a hard memory limit for an instance (using the 'noeviction' policy).
#
# WARNING: If you have slaves attached to an instance with maxmemory on,
# the size of the output buffers needed to feed the slaves are subtracted
# from the used memory count, so that network problems / resyncs will
# not trigger a loop where keys are evicted, and in turn the output
# buffer of slaves is full with DELs of keys evicted triggering the deletion
# of more keys, and so forth until the database is completely emptied.
#
# In short... if you have slaves attached it is suggested that you set a lower
# limit for maxmemory so that there is some free RAM on the system for slave
# output buffers (but this is not needed if the policy is 'noeviction').
#
# maxmemory <bytes>

# MAXMEMORY POLICY: how Redis will select what to remove when maxmemory
# is reached. You can select among five behaviors:
#
# volatile-lru -> Evict using approximated LRU among the keys with an expire set.
# allkeys-lru -> Evict any key using approximated LRU.
# volatile-lfu -> Evict using approximated LFU among the keys with an expire set.
# allkeys-lfu -> Evict any key using approximated LFU.
# volatile-random -> Remove a random key among the ones with an expire set.
# allkeys-random -> Remove a random key, any key.
# volatile-ttl -> Remove the key with the nearest expire time (minor TTL)
# noeviction -> Don't evict anything, just return an error on write operations.
#
# LRU means Least Recently Used
# LFU means Least Frequently Used
#
# Both LRU, LFU and volatile-ttl are implemented using approximated
# randomized algorithms.
#
# Note: with any of the above policies, Redis will return an error on write
#       operations, when there are no suitable keys for eviction.
#
#       At the date of writing these commands are: set setnx setex append
#       incr decr rpush lpush rpushx lpushx linsert lset rpoplpush sadd
#       sinter sinterstore sunion sunionstore sdiff sdiffstore zadd zincrby
#       zunionstore zinterstore hset hsetnx hmset hincrby incrby decrby
#       getset mset msetnx exec sort
#
# The default is:
#
# maxmemory-policy noeviction

# LRU, LFU and minimal TTL algorithms are not precise algorithms but approximated
# algorithms (in order to save memory), so you can tune it for speed or
# accuracy. For default Redis will check five keys and pick the one that was
# used less recently, you can change the sample size using the following
# configuration directive.
#
# The default of 5 produces good enough results. 10 Approximates very closely
# true LRU but costs more CPU. 3 is faster but not very accurate.
#
# maxmemory-samples 5
3
oshaiken

Redis(2.8)がその構成で定義された最大値に達したときに実際に応答するものを疑問に思う場合、次のようになります。

$ redis-cli
127.0.0.1:6379> GET 5
"bbbbbbbbbbbbbbbbbbbbbbbbbbbbbbbbbbbbbbb"
127.0.0.1:6379> SET 5 a
(error) OOM command not allowed when used memory > 'maxmemory'.
2

私は最近、空きメモリのない状況を経験し、アプリケーションが停止しました(書き込み不可、読み取り可能)、PHPスクリプトは途中でトラックで停止し、 kill -9 '手動で(メモリが使用可能になった後でも)。

データの損失(またはデータの不整合)が発生したと想定したため、flushdbを実行し、バックアップから復元しました。学んだ教訓?バックアップはあなたの友達です。

1
Adrian