web-dev-qa-db-ja.com

メモリ消費管理に行く

私はGoを初めて使用し、メモリ消費を管理する方法を理解しようとしています。

テストプロジェクトの1つでメモリに問題があります。私のプログラムが長時間実行されているときに、Goがますます多くのメモリを使用する（メモリを解放しない）理由がわかりません。

以下のテストケースを実行しています。最初の割り当て後、プログラムは350 MB近くのメモリを使用します（ActivityMonitorによると）。次に、それを解放しようとすると、ActivityMonitorがメモリ消費量が2倍になることを示します。どうして？

Go 1.0.3を使用してOS Xでこのコードを実行しています。

このコードの何が問題になっていますか？そして、Goプログラムで大きな変数を管理する正しい方法は何ですか？

多くの時間とメモリを使用するアルゴリズムを実装するときに、メモリ管理に関連する別の問題が発生しました。しばらく実行した後、「メモリ不足」例外がスローされます。

package main

import ("fmt" 
"time"
)

func main() {
  fmt.Println("getting memory")
  tmp := make([]uint32, 100000000)
  for kk, _ := range tmp {
    tmp[kk] = 0
  }
  time.Sleep(5 * time.Second)
  fmt.Println("returning memory")
  tmp = make([]uint32, 1)
  tmp = nil
  time.Sleep(5 * time.Second)
  fmt.Println("getting memory")
  tmp = make([]uint32, 100000000)
  for kk, _ := range tmp {
    tmp[kk] = 0
  }
  time.Sleep(5 * time.Second)
  fmt.Println("returning memory")
  tmp = make([]uint32, 1)
  tmp = nil
  time.Sleep(5 * time.Second)  
  return
}
memory-managementgomemory-consumption
25
duganets

現在、goは mark-and-sweepガベージコレクター を使用していますが、これは通常、オブジェクトが破棄されるタイミングを定義していません。

ただし、よく見ると、 sysmon と呼ばれるgoルーチンがあり、プログラムが実行し、GCを定期的に呼び出す限り、基本的に実行されます。

// forcegcperiod is the maximum time in nanoseconds between garbage
// collections. If we go this long without a garbage collection, one
// is forced to run.
//
// This is a variable for testing purposes. It normally doesn't change.
var forcegcperiod int64 = 2 * 60 * 1e9

(...)

// If a heap span goes unused for 5 minutes after a garbage collection,
// we hand it back to the operating system.
scavengelimit := int64(5 * 60 * 1e9)

forcegcperiod は、GCが強制的に呼び出されるまでの期間を決定します。 scavengelimit スパンがオペレーティングシステムに返されるタイミングを決定します。 スパンはメモリページの数です 複数のオブジェクトを保持できます。それらはscavengelimit時間保持され、オブジェクトが存在せずscavengelimitを超えた場合は解放されます。

コードのさらに下には、トレースオプションがあることがわかります。これを使用して、清掃者がクリーンアップする必要があると思ったときにいつでも表示できます。

$ GOGCTRACE=1 go run gc.go
gc1(1): 0+0+0 ms 0 -> 0 MB 423 -> 350 (424-74) objects 0 handoff
gc2(1): 0+0+0 ms 1 -> 0 MB 2664 -> 1437 (2880-1443) objects 0 handoff
gc3(1): 0+0+0 ms 1 -> 0 MB 4117 -> 2213 (5712-3499) objects 0 handoff
gc4(1): 0+0+0 ms 2 -> 1 MB 3128 -> 2257 (6761-4504) objects 0 handoff
gc5(1): 0+0+0 ms 2 -> 0 MB 8892 -> 2531 (13734-11203) objects 0 handoff
gc6(1): 0+0+0 ms 1 -> 1 MB 8715 -> 2689 (20173-17484) objects 0 handoff
gc7(1): 0+0+0 ms 2 -> 1 MB 5231 -> 2406 (22878-20472) objects 0 handoff
gc1(1): 0+0+0 ms 0 -> 0 MB 172 -> 137 (173-36) objects 0 handoff
getting memory
gc2(1): 0+0+0 ms 381 -> 381 MB 203 -> 202 (248-46) objects 0 handoff
returning memory
getting memory
returning memory

ご覧のとおり、取得と戻りの間にgc呼び出しは行われません。ただし、遅延を5秒から3分に変更すると（forcegcperiodから2分を超える）、オブジェクトはgcによって削除されます。

returning memory
scvg0: inuse: 1, idle: 1, sys: 3, released: 0, consumed: 3 (MB)
scvg0: inuse: 381, idle: 0, sys: 382, released: 0, consumed: 382 (MB)
scvg1: inuse: 1, idle: 1, sys: 3, released: 0, consumed: 3 (MB)
scvg1: inuse: 381, idle: 0, sys: 382, released: 0, consumed: 382 (MB)
gc9(1): 1+0+0 ms 1 -> 1 MB 4485 -> 2562 (26531-23969) objects 0 handoff
gc10(1): 1+0+0 ms 1 -> 1 MB 2563 -> 2561 (26532-23971) objects 0 handoff
scvg2: GC forced // forcegc (2 minutes) exceeded
scvg2: inuse: 1, idle: 1, sys: 3, released: 0, consumed: 3 (MB)
gc3(1): 0+0+0 ms 381 -> 381 MB 206 -> 206 (252-46) objects 0 handoff
scvg2: GC forced
scvg2: inuse: 381, idle: 0, sys: 382, released: 0, consumed: 382 (MB)
getting memory

メモリはまだ解放されていませんが、GCはメモリ領域を未使用としてマークしました。使用されているスパンが未使用でlimitより古い場合、解放が開始されます。スカベンジャーコードから：

if(s->unusedsince != 0 && (now - s->unusedsince) > limit) {
    // ...
    runtime·SysUnused((void*)(s->start << PageShift), s->npages << PageShift);
}

もちろん、この動作は時間の経過とともに変化する可能性がありますが、オブジェクトが力によって捨てられたときとそうでないときの感触を少しでも感じていただければ幸いです。

Zupaが指摘したように、オブジェクトを解放してもメモリがオペレーティングシステムに返されない場合があるため、システムによってはメモリ使用量に変化が見られない場合があります。 golang-nutsのこのスレッド によると、これはPlan 9およびWindowsの場合に当てはまるようです。

35
nemo

最終的に（強制的に）未使用のメモリを収集するには、 runtime.GC() を呼び出す必要があります。

variable = nilを使用すると、到達不能になり、収集に適格になる可能性がありますが、それ自体は何も解放しません。

15
zzzz