web-dev-qa-db-ja.com

配列の低い値をゼロにする最も速い方法は？

したがって、それぞれ100個の要素を持つ100,000個のfloat配列があるとしましょう。 Xの最大値が必要ですが、Yより大きい場合のみです。これに一致しない要素は0に設定する必要があります。Pythonでこれを行う最も速い方法は何ですか？順序を維持する必要があります。ほとんどの要素はすでに0に設定されています。

サンプル変数：

array = [.06, .25, 0, .15, .5, 0, 0, 0.04, 0, 0]
highCountX = 3
lowValY = .1

期待される結果：

array = [0, .25, 0, .15, .5, 0, 0, 0, 0, 0]
pythonarraysfloating-pointmaxmin
34
David

これは NumPy の典型的な仕事で、これらの種類の操作には非常に高速です。

array_np = numpy.asarray(array)
low_values_flags = array_np < lowValY  # Where values are low
array_np[low_values_flags] = 0  # All low values set to 0

HighCountXの最大要素のみが必要な場合は、小さな要素を「0」に設定して並べ替える代わりに「忘れ」、大きな要素のリストのみを並べ替えることもできます。

array_np = numpy.asarray(array)
print numpy.sort(array_np[array_np >= lowValY])[-highCountX:]

もちろん、少数の要素のみが必要な場合、配列全体をソートすることは最適ではない場合があります。ニーズに応じて、標準の heapq モジュールを検討することをお勧めします。

76
Eric O Lebigot
from scipy.stats import threshold
thresholded = threshold(array, 0.5)

:)

19
omygaudio

NumPyには、まさにそれを行う特別なMaskedArrayクラスがあります。任意の前提条件に基づいて要素を「マスク」できます。これは、ゼロを割り当てるよりもニーズをよく表しています。適切な場合、numpy操作はマスクされた値を無視します（たとえば、平均値を見つける）。

>>> from numpy import ma
>>> x = ma.array([.06, .25, 0, .15, .5, 0, 0, 0.04, 0, 0])
>>> x1 = ma.masked_inside(0, 0.1) # mask everything in 0..0.1 range
>>> x1
masked_array(data = [-- 0.25 -- 0.15 0.5 -- -- -- -- --],
         mask = [ True False True False False True True True True True],
   fill_value = 1e+20)
>>> print x.filled(0) # Fill with zeroes
[ 0 0.25 0 0.15 0.5 0 0 0 0 0 ]

追加の利点として、マスク配列は、必要に応じてmatplotlib視覚化ライブラリでサポートされます。

numpyのマスクされた配列に関するドキュメント

7
Alexander Lebedev

numpyを使用：

# assign zero to all elements less than or equal to `lowValY`
a[a<=lowValY] = 0 
# find n-th largest element in the array (where n=highCountX)
x = partial_sort(a, highCountX, reverse=True)[:highCountX][-1]
# 
a[a<x] = 0 #NOTE: it might leave more than highCountX non-zero elements
           # . if there are duplicates

どこ partial_sort になり得る：

def partial_sort(a, n, reverse=False):
    #NOTE: in general it should return full list but in your case this will do
    return sorted(a, reverse=reverse)[:n]

表現 a[a<value] = 0は、次のようにnumpyなしで記述できます。

for i, x in enumerate(a):
    if x < value:
       a[i] = 0
6
jfs

最も簡単な方法は次のとおりです。

_topX = sorted([x for x in array if x > lowValY], reverse=True)[highCountX-1]
print [x if x >= topX else 0 for x in array]
_

断片的に、これはlowValYより大きいすべての要素を選択します。

_[x for x in array if x > lowValY]
_

この配列には、しきい値より大きい要素数のみが含まれます。次に、最大値が先頭になるようにソートします。

_sorted(..., reverse=True)
_

次に、リストインデックスは、上位highCountX要素のしきい値を取得します。

_sorted(...)[highCountX-1]
_

最後に、元の配列は別のリスト内包表記を使用して記入されます。

_[x if x >= topX else 0 for x in array]
_

（例では）3番目に高い要素である2つ以上の等しい要素がある境界条件があります。結果の配列には、その要素が複数回含まれます。

If len(array) < highCountXなど、他の境界条件もあります。このような条件の処理は、実装者に任されています。

5
Greg Hewgill

いくつかのしきい値をゼロ以下に設定する要素は簡単です。

array = [ x if x > threshold else 0.0 for x in array ]

（必要に応じて時々abs（）を追加します。）

ただし、N個の最大数の要件は少しあいまいです。たとえばしきい値を超えるN + 1個の等しい数？どちらを切り捨てますか？

最初に配列をソートしてから、しきい値をN番目の要素の値に設定できます。

threshold = sorted(array, reverse=True)[N]
array = [ x if x >= threshold else 0.0 for x in array ]

注：このソリューションは、パフォーマンスではなく読みやすさのために最適化されています。

2
digitalarbeiter

Mapとlambdaを使用できますが、十分に高速でなければなりません。

new_array = map(lambda x: x if x>y else 0, array)
1
nnrcschmdt

heap を使用します。

これはO(n*lg(HighCountX))で動作します。

_import heapq

heap = []
array =  [.06, .25, 0, .15, .5, 0, 0, 0.04, 0, 0]
highCountX = 3
lowValY = .1

for i in range(1,highCountX):
    heappush(heap, lowValY)
    heappop(heap)

for i in range( 0, len(array) - 1)
    if array[i] > heap[0]:
        heappush(heap, array[i])

min = heap[0]

array = [x if x >= min else 0 for x in array]
_

deleteminは、使用するヒープタイプに応じて、ヒープO(lg(k))および挿入O(lg(k))またはO(1)で機能します。

0
Egon

エゴンが言うように、ヒープを使用するのは良い考えです。ただし、heapq.nlargest関数を使用すると、多少の労力を削減できます。

import heapq 

array =  [.06, .25, 0, .15, .5, 0, 0, 0.04, 0, 0]
highCountX = 3
lowValY = .1

threshold = max(heapq.nlargest(highCountX, array)[-1], lowValY)
array = [x if x >= threshold else 0 for x in array]
0
Matt Anderson