web-dev-qa-db-ja.com

パンダのデータを正規化する

パンダデータフレームdfがあるとします。

データフレームの列方向の平均を計算したい。

これは簡単：

df.apply(average)

列方向の範囲はmax（col） - min（col）です。これもまた簡単です。

df.apply(max) - df.apply(min)

各要素について、列の平均値を引いて列の範囲で割ります。その方法がわからない

どんな助け/ポインターも大歓迎です。

pythonpandasnumpy
120
jason
In [92]: df
Out[92]:
           a         b          c         d
A  -0.488816  0.863769   4.325608 -4.721202
B -11.937097  2.993993 -12.916784 -1.086236
C  -5.569493  4.672679  -2.168464 -9.315900
D   8.892368  0.932785   4.535396  0.598124

In [93]: df_norm = (df - df.mean()) / (df.max() - df.min())

In [94]: df_norm
Out[94]:
          a         b         c         d
A  0.085789 -0.394348  0.337016 -0.109935
B -0.463830  0.164926 -0.650963  0.256714
C -0.158129  0.605652 -0.035090 -0.573389
D  0.536170 -0.376229  0.349037  0.426611

In [95]: df_norm.mean()
Out[95]:
a   -2.081668e-17
b    4.857226e-17
c    1.734723e-17
d   -1.040834e-17

In [96]: df_norm.max() - df_norm.min()
Out[96]:
a    1
b    1
c    1
d    1
205
Wouter Overmeire

sklearnライブラリをインポートしても構わない場合は、 this ブログで説明した方法をお勧めします。

import pandas as pd
from sklearn import preprocessing

data = {'score': [234,24,14,27,-74,46,73,-18,59,160]}
df = pd.DataFrame(data)
df

min_max_scaler = preprocessing.MinMaxScaler()
np_scaled = min_max_scaler.fit_transform(df)
df_normalized = pd.DataFrame(np_scaled)
df_normalized
65
David S.

あなたはこれにapplyを使うことができます、そしてそれは少しきれいです：

import numpy as np
import pandas as pd

np.random.seed(1)

df = pd.DataFrame(np.random.randn(4,4)* 4 + 3)

          0         1         2         3
0  9.497381  0.552974  0.887313 -1.291874
1  6.461631 -6.206155  9.979247 -0.044828
2  4.276156  2.002518  8.848432 -5.240563
3  1.710331  1.463783  7.535078 -1.399565

df.apply(lambda x: (x - np.mean(x)) / (np.max(x) - np.min(x)))

          0         1         2         3
0  0.515087  0.133967 -0.651699  0.135175
1  0.125241 -0.689446  0.348301  0.375188
2 -0.155414  0.310554  0.223925 -0.624812
3 -0.484913  0.244924  0.079473  0.114448

また、関連する列を選択した場合は、groupbyでうまく機能します。

df['grp'] = ['A', 'A', 'B', 'B']

          0         1         2         3 grp
0  9.497381  0.552974  0.887313 -1.291874   A
1  6.461631 -6.206155  9.979247 -0.044828   A
2  4.276156  2.002518  8.848432 -5.240563   B
3  1.710331  1.463783  7.535078 -1.399565   B


df.groupby(['grp'])[[0,1,2,3]].apply(lambda x: (x - np.mean(x)) / (np.max(x) - np.min(x)))

     0    1    2    3
0  0.5  0.5 -0.5 -0.5
1 -0.5 -0.5  0.5  0.5
2  0.5  0.5  0.5 -0.5
3 -0.5 -0.5 -0.5  0.5
31
naught101

Python Pandas Dataframe：0.01から0.99の間のデータを正規化しますか？ しかし、コメントの一部からは関連性があると考えられました（再投稿と見なされる場合はごめんなさい...）

データムまたはzスコアの通常のパーセンタイルが適切ではないため、カスタマイズされた正規化が必要でした。時々、母集団の実行可能な最大値と最小値が何であるかを知っていたため、サンプル、別の中間点、またはその他のもの以外を定義したかったのです！これは多くの場合、0から1の間のすべての入力が必要なニューラルネットのデータの再スケーリングと正規化に役立ちますが、パーセンタイルとstdevsはサンプルカバーを想定しているため、一部のデータをよりカスタマイズされた方法でスケーリングする必要がある場合があります人口ですが、時々これは真実ではないことがわかります。また、ヒートマップでデータを視覚化するときに非常に役立ちました。そこで、私はカスタム関数を作成しました（ここでコードに追加の手順を使用して、できるだけ読みやすくしました）。

def NormData(s,low='min',center='mid',hi='max',insideout=False,shrinkfactor=0.):    
    if low=='min':
        low=min(s)
    Elif low=='abs':
        low=max(abs(min(s)),abs(max(s)))*-1.#sign(min(s))
    if hi=='max':
        hi=max(s)
    Elif hi=='abs':
        hi=max(abs(min(s)),abs(max(s)))*1.#sign(max(s))

    if center=='mid':
        center=(max(s)+min(s))/2
    Elif center=='avg':
        center=mean(s)
    Elif center=='median':
        center=median(s)

    s2=[x-center for x in s]
    hi=hi-center
    low=low-center
    center=0.

    r=[]

    for x in s2:
        if x<low:
            r.append(0.)
        Elif x>hi:
            r.append(1.)
        else:
            if x>=center:
                r.append((x-center)/(hi-center)*0.5+0.5)
            else:
                r.append((x-low)/(center-low)*0.5+0.)

    if insideout==True:
        ir=[(1.-abs(z-0.5)*2.) for z in r]
        r=ir

    rr =[x-(x-0.5)*shrinkfactor for x in r]    
    return rr

これは、pandasシリーズ、または単なるリストを取り込んで、指定した低、中、高のポイントに正規化します。また、収縮要因があります！エンドポイント0および1からデータをスケールダウンできるようにするため（matplotlibでカラーマップを組み合わせるときにこれを行う必要がありました： Matplotlibを使用して複数のカラーマップを持つ単一のpcolormesh ）コードは機能しますが、基本的にはサンプルに値[-5,1,10]があり、-7〜7の範囲に基づいて正規化することを言います（したがって、7を超えるものはすべて、10が7として効果的に扱われます） ）中間点は2ですが、256 RGBカラーマップに合うように縮小します：

#In[1]
NormData([-5,2,10],low=-7,center=1,hi=7,shrinkfactor=2./256)
#Out[1]
[0.1279296875, 0.5826822916666667, 0.99609375]

また、データを裏返しにすることもできます。これは奇妙に思えるかもしれませんが、ヒートマッピングに役立つことがわかりました。値をhi/lowではなく0に近づけると、より濃い色が必要になります。 insideout = Trueの正規化データに基づいてヒートマップを作成できます。

#In[2]
NormData([-5,2,10],low=-7,center=1,hi=7,insideout=True,shrinkfactor=2./256)
#Out[2]
[0.251953125, 0.8307291666666666, 0.00390625]

そのため、「1」として定義されている中心に最も近い「2」が最高値です。

とにかく、有用なアプリケーションを使用できる他の方法でデータを再スケーリングすることを検討している場合、私のアプリケーションは関連があると思いました。

2
Vlox

これは、列ごとに行う方法です。

[df[col].update((df[col] - df[col].min()) / (df[col].max() - df[col].min())) for col in df.columns]
0
Chad