次のデータフレームがあります。
df.head(30)
struct_id resNum score_type_name score_value
0 4294967297 1 omega 0.064840
1 4294967297 1 fa_dun 2.185618
2 4294967297 1 fa_dun_dev 0.000027
3 4294967297 1 fa_dun_semi 2.185591
4 4294967297 1 ref -1.191180
5 4294967297 2 rama -0.795161
6 4294967297 2 omega 0.222345
7 4294967297 2 fa_dun 1.378923
8 4294967297 2 fa_dun_dev 0.028560
9 4294967297 2 fa_dun_rot 1.350362
10 4294967297 2 p_aa_pp -0.442467
11 4294967297 2 ref 0.249477
12 4294967297 3 rama 0.267443
13 4294967297 3 omega 0.005106
14 4294967297 3 fa_dun 0.020352
15 4294967297 3 fa_dun_dev 0.025507
16 4294967297 3 fa_dun_rot -0.005156
17 4294967297 3 p_aa_pp -0.096847
18 4294967297 3 ref 0.979644
19 4294967297 4 rama -1.403292
20 4294967297 4 omega 0.212160
21 4294967297 4 fa_dun 4.218029
22 4294967297 4 fa_dun_dev 0.003712
23 4294967297 4 fa_dun_semi 4.214317
24 4294967297 4 p_aa_pp -0.462765
25 4294967297 4 ref -1.960940
26 4294967297 5 rama -0.600053
27 4294967297 5 omega 0.061867
28 4294967297 5 fa_dun 3.663050
29 4294967297 5 fa_dun_dev 0.004953
ピボットドキュメントによると、pivot関数を使用してscore_type_nameでこれを再形成できるはずです。
df.pivot(columns='score_type_name',values='score_value',index=['struct_id','resNum'])
しかし、私は次のようになります。
ただし、pivot_table関数は機能しているようです:
pivoted = df.pivot_table(columns='score_type_name',
values='score_value',
index=['struct_id','resNum'])
しかし、少なくとも私にとっては、さらなる分析には向いていません。他の列の上にscore_type_nameを積み重ねるのではなく、struct_id、resNum、score_type_nameを列として持つだけです。さらに、struct_idをすべての行に使用し、テーブルの場合のように結合された行に集約しないようにします。
それでは、ピボットを使用したいように、素敵なデータフレームを取得する方法を誰にも教えてもらえますか?さらに、ドキュメントから、pivot_tableが機能し、pivotが機能しない理由がわかりません。ピボットの最初の例を見ると、まさに必要なもののように見えます。
追伸私はこの問題に関して質問を投稿しましたが、出力のデモンストレーションが非常に貧弱でした。削除して、ipythonノートブックを使用して再試行しました。これを2回見ている場合は、事前に謝罪します。
編集-希望する結果は次のようになります(Excelで作成):
StructId resNum pdb_residue_number chain_id name3 fa_dun fa_dun_dev fa_dun_rot fa_dun_semi omega p_aa_pp rama ref
4294967297 1 99 A ASN 2.1856 0.0000 2.1856 0.0648 -1.1912
4294967297 2 100 A MET 1.3789 0.0286 1.3504 0.2223 -0.4425 -0.7952 0.2495
4294967297 3 101 A VAL 0.0204 0.0255 -0.0052 0.0051 -0.0968 0.2674 0.9796
4294967297 4 102 A GLU 4.2180 0.0037 4.2143 0.2122 -0.4628 -1.4033 -1.9609
4294967297 5 103 A GLN 3.6630 0.0050 3.6581 0.0619 -0.2759 -0.6001 -1.5172
4294967297 6 104 A MET 1.5175 0.2206 1.2968 0.0504 -0.3758 -0.7419 0.2495
4294967297 7 105 A HIS 3.6987 0.0184 3.6804 0.0547 0.4019 -0.1489 0.3883
4294967297 8 106 A THR 0.1048 0.0134 0.0914 0.0003 -0.7963 -0.4033 0.2013
4294967297 9 107 A ASP 2.3626 0.0005 2.3620 0.0521 0.1955 -0.3499 -1.6300
4294967297 10 108 A ILE 1.8447 0.0270 1.8176 0.0971 0.1676 -0.4071 1.0806
4294967297 11 109 A ILE 0.1276 0.0092 0.1183 0.0208 -0.4026 -0.0075 1.0806
4294967297 12 110 A SER 0.2921 0.0342 0.2578 0.0342 -0.2426 -1.3930 0.1654
4294967297 13 111 A LEU 0.6483 0.0019 0.6464 0.0845 -0.3565 -0.2356 0.7611
4294967297 14 112 A TRP 2.5965 0.1507 2.4457 0.5143 -0.1370 -0.5373 1.2341
4294967297 15 113 A ASP 2.6448 0.1593 0.0510 -0.5011
わかりませんが、試してみます。私は通常ピボットの代わりにスタック/アンスタックを使用しますが、これはあなたが望むものに近いですか?
_df.set_index(['struct_id','resNum','score_type_name']).unstack()
score_value
score_type_name fa_dun fa_dun_dev fa_dun_rot fa_dun_semi omega
struct_id resNum
4294967297 1 2.185618 0.000027 NaN 2.185591 0.064840
2 1.378923 0.028560 1.350362 NaN 0.222345
3 0.020352 0.025507 -0.005156 NaN 0.005106
4 4.218029 0.003712 NaN 4.214317 0.212160
5 3.663050 0.004953 NaN NaN 0.061867
score_type_name p_aa_pp rama ref
struct_id resNum
4294967297 1 NaN NaN -1.191180
2 -0.442467 -0.795161 0.249477
3 -0.096847 0.267443 0.979644
4 -0.462765 -1.403292 -1.960940
5 NaN -0.600053 NaN
_
なぜあなたのピボットが機能していないのかわかりません(ちょっと私はそう思うはずですが、間違っている可能性があります)が、「struct_id」をオフにすると機能するように見えます。もちろん、 'struct_id'に複数の異なる値がある完全なデータセットに対しては、これは実際には有用なソリューションではありません。
_df.pivot(columns='score_type_name',values='score_value',index='resNum')
score_type_name fa_dun fa_dun_dev fa_dun_rot fa_dun_semi omega
resNum
1 2.185618 0.000027 NaN 2.185591 0.064840
2 1.378923 0.028560 1.350362 NaN 0.222345
3 0.020352 0.025507 -0.005156 NaN 0.005106
4 4.218029 0.003712 NaN 4.214317 0.212160
5 3.663050 0.004953 NaN NaN 0.061867
score_type_name p_aa_pp rama ref
resNum
1 NaN NaN -1.191180
2 -0.442467 -0.795161 0.249477
3 -0.096847 0.267443 0.979644
4 -0.462765 -1.403292 -1.960940
5 NaN -0.600053 NaN
_
追加して編集:reset_index()
は、マルチインデックス(階層)からフラットスタイルに変換します。列名にはまだいくつかの階層があります。それらを取り除く最も簡単な方法は、_df.columns=['var1','var2',...]
_を実行することです。ただし、検索を行う場合、より洗練された方法があります。
df.set_index(['struct_id','resNum','score_type_name']).unstack().reset_index()
_ struct_id resNum score_value
score_type_name fa_dun fa_dun_dev fa_dun_rot
0 4294967297 1 2.185618 0.000027 NaN
1 4294967297 2 1.378923 0.028560 1.350362
2 4294967297 3 0.020352 0.025507 -0.005156
3 4294967297 4 4.218029 0.003712 NaN
4 4294967297 5 3.663050 0.004953 NaN
_
pivot
とpivot_table
の違いにまだ興味がある人には、主に2つの違いがあります。
pivot_table
は、1つのpivotedインデックス/列ペアの重複値を処理できるpivot
の一般化です。具体的には、キーワード引数aggfunc
を使用して、pivot_table
に集計関数のリストを指定できます。 pivot_table
のデフォルトのaggfunc
はnumpy.mean
です。pivot_table
は、pivotedテーブルのインデックスとカラムに複数のカラムを使用することもサポートしています。階層インデックスが自動的に生成されます。REF: pivot
および pivot_table
別の警告:
pivot_table
は「values =」として数値型のみを許可しますが、pivot
は「values =」として文字列型を取ります。
少しデバッグしました。
内部的には、両方ともreset_index()/ stack()/ unstack()を使用してジョブを実行しています。
pivot()は、単純な使用法の単なるショートカットです。
pivot_table
呼び出しから取得したデータフレームを希望の形式に取得するには:
pivoted.columns.name=None ## remove the score_type_name
result = pivoted.reset_index() ## puts index columns back into dataframe body
pivot()
は、集約なしのピボットに使用されます。したがって、1つのインデックス/列のペアの重複値を処理することはできません。
ここからindex=['struct_id','resNum']
には複数の重複があるため、ピボットは機能しません。
しかしながら、 pivot_table
は、重複する値を集約して処理するため機能します。
指定されたスニペットは、データフレームの外観をさらにフラット化するのに役立ちます
df.set_index(['struct_id','resNum','score_type_name']).unstack().reset_index()
df.loc[:,['struct_id','resNum','fa_dun','fa_dun_dev','fa_dun_rot']]
ピボットを呼び出す前に、データに指定された列の重複した値を持つ行がないことを確認する必要があります。
重複ギブでピボット
Index contains duplicate entries, cannot reshape
これを確認できない場合は、代わりにpivot_tableメソッドを使用する必要があります。
詳細な説明については、以下のリンクをご覧ください