web-dev-qa-db-ja.com

NumPyでCSVデータをレコード配列に読み込む方法を教えてください。

Rのread.table()、read.delim()、read.csv()ファミリーがRのデータフレームにデータをインポートするのと同じように、CSVファイルの内容をレコード配列にインポートする直接的な方法があるのでしょうか。

それとも csv.reader（） を使用してからnumpy.core.records.fromrecords()のようなものを適用する最善の方法はありますか？

pythonnumpyscipygenfromtxt
339
hatmatrix

delimiter kwargをコンマに設定することで、Numpyのgenfromtxt()メソッドを使用できます。

from numpy import genfromtxt
my_data = genfromtxt('my_file.csv', delimiter=',')

関数に関するさらなる情報はそれぞれの ドキュメント にあります。

525
Andrew

pandasライブラリの read_csv 関数をお勧めします。

import pandas as pd
df=pd.read_csv('myfile.csv', sep=',',header=None)
df.values
array([[ 1. ,  2. ,  3. ],
       [ 4. ,  5.5,  6. ]])

これはパンダを与える DataFrame - を許可する numpy record配列で直接利用できない多くの有用なデータ操作関数 。

DataFrameは、潜在的に異なる型の列を持つ2次元のラベル付きデータ構造です。あなたはスプレッドシートやSQLテーブルのようにそれを考えることができます...

私はgenfromtxtもお勧めします。ただし、通常の配列ではなく、質問が record配列 を要求するため、genfromtxt呼び出しにdtype=Noneパラメータを追加する必要があります。

入力ファイルmyfile.csvが与えられたとします。

1.0, 2, 3
4, 5.5, 6

import numpy as np
np.genfromtxt('myfile.csv',delimiter=',')

配列を与える：

array([[ 1. ,  2. ,  3. ],
       [ 4. ,  5.5,  6. ]])

そして

np.genfromtxt('myfile.csv',delimiter=',',dtype=None)

レコード配列を返します。

array([(1.0, 2.0, 3), (4.0, 5.5, 6)], 
      dtype=[('f0', '<f8'), ('f1', '<f8'), ('f2', '<i4')])

これには、 複数のデータ型（文字列を含む）のファイルを簡単にインポートできるという利点があります 。

150
atomh33ls

データ型を推測して適切にフォーマットされたレコード配列を返すことができるrecfromcsv()を試すこともできます。

65
btel

私は時間を計った

from numpy import genfromtxt
genfromtxt(fname = dest_file, dtype = (<whatever options>))

versus

import csv
import numpy as np
with open(dest_file,'r') as dest_f:
    data_iter = csv.reader(dest_f,
                           delimiter = delimiter,
                           quotechar = '"')
    data = [data for data in data_iter]
data_array = np.asarray(data, dtype = <whatever options>)

約70列の460万行で、NumPyパスに2分16秒かかり、csv-list内包方法に13秒かかることがわかりました。

Csv-list内包方法は、NumPyほどではなく、事前にコンパイルされたライブラリに依存している可能性が最も高いため、お勧めします。私はパンダメソッドが同様のインタプリタオーバーヘッドを持つだろうと思います。

59
William komp

NumPyとPandasを使って両方の方法を試したので、パンダを使うことには多くの利点があります。

  • もっと早く
  • 少ないCPU使用率
  • NumPy genfromtxtと比較した1/3 RAM使用量

これは私のテストコードです：

$ for f in test_pandas.py test_numpy_csv.py ; do  /usr/bin/time python $f; done
2.94user 0.41system 0:03.05elapsed 109%CPU (0avgtext+0avgdata 502068maxresident)k
0inputs+24outputs (0major+107147minor)pagefaults 0swaps

23.29user 0.72system 0:23.72elapsed 101%CPU (0avgtext+0avgdata 1680888maxresident)k
0inputs+0outputs (0major+416145minor)pagefaults 0swaps

test_numpy_csv.py

from numpy import genfromtxt
train = genfromtxt('/home/hvn/me/notebook/train.csv', delimiter=',')

test_pandas.py

from pandas import read_csv
df = read_csv('/home/hvn/me/notebook/train.csv')

データファイル：

du -h ~/me/notebook/train.csv
 59M    /home/hvn/me/notebook/train.csv

バージョンでNumPyとパンダで：

$ pip freeze | egrep -i 'pandas|numpy'
numpy==1.13.3
pandas==0.20.2
11
HVNSweeting

このコードを使ってCSVファイルのデータを配列に送ることができます。

import numpy as np
csv = np.genfromtxt('test.csv', delimiter=",")
print(csv)
5
chamzz.dot

私はこれを試しました：

import pandas as p
import numpy as n

closingValue = p.read_csv("<FILENAME>", usecols=[4], dtype=float)
print(closingValue)
3
muTheTechie

numpy.loadtxt を使用する

とても簡単な方法です。しかし、それは全ての要素がfloatであることを必要とします（intなど）

import numpy as np 
data = np.loadtxt('c:\\1.csv',delimiter=',',skiprows=0)
2
Xiaojian Chen

これが最も簡単な方法です。

import csv with open('testfile.csv', newline='') as csvfile: data = list(csv.reader(csvfile))

Dataの各エントリは配列として表現されたレコードです。それであなたは2次元配列を持っています。とても時間が節約できました。

2
Matthew Park

テーブル（pip3 install tables）を使うことをお勧めします。 .csvファイルをpandas（.h5）を使ってpip3 install pandasに保存することができます。

import pandas as pd
data = pd.read_csv("dataset.csv")
store = pd.HDFStore('dataset.h5')
store['mydata'] = data
store.close()

そうすれば、大量のデータでも簡単に、そして少ない時間で、 NumPy配列 にデータを読み込むことができます。

import pandas as pd
store = pd.HDFStore('dataset.h5')
data = store['mydata']
store.close()

# Data in NumPy format
data = data.values
1
Jatin Mandav

この作品は魅力として...

import csv
with open("data.csv", 'r') as f:
    data = list(csv.reader(f, delimiter=";"))

import numpy as np
data = np.array(data, dtype=np.float)
0
Nihal Sargaiya