web-dev-qa-db-ja.com

PHP / MySQLを使用したCSVデータのインポート

CSVからデータをインポートしようとして少し問題があり、まだ自分で解決できていない質問がいくつかあります。

最初に、物事を遠近感のあるものにするための私のコードを示します（CSSとDB接続を削除して、少し整理しました）。

<body>
<div id="container">
<div id="form">

<?php
$deleterecords = "TRUNCATE TABLE tablename"; //empty the table of its current records
mysql_query($deleterecords);

//Upload File
if (isset($_POST['submit'])) {

    if (is_uploaded_file($_FILES['filename']['tmp_name'])) {
        echo "<h1>" . "File ". $_FILES['filename']['name'] ." uploaded 
 successfully." . "</h1>";
        echo "<h2>Displaying contents:</h2>";
        readfile($_FILES['filename']['tmp_name']);
    }

    //Import uploaded file to Database
    $handle = fopen($_FILES['filename']['tmp_name'], "r");

    while (($data = fgetcsv($handle, 1000, ",")) !== FALSE) {
        $import="INSERT into importing(text,number)values('$data[0]','$data[1]')";

        mysql_query($import) or die(mysql_error());
    }

    fclose($handle);

    print "Import done";

//view upload form
} else {

    print "Upload new csv by browsing to file and clicking on Upload<br />\n";

    print "<form enctype='multipart/form-data' action='upload.php' method='post'>";

    print "File name to import:<br />\n";

    print "<input size='50' type='file' name='filename'><br />\n";

    print "<input type='submit' name='submit' value='Upload'></form>";

}

?>

</div>
</div>
</body>

これは基本的に、さまざまな方法で多くの試行を行った後に見つけた例の適応です。

CSVには2列のデータがあり、最初の列はテキストで、2列目は整数です。データベースのテーブルには2列があり、1列目は「text」、2列目は「number」

だから私が持っている質問は次のとおりです。

  1. アップロードされているテキストは、すべてのフィールドで0として表示されているだけで、理由はわかりません
  2. 「」で囲まれたデータについて読み続けていますが、その場合はどのようにソートしますか？
  3. ヘッダーなどのCSVの最初のX行を無視するにはどうすればよいですか？
  4. このプロセス全体でデータ形式が変更されていますか、それともグラフで使用する準備ができていますか？例えばデータベースに配置された小数は小数のままですか？

私はそれがすべてをカバーすると思います、助けてくれてありがとう！

編集：

10,000レコードのアップロードのテストを行ったところ、エラーが発生しました。

「致命的なエラー：最大実行時間が30秒を超えました」

何かご意見は？

phpmysqldatabasecsvimport
26
Pidge

先日、ほぼ同じ質問に答えました： CSVファイルをmysqlデータベースに保存する

MySQLには次の機能がありますLOAD DATA INFILE。CSVファイルを単一のSQLクエリで直接インポートできます。PHPプログラムでループで処理する必要はありません。

簡単な例：

<?php
$query = <<<eof
    LOAD DATA INFILE '$fileName'
     INTO TABLE tableName
     FIELDS TERMINATED BY '|' OPTIONALLY ENCLOSED BY '"'
     LINES TERMINATED BY '\n'
    (field1,field2,field3,etc)
eof;

$db->query($query);
?>

それはそれと同じくらい簡単です。

ループも大騒ぎもありません。そして、PHPで解析するよりもずっとmuch速くなります。

MySQLのマニュアルページ： http://dev.mysql.com/doc/refman/5.1/en/load-data.html

役立つことを願っています

67
SDC
$i=0;
while (($data = fgetcsv($handle, 1000, ",")) !== FALSE) {
if($i>0){
    $import="INSERT into importing(text,number)values('".$data[0]."','".$data[1]."')";
    mysql_query($import) or die(mysql_error());
}
$i=1;
}
6
jit
set_time_limit(10000);

$con = mysql_connect('127.0.0.1','root','password');
if (!$con)
  {
  die('Could not connect: ' . mysql_error());
  }

mysql_select_db("db", $con);

$fp = fopen("file.csv", "r");

while( !feof($fp) ) {
  if( !$line = fgetcsv($fp, 1000, ';', '"')) {
     continue;
  }

    $importSQL = "INSERT INTO table_name VALUES('".$line[0]."','".$line[1]."','".$line[2]."')";

    mysql_query($importSQL) or die(mysql_error());  

}

fclose($fp);
mysql_close($con);
2
dzeno

letsay $ infile = a.csv //ファイルをインポートする必要があります。

class blah
{
 static public function readJobsFromFile($file)
{            
    if (($handle = fopen($file, "r")) === FALSE) 
    {
        echo "readJobsFromFile: Failed to open file [$file]\n";
        die;
    }

    $header=true;
    $index=0;
    while (($data = fgetcsv($handle, 1000, ",")) !== FALSE) 
    {
        // ignore header
        if ($header == true)
        {
            $header = false;
            continue;
        }

        if ($data[0] == '' && $data[1] == '' ) //u have oly 2 fields
        {
            echo "readJobsFromFile: No more input entries\n";
            break;                        
        }            


        $a      = trim($data[0]);
        $b   = trim($data[1]);                 





        if (check_if_exists("SELECT count(*) FROM Db_table WHERE a='$a' AND b='$b'") === true)
        {

                $index++;
            continue;    
        }            

        $sql = "INSERT INTO DB_table SET a='$a' , b='$b' ";
        @mysql_query($sql) or die("readJobsFromFile: " . mysql_error());            
        $index++;
    }

    fclose($handle);        
    return $index; //no. of fields in database.
} 
function
check_if_exists($sql)
{
$result = mysql_query($sql) or die("$sql --" . mysql_error());
if (!$result) {
    $message  = 'check_if_exists::Invalid query: ' . mysql_error() . "\n";
    $message .= 'Query: ' . $sql;
    die($message);
}

$row = mysql_fetch_assoc ($result);
$count = $row['count(*)'];
if ($count > 0)
    return true;
return false;
}

$infile=a.csv; 
blah::readJobsFromFile($infile);
}

お役に立てれば。

2
Naren Karthik

csvの解析について覚えておくべき主なことは、いくつかの簡単なルールに従うことです。

a）簡単に開くことができるテキストファイルですb）各行は行末で決定されます\ nしたがって文字列を最初に行に分割しますc）各行/行にはコンマで決定された列があるので各行を分割して配列を取得します列の

この投稿を読んでください 私が話していることを確認する

実際に慣れると非常に簡単になり、非常に便利になります。

0
PHP Addict