web-dev-qa-db-ja.com

Pythonを使用してMySQLにJSONを挿入する

PythonにJSONオブジェクトがあります。 Python DB-APIおよびSimpleJsonを使用しています。jsonをMySQLテーブルに挿入しようとしています。

現時点でエラーが発生しています。JSONオブジェクトの単一引用符 ''が原因であると考えています。

Pythonを使用してJSONオブジェクトをMySQLに挿入するにはどうすればよいですか？

ここに私が得るエラーメッセージがあります：

error: uncaptured python exception, closing channel 
<twitstream.twitasync.TwitterStreamPOST connected at 
0x7ff68f91d7e8> (<class '_mysql_exceptions.ProgrammingError'>:
(1064, "You have an error in your SQL syntax; check the 
manual that corresponds to your MySQL server version for 
the right syntax to use near ''favorited': '0', 
'in_reply_to_user_id': '52063869', 'contributors': 
'NULL', 'tr' at line 1") 
[/usr/lib/python2.5/asyncore.py|read|68] 
[/usr/lib/python2.5/asyncore.py|handle_read_event|390] 
[/usr/lib/python2.5/asynchat.py|handle_read|137] 
[/usr/lib/python2.5/site-packages/twitstream-0.1-py2.5.Egg/
twitstream/twitasync.py|found_terminator|55] [Twitter.py|callback|26] 
[build/bdist.linux-x86_64/Egg/MySQLdb/cursors.py|execute|166] 
[build/bdist.linux-x86_64/Egg/MySQLdb/connections.py|defaulterrorhandler|35])

参照用の別のエラー

error: uncaptured python exception, closing channel 
<twitstream.twitasync.TwitterStreamPOST connected at 
0x7feb9d52b7e8> (<class '_mysql_exceptions.ProgrammingError'>:
(1064, "You have an error in your SQL syntax; check the manual 
that corresponds to your MySQL server version for the right 
syntax to use near 'RT @tweetmeme The Best BlackBerry Pearl 
Cell Phone Covers http://bit.ly/9WtwUO''' at line 1") 
[/usr/lib/python2.5/asyncore.py|read|68] 
[/usr/lib/python2.5/asyncore.py|handle_read_event|390] 
[/usr/lib/python2.5/asynchat.py|handle_read|137] 
[/usr/lib/python2.5/site-packages/twitstream-0.1-
py2.5.Egg/twitstream/twitasync.py|found_terminator|55] 
[Twitter.py|callback|28] [build/bdist.linux-
x86_64/Egg/MySQLdb/cursors.py|execute|166] [build/bdist.linux-
x86_64/Egg/MySQLdb/connections.py|defaulterrorhandler|35])

ここに私が使用しているコードへのリンクがあります http://Pastebin.com/q5QSfYLa

#!/usr/bin/env python

try:
        import json as simplejson
except ImportError:
        import simplejson

import twitstream
import MySQLdb

USER = ''
PASS = ''

USAGE = """%prog"""


conn = MySQLdb.connect(Host = "",
                       user = "",
                       passwd = "",
                       db = "")

# Define a function/callable to be called on every status:
def callback(status):

    twitdb = conn.cursor ()
    twitdb.execute ("INSERT INTO tweets_unprocessed (text, created_at, Twitter_id, user_id, user_screen_name, json) VALUES (%s,%s,%s,%s,%s,%s)",(status.get('text'), status.get('created_at'), status.get('id'), status.get('user', {}).get('id'), status.get('user', {}).get('screen_name'), status))

   # print status
     #print "%s:\t%s\n" % (status.get('user', {}).get('screen_name'), status.get('text'))

if __name__ == '__main__':
    # Call a specific API method from the twitstream module:
    # stream = twitstream.spritzer(USER, PASS, callback)

    twitstream.parser.usage = USAGE
    (options, args) = twitstream.parser.parse_args()

    if len(args) < 1:
        args = ['Blackberry']

    stream = twitstream.track(USER, PASS, callback, args, options.debug, engine=options.engine)

    # Loop forever on the streaming call:
    stream.run()
pythonmysqljsonpython-db-api
16
Aran

json.dumps（json_value）を使用して、mysqlのテキストフィールドに挿入できるjson文字列にjsonオブジェクト（pythonオブジェクト）を変換します

http://docs.python.org/library/json.html

21
Mordi

他の答えに拡張するには：

基本的に、次の2つのことを確認する必要があります。

  1. 配置しようとしているフィールドに挿入したい全量のデータのためのスペースがあること。異なるデータベースフィールドタイプは、異なる量のデータに適合できます。参照： MySQL文字列データ型 。おそらく「TEXT」または「BLOB」タイプが必要です。

  2. 安全にデータをデータベースに渡していること。データを渡すいくつかの方法では、データベースがデータを「見る」可能性があり、データがSQLのように見えると混乱します。これはセキュリティリスクでもあります。参照： SQLインジェクション

＃1の解決策は、データベースが正しいフィールドタイプで設計されていることを確認することです。

＃2の解決策は、パラメーター化された（バインドされた）クエリを使用することです。たとえば、代わりに：

# Simple, but naive, method.
# Notice that you are passing in 1 large argument to db.execute()
db.execute("INSERT INTO json_col VALUES (" + json_value + ")")

より良い、使用：

# Correct method. Uses parameter/bind variables.
# Notice that you are passing in 2 arguments to db.execute()
db.execute("INSERT INTO json_col VALUES %s", json_value)

お役に立てれば。もしそうなら、私に知らせてください。 ：-）

それでも問題が解決しない場合は、構文をさらに詳しく調べる必要があります。

4
nonot1

テキストまたはブロブ列に簡単に挿入できるはずです

db.execute("INSERT INTO json_col VALUES %s", json_value)
1
Vince Spicer

実際のSQL文字列を確認する必要があります。次のように試してください。

sqlstr = "INSERT INTO tweets_unprocessed (text, created_at, Twitter_id, user_id, user_screen_name, json) VALUES (%s,%s,%s,%s,%s,%s)", (status.get('text'), status.get('created_at'), status.get('id'), status.get('user', {}).get('id'), status.get('user', {}).get('screen_name'), status)
print "about to execute(%s)" % sqlstr
twitdb.execute(sqlstr)

あなたはそこにいくつかの引用符、括弧、または括弧を見つけると思います。

1
qneill

pythonマップをMySQL JSONフィールドに挿入する最も簡単な方法...

python_map = { "foo": "bar", [ "baz", "biz" ] }

sql = "INSERT INTO your_table (json_column_name) VALUES (%s)"
cursor.execute( sql, (json.dumps(python_map),) )
1
Stefan

エラーは、jsonを挿入しようとしたフィールドのサイズのオーバーフローが原因である可能性があります。コードがなければ、手助けするのは難しいです。

Jouch形式に依存するドキュメント指向データベースであるcouchdbなどの非SQLデータベースシステムを検討しましたか？

0
Aif
@route('/shoes', method='POST')
def createorder():
    cursor = db.cursor()
    data = request.json
    p_id = request.json['product_id']
    p_desc = request.json['product_desc']
    color = request.json['color']
    price = request.json['price']
    p_name = request.json['product_name']
    q = request.json['quantity']
    createDate = datetime.now().isoformat()
    print (createDate)
    response.content_type = 'application/json'
    print(data)
    if not data:
        abort(400, 'No data received')

    sql = "insert into productshoes (product_id, product_desc, color, price, product_name,         quantity, createDate) values ('%s', '%s','%s','%d','%s','%d', '%s')" %(p_id, p_desc, color, price, p_name, q, createDate)
    print (sql)
    try:
    # Execute dml and commit changes
        cursor.execute(sql,data)
        db.commit()
        cursor.close()        
    except:
    # Rollback changes
        db.rollback()
    return dumps(("OK"),default=json_util.default)
0
kg3

インラインコードを記述したい場合、たとえば、import jsonなしで小さなjson値を記述したい場合は、ここに簡単なヒントを示します。二重引用符を使用すると、SQLで引用符をエスケープできます。つまり、''または""を使用して、'または"を入力します。

サンプルPythonコード（テストされていません）：

q = 'INSERT INTO `table`(`db_col`) VALUES ("{k:""some data"";}")'
db_connector.execute(q)
0
Nitin Nain