web-dev-qa-db-ja.com

UnicodeDecodeError： 'utf-8'コーデックはバイトエラーをデコードできません

私はurllibからの応答を取得し、読み取り可能な形式にデコードしようとしています。テキストはヘブライ語であり、{や/などの文字も含まれています

トップページのコーディングは：

# -*- coding: utf-8 -*-

生の文字列は：

b'\xff\xfe{\x00 \x00\r\x00\n\x00"\x00i\x00d\x00"\x00 \x00:\x00 \x00"\x001\x004\x000\x004\x008\x003\x000\x000\x006\x004\x006\x009\x006\x00"\x00,\x00\r\x00\n\x00"\x00t\x00i\x00t\x00l\x00e\x00"\x00 \x00:\x00 \x00"\x00\xe4\x05\xd9\x05\xe7\x05\xd5\x05\xd3\x05 \x00\xd4\x05\xe2\x05\xd5\x05\xe8\x05\xe3\x05 \x00\xd4\x05\xea\x05\xe8\x05\xe2\x05\xd4\x05 \x00\xd1\x05\xde\x05\xe8\x05\xd7\x05\xd1\x05 \x00"\x00,\x00\r\x00\n\x00"\x00d\x00a\x00t\x00a\x00"\x00 \x00:\x00 \x00[\x00]\x00\r\x00\n\x00}\x00\r\x00\n\x00\r\x00\n\x00'

今私はそれを使ってそれをデコードしようとしています：

 data = data.decode()

そして私は次のエラーを受け取ります：

UnicodeDecodeError: 'utf-8' codec can't decode byte 0xff in position 0: invalid start byte
pythonencodingutf-8urllib
10
user1641071

あなたの問題は、それがUTF-8ではないということです。 UTF-16でエンコードされたデータがある場合は、次のようにデコードします。

>>> data = b'\xff\xfe{\x00 \x00\r\x00\n\x00"\x00i\x00d\x00"\x00 \x00:\x00 \x00"\x001\x004\x000\x004\x008\x003\x000\x000\x006\x004\x006\x009\x006\x00"\x00,\x00\r\x00\n\x00"\x00t\x00i\x00t\x00l\x00e\x00"\x00 \x00:\x00 \x00"\x00\xe4\x05\xd9\x05\xe7\x05\xd5\x05\xd3\x05 \x00\xd4\x05\xe2\x05\xd5\x05\xe8\x05\xe3\x05 \x00\xd4\x05\xea\x05\xe8\x05\xe2\x05\xd4\x05 \x00\xd1\x05\xde\x05\xe8\x05\xd7\x05\xd1\x05 \x00"\x00,\x00\r\x00\n\x00"\x00d\x00a\x00t\x00a\x00"\x00 \x00:\x00 \x00[\x00]\x00\r\x00\n\x00}\x00\r\x00\n\x00\r\x00\n\x00'
>>> data.decode('utf16')
'{ \r\n"id" : "1404830064696",\r\n"title" : "פיקוד העורף התרעה במרחב ",\r\n"data" : []\r\n}\r\n\r\n'
>>> import json
>>> json.loads(data.decode('utf16'))
{'title': 'פיקוד העורף התרעה במרחב ', 'id': '1404830064696', 'data': []}

これをurllib.requestを使用してWebサイトからロードした場合、Content-Typeヘッダーshouldにcharsetパラメータが含まれていることを示します。 responseが返されたurllib.request応答オブジェクトの場合、次を使用します。

codec = response.info().get_content_charset('utf-8')

charsetパラメーターが設定されていない場合、これはデフォルトでUTF-8になります。これは、JSONデータの適切なデフォルトです。

または、 requests library を使用してJSON応答をロードすると、デコードが自動的に処理されます（JSON応答に固有のUTF-codec自動検出を含む）。

さらに1つ注意： PEP 263ソースコードコーデックコメント は、文字列リテラルを含むソースコードを解釈するためにonlyを使用しています。外部ソース（ファイル、ネットワークデータなど）のエンコーディングとは関係ありません。

16
Martijn Pieters

このエラーはDjangoでPython 3.4。これを Django-rest-framework で動作させるようにしました。

これはエラーを修正した私のコードでしたUnicodeDecodeError： 'utf-8'コーデックはバイトエラーをデコードできません。

これは合格テストです。

import os
from os.path import join, dirname
import uuid
from rest_framework.test import APITestCase

class AttachmentTests(APITestCase):

    def setUp(self):
        self.base_dir = dirname(dirname(dirname(__file__)))

        self.image = join(self.base_dir, "source/test_in/aaron.jpeg")
        self.image_filename = os.path.split(self.image)[1]

    def test_create_image(self):
        id = str(uuid.uuid4())
        with open(self.image, 'rb') as data:
            # data = data.read()
            post_data = {
                'id': id,
                'filename': self.image_filename,
                'file': data
            }

            response = self.client.post("/api/admin/attachments/", post_data)

            self.assertEqual(response.status_code, 201)
0
Aaron Lelevier