web-dev-qa-db-ja.com

認証付きのurllib.request.urlopen（url）

私は数日間、美しいスープで遊んで、ウェブページを解析しています。私が書いたすべてのスクリプトで私の救世主となったコード行を使用しています。コードの行は次のとおりです。

r = requests.get('some_url', auth=('my_username', 'my_password')).

しかし...

私は同じことを（認証付きでURLを開く）で行いたい：

(1) sauce = urllib.request.urlopen(url).read() (1)
(2) soup = bs.BeautifulSoup(sauce,"html.parser") (2)

認証を必要とするWebページのURLを開いて読み取ることができません。このようなことをどのように達成しますか：

  (3) sauce = urllib.request.urlopen(url, auth=(username, password)).read() (3) 
instead of (1)
pythonpython-3.xurlbeautifulsouprequest
12
user7800892

公式ドキュメントの HOWTO urllibパッケージを使用したインターネットリソースの取得 をご覧ください。

# create a password manager
password_mgr = urllib.request.HTTPPasswordMgrWithDefaultRealm()

# Add the username and password.
# If we knew the realm, we could use it instead of None.
top_level_url = "http://example.com/foo/"
password_mgr.add_password(None, top_level_url, username, password)

handler = urllib.request.HTTPBasicAuthHandler(password_mgr)

# create "opener" (OpenerDirector instance)
opener = urllib.request.build_opener(handler)

# use the opener to fetch a URL
opener.open(a_url)

# Install the opener.
# Now all calls to urllib.request.urlopen use our opener.
urllib.request.install_opener(opener)
10
Christian König

HTTP Basic Authenticationを使用しています：

import urllib2, base64

request = urllib2.Request(url)
base64string = base64.b64encode('%s:%s' % (username, password))
request.add_header("Authorization", "Basic %s" % base64string)   
result = urllib2.urlopen(request)

したがって、base64ユーザー名とパスワードをエンコードし、Authorizationヘッダーとして送信する必要があります。

17
moritzg