web-dev-qa-db-ja.com

セレン-python。ネットワークトラフィックの応答をキャプチャする方法

私はpython Djangoを使用してWebアプリを作成しています。ヘッドレスブラウザ（phantomjs）を起動するためにSeleniumを使用しています。ページ。ネットワークトラフィックをキャプチャし、特定のネットワークコールの応答を取得したいこのネットワークコールは、応答として実際にHTMLドキュメントを保持しています。

これを達成する方法はありますか？

pythondjangoseleniumbrowsertraffic
4
Rich Rajah

ブラウザやChromedriverのログにアクセスできますが、ネットワークの応答に関しては少し異なります。ブラウザのログはperformanceと呼ばれ、ドライバのログはdriverと呼ばれます。それらはjsonのようなオブジェクトを返します。これを解析して、内部のNetworkメソッドでイベントを抽出できます。

{'level': 'INFO',
  'message': '{"message":{"method":"Page.frameStoppedLoading","params":{"frameId":"FB10764A3ABF7FFC83110C39C5F7BF77"}},"webview":"C2D13BD13CF743B6D0695B35E9CC935C"}',
  'timestamp': 1538607113832},
 {'level': 'INFO',
  'message': '{"message":{"method":"Page.frameDetached","params":{"frameId":"FB10764A3ABF7FFC83110C39C5F7BF77"}},"webview":"C2D13BD13CF743B6D0695B35E9CC935C"}',
  'timestamp': 1538607113838},
 {'level': 'INFO',
  'message': '{"message":{"method":"Network.requestWillBeSent","params":{"documentURL":"https://stackoverflow.com/questions/52633697/Selenium-python-how-to-capture-network-traffics-response","frameId":"C2D13BD13CF743B6D0695B35E9CC935C","hasUserGesture":false,"initiator":{"type":"other"},"loaderId":"5331BFDC4F466FCED920CFC9F033D2EC","request":{"headers":{"Upgrade-Insecure-Requests":"1","User-Agent":"Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36"},"initialPriority":"VeryHigh","method":"GET","mixedContentType":"none","referrerPolicy":"no-referrer-when-downgrade","url":"https://stackoverflow.com/questions/52633697/Selenium-python-how-to-capture-network-traffics-response"},"requestId":"5331BFDC4F466FCED920CFC9F033D2EC","timestamp":104499.729,"type":"Document","wallTime":1538607113.838206}},"webview":"C2D13BD13CF743B6D0695B35E9CC935C"}',
  'timestamp': 1538607113839},...}

DesiredCapabilitiesでのロギングを有効にし、JSONモジュールを使用して解析する必要があります。

import json
from Selenium import webdriver
from Selenium.webdriver.common.desired_capabilities import DesiredCapabilities

caps = DesiredCapabilities.CHROME
caps['loggingPrefs'] = {'performance': 'ALL'}
driver = webdriver.Chrome(desired_capabilities=caps)
driver.get('https://stackoverflow.com/questions/52633697/Selenium-python-how-to-capture-network-traffics-response')

def process_browser_log_entry(entry):
    response = json.loads(entry['message'])['message']
    return response

browser_log = driver.get_log('performance') 
events = [process_browser_log_entry(entry) for entry in browser_log]
events = [event for event in events if 'Network.response' in event['method']]

これを使用して応答データ自体にアクセスできるかどうかはわかりませんが、応答のURLを取得できます。

7
hellpanderr