requests、robobrowser、Selenium+PhantomJSでUser-Agentを変更する方法は以下の通り。
USER_AGENT = 'Mozilla/5.0 (Windows NT 10.0; WOW64; rv:53.0) Gecko/20100101 Firefox/53.0' # requestsの場合 headers={'User-Agent':USER_AGENT} html_data = requests.get(url, headers=headers) # robobrowserの場合 browser = RoboBrowser(parser='html.parser', user_agent=USER_AGENT) # Selenium+PhantomJSの場合 from selenium.webdriver.common.desired_capabilities import DesiredCapabilities ua = dict(DesiredCapabilities.PHANTOMJS) ua['phantomjs.page.settings.userAgent'] = (USER_AGENT) driver = webdriver.PhantomJS(desired_capabilities=ua)
User-Agentが変更されているか確認する。
- 「確認くん」(http://www.ugtop.com/spill.shtml)にアクセスする。
- 「現在のブラウザー」に表示されている内容を確認する。