🎄teratailクリスマスプレゼントキャンペーン2024🎄』開催中!

\teratail特別グッズやAmazonギフトカード最大2,000円分が当たる!/

詳細はこちら
スクレイピング

スクレイピングとは、公開されているWebサイトからページ内の情報を抽出する技術です。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

Q&A

解決済

2回答

560閲覧

HTTPレスポンスエラー403を回避したい

pdaocmhii

総合スコア18

スクレイピング

スクレイピングとは、公開されているWebサイトからページ内の情報を抽出する技術です。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

0グッド

0クリップ

投稿2019/09/29 15:01

pythonを用いてのスクレイピングを行なっています。
EtherscanというサイトのAPIを用いてオペコードを取得していました。

python

1r = requests.get("https://etherscan.io/api?module=opcode&action=getopcode&address=0xc38DA2f95A183a5aBE1aC3e9fc2FDce8a4A1A045") 2req = urllib.request.Request(url, headers={'User-Agent': 'Mozilla/5.0'}) 3print(r)

2日前まではこれでうまく情報を取得できていたのですが、今日再び実行したところ、以下のようなエラーが出てしまいました。

<Response [403]>

ブラウザ上でURLを直接入力すればうまく取得できるのですが、pythonで実行した時はエラーが出てしまいます。
うまく回避できる方法はないでしょうか?
ご回答よろしくお願いします。

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

nandymak

2019/09/29 18:23

スクレイピングされないようにサイト側が対応したのでは?
pdaocmhii

2019/09/30 14:26

色々確認してみた結果、そのようでした。
guest

回答2

0

開発者用のAPIがあるようなので、利用方法を確認したほうがいいでしょう。
API-keyが必要とかリクエスト回数の制約などで引っかかっている気がします。

<参考url>
https://etherscan.io/apis

投稿2019/09/29 21:50

R.Shigemori

総合スコア3376

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

0

自己解決

サイト側でスクレイピングの対策をされてしまったみたいでした。

投稿2019/09/30 14:27

pdaocmhii

総合スコア18

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.36%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問