質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.50%
スクレイピング

スクレイピングとは、公開されているWebサイトからページ内の情報を抽出する技術です。

Twitter

Twitterは、140文字以内の「ツイート」と呼ばれる短文を投稿できるサービスです。Twitter上のほぼ全ての機能に対応するAPIが存在し、その関連サービスが多く公開されています。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

Q&A

3回答

1761閲覧

Twitterのスクレイピング のエラー401について解決したい

HirotoShoji

総合スコア1

スクレイピング

スクレイピングとは、公開されているWebサイトからページ内の情報を抽出する技術です。

Twitter

Twitterは、140文字以内の「ツイート」と呼ばれる短文を投稿できるサービスです。Twitter上のほぼ全ての機能に対応するAPIが存在し、その関連サービスが多く公開されています。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

0グッド

0クリップ

投稿2021/10/14 13:19

Twitterのスクレイピング のエラー401

ここに質問の内容を詳しく書いてください。
Twitterのツイートのスクレイピングを行っている途中です。
そこで、以下のコードを打つとエラーが目的とは異なった値が帰ってきてしまいました。

###【参考サイト】
https://www.simpletraveler.jp/2020/04/02/python-twitter-scraping-data-analysis/?unapproved=245&moderation-hash=ce600cd9200e59fa5c7f39610880af50#comment-245

発生している問題・エラーメッセージ

##tweets = getTwitterData("機械学習", 100)を実行すると以下で返ってきてしまいます Faile: 401

該当のソースコード

def getTwitterData(key_word, repeat): url = "https://api.twitter.com/1.1/search/tweets.json" params ={'q': key_word, 'count':'100','lang':'ja', 'result_type':'recent'} tweets = [] mid = -1 break_flag = 0 for i in range(repeat): params['max_id'] = mid res = twitter.get(url, params = params) if res.status_code == 200: sub_tweets = json.loads(res.text)['statuses'] limit = res.headers['x-rate-limit-remaining'] if 'x-rate-limit-remaining' in res.headers else 0 #print("API残接続可能回数:%s" % len(limit)) tweet_ids = [] for tweet in sub_tweets: tweet_ids.append(int(tweet['id'])) tweets.append(tweet) if len(tweet_ids) > 0: min_tweet_id = min(tweet_ids) mid = min_tweet_id - 1 else: break_flag = 1 break; ## 終了判定 if break_flag == 1: break; else: print("Faile: %d" % res.status_code) break_flag = 1 print("ツイート取得数:%s" % len(tweets)) return tweets tweets = getTwitterData("機械学習", 100)

【参考サイト】

https://www.simpletraveler.jp/2020/04/02/python-twitter-scraping-data-analysis/?

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

回答3

0

そもそも、Twitterのスクレイピングは利用規約上の禁止事項です。

本サービスへのクローリングは、robots.txtファイルの定めによる場合は認められていますが、Twitterによる事前の同意がないまま本サービスのスクレイピングをすることは明示的に禁止されています

Twitter側から技術的にブロックされても文句は言えません。

投稿2021/10/14 21:55

maisumakun

総合スコア145121

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

0

質問に提示されている参考サイトおよび401エラーとは|「分かりそう」で「分からない」でも「分かった」気になれるIT用語辞典を参照したうえで、認証処理あたりに問題がないか確認したうえで適切に処理すると解決すると思われます。

投稿2021/10/14 13:29

can110

総合スコア38234

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

0

参考サイトの何を参考にされたのでしょう。
サイトに「書いてある通り」開発者登録を行い、認証キーを取得してください。

投稿2021/10/15 03:00

編集2021/10/15 03:02
haihaikazuma

総合スコア181

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

まだベストアンサーが選ばれていません

会員登録して回答してみよう

アカウントをお持ちの方は

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.50%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問