質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

ただいまの
回答率

90.51%

  • Python 2.7

    1458questions

    Python 2.7は2.xシリーズでは最後のメジャーバージョンです。Python3.1にある機能の多くが含まれています。

  • Twitter

    790questions

    Twitterは、140文字以内の「ツイート」と呼ばれる短文を投稿できるサービスです。Twitter上のほぼ全ての機能に対応するAPIが存在し、その関連サービスが多く公開されています。

Twitter APIを使ってツイートを検索する

解決済

回答 1

投稿 編集

  • 評価
  • クリップ 0
  • VIEW 1,027

KenKenPaPPa

score 16

前提・実現したいこと

現在大学4年生のものです。
研究でツイッターのツイートを取得したいと思い、以下のブログを参考にプログラムを作りました。
http://ailaby.com/twitter_api/

一応データを取得はできたのですが、本来3000件のツイートを取得できるはずが、何回試しても30〜40件程度のツイートを入手したところでエラーがおきます。
原因が分からないので教えていただきたいです。

補足

X-Rate-Limit-Remaining:アクセス可能回数 (アクセスするごとに -1 されていきます)
X-Rate-Limit-Reset:アクセスが可能になるまでの時間 (アクセス可能回数が 0 になっても、この値の時間まで待てば回数はリセットされます)

ここら辺のエラー処理をプログラムから除外すると、3000件取得できました。

発生している問題・エラーメッセージ

Traceback (most recent call last):
  File "twitprint.py", line 242, in <module>
    for tweet in getter.collect(total = 3000):
  File "twitprint.py", line 107, in collect
    if(int(res.headers['X-Rate-Limit-Remainig']) ==0):
  File "/Library/Python/2.7/site-packages/requests/structures.py", line 54, in __getitem__
    return self._store[key.lower()][1]
KeyError: 'x-rate-limit-remainig'

該当のソースコード

#!/usr/bin/python python
# -*- coding: utf-8 -*-

from requests_oauthlib import OAuth1Session
import json
import datetime, time, sys
from abc import ABCMeta, abstractmethod

CK = 'v'                             # Consumer Key
CS = ''    # Consumer Secret
AT = ''    # Access Token
AS = ''         # Accesss Token Secert

class TweetsGetter(object):
    __metaclass__ = ABCMeta

    def __init__(self):
        self.session = OAuth1Session(CK, CS, AT, AS)

    @abstractmethod
    def specifyUrlAndParams(self, keyword):
        '''
            呼出し先 URL、パラメータを返す
            '''

    @abstractmethod
    def pickupTweet(self, res_text, includeRetweet):
        '''
            res_text からツイートを取り出し、配列にセットして返却
            '''

    @abstractmethod
    def getLimitContext(self, res_text):
        '''
            回数制限の情報を取得 (起動時)
            '''

    def collect(self, total = -1, onlyText = False, includeRetweet = False):
        '''
            ツイート取得を開始する
            '''

        #----------------
        # 回数制限を確認
        #----------------
        self.checkLimit()

        #----------------
        # URL、パラメータ
        #----------------
        url, params = self.specifyUrlAndParams()
        params['include_rts'] = str(includeRetweet).lower()
        # include_rts は statuses/user_timeline のパラメータ。search/tweets には無効

        #----------------
        # ツイート取得
        #----------------
        cnt = 0

        unavailableCnt = 0
        while True:
            res = self.session.get(url, params = params)
            if res.status_code == 503:
                # 503 : Service Unavailable
                if unavailableCnt > 10:
                    raise Exception('Twitter API error %d' % res.status_code)

                unavailableCnt += 1
                print ('Service Unavailable 503')
                self.waitUntilReset(time.mktime(datetime.datetime.now().timetuple()) + 30)
                continue

            unavailableCnt = 0

            if res.status_code != 200:
                raise Exception('Twitter API error %d' % res.status_code)

            tweets = self.pickupTweet(json.loads(res.text))
            if len(tweets) == 0:
                # len(tweets) != params['count'] としたいが
                # count は最大値らしいので判定に使えない。
                # ⇒  "== 0" にする
                # https://dev.twitter.com/discussions/7513
                break

            for tweet in tweets:
                if (('retweeted_status' in tweet) and (includeRetweet is False)):
                    pass
                else:
                    if onlyText is True:
                        yield tweet['text']
                    else:
                        yield tweet

                    cnt += 1
                    if cnt % 100 == 0:
                        print('%d件 ' % cnt)

                        if total > 0 and cnt >= total:
                            return

            params['max_id'] = tweet['id'] - 1

            #ヘッダ確認(回数制限)
            #X-Rate-Limit_Remainingが入ってないことがあるので稀にチェック
            if('X-Rate-Limit-Remaining' in res.headers and 'X-Rate-Limit-Reset' in res.headers):
                if(int(res.headers['X-Rate-Limit-Remainig']) ==0):
                    self.waitUntilReset(int(res.headers['X-Rate-Limit-Reset']))
                    self.checkLimit()
            else:
                print('not found - X-Rate-Limit-Remaining or X-Rate-Limit-Reset')
                self.checkLimit()

    def checkLimit(self):
        '''
            回数制限を問い合わせ、アクセス可能になるまでwaitする
        '''
        unavailableCnt = 0
        while True:
            url = "https://api.twitter.com/1.1/application/rate_limit_status.json"
            res = self.session.get(url)

            if res.status_code == 503:
                #503 : Service Unavailable
                if unavailableCnt > 10:
                    raise Exception('Twitter API error %d' % res.status_code)

                unavailableCnt +=1
                print('Service Unaveilable 503')
                self.waitUntilReset(time.mktime(datetime.datetime.now().timetuple()) + 30)
                continue

            unavailableCnt = 0

            if res.status_code != 200:
                raise Exception('Twitter API error %d' % res.status_code)

            remaining, reset = self.getLimitContext(json.loads(res.text))
            if(remaining == 0):
                self.waitUntilReset(reset)
            else:
                break

    def waitUntilReset(self,reset):

   # reset 時刻まで sleep


        seconds = reset - time.mktime(datetime,datetime.now().timetuple())
        seconds = max(seconds,0)
        print('\n      =====================')
        print('      == waiting %d sec ==' % seconds)
        print('      =====================')
        sys.stdout.flush()
        time.sleep(seconds + 10)  #念のため+10秒

    @staticmethod
    def bySearch(keyword):
        return TweetsGetterBySearch(keyword)

    @staticmethod
    def byUser(screen_name):
        return TweetsGetterByUser(screen_name)


class TweetsGetterBySearch(TweetsGetter):
    '''
    キーワードでツイートを検索
    '''
    def __init__(self, keyword):
        super(TweetsGetterBySearch, self).__init__()
        self.keyword = keyword

    def specifyUrlAndParams(self):

       # 呼出し先 URL、パラメータを返す
        url = 'https://api.twitter.com/1.1/search/tweets.json'
        params = {'q':self.keyword, 'count':100}
        return url, params

    def pickupTweet(self, res_text):

        #res_text からツイートを取り出し、配列にセットして返却
        results = []
        for tweet in res_text['statuses']:
            results.append(tweet)

        return results

    def getLimitContext(self, res_text):

    #回数制限の情報を取得 (起動時)
        remaining = res_text['resources']['search']['/search/tweets']['remaining']
        reset     = res_text['resources']['search']['/search/tweets']['reset']

        return int(remaining), int(reset)

class TweetsGetterByUser(TweetsGetter):
    '''
        ユーザーを指定してツイートを取得
        '''
    def __init__(self, screen_name):
        super(TweetsGetterByUser, self).__init__()
        self.screen_name = screen_name

    def specifyUrlAndParams(self):
        '''
            呼出し先 URL、パラメータを返す
            '''
        url = 'https://api.twitter.com/1.1/statuses/user_timeline.json'
        params = {'screen_name':self.screen_name, 'count':200}
        return url, params

    def pickupTweet(self, res_text):
        '''
            res_text からツイートを取り出し、配列にセットして返却
            '''
        results = []
        for tweet in res_text:
            results.append(tweet)

        return results

    def getLimitContext(self, res_text):

        #回数制限の情報を取得 (起動時)

        remaining = res_text['resources']['statuses']['/statuses/user_timeline']['remaining']
        reset     = res_text['resources']['statuses']['/statuses/user_timeline']['reset']

        return int(remaining), int(reset)

if __name__ == '__main__':

    # キーワードで取得
    getter = TweetsGetter.bySearch(u'渋谷')

    # ユーザーを指定して取得 (screen_name)
    #getter = TweetsGetter.byUser('AbeShinzo')

    cnt = 0
    for tweet in getter.collect(total = 3000):
        cnt += 1
        print ('------ %d' % cnt)
        print ('{} {} {}'.format(tweet['id'], tweet['created_at'], '@'+tweet['user']['screen_name']))
        print (tweet['text'])
  • 気になる質問をクリップする

    クリップした質問は、後からいつでもマイページで確認できます。

    またクリップした質問に回答があった際、通知やメールを受け取ることができます。

    クリップを取り消します

  • 良い質問の評価を上げる

    以下のような質問は評価を上げましょう

    • 質問内容が明確
    • 自分も答えを知りたい
    • 質問者以外のユーザにも役立つ

    評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

    質問の評価を上げたことを取り消します

  • 評価を下げられる数の上限に達しました

    評価を下げることができません

    • 1日5回まで評価を下げられます
    • 1日に1ユーザに対して2回まで評価を下げられます

    質問の評価を下げる

    teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

    • プログラミングに関係のない質問
    • やってほしいことだけを記載した丸投げの質問
    • 問題・課題が含まれていない質問
    • 意図的に内容が抹消された質問
    • 広告と受け取られるような投稿

    評価が下がると、TOPページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

    質問の評価を下げたことを取り消します

    この機能は開放されていません

    評価を下げる条件を満たしてません

    評価を下げる理由を選択してください

    詳細な説明はこちら

    上記に当てはまらず、質問内容が明確になっていない質問には「情報の追加・修正依頼」機能からコメントをしてください。

    質問の評価を下げる機能の利用条件

    この機能を利用するためには、以下の事項を行う必要があります。

質問への追記・修正、ベストアンサー選択の依頼

  • tk1024

    2017/05/25 02:41

    Consumer Key / Consumer Secret / Access Token / Accesss Token Secert などは悪用できるので隠した方が良いと思います

    キャンセル

  • te2ji

    2017/05/25 08:12

    悪用できる。ではなくて、されるですね^^;隠しても履歴が残るので再取得して今のものは無効にして下さい。また、各種キーの取扱の出来ない人はAPIを触ってはいけません。まず各種ドキュメントを読むところから始めて下さい。

    キャンセル

  • KenKenPaPPa

    2017/05/25 12:23

    あああああ、やっちゃいました、ご指摘ありがとうございます。以後気をつけます。

    キャンセル

回答 1

checkベストアンサー

+1

エラーの原因は、単純なtypoです。

修正前

    if(int(res.headers['X-Rate-Limit-Remainig']) ==0):

修正後

    if(int(res.headers['X-Rate-Limit-Remaining']) ==0):

Remaining の綴りで、最後の 'n' が抜けております。

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

同じタグがついた質問を見る

  • Python 2.7

    1458questions

    Python 2.7は2.xシリーズでは最後のメジャーバージョンです。Python3.1にある機能の多くが含まれています。

  • Twitter

    790questions

    Twitterは、140文字以内の「ツイート」と呼ばれる短文を投稿できるサービスです。Twitter上のほぼ全ての機能に対応するAPIが存在し、その関連サービスが多く公開されています。