質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
87.20%
Twitter

Twitterは、140文字以内の「ツイート」と呼ばれる短文を投稿できるサービスです。Twitter上のほぼ全ての機能に対応するAPIが存在し、その関連サービスが多く公開されています。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

受付中

ツイッターの文章の収集に関する質問

moti1001
moti1001

総合スコア0

Twitter

Twitterは、140文字以内の「ツイート」と呼ばれる短文を投稿できるサービスです。Twitter上のほぼ全ての機能に対応するAPIが存在し、その関連サービスが多く公開されています。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

1回答

-1評価

0クリップ

2225閲覧

投稿2016/08/28 11:41

ツイッターにおいて、あるワードの検索でヒットしたツイートの文章だけを収集したいです。

下に書いたプログラムでは、お気に入りの数やIDなどの情報も収集していまいます。
これをなんとかツイートの文章だけを収集できないかと考えています。
ヒントや考え方だけでも構いませんので、教えていただけないでしょうか?

ちなみにこのプログラムは「スタバ」のワード検索でヒットした100個のツイートの情報を収集するプログラムです。


coding:utf-8

from requests_oauthlib import OAuth1Session
from requests.exceptions import ConnectionError, ReadTimeout, SSLError
import json, datetime, time, pytz, re, sys,traceback, pymongo
#from pymongo import Connection # Connection classは廃止されたのでMongoClientに変更
from pymongo import MongoClient
from collections import defaultdict
import numpy as np

KEYS = { # 自分のアカウントで入手したキーを下記に記載
'consumer_key':'xxx',
'consumer_secret':'xxx',
'access_token':'xxx',
'access_secret':'xxx',
}

twitter = None
connect = None
db = None
tweetdata = None
meta = None

def initialize(): # twitter接続情報や、mongoDBへの接続処理等initial処理実行
global twitter, twitter, connect, db, tweetdata, meta
twitter = OAuth1Session(KEYS['consumer_key'],KEYS['consumer_secret'],
KEYS['access_token'],KEYS['access_secret'])

connect = Connection('localhost', 27017) # Connection classは廃止されたのでMongoClientに変更

connect = MongoClient('localhost', 27017) db = connect.starbucks tweetdata = db.tweetdata meta = db.metadata

initialize()

検索ワードを指定して10件のTweetデータをTwitter REST APIsから取得する

def getTweetData(search_word, max_id, since_id):
global twitter
url = 'https://api.twitter.com/1.1/search/tweets.json'
params = {'q': search_word,
'count':'10',
}
# max_idの指定があれば設定する
if max_id != -1:
params['max_id'] = max_id
# since_idの指定があれば設定する
if since_id != -1:
params['since_id'] = since_id

req = twitter.get(url, params = params) # Tweetデータの取得 # 取得したデータの分解 if req.status_code == 200: # 成功した場合 timeline = json.loads(req.text) metadata = timeline['search_metadata'] statuses = timeline['statuses'] limit = req.headers['x-rate-limit-remaining'] if 'x-rate-limit-remaining' in req.headers else 0 reset = req.headers['x-rate-limit-reset'] if 'x-rate-limit-reset' in req.headers else 0 return {"result":True, "metadata":metadata, "statuses":statuses, "limit":limit, "reset_time":datetime.datetime.fromtimestamp(float(reset)), "reset_time_unix":reset} else: # 失敗した場合 print ("Error: %d" % req.status_code) return{"result":False, "status_code":req.status_code}

文字列を日本時間2タイムゾーンを合わせた日付型で返す

def str_to_date_jp(str_date):
dts = datetime.datetime.strptime(str_date,'%a %b %d %H:%M:%S +0000 %Y')
return pytz.utc.localize(dts).astimezone(pytz.timezone('Asia/Tokyo'))

現在時刻をUNIX Timeで返す

def now_unix_time():
return time.mktime(datetime.datetime.now().timetuple())

#-------------繰り返しTweetデータを取得する-------------#
sid=-1
mid = -1
count = 0

res = None
while(True):
try:
count = count + 1
sys.stdout.write("%d, "% count)
res = getTweetData(u'スタバ', max_id=mid, since_id=sid)
if res['result']==False:
# 失敗したら終了する
print "status_code", res['status_code']
break

if int(res['limit']) == 0: # 回数制限に達したので休憩 # 日付型の列'created_datetime'を付加する print "Adding created_at field." for d in tweetdata.find({'created_datetime':{ "$exists": False }},{'_id':1, 'created_at':1}): #print str_to_date_jp(d['created_at']) tweetdata.update({'_id' : d['_id']}, {'$set' : {'created_datetime' : str_to_date_jp(d['created_at'])}}) #remove_duplicates() # 待ち時間の計算. リミット+5秒後に再開する diff_sec = int(res['reset_time_unix']) - now_unix_time() print "sleep %d sec." % (diff_sec+5) if diff_sec > 0: time.sleep(diff_sec + 5) else: # metadata処理 if len(res['statuses'])==0: sys.stdout.write("statuses is none. ") elif 'next_results' in res['metadata']: # 結果をmongoDBに格納する meta.insert({"metadata":res['metadata'], "insert_date": now_unix_time()}) for s in res['statuses']: tweetdata.insert(s) next_url = res['metadata']['next_results'] pattern = r".*max_id=([0-9]*)\&.*" ite = re.finditer(pattern, next_url) for i in ite: mid = i.group(1) break else: sys.stdout.write("next is none. finished.") break except SSLError as (errno, request): print "SSLError({0}): {1}".format(errno, strerror) print "waiting 5mins" time.sleep(5*60) except ConnectionError as (errno, request): print "ConnectionError({0}): {1}".format(errno, strerror) print "waiting 5mins" time.sleep(5*60) except ReadTimeout as (errno, request): print "ReadTimeout({0}): {1}".format(errno, strerror) print "waiting 5mins" time.sleep(5*60) except: print "Unexpected error:", sys.exc_info()[0] traceback.format_exc(sys.exc_info()[2]) raise finally: info = sys.exc_info()

言語:python2.7
データベース:mongo
テキストエディタ:sublime
PC:mac book air(OS X El capitan)

良い質問の評価を上げる

以下のような質問は評価を上げましょう

  • 質問内容が明確
  • 自分も答えを知りたい
  • 質問者以外のユーザにも役立つ

評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

気になる質問をクリップする

クリップした質問は、後からいつでもマイページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

  • プログラミングに関係のない質問
  • やってほしいことだけを記載した丸投げの質問
  • 問題・課題が含まれていない質問
  • 意図的に内容が抹消された質問
  • 過去に投稿した質問と同じ内容の質問
  • 広告と受け取られるような投稿

評価を下げると、トップページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

argius
argius

2016/08/28 11:44

コード部分は``` ```で囲んで下さい。 コード部分を選択してから編集画面の上部にある<code>ボタンを押すと自動で囲んでくれます。 囲まないと、特にPythonの場合は、インデントやコメント行が正しく表示されません。

まだ回答がついていません

会員登録して回答してみよう

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
87.20%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問

同じタグがついた質問を見る

Twitter

Twitterは、140文字以内の「ツイート」と呼ばれる短文を投稿できるサービスです。Twitter上のほぼ全ての機能に対応するAPIが存在し、その関連サービスが多く公開されています。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。