質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

ただいまの
回答率

88.32%

python2.7,beautifulsoupでのスクレイピングが、うまく出来ません。

解決済

回答 1

投稿 編集

  • 評価
  • クリップ 0
  • VIEW 1,818

akakage13

score 89

前提・実現したいこと

python初心者でございます。
競馬情報をbeautifulsoupでスクレイピングしておりますが、以下の3点に苦慮しております。

1.forで回すのですが、なぜか、1行目だけをprintを続けております。
スクリプトは以前、成功したモノと対比しておりますが、2行目以降を読み込まない原因が分からず、苦慮しております。

**→tds=tr1.findAll("td")に差し替えることで、解決したと考えています。
**

2.項目の中の「負担重量」をスクレイピングすることが出来ません(他は成功しております)
単純にtd.textと思いますが、何故か、取れません。

3.右端の2の数字の出所も不明でございます。

試したソースコード、  発生したエラーコードの結果

# -*- coding:utf-8 -*-

import urllib2
import codecs
import time
from bs4 import BeautifulSoup
f = codecs.open('race.csv', 'w', 'utf-8')
#f.write('frame_number,horse_number,horse_name,sex_age,weight,jockey_name,horse_house,horse_weight,horse_odds,popularity'+u"\n")

url='http://race.netkeiba.com/?pid=race_old&id=c201604020801'

soup = BeautifulSoup(urllib2.urlopen(url).read(),"lxml")

tr_arr = soup.select(" table.race_table_old > tr ")
#ソースコードは確認済みです
for tr1 in tr_arr:

    tds=tr1.findAll("td")

    frame_number=tds[0].text    
    #list型であることは確認済みです

    print frame_number.strip()


・エラーメッセージ

C:\Users\satoru\horse>test_race-scan.py
Traceback (most recent call last):
  File "C:\Users\satoru\horse\test_race-scan.py", line 20, in <module>
    frame_number=tds[0].text
IndexError: list index out of range

C:\Users\satoru\horse>

試したこと

findAllを用いて、for文で回す以前に、スクレイピング自体にエラーが発生しました。

該当ソースコードを確認して、tbodyが無いこと、リスト型であること等を踏まえたうえで、
前回のソースコードを参考にスクリプトを考えましたが、うまくいきません。
tds単独でprintさせた場合は、一斉に、tdが放出されますので、この部分のスクリプトは大丈夫と考えております。

リスト型であるはずなのに、数字が違うということがうまく理解できません。

御教示よろしくお願いいたします。

補足情報(言語/FW/ツール等のバージョンなど)

python2.7

  • 気になる質問をクリップする

    クリップした質問は、後からいつでもマイページで確認できます。

    またクリップした質問に回答があった際、通知やメールを受け取ることができます。

    クリップを取り消します

  • 良い質問の評価を上げる

    以下のような質問は評価を上げましょう

    • 質問内容が明確
    • 自分も答えを知りたい
    • 質問者以外のユーザにも役立つ

    評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

    質問の評価を上げたことを取り消します

  • 評価を下げられる数の上限に達しました

    評価を下げることができません

    • 1日5回まで評価を下げられます
    • 1日に1ユーザに対して2回まで評価を下げられます

    質問の評価を下げる

    teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

    • プログラミングに関係のない質問
    • やってほしいことだけを記載した丸投げの質問
    • 問題・課題が含まれていない質問
    • 意図的に内容が抹消された質問
    • 過去に投稿した質問と同じ内容の質問
    • 広告と受け取られるような投稿

    評価が下がると、TOPページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

    質問の評価を下げたことを取り消します

    この機能は開放されていません

    評価を下げる条件を満たしてません

    評価を下げる理由を選択してください

    詳細な説明はこちら

    上記に当てはまらず、質問内容が明確になっていない質問には「情報の追加・修正依頼」機能からコメントをしてください。

    質問の評価を下げる機能の利用条件

    この機能を利用するためには、以下の事項を行う必要があります。

回答 1

checkベストアンサー

+2

1. forで回すのですが、なぜか、1行目だけをprintを続けております。 

ここで、毎回同じものをtdsに代入しているからですね。

for tr in tr_arr:
    time.sleep(1)
    tds=tr_arr

それに、tr_arr = soup.select("table.race_table_old > tr > td")の最後がtdなのはおかしくないですか?
この方法は、機種名や血統情報などの項目をひとつだけ取得する時のものだったはずです。

正しい方法は、
https://teratail.com/questions/44294
の時とほとんど同じことをすれば良いはずです。
上記の質問のコードと今回のコードをもう一度よく比べてみて下さい。

2と3は、1を直せば上手く行くと思います。
但し、掲載していただいたコードは、変数がダブっていたり足りなかったりして乱れているので、
再度掲載する場合はそれを修正してください。

投稿

編集

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

  • 2016/08/26 20:51

    argius様、いつも御教示ありがとうございました。
    自分なりに調べて、以下のスクリプトを実行しましたら
    スキップすることが出来ました。

    教育的な御教示に感謝しております。

    今後とも、よろしくお願いいたします。

    (一部抜粋です)
    for tr in tr_arr:
    time.sleep(1)
    tds = tr.findAll("td")
    if len( tds ) > 1:
    frame_number=tds[0].text

    キャンセル

  • 2016/08/26 21:28

    上手く行って良かったです。

    繰り返しになりますが、
    HTMLというのはきちんと書いているサイトもたくさんありますが、そうでないサイトもけっこうあります。
    なので、人間がHTMLコードを読んで構造を理解したうえで
    (Pythonに)どういう動作をさせれば良いかを考える必要があります。

    エラーメッセージが読めるようになれば見なくても分かることが多くなりますが、
    まだ難しいと思うので、今はこの方法でやってみて下さい。

    あとはひたすらprintです。
    trやtdsをprintすれば思った通りにselectできているかどうか分かります。

    がんばって下さい。

    キャンセル

  • 2016/08/27 20:03

    argius様、丁寧なお返事まで下さりまして、恐縮しております。

    これからも、「自分で出来る範囲で最大限考える」教えを守り、がんばります。
    今後とも、御教示、よろしくお願いいたします。

    キャンセル

15分調べてもわからないことは、teratailで質問しよう!

  • ただいまの回答率 88.32%
  • 質問をまとめることで、思考を整理して素早く解決
  • テンプレート機能で、簡単に質問をまとめられる

同じタグがついた質問を見る