前提・実現したいこと
python初心者でございます。
競馬情報をbeautifulsoupでスクレイピングしておりますが、以下の３点に苦慮しております。
１．forで回すのですが、なぜか、１行目だけをprintを続けております。
スクリプトは以前、成功したモノと対比しておりますが、２行目以降を読み込まない原因が分からず、苦慮しております。
**→tds=tr1.findAll("td")に差し替えることで、解決したと考えています。
**
２．項目の中の「負担重量」をスクレイピングすることが出来ません（他は成功しております）
単純にtd.textと思いますが、何故か、取れません。
３．右端の２の数字の出所も不明でございます。
試したソースコード、 発生したエラーコードの結果
# -*- coding:utf-8 -*-
import urllib2
import codecs
import time
from bs4 import BeautifulSoup
f = codecs.open('race.csv', 'w', 'utf-8')
#f.write('frame_number,horse_number,horse_name,sex_age,weight,jockey_name,horse_house,horse_weight,horse_odds,popularity'+u"\n")
url='http://race.netkeiba.com/?pid=race_old&id=c201604020801'
soup = BeautifulSoup(urllib2.urlopen(url).read(),"lxml")
tr_arr = soup.select(" table.race_table_old > tr ")
#ｿｰｽｺｰﾄﾞは確認済みです
for tr1 in tr_arr:
tds=tr1.findAll("td")
frame_number=tds[0].text
#list型であることは確認済みです
print frame_number.strip()
・エラーメッセージ
C:\Users\satoru\horse>test_race-scan.py
Traceback (most recent call last):
File "C:\Users\satoru\horse\test_race-scan.py", line 20, in <module>
frame_number=tds[0].text
IndexError: list index out of range
C:\Users\satoru\horse>試したこと
findAllを用いて、for文で回す以前に、スクレイピング自体にエラーが発生しました。
該当ソースコードを確認して、tbodyが無いこと、リスト型であること等を踏まえたうえで、
前回のソースコードを参考にスクリプトを考えましたが、うまくいきません。
tds単独でprintさせた場合は、一斉に、tdが放出されますので、この部分のスクリプトは大丈夫と考えております。
リスト型であるはずなのに、数字が違うということがうまく理解できません。
御教示よろしくお願いいたします。
補足情報(言語/FW/ツール等のバージョンなど)
python2.7
-
気になる質問をクリップする
クリップした質問は、後からいつでもマイページで確認できます。
またクリップした質問に回答があった際、通知やメールを受け取ることができます。
クリップを取り消します
-
良い質問の評価を上げる
以下のような質問は評価を上げましょう
- 質問内容が明確
- 自分も答えを知りたい
- 質問者以外のユーザにも役立つ
評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。
質問の評価を上げたことを取り消します
-
評価を下げられる数の上限に達しました
評価を下げることができません
- 1日5回まで評価を下げられます
- 1日に1ユーザに対して2回まで評価を下げられます
質問の評価を下げる
teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。
- プログラミングに関係のない質問
- やってほしいことだけを記載した丸投げの質問
- 問題・課題が含まれていない質問
- 意図的に内容が抹消された質問
- 過去に投稿した質問と同じ内容の質問
- 広告と受け取られるような投稿
評価が下がると、TOPページの「アクティブ」「注目」タブのフィードに表示されにくくなります。
質問の評価を下げたことを取り消します
この機能は開放されていません
評価を下げる条件を満たしてません
質問の評価を下げる機能の利用条件
この機能を利用するためには、以下の事項を行う必要があります。
- 質問回答など一定の行動
-
メールアドレスの認証
メールアドレスの認証
-
質問評価に関するヘルプページの閲覧
質問評価に関するヘルプページの閲覧
checkベストアンサー
+2
1. forで回すのですが、なぜか、１行目だけをprintを続けております。
ここで、毎回同じものをtdsに代入しているからですね。
for tr in tr_arr:
time.sleep(1)
tds=tr_arrそれに、tr_arr = soup.select("table.race_table_old > tr > td")の最後がtdなのはおかしくないですか？
この方法は、機種名や血統情報などの項目をひとつだけ取得する時のものだったはずです。
正しい方法は、
https://teratail.com/questions/44294
の時とほとんど同じことをすれば良いはずです。
上記の質問のコードと今回のコードをもう一度よく比べてみて下さい。
2と3は、1を直せば上手く行くと思います。
但し、掲載していただいたコードは、変数がダブっていたり足りなかったりして乱れているので、
再度掲載する場合はそれを修正してください。
投稿
-
回答の評価を上げる
以下のような回答は評価を上げましょう
- 正しい回答
- わかりやすい回答
- ためになる回答
評価が高い回答ほどページの上位に表示されます。
-
回答の評価を下げる
下記のような回答は推奨されていません。
- 間違っている回答
- 質問の回答になっていない投稿
- スパムや攻撃的な表現を用いた投稿
評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。
15分調べてもわからないことは、teratailで質問しよう！
- ただいまの回答率 88.32%
- 質問をまとめることで、思考を整理して素早く解決
- テンプレート機能で、簡単に質問をまとめられる
2016/08/25 21:17
https://teratail.com/questions/44294 を参考に、基本にたちかえって考えましたが、
更新で、お示しさせていただいた通りの、基本的なエラーに悩んでおります。
御教示よろしくお願いいたします。
失礼します。
2016/08/25 21:54
スクレイピング対象ページを見ましたが、tr_arr[0]はタイトル行なので全てth要素のようです。tr_arr[0].findAll("td")はマッチするノードがないのではないかと拝察します。
BeautifulSoupは使ったことがないのでよく分かりませんが、空のリストが返るのでは。
2016/08/25 21:56 編集
IndexError: list index out of range
の部分がエラーメッセージです。
Pythonに限らずですが、エラーが出たときにはこのメッセージを手掛かりに何が起こっているのか判断します。
プログラミングをする以上、この作業は避けられない問題です。
なので調べ方を徐々に覚えていってください。
次回からは、メッセージをそのままググるなり、英文を訳してみるなりして、自分なりに判断してみて下さい。
分からないのは仕方ないですが、そこで立ち止まる前に、できることがあるはずです。
それが嫌なら、Pythonの教科書なりで基礎から勉強するべきです。そうすればこのエラーは教科書で知ることができるでしょう。
話を戻します。
今回のlist index out of rangeは、Pythonに限らずプログラミングでは良く見られるエラーで、「リストのインデックスが範囲外である」と言っています。
インデックスとは、配列やリストのゼロから始まる番号のことです。
1番目の要素は[0]、2番目の要素は[1]を付けてアクセスします。この0,1がインデックスです。
a = ["a", "b"]というサイズ2のリストがあったら、a[0]とa[1]は要素があるので問題ないですが、a[2]はlist index out of rangeになります。
tds[0]がエラーになっているのは、リストが空であることを意味しています。tds=[]と同じ状態なので、tds[0]すらindex out of rangeになります。
ではなぜ、tdsが空のリストになっているか、つまりtr1.findAll("td")の結果が空リストになるか、というのがやっと本当の現時点での問題になります。
HTMLを見てみると分かるのですが、最初の<tr>の下には、<td>がありません。<th>しか無いのです。
なので、tr1.findAll("td")の結果が空リストになるのは正しいのです。
これはnetkeiba.comさんのHTMLの作り方がバラバラなせいなので、仕方ないですね。
<thead>と<tbody>をちゃんと書いていればこんなことにはならないんですけど。
（さらに言うと、2番目の<tr>には何も入っていません。これはひどいですね...）
ではどうすれば良いのかと言うと、if文でtdsの長さをチェックして、長さが取得しようとしている項目数のゼロでない、つまりからの場合はその行の処理をスキップするという風にすれば良いです。
長さはlen(tds)で判断できます。
if文の書き方は、調べてみて下さい。
2016/08/26 20:51
自分なりに調べて、以下のスクリプトを実行しましたら
スキップすることが出来ました。
教育的な御教示に感謝しております。
今後とも、よろしくお願いいたします。
（一部抜粋です）
for tr in tr_arr:
time.sleep(1)
tds = tr.findAll("td")
if len( tds ) > 1:
frame_number=tds[0].text
2016/08/26 21:28
繰り返しになりますが、
HTMLというのはきちんと書いているサイトもたくさんありますが、そうでないサイトもけっこうあります。
なので、人間がHTMLコードを読んで構造を理解したうえで
（Pythonに）どういう動作をさせれば良いかを考える必要があります。
エラーメッセージが読めるようになれば見なくても分かることが多くなりますが、
まだ難しいと思うので、今はこの方法でやってみて下さい。
あとはひたすらprintです。
trやtdsをprintすれば思った通りにselectできているかどうか分かります。
がんばって下さい。
2016/08/27 20:03
これからも、「自分で出来る範囲で最大限考える」教えを守り、がんばります。
今後とも、御教示、よろしくお願いいたします。