質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

ただいまの
回答率

90.38%

  • Python

    12875questions

    Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

  • Python 2.7

    1490questions

    Python 2.7は2.xシリーズでは最後のメジャーバージョンです。Python3.1にある機能の多くが含まれています。

python2.7,beautifulsoupでのスクレイピングが、うまく出来ません。

解決済

回答 1

投稿

  • 評価
  • クリップ 0
  • VIEW 1,806

akakage13

score 80

前提・実現したいこと

python初心者でございます。
競馬情報をスクレイピングしておりますが、下記のことが、うまくできません。

勝ち馬の情報を最後に取ってこようとしましたが、うまくできないこと。

発生している問題・エラーメッセージ

File "C:\Users\satoru\horse\horse-test-kami-1.py", line 39, in <module>
    win_horse=tds[26].a.text    #蜍昴■鬥ャ・茨シ堤捩鬥ャ・・
AttributeError: 'NoneType' object has no attribute 'text'

該当のソースコード

# -*- coding:utf-8 -*-

import urllib2
import codecs
import time
from bs4 import BeautifulSoup
f = codecs.open('horse.csv', 'w', 'utf-8')
f.write('horse_name,race_date,kaisai,weather,race_number,race_name,tousuu,frame_number,horse_number,horse_odds,popularity,horse_arrival,jockey_name,weight,distance,baba,race_time,difference,horse_pass,pace,nobori,horse_weight,win_horse'+u"\n")

url='http://db.netkeiba.com/horse/1994103997/'

soup = BeautifulSoup(urllib2.urlopen(url).read(),"lxml")

tr_arr = soup.select("table.db_h_race_results > tbody > tr")

for tr in tr_arr:
    tds = tr.findAll("td")
    race_date = tds[0].a.text    #日付
    kaisai = tds[1].a.text     #開催
    weather=tds[2].text    #天気
    race_number=tds[3].text  #R
    race_name=tds[4].a.text    #レース名
    tousuu=tds[6].text    #頭数
    frame_number=tds[7].text    #枠番
    horse_number=tds[8].text    #馬番
    horse_odds=tds[9].text    #オッズ
    popularity=tds[10].text    #人気
    horse_arrival=tds[11].text    #着順
    jockey_name=tds[12].a.text     #騎手名
    weight=tds[13].text    #斤量
    distance=tds[14].text    #距離
    baba=tds[15].text    #馬場
    race_time=tds[17].text    #タイム
    difference=tds[18].text    #着差
    horse_pass=tds[20].text    #通過
    pace=tds[21].text    #ペース
    nobori=tds[22].text    #上り
    horse_weight=tds[23].text    #馬体重
    win_horse=tds[26].a.text    #勝ち馬(2着馬):ここの箇所がエラーになります

    horse_name_tag = soup.find('div',{'class':'horse_title'}).find('h1')
    horse_name = "".join([x for x in horse_name_tag.text if not x == u'\xa0' and not x == u'\n'])

    print horse_name.strip(),race_date.strip(),kaisai.strip(),weather.strip(),race_name.strip(),tousuu.strip(),frame_number.strip(),horse_number.strip(),horse_odds.strip(),popularity.strip(),horse_arrival.strip(),jockey_name.strip(),weight.strip(),distance.strip(),baba.strip(),race_time.strip(),difference.strip(),horse_pass.strip(),pace.strip(),nobori.strip(),horse_weight.strip(),win_horse.strip()
    cols = [horse_name,race_date,kaisai,weather,race_number,race_name,tousuu,frame_number,horse_number,horse_odds,popularity,horse_arrival,jockey_name,weight,distance,baba,race_time,difference,horse_pass,pace,nobori,horse_weight,win_horse]
    f.write(",".join(cols) + "\n")

f.close()

試したこと

textをstringに変えたりしましたが、うまく出来ませんでした。

補足情報(言語/FW/ツール等のバージョンなど)

python2.7

  • 気になる質問をクリップする

    クリップした質問は、後からいつでもマイページで確認できます。

    またクリップした質問に回答があった際、通知やメールを受け取ることができます。

    クリップを取り消します

  • 良い質問の評価を上げる

    以下のような質問は評価を上げましょう

    • 質問内容が明確
    • 自分も答えを知りたい
    • 質問者以外のユーザにも役立つ

    評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

    質問の評価を上げたことを取り消します

  • 評価を下げられる数の上限に達しました

    評価を下げることができません

    • 1日5回まで評価を下げられます
    • 1日に1ユーザに対して2回まで評価を下げられます

    質問の評価を下げる

    teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

    • プログラミングに関係のない質問
    • やってほしいことだけを記載した丸投げの質問
    • 問題・課題が含まれていない質問
    • 意図的に内容が抹消された質問
    • 広告と受け取られるような投稿

    評価が下がると、TOPページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

    質問の評価を下げたことを取り消します

    この機能は開放されていません

    評価を下げる条件を満たしてません

    評価を下げる理由を選択してください

    詳細な説明はこちら

    上記に当てはまらず、質問内容が明確になっていない質問には「情報の追加・修正依頼」機能からコメントをしてください。

    質問の評価を下げる機能の利用条件

    この機能を利用するためには、以下の事項を行う必要があります。

回答 1

checkベストアンサー

+1

 エラーが起こりうる箇所を見つける

AttributeError: 'NoneType' object has no attribute 'text'

とあるので、
tds[26].aNoneである
=> そのタグ内にaタグがないのに、.aを取得しているのが原因

ということがわかります。
スクレイピング先の中で1箇所だけ馬名にリンクがない行があるため、そこでこのエラーが出ていると推測できます。

 回答

BeautifulSoupの.stringは子要素のテキストを全部取ってくるので、現状のスクレイピング先ならaタグを仲介せずにテキストだけ抽出できます。
Aタグに含まれるリンク要素が必要でないなら、以下のように変えれば問題なく抽出できると思います。

# Before 
win_horse=tds[26].a.text    #勝ち馬(2着馬):ここの箇所がエラーになります

# After
win_horse=tds[26].text    #勝ち馬(2着馬)

参考リンク=>BeautifulSoup4のドキュメント

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

  • 2016/08/16 21:06

    attakei様、解決致しました。
    懇切丁寧な御教示、本当にありがとうございました。

    キャンセル

15分調べてもわからないことは、teratailで質問しよう!

  • ただいまの回答率 90.38%
  • 質問をまとめることで、思考を整理して素早く解決
  • テンプレート機能で、簡単に質問をまとめられる

同じタグがついた質問を見る

  • Python

    12875questions

    Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

  • Python 2.7

    1490questions

    Python 2.7は2.xシリーズでは最後のメジャーバージョンです。Python3.1にある機能の多くが含まれています。