質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

ただいまの
回答率

90.76%

  • Python 3.x

    5318questions

    Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

  • スクレイピング

    286questions

python3 スクレイピング テキストだけ取得したい

解決済

回答 4

投稿 編集

  • 評価
  • クリップ 0
  • VIEW 165

zwei50333456

score 5

python3で簡単なスクレイピングをしています。
rowにはランキングのtrタグの全体の値が入っています。

for tr in rows:
    cols = tr.find_all('td')
    for td in cols:
        name = td.find('a')
        text = td.find(text = True)
        print(name)
        print(text)
        data.append(text)


スクレイピングurl
下のように取得してしまうので、m&aキャピタルパートナーズの年収の部分だけ取り出したいです。
また、Noneが出ないようにしたいです。

None

年収

<a href="http://heikinnenshu.jp/kininaru/ma-cp.html">m&amp;aキャピタルパートナーズの年収</a>

None

1741万円

  • 気になる質問をクリップする

    クリップした質問は、後からいつでもマイページで確認できます。

    またクリップした質問に回答があった際、通知やメールを受け取ることができます。

    クリップを取り消します

  • 良い質問の評価を上げる

    以下のような質問は評価を上げましょう

    • 質問内容が明確
    • 自分も答えを知りたい
    • 質問者以外のユーザにも役立つ

    評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

    質問の評価を上げたことを取り消します

  • 評価を下げられる数の上限に達しました

    評価を下げることができません

    • 1日5回まで評価を下げられます
    • 1日に1ユーザに対して2回まで評価を下げられます

    質問の評価を下げる

    teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

    • プログラミングに関係のない質問
    • やってほしいことだけを記載した丸投げの質問
    • 問題・課題が含まれていない質問
    • 意図的に内容が抹消された質問
    • 広告と受け取られるような投稿

    評価が下がると、TOPページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

    質問の評価を下げたことを取り消します

    この機能は開放されていません

    評価を下げる条件を満たしてません

    評価を下げる理由を選択してください

    詳細な説明はこちら

    上記に当てはまらず、質問内容が明確になっていない質問には「情報の追加・修正依頼」機能からコメントをしてください。

    質問の評価を下げる機能の利用条件

    この機能を利用するためには、以下の事項を行う必要があります。

回答 4

+1

import requests
from bs4 import BeautifulSoup

url = 'http://heikinnenshu.jp/ranking.html'

r = requests.get(url)

if r.status_code == requests.codes.ok:

    soup = BeautifulSoup(r.content, 'html.parser')

    tds = [[td.get_text(strip=True) for td in trs.select('th, td')] for trs in soup.select('div.agetablebox > table > tr')]

    print(len(tds))

    print(tds)

ヘッダー含むランク取得のサンプルです。

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

+1

pandasを使えばもっと簡単にできましたのでサンプルです

import pandas as pd

url = 'http://heikinnenshu.jp/ranking.html'
dfs = pd.read_html(url, index_col=0)

# 結合
df = pd.concat(dfs)

# ヘッダー設定
header = df.iloc[0]
df = df[1:]
df.rename(columns = header, inplace=True)
df.set_index('年収ランキング', inplace=True)

df.head()

df.to_csv('ranking.csv')

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

check解決した方法

0

tds = [[td.get_text(strip=True) for td in tr.find_all('td')] for tr in rows]


条件を外すと全ての企業に対応できました。回答ありがとうございます。

投稿

編集

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

0

m&aキャピタルパートナーズの年収を取得でよろしいのでしょうか?

tds = [[td.get_text(strip=True) for td in tr.find_all('td')] for tr in rows if 'm&aキャピタルパートナーズ' in tr.get_text()]

# 年収
print(tds[0][1])

trをget_textでテキスト取得、ifで'm&aキャピタルパートナーズ'が含まれるか確認
含まれる場合tdを取得、tds[0][0]に企業、tds[0][1]に年収が取得されます。

投稿

編集

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

  • 2018/05/16 02:18

    回答ありごうございます。 実装したい内容は1〜500位まである年収ランキングを企業名と年収のカラムで表を作りたいと思っています。よろしくお願いします。
    回答のコードを使うとNameError: name 'trs' is not definedが出ました。

    キャンセル

  • 2018/05/16 03:30

    コード間違っていましたので訂正しました。

    別回答で投稿します。

    キャンセル

15分調べてもわからないことは、teratailで質問しよう!

  • ただいまの回答率 90.76%
  • 質問をまとめることで、思考を整理して素早く解決
  • テンプレート機能で、簡単に質問をまとめられる

関連した質問

  • 解決済

    Python スクレイピング

    前提・実現したいこと ど素人です。スクレイピングにてあるサイトからBeautifulsoupを使用して指定の箇所を抜き出したいと思っております。 指定サイト:http://ra

  • 解決済

    pythonとBeautifulsoupで競馬情報をスクレイピングする中で、連続して情報を取れず、苦...

    python2.7を用いて、netkeiba.comから競馬情報をスクレイピングしております。 # -*- coding:utf-8 -*- import urllib2

  • 解決済

    Python スクレイピング

    [実現したい事] Python/スクレイピング初心者です。毎日コツコツ勉強しています。 スクレイピングにてあるサイトからBeautifulsoupもしくは正規表現を使用して指定

  • 解決済

    BeautifulSoupを使ってスクレイピング

    前提・実現したいこと あるページ(イトーヨーカドー)から商品名と価格を取得するためのコードを書いていたところ、以下のエラーメッセージが発生しました。 発生している問題・エラ

  • 解決済

    Pythonスクレイピング:同じ名前のクラス内での識別

    すみません、質問させてください。 同じクラスが複数存在しているときにどうにかして識別できる方法はないでしょうか? <div class = "AAA"> <p class ="

  • 解決済

    Python スクレイピング

    Pyhtonでスクレイピングのコードを書いているのですが エラーコード : TypeError: Cannot mix str and non-str arguments が表示さ

  • 解決済

    Pythonスクレイピング

     前提・実現したいこと Yahoo画像検索を使用して画像を集めまくるプログラムを作成したいのです。※超初心者です。  発生している問題 bs4で画像のURLを取得する方法が解ら

  • 解決済

    python webスクレイピング

     前提・実現したいこと webスクレイピングをしたいと思いpythonを始めた者です。 シンプルにウェブからテキストやurlを内容別に取得したいです。  発生している問題・エラ

同じタグがついた質問を見る

  • Python 3.x

    5318questions

    Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

  • スクレイピング

    286questions