質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

ただいまの
回答率

90.51%

  • Ruby

    9398questions

    Rubyはプログラミング言語のひとつで、オープンソース、オブジェクト指向のプログラミング開発に対応しています。

スクレイピングしたhtmlファイルデータのcsv化について

解決済

回答 3

投稿

  • 評価
  • クリップ 0
  • VIEW 699

iamsin

score 9

スクレイピングしたhtmlファイルデータのcsv化についてご相談します。

htmlファイルからNokogriで解析したデータのcsvファイルへの書込みがうまくいきません。

htmlファイルの中の表データから4種類のデータを取得をし、csvに書き込みましたが、
4つ目のhref属性のデータの位置がずれてしまします。

例えば、下記のような表から4項目のデータを取得しcsvファイルに書き込むと、

列a 列b 列c 列d
製造年 産地 価格 写真リンク
2016 tokyo リンク1
2013 chiba 2500
2015 osaka リンク2
2016 kyoto 2100
2016 kobe 2200 リンク3

d列だけ、データが空の場合いは、下記のように上に詰めて書込みされてしまいます。

2016,tokyo, ,リンク1,
2013,chiba,2500,リンク2,
2015,osaka, ,リンク3,
2016,kyoto,2100,,
2016,kobe,2200,,

これをエクセルで読込むと、下記に様に、表示位置が変わってしまいます。

列a 列b 列c 列d
製造年 産地 価格 写真リンク
2016 tokyo リンク1
2013 chiba 2500 リンク2
2015 osaka リンク3
2016 kyoto 2100
2016 kobe 2200

プログラムは下記の通りです。

**※上記の表は例えです。実際プログラムの中のxpathとは相違します。**

何卒、ご指導のほど宜しくお願いいたします。

# coding:utf-8
require 'nokogiri'
require 'csv'


files=Dir.glob('/Users/PCUser/work/files/*.html')
files.each do |file|
doc = Nokogiri::HTML(open(file),nil,'utf-8')

ay=[]
by=[]
cy=[]
dy=[]


a=doc.xpath ('//div[2]/center/table/tbody/tr/td[1]/font/table/tbody/tr/td[1]/font')
b=doc.xpath ('//div[2]/center/table/tbody/tr/td[1]/font/table/tbody/tr/td[2]/nobr/font')
c=doc.xpath ('//div[2]/center/table/tbody/tr/td[2]')
d=doc.xpath ('//div[2]/center/table/tbody/tr/td[9]/font/a')

a.each do |node|
ay << node.text
end

b.each do |node|
by << node.text
end

c.each do |node|
cy << node.text
end

d.each do |node|
dy << node[:href]
end

CSV.open('bo.csv','a') do |csv|
a.length.times do |z|
csv << [ay[z],by[z],cy[z],dy[z]]

end
end
end

【試したこと】

d.each do |node|
dy << node[:href]
end

の部分を条件分岐で配列の書き込みをしましたが、同じ結果でした。

iy=[]
i.each do |node|
if i.empty? 
iy <<'empty'
elsif i.nil?
iy << 'nil'
else
iy << node[:href]
end
end

補足情報(言語/FW/ツール等のバージョンなど)
Ruby 2.2.4-p230
caypybara 2.7.0

  • 気になる質問をクリップする

    クリップした質問は、後からいつでもマイページで確認できます。

    またクリップした質問に回答があった際、通知やメールを受け取ることができます。

    クリップを取り消します

  • 良い質問の評価を上げる

    以下のような質問は評価を上げましょう

    • 質問内容が明確
    • 自分も答えを知りたい
    • 質問者以外のユーザにも役立つ

    評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

    質問の評価を上げたことを取り消します

  • 評価を下げられる数の上限に達しました

    評価を下げることができません

    • 1日5回まで評価を下げられます
    • 1日に1ユーザに対して2回まで評価を下げられます

    質問の評価を下げる

    teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

    • プログラミングに関係のない質問
    • やってほしいことだけを記載した丸投げの質問
    • 問題・課題が含まれていない質問
    • 意図的に内容が抹消された質問
    • 広告と受け取られるような投稿

    評価が下がると、TOPページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

    質問の評価を下げたことを取り消します

    この機能は開放されていません

    評価を下げる条件を満たしてません

    評価を下げる理由を選択してください

    詳細な説明はこちら

    上記に当てはまらず、質問内容が明確になっていない質問には「情報の追加・修正依頼」機能からコメントをしてください。

    質問の評価を下げる機能の利用条件

    この機能を利用するためには、以下の事項を行う必要があります。

回答 3

+1

html が提示されていないので、断定できませんが、
d=doc.xpath ('//div[2]/center/table/tbody/tr/td[9]/font/a')
の結果が 3 項目しかとれていないのだとおもわれます。
一番右の列の空セルと値が入っているセルの両方をとれるような selcter の指定をすれば、解決すると思います。

プログラム中で d の値がどうなっているかを p で表示させるか debugger で確認するなどしてみてください。

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

+1

こんな感じでどうでしょう。

d=doc.xpath ('//div[2]/center/table/tbody/tr/td[9]')

d.each do |node|
  d0 = d.xpath('//a')[0]
  if d0
    dy << d0[:href]
  else
    dy << ""
  end
end

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

check解決した方法

0

皆様、ご回答頂き誠にありがとうございます。
each_with_index
で問題解決が出来ました。
空のセル(nil)が拾えてなかったようです。
皆様の助言から問題を解決出来ました、誠にありがとうございました。皆様、ご回答頂き誠にありがとうございます。

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

同じタグがついた質問を見る

  • Ruby

    9398questions

    Rubyはプログラミング言語のひとつで、オープンソース、オブジェクト指向のプログラミング開発に対応しています。