質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.48%
スクレイピング

スクレイピングとは、公開されているWebサイトからページ内の情報を抽出する技術です。

Ruby on Rails 5

Ruby on Rails 5は、オープンソースのWebアプリケーションフレームワークです。「同じことを繰り返さない」というRailsの基本理念のもと、他のフレームワークより少ないコードで簡単に開発できるよう設計されています。

Ruby

Rubyはプログラミング言語のひとつで、オープンソース、オブジェクト指向のプログラミング開発に対応しています。

Q&A

解決済

3回答

1190閲覧

スクレイピングしたものを配列にしたい

s-a0202

総合スコア23

スクレイピング

スクレイピングとは、公開されているWebサイトからページ内の情報を抽出する技術です。

Ruby on Rails 5

Ruby on Rails 5は、オープンソースのWebアプリケーションフレームワークです。「同じことを繰り返さない」というRailsの基本理念のもと、他のフレームワークより少ないコードで簡単に開発できるよう設計されています。

Ruby

Rubyはプログラミング言語のひとつで、オープンソース、オブジェクト指向のプログラミング開発に対応しています。

1グッド

2クリップ

投稿2019/06/24 09:13

下記サイトにログインしa要素を配列で出力できたのですが、スクレイピングしたa要素がつながっているのでそれぞれ分割したいです。

例えば、
puts d => ["禅思想概説(金4)(石井 清純)禅籍講読III(火2)(石井 清純)..."]を
puts d => ["禅思想概説(金4)(石井 清純)", "禅籍講読III(火2)(石井 清純)"..."]のようにしたいです。
なにか方法はありますでしょうか?

require 'mechanize' agent = Mechanize.new agent.user_agent_alias = 'Mac Safari 4' agent.get('https://yestudy.komazawa-u.ac.jp/') do |page| mypage = page.form_with(class: 'form-signin') do |form| form.username = '***' form.password = '***' end.submit b=agent.get('http://yestudy.komazawa-u.ac.jp/2019/course/index.php?categoryid=2') doc = Nokogiri::HTML(b.content.toutf8) c=[] a = doc.xpath('//*[@id="region-main"]/div/div[2]/div/div/div/div[1]/div[1]/a').text d=c.push(a) puts d end
DrqYuto👍を押しています

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

回答3

0

ベストアンサー

html

1<a href="~~">禅思想概説(金4)(石井 清純)</a> 2<a href="~~">禅籍講読III(火2)(石井 清純)</a>

のようになっていると言うことでしょうか?

Ruby

1d = doc.xpath('//*[@id="region-main"]/div/div[2]/div/div/div/div[1]/div[1]/a').map(&:text)

投稿2019/06/24 12:24

otn

総合スコア84557

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

s-a0202

2019/06/30 15:16

ご解答ありがとうございます! できました! ちなみに取得したものをデータベースに入れることは可能でしょうか、?
otn

2019/06/30 15:24

> データベースに入れることは可能でしょうか、? 出来るに決まってます。
s-a0202

2019/07/02 14:43

よろしければ方法を教えていただきたいです、 sqliteを使用したいです。
s-a0202

2019/07/03 09:34

すいません、わざわざありがとうございます!
guest

0

質問者さんのHTMLの詳細が分からないため再現できないのですが、
以前、同じような状況になったことがありました。

その際は以下のように親要素からとることで配列にできました。(※親要素は適宜選択)

Ruby

1doc.xpath('//*[@id="region-main"]/div/div[2]/div/div/div/div').each do |div| 2 c << div.xpath('div[1]/a').text 3end 4

投稿2019/06/24 11:14

退会済みユーザー

退会済みユーザー

総合スコア0

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

s-a0202

2019/06/30 15:17

ご解答ありがとうございます!
guest

0

txetで取得してしまっていることで、クレンジング処理が難しくなっていないでしょうか?
htmlでタグごと取得して、その後に処理された方が良いと思います。

投稿2019/06/24 09:36

swdtks190

総合スコア20

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

s-a0202

2019/06/24 09:46

ありがとうございます。 htmlで取得するには.textを.htmlにすればいいのでしょうか、?
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.48%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問