railsでスクレイピングしたものをdbいれたい

受付中

回答 0

投稿 編集

  • 評価
  • クリップ 1
  • VIEW 129

s-a0202

score 11

mechanizeを使ってスクレイピングしたものをsqlite3のdbにいれたいです。
以下で取得できたのですが、どのすればdbにいれることができるのでしょうか?
また、dbにいれる際にcourse_idというカラムを追加したいので教えていただきたいです。
よろしくおねがいいたします。

require 'mechanize'

    agent = Mechanize.new
    agent.user_agent_alias = 'Mac Safari 4'
    agent.get('https://yestudy.komazawa-u.ac.jp/') do |page|

      mypage = page.form_with(class: 'form-signin') do |form|
        form.username = '*****'
        form.password = '********'
      end.submit

      b=agent.get('http://yestudy.komazawa-u.ac.jp/2019/course/index.php?categoryid=2')

      doc = Nokogiri::HTML(b.content.toutf8)
      a=doc.xpath('//*[@id="region-main"]/div/div[2]/div/div/div/div[1]/div[1]/a').map(&:text)
    end


create table
sqlite> select * from sqlite_master; table|schema_migrations|schema_migrations|2|CREATE TABLE "schema_migrations" ("version" varchar NOT NULL PRIMARY KEY) index|sqlite_autoindex_schema_migrations_1|schema_migrations|3| table|ar_internal_metadata|ar_internal_metadata|4|CREATE TABLE "ar_internal_metadata" ("key" varchar NOT NULL PRIMARY KEY, "value" varchar, "created_at" datetime NOT NULL, "updated_at" datetime NOT NULL) index|sqlite_autoindex_ar_internal_metadata_1|ar_internal_metadata|5| table|courses|courses|6|CREATE TABLE "courses" ("id" INTEGER PRIMARY KEY AUTOINCREMENT NOT NULL, "course" varchar, "created_at" datetime NOT NULL, "updated_at" datetime NOT NULL) table|sqlite_sequence|sqlite_sequence|7|CREATE TABLE sqlite_sequence(name,seq) table|posts|posts|8|CREATE TABLE "posts" ("id" INTEGER PRIMARY KEY AUTOINCREMENT NOT NULL, "content" text, "created_at" datetime NOT NULL, "updated_at" datetime NOT NULL) table|faculities|faculities|10|CREATE TABLE "faculities" ("id" INTEGER PRIMARY KEY AUTOINCREMENT NOT NULL, "dep" varchar, "created_at" datetime NOT NULL, "updated_at" datetime NOT NULL) 

  • 気になる質問をクリップする

    クリップした質問は、後からいつでもマイページで確認できます。

    またクリップした質問に回答があった際、通知やメールを受け取ることができます。

    クリップを取り消します

  • 良い質問の評価を上げる

    以下のような質問は評価を上げましょう

    • 質問内容が明確
    • 自分も答えを知りたい
    • 質問者以外のユーザにも役立つ

    評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

    質問の評価を上げたことを取り消します

  • 評価を下げられる数の上限に達しました

    評価を下げることができません

    • 1日5回まで評価を下げられます
    • 1日に1ユーザに対して2回まで評価を下げられます

    質問の評価を下げる

    teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

    • プログラミングに関係のない質問
    • やってほしいことだけを記載した丸投げの質問
    • 問題・課題が含まれていない質問
    • 意図的に内容が抹消された質問
    • 広告と受け取られるような投稿

    評価が下がると、TOPページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

    質問の評価を下げたことを取り消します

    この機能は開放されていません

    評価を下げる条件を満たしてません

    評価を下げる理由を選択してください

    詳細な説明はこちら

    上記に当てはまらず、質問内容が明確になっていない質問には「情報の追加・修正依頼」機能からコメントをしてください。

    質問の評価を下げる機能の利用条件

    この機能を利用するためには、以下の事項を行う必要があります。

質問への追記・修正の依頼

  • Orlofsky

    2019/07/08 16:28

    コードは質問に https://teratail.com/help#about-markdown の [コードを入力] で追加してください。

    キャンセル

  • asm

    2019/07/10 16:15

    table|courses|courses|6|CREATE TABLE "courses" ("id" INTEGER PRIMARY KEY AUTOINCREMENT NOT NULL, "course" varchar, "created_at" datetime NOT NULL, "updated_at" datetime NOT NULL)
    のテーブルにソース中の変数aを保存したいということでしょうか?

    > course_idというカラムを追加したい
    とのことですが、自動生成されるidとは別にする必要があるのですか?

    キャンセル

  • winterboum

    2019/07/10 23:47

    2つ情報が足りないので答えにくいです。
    1)「以下で取得できたのですが、」とありますが、取得したどの情報をDBに取り込みたいのでしょうか
    2)DBのtableの定義はどうなっていますか?
     create table として表示されているものでは読みにくく、読む気がせず、だから応えられない。ですんで、db/migrate のfileか db/schema.rbか、を見せて下さい

    キャンセル

まだ回答がついていません

15分調べてもわからないことは、teratailで質問しよう!

  • ただいまの回答率 90.22%
  • 質問をまとめることで、思考を整理して素早く解決
  • テンプレート機能で、簡単に質問をまとめられる

同じタグがついた質問を見る