WEBスクレイピングに必要な学習は？

Question

前提・実現したいこと

全くの初心者で、これから学んでいきたいと思っております。

作りたいものは、
海外のショッピングサイトから、商品画像、商品名、価格、商品説明などをスクレイピングして、googleスプレッドシートに落としたいのですが、これに必要なプログラム言語は、何を具体的に勉強していけば良いのでしょうか？

また、その際に勉強に効率の良い方法などありましたら、ご教授お願いします！

Comments

[Zuishin]

まず英語と法律じゃないですか？
海外の裁判所へ出頭するのはいやでしょう？

[kawax]

自分でVPSやAWSでサーバー運用してみる。サーバー立てるだけで攻撃来てるのが分かるから過剰なスクレイピングはサーバーへの攻撃だと理解できる。自分のサーバーが異常にスクレイピングされたらブロックしたくなる。

[querykuma]

> ### 試したこと
>
> ここに問題に対して試したことを記載してください。

質問テンプレートの試したことを埋めてください。
「スクレイピング googleスプレッドシート」で検索すれば記事がたくさん出てきますので、あなたの問題が解決するまで検索して記事を読めば、あなたの問題は自然と解決するように思います。

Answer 1

最終的な目標が「海外のショッピングサイトから、商品画像、商品名、価格、商品説明などをスクレイピングして、googleスプレッドシートに落と」すことなのが、それを題材にしてプログラミングを習得することなのかで、やるべきことも変わってきます。

とにかくスクレイピングそのものが目標なのであれば、「スクレイピング googleスプレッドシート」で検索すれば記事がたくさん出てきます。その中から、自分でできそうな方法を選べばよいでしょう。

一方、プログラミング言語の習得が目標なのであれば、スクレイピングを題材にした書籍は数多く出ています。なぜか、その大半がPython言語によるものです。Pythonにはスクレイピング向けのライブラリが豊富だからということらしいですが、他の言語でもスクレイピングは可能です。私自身はPHPやRubyでスクレイピングをしています。
ただ、言語にこだわりがないのであれば、Pythonがよいと思います。それは、前記のように教材がたくさんあることと、Python自体が流行りの言語なので、敢えて他の言語を選択する理由もないからです。

Answer 2

WEBスクレイピングに必要な学習は？

関連する法律です。国境をまたぐ場合、または管轄裁判所が海外な場合、それに応じた対応が必要となります。一般的に刑事より民事のリスクのほうが高いですが、いずれの場合も相談先はその国の法律家となります。対象国の法律家と会話できる程度の法的知識を身に着けてください。

googleスプレッドシートに落としたい

メジャーな言語であれば、何でも良いです。http/https が喋れるライブラリは揃っているかと。

Answer 3

スクレイピングについて、ScrapeStormと言うスクレイピングツールを試してみてください。
商品画像、商品名、価格、商品説明などをスクレイピングにかなり効率が高めると思います。

Answer 4

コメントにある英語と法律、ってのはマジそのとおりだと思うんで勉強する前提で。

Googleスプレッドシートとの連携は後から考えれば良いと思いますが、スクレイピングについてはAmazonで「スクレイピング」で検索すると関連する書籍がいっぱい出てきますので、自分の使いたいお好きな言語のものを購入されてはどうでしょう。

内容は多少古いかもしれないのでなるべく発売が新しいものを選んだ方がいいと思いますが、一から十まで必要なことはだいたい揃ってると思うんで、Web上で断片的な情報を集めるよりは良いと思います。