質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
87.20%
スクレイピング

スクレイピングとは、公開されているWebサイトからページ内の情報を抽出する技術です。

JupyterLab

JupyterLabは、Jupyter notebookの後継の対話型開発環境(IDE)です。データの可視化がインタラクティブで、プラグイン作成により新しいコンポーネントの追加および既存のコンポーネントも統合可能。サーバに閉じているため、データ分析に向いています。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

解決済

【Python】スクレイピングで取得したリンクが異なる

flexibler
flexibler

総合スコア23

スクレイピング

スクレイピングとは、公開されているWebサイトからページ内の情報を抽出する技術です。

JupyterLab

JupyterLabは、Jupyter notebookの後継の対話型開発環境(IDE)です。データの可視化がインタラクティブで、プラグイン作成により新しいコンポーネントの追加および既存のコンポーネントも統合可能。サーバに閉じているため、データ分析に向いています。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

1回答

0評価

0クリップ

167閲覧

投稿2022/07/22 15:55

編集2022/07/23 13:20

<実現したいこと>

クラウドソーシングサイト『ランサーズ』の検索ボックスに『スクレイピング』と検索し、そのページにある各案件のタイトルURLを取得したいです。

<問題点>

リンクの取得ができたのですが、タイトルURL下部の7桁の番号が異なっています。『スクレイピング』と検索したページのタイトルURLではなく、トップページのタイトルURLの取得になってしまいます。

<ソースコード>

Python

import requests from bs4 import BeautifulSoup #スクレイピングと検索したリンク先 url = 'https://www.lancers.jp/work/search?keyword=%E3%82%B9%E3%82%AF%E3%83%AC%E3%82%A4%E3%83%94%E3%83%B3%E3%82%B0?page={}' target_url = url.format(1) r = requests.get(target_url) soup = BeautifulSoup(r.text) contents = soup.find_all('div',class_='c-media__content') for content in contents: title_url = content.find('a', class_='c-media__title') title_url2 = title_url.get('href') # 『href』 が 『/work/detail/(7桁の番号)』 だけの記載なため、以下に変換 title_url3 = title_url2.replace('/w', 'https://www.lancers.jp/w') print(title_url3)

<補足>

クラウドソーシングサイト『ランサーズ』の利用規約にスクレイピングの禁止事項が見当たらなかったため、スクレイピングをしていますが、間違っていましたらご指摘頂けると幸いです。

良い質問の評価を上げる

以下のような質問は評価を上げましょう

  • 質問内容が明確
  • 自分も答えを知りたい
  • 質問者以外のユーザにも役立つ

評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

気になる質問をクリップする

クリップした質問は、後からいつでもマイページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

  • プログラミングに関係のない質問
  • やってほしいことだけを記載した丸投げの質問
  • 問題・課題が含まれていない質問
  • 意図的に内容が抹消された質問
  • 過去に投稿した質問と同じ内容の質問
  • 広告と受け取られるような投稿

評価を下げると、トップページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

flexibler

2022/07/23 01:07 編集

?page={} から &page={} に変更したのですが、1ページ以外にも2,3,5ページなどからも取得してきたり、スクレイピングとは関係ないURL(記事執筆や動画編集など)まで取得してしまいます。
flexibler

2022/07/23 04:15

以下の手順でやってみたのですが、取得したURLが変わっただけでしたが、それをきっかけに解決することができました。 『スクレイピング』で検索したとき、並び順が『新着』と表示されていたのですが、『残り時間が少ない順』に切り替え、再度『新着』に切り替えたところURLが下記のように変更されました。このURLを用いた結果、上手く取得することができました。 melianさんが仰った 『sort』 に関しても併せて理解することができたため非常に助かりました。 ご丁寧に教えて頂き、ありがとうございます。 https://www.lancers.jp/work/search?keyword=%E3%82%B9%E3%82%AF%E3%83%AC%E3%82%A4%E3%83%94%E3%83%B3%E3%82%B0&show_description=0&sort=started&work_rank%5B%5D=0&work_rank%5B%5D=1&work_rank%5B%5D=2&work_rank%5B%5D=3

まだ回答がついていません

会員登録して回答してみよう

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
87.20%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問

同じタグがついた質問を見る

スクレイピング

スクレイピングとは、公開されているWebサイトからページ内の情報を抽出する技術です。

JupyterLab

JupyterLabは、Jupyter notebookの後継の対話型開発環境(IDE)です。データの可視化がインタラクティブで、プラグイン作成により新しいコンポーネントの追加および既存のコンポーネントも統合可能。サーバに閉じているため、データ分析に向いています。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。