質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
87.20%
Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

解決済

icrawlerのGreedyImageCrawlerの処理が一生終わらない

aaaa____aaaa
aaaa____aaaa

総合スコア10

Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

2回答

0評価

0クリップ

135閲覧

投稿2022/08/15 16:52

前提

icrawlerのGreedyImageCrawlerで、あるWEBページの画像をすべて取得しているのですが
全ての画像を取得し終えたのにもかかわらず、処理が一生終わりません。

実現したいこと

すべての画像を取得し終えたら処理を終えさせたいです。

発生している問題・エラーメッセージ

以下のような文章が一生生成され続けます。
2022-08-16 01:43:44,953 - INFO - downloader - downloader-001 is waiting for new download tasks
2022-08-16 01:43:45,721 - INFO - parser - parser-001 is waiting for new page urls
2022-08-16 01:43:47,736 - INFO - parser - parser-001 is waiting for new page urls
2022-08-16 01:43:49,740 - INFO - parser - parser-001 is waiting for new page urls
2022-08-16 01:43:49,963 - INFO - downloader - downloader-001 is waiting for new download tasks
2022-08-16 01:43:51,742 - INFO - parser - parser-001 is waiting for new page urls
2022-08-16 01:43:53,746 - INFO - parser - parser-001 is waiting for new page urls
2022-08-16 01:43:54,965 - INFO - downloader - downloader-001 is waiting for new download tasks
2022-08-16 01:43:55,750 - INFO - parser - parser-001 is waiting for new page urls

該当のソースコード

Python

from icrawler.builtin import GreedyImageCrawler greedy_crawler = GreedyImageCrawler(storage={'root_dir': 'a'}) greedy_crawler.crawl(domains='https://ja.wikipedia.org/wiki/%E3%82%A4%E3%83%8C', max_num=0,min_size=None, max_size=None)

良い質問の評価を上げる

以下のような質問は評価を上げましょう

  • 質問内容が明確
  • 自分も答えを知りたい
  • 質問者以外のユーザにも役立つ

評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

気になる質問をクリップする

クリップした質問は、後からいつでもマイページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

  • プログラミングに関係のない質問
  • やってほしいことだけを記載した丸投げの質問
  • 問題・課題が含まれていない質問
  • 意図的に内容が抹消された質問
  • 過去に投稿した質問と同じ内容の質問
  • 広告と受け取られるような投稿

評価を下げると、トップページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

まだ回答がついていません

会員登録して回答してみよう

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
87.20%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問

同じタグがついた質問を見る

Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。