質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.48%
Beautiful Soup

Beautiful Soupは、Pythonのライブラリの一つ。スクレイピングに特化しています。HTMLデータの構文の解析を行うために、HTMLタグ/CSSのセレクタで抽出する部分を指定することが可能です。

Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

Q&A

解決済

1回答

1158閲覧

[python]スクレイプがうまくいかない

Dadada_c.

総合スコア59

Beautiful Soup

Beautiful Soupは、Pythonのライブラリの一つ。スクレイピングに特化しています。HTMLデータの構文の解析を行うために、HTMLタグ/CSSのセレクタで抽出する部分を指定することが可能です。

Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

1グッド

0クリップ

投稿2019/03/06 22:23

##スクレイプがうまくいかない…

URLが入力されたテキストファイル内のURLを読み込みスクレイプしたいです。
エラーもでなく、なにも値が返ってきません…。
このような場合は何から検証をすればいいでしょうか。。ご協力をお願いします。

textファイルの中身
https://m.tb.cn/h.3DTWNEq?sm=0ed820

python

1import urllib.request, urllib.error 2import requests 3import csv 4import time 5 6from bs4 import BeautifulSoup 7 8with open('url.txt') as f: 9 for line in f.readlines(): 10 target_url = line.strip() 11 print(target_url) 12 13 14 html = urllib.request.urlopen(target_url).read() 15 soup = BeautifulSoup(html, 'lxml') 16 17 imgage = soup.findAll('ul' , id='J_UlThumb') 18 19 for f in imgage: 20 for link in f.findAll('img'): 21 imgoutput = link.attrs['src'] 22 print(imgoutput) 23 24 with open('images.csv','a', encoding='cp932' ,newline='') as f: 25 writer = csv.writer(f) 26 writer.writerow([imgoutput]) 27 28 29
bochan2👍を押しています

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

hayataka2049

2019/03/06 22:27

ファイルには結果は書き込まれないんですか?
Dadada_c.

2019/03/06 22:28

ご回答ありがとうございます!ファイル自体が出力されません。。。
hayataka2049

2019/03/06 22:31

少なくとも print(target_url)の部分による表示は出ませんか。
Dadada_c.

2019/03/06 22:36

print(target_url) の部分は表示されますが、そのあと何も起きず終わってしまいます。
t_obara

2019/03/07 00:31

ちなみに、コードの内容はご理解できているのでしょうか?理解できているのであれば、各ステップで期待通りのデータが取得できているか(既存の回答通り)確認すればよろしいかと。もしご理解できていないのであれば、まずは内容の理解を進めつつ、各ステップで何が返却されるべきなのか、それが正しく期待した内容なのかを確認していくことをお勧めいただいます。ちなみに、読み込んだファイルにURLリストが入っているのだと思いますが、うまくいかない場合には一つのURLに限って確認を進めるべきです。(確認コードは必要最小限にする)
guest

回答1

0

ベストアンサー

このような場合は何から検証をすればいいでしょうか。

デバッガを使って少しずつ実行してみて変数の中味を見るか、
要所にprintを入れてみて、変数に想定通りのデータが入っているかを確認します。

投稿2019/03/07 00:00

otn

総合スコア84538

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.48%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問