質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
87.20%
Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

解決済

Pythonでhtmlが途中までしか取得できない

Seirious
Seirious

総合スコア1

Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

1回答

0評価

0クリップ

333閲覧

投稿2022/01/21 13:53

編集2022/01/23 13:47

※初めて利用する為拙い部分があるかもしれません。

Pythonを初めてまだ日が浅い者です。
あるショップサイトからhtmlを取得し、一定以下の数値の商品があれば通知する。というプログラムを組んでみたいのですがテスト段階で出力を見てみたのですがhtmlソースが一部の部分までしか取得できていない状況です。

以下ソースです。

python

import requests from requests.exceptions import Timeout from bs4 import BeautifulSoup # URL入力 load_url = input('URL :') # UserAgent情報 Firefox(20220121時点) dummy_user_agent = "Mozilla/5.0 (Windows NT 10.0; Win64; x64; rv:96.0) Gecko/20100101 Firefox/96.0" header = { "User-Agent" : dummy_user_agent, "Accept-Language" : "ja,en-US;q=0.7,en;q=0.3" } # タイムアウト処理 try: html = requests.get(load_url, headers=header, timeout=(6.0, 7.5)) except Timeout: print("Time out") pass # HTTPステータスコード処理 if html.status_code == requests.codes.ok: # Windows環境だとtextが内部でエンコードがcp932になっているらしいのでUTF-8に soup = BeautifulSoup(html.text.encode('cp932', "ignore").decode('utf-8', "ignore"), 'html.parser') # HTML全体を表示する print(soup) else: html.raise_for_status() print(html.txt)

環境
Windows 10 21H1 64bit
Python 3.10

使用者は自分のみ

問題点
htmlの取得が途中までしか取得されない。(表示されない?)
niconicoやYoutube等ソースが長いものは途中で途切れてしまう。
途切れる位置は毎回異なる。(Youtubeやniconicoは10000文字程度 他サイトでも8000文字程度で途切れてしまう)

質問
なぜこのような現象が起こってしまうのでしょうか。
解決策はどのようにすればよいのでしょうか。

どうしたいか
オフライン以外のどのような状況でもhtmlソースをすべて取得できるようにしたい。

参考サイトやソース改善等御教授いただけると幸いです。

良い質問の評価を上げる

以下のような質問は評価を上げましょう

  • 質問内容が明確
  • 自分も答えを知りたい
  • 質問者以外のユーザにも役立つ

評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

気になる質問をクリップする

クリップした質問は、後からいつでもマイページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

  • プログラミングに関係のない質問
  • やってほしいことだけを記載した丸投げの質問
  • 問題・課題が含まれていない質問
  • 意図的に内容が抹消された質問
  • 過去に投稿した質問と同じ内容の質問
  • 広告と受け取られるような投稿

評価を下げると、トップページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

まだ回答がついていません

会員登録して回答してみよう

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
87.20%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問

同じタグがついた質問を見る

Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。