質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.49%
Flask

FlaskはPython用のマイクロフレームワークであり、Werkzeug・Jinja 2・good intentionsをベースにしています。

HttpWebRequest

HttpWebRequestとは.NETにおけるクラスであり、WebRequestクラスをHTTPに導入するものです。

Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

非同期処理

非同期処理とは一部のコードを別々のスレッドで実行させる手法です。アプリケーションのパフォーマンスを向上させる目的でこの手法を用います。

Q&A

0回答

337閲覧

サーバ上で動的サイトのスクレイピングがしたい

nonono421

総合スコア2

Flask

FlaskはPython用のマイクロフレームワークであり、Werkzeug・Jinja 2・good intentionsをベースにしています。

HttpWebRequest

HttpWebRequestとは.NETにおけるクラスであり、WebRequestクラスをHTTPに導入するものです。

Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

非同期処理

非同期処理とは一部のコードを別々のスレッドで実行させる手法です。アプリケーションのパフォーマンスを向上させる目的でこの手法を用います。

0グッド

0クリップ

投稿2022/05/23 02:49

実現したいこと

Pythonでサーバを立て、その上で動的サイトのスクレイピングをしようとしています。

該当のソースコード

main.py

1import flask 2from requests_html import AsyncHTMLSession 3import asyncio 4from flask import request 5 6app = flask.Flask(__name__) 7app.url_map.strict_slashes = False 8 9 10async def exec_js(): 11 asession = AsyncHTMLSession() 12 resp = await asession.get("https://pycon.jp/2019/") 13 print("before:", resp.html.links) # => set() 14 await resp.html.arender() 15 print("after", resp.html.links) # => {'https://pyconjp.connpass.com/event/139133/', ...} 16 17 18@app.route("/<website>/<user>") 19def get(website, user): 20 loop = asyncio.new_event_loop() 21 loop.run_until_complete(exec_js()) 22 23 24if __name__ == "__main__": 25 app.run()

発生している問題・エラーメッセージ

exec_js関数の中のawait resp.html.arender()
ValueError: signal only works in main threadというエラーが出ています。

試したこと

ValueError: signal only works in main thread
と検索して上位に出てくるサイトに書いてあったこと全て試しました。
また、この部分のawaitを外すことでエラーが消え、読み込まれる前のサイトデータを収集できるところまで把握しています。

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

まだ回答がついていません

会員登録して回答してみよう

アカウントをお持ちの方は

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.49%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問