質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.50%
スクレイピング

スクレイピングとは、公開されているWebサイトからページ内の情報を抽出する技術です。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

pandas

Pandasは、PythonでRにおけるデータフレームに似た型を持たせることができるライブラリです。 行列計算の負担が大幅に軽減されるため、Rで行っていた集計作業をPythonでも比較的簡単に行えます。 データ構造を変更したりデータ分析したりするときにも便利です。

Q&A

解決済

1回答

404閲覧

pandasを利用して、全角文字が含まれるurlをスクレイピングしたい

Nikkei_225

総合スコア13

スクレイピング

スクレイピングとは、公開されているWebサイトからページ内の情報を抽出する技術です。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

pandas

Pandasは、PythonでRにおけるデータフレームに似た型を持たせることができるライブラリです。 行列計算の負担が大幅に軽減されるため、Rで行っていた集計作業をPythonでも比較的簡単に行えます。 データ構造を変更したりデータ分析したりするときにも便利です。

0グッド

1クリップ

投稿2018/01/16 15:00

###前提・実現したいこと
pandasを利用して'http://立会外分売.jp/result/2017/'
から表を取得しようとしたが、文字コードでエラーが発生して
実行できません。
文字コードが正常に変換できないことが原因と推測されるのですが、
どのように変換すればよいのかよくわかりません。

###発生している問題・エラーメッセージ

エラーメッセージ Traceback (most recent call last): File "<stdin>", line 1, in <module> File "C:\Users\l01e0\Anaconda3\lib\site-packages\pandas\io\html.py", line 906, in read_html keep_default_na=keep_default_na) File "C:\Users\l01e0\Anaconda3\lib\site-packages\pandas\io\html.py", line 743, in _parse raise_with_traceback(retained) File "C:\Users\l01e0\Anaconda3\lib\site-packages\pandas\compat\__init__.py", line 344, in raise_with_traceback raise exc.with_traceback(traceback) UnicodeEncodeError: 'latin-1' codec can't encode characters in position 0-4: ordinal not in range(256) ###該当のソースコード ```python ここにご自身が実行したソースコードを書いてください import pandas as pd pd.options.display.max_rows=10 url='http://立会外分売.jp/result/2017/' df_temp = pd.read_html(url, header=0) ###試したこと 課題に対してアプローチしたことを記載してください import urllib url = urllib.parse.quote('http://立会外分売.jp/result/2017/') df_temp = pd.read_html(url, header=0) を試しましたが、今度は以下のメッセージが表示されうまくいきません。 《出力されたメッセージ》 Traceback (most recent call last): File "<stdin>", line 1, in <module> File "C:\Users\l01e0\Anaconda3\lib\site-packages\pandas\io\html.py", line 906, in read_html keep_default_na=keep_default_na) File "C:\Users\l01e0\Anaconda3\lib\site-packages\pandas\io\html.py", line 743, in _parse raise_with_traceback(retained) File "C:\Users\l01e0\Anaconda3\lib\site-packages\pandas\compat\__init__.py", line 344, in raise_with_traceback raise exc.with_traceback(traceback) ValueError: No tables found ###補足情報(言語/FW/ツール等のバージョンなど) より詳細な情報

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

回答1

0

ベストアンサー

とりあえずは 直接url指定にてpandasで読み込むのを諦め、requests等を使ってデータを取得した後にpandasにくわせるとよいのではないでしょうか。

Python

1import pandas as pd 2import requests 3 4pd.options.display.max_rows=10 5 6url='http://立会外分売.jp/result/2017/' 7r = requests.get(url) 8df = pd.read_html(r.content, header=0)[0]

投稿2018/01/16 23:51

magichan

総合スコア15898

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

Nikkei_225

2018/01/18 13:52

ありがとうございました。 解決しました。 requestsを利用後にpandasを使うことは正直想定していませんでした。 非常に助かりました。
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.50%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問