質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.48%
pandas

Pandasは、PythonでRにおけるデータフレームに似た型を持たせることができるライブラリです。 行列計算の負担が大幅に軽減されるため、Rで行っていた集計作業をPythonでも比較的簡単に行えます。 データ構造を変更したりデータ分析したりするときにも便利です。

Q&A

解決済

1回答

752閲覧

大容量csvをpandasで開きたい

_hh

総合スコア79

pandas

Pandasは、PythonでRにおけるデータフレームに似た型を持たせることができるライブラリです。 行列計算の負担が大幅に軽減されるため、Rで行っていた集計作業をPythonでも比較的簡単に行えます。 データ構造を変更したりデータ分析したりするときにも便利です。

0グッド

0クリップ

投稿2019/11/10 20:13

業務でPandasを用いて大容量のcsvファイル(40G超×5個、PCの残容量800MB)を分析する必要があるのですが、何か良い方法ありますでしょうか。read_csvではMemory Errorになってしまい、ここまでpandasを用いた各種の方法(http://sinhrks.hatenablog.com/entry/2014/11/21/231534 等、ネットに記載されている方法はほぼ一通り)を1か月ほどかけて試行しましたがいずれも同様でした。ポリシーにより当該PCで作業する必要があり、ファイルの別の場所への退避もNGという状況です。

いま考えていることは
・python以外でも良いので、何等かの方法でファイルを読み込み、不要な列が半分ほどあるのでそれを削除し、上書きすればファイルのサイズが半分ほどに圧縮されるのではないか
・その上で、read_csvすればmemory errorにならないのではないか?

と考えています。
Powershellでファイルを分割する方法(http://souegg2.hatenablog.com/entry/2017/10/16/202230 等)
は試したのですが、分割後のファイルは一行一行が文字列?になってしまっているようでして
(powershellのget-contentで開くと各行が"A,B,C,..."の様にダブルクォーテーションで括られて表示されます)
read_csvするとエラーになります。。何か良い方法ございましたらご教示下さい。

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

回答1

0

ベストアンサー

NYSOLはいかがでしょうか?
Windows環境であればWSL環境で動くようです。

ABOUT NYSOL
大規模データの解析に関する様々な大学やプロジェクトでの研究成果を
広く産業界に還元する目的で構築されたソフトウェアツールの総称およびそのプロジェクト活動である。
UNIX環境(Linux, Macなど)で動作する。

投稿2019/11/10 22:55

nandymak

総合スコア799

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

_hh

2019/11/14 08:33

有難うございます。PCの設定によりWSL環境も入れられないため、NYSOLを使用することはできませんでした。csv分割ソフトで分け、そのうちの1,2個のみを分析することに致しました。
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.48%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問