大容量csvをpandasで開きたい

Question

業務でPandasを用いて大容量のcsvファイル(40G超×5個、PCの残容量800MB)を分析する必要があるのですが、何か良い方法ありますでしょうか。read_csvではMemory Errorになってしまい、ここまでpandasを用いた各種の方法（http://sinhrks.hatenablog.com/entry/2014/11/21/231534 等、ネットに記載されている方法はほぼ一通り）を1か月ほどかけて試行しましたがいずれも同様でした。ポリシーにより当該PCで作業する必要があり、ファイルの別の場所への退避もNGという状況です。

いま考えていることは
・python以外でも良いので、何等かの方法でファイルを読み込み、不要な列が半分ほどあるのでそれを削除し、上書きすればファイルのサイズが半分ほどに圧縮されるのではないか
・その上で、read_csvすればmemory errorにならないのではないか？

と考えています。
Powershellでファイルを分割する方法(http://souegg2.hatenablog.com/entry/2017/10/16/202230　等)
は試したのですが、分割後のファイルは一行一行が文字列？になってしまっているようでして
（powershellのget-contentで開くと各行が"A,B,C,..."の様にダブルクォーテーションで括られて表示されます）
read_csvするとエラーになります。。何か良い方法ございましたらご教示下さい。

Answer 1

NYSOLはいかがでしょうか？
Windows環境であればWSL環境で動くようです。

ABOUT NYSOL
大規模データの解析に関する様々な大学やプロジェクトでの研究成果を
広く産業界に還元する目的で構築されたソフトウェアツールの総称およびそのプロジェクト活動である。
UNIX環境(Linux, Macなど)で動作する。

Comments

[_hh]

有難うございます。PCの設定によりWSL環境も入れられないため、NYSOLを使用することはできませんでした。csv分割ソフトで分け、そのうちの1,２個のみを分析することに致しました。