質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.50%
Jupyter

Jupyter (旧IPython notebook)は、Notebook形式でドキュメント作成し、プログラムの記述・実行、その実行結果を記録するツールです。メモの作成や保存、共有、確認などもブラウザ上で行うことができます。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

Q&A

0回答

661閲覧

Jupyterの %store マジックコマンドで4GiB以上のデータを格納したい

SST8897

総合スコア155

Jupyter

Jupyter (旧IPython notebook)は、Notebook形式でドキュメント作成し、プログラムの記述・実行、その実行結果を記録するツールです。メモの作成や保存、共有、確認などもブラウザ上で行うことができます。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

0グッド

1クリップ

投稿2019/07/15 08:36

編集2022/01/12 10:55

前提・実現したいこと

jupyter notebookの %storeというマジックコマンドを使って、4GiB以上のpandas dataframeを格納したいです。

発生している問題・エラーメッセージ

データが10GBほどあるため、大きすぎるゆえのエラーが出ます。

OverflowError: cannot serialize a bytes object larger than 4 GiB

該当のソースコード

Python

1import pandas as pd 2df = pd.read_csv("large_data.csv") 3 4%store df #ここでエラーがでます 

試したこと

とりあえずjoblibパッケージを使いjoblib.dump()で保存できました。

また、%storeマジックコマンドは内部でpickleを使っていると聞きます。
調べてみてpickle.dump()を使う際protocolに4を指定すると大きいファイルも格納できるということがわかりましたが、protocolの指定を %storeマジックコマンドを使う際にどうやったらいいのかがわからないままです。

補足情報(FW/ツールのバージョンなど)

Anaconda3を使っています
Jupyter 5.7.8、Python 3.7.3です。
OSはCent OS 7です。

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

まだ回答がついていません

会員登録して回答してみよう

アカウントをお持ちの方は

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.50%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問