numpyで1~150000程度の整数値を処理しており、メモリの節約を試みています。
int16やuint16では32767,65535までと微妙に足りず、
かといってint32は4294967925までと必要な範囲を大幅に超過しているという状況です。
メモリ節約の目的で、int16とint32の中間の変数型を使用する、ということは可能でしょうか?
よろしくお願いいたします。
追記:最大値は150000です。
回答2件
あなたの回答
tips
プレビュー
投稿2021/11/18 03:55
編集2021/11/18 04:19numpyで1~150000程度の整数値を処理しており、メモリの節約を試みています。
int16やuint16では32767,65535までと微妙に足りず、
かといってint32は4294967925までと必要な範囲を大幅に超過しているという状況です。
メモリ節約の目的で、int16とint32の中間の変数型を使用する、ということは可能でしょうか?
よろしくお願いいたします。
追記:最大値は150000です。
回答2件
あなたの回答
tips
プレビュー