前提・実現したいこと
Python、cupy、CUDAで半精度(16bit)でFFT処理をしたい。(可能であればIFFTも)
cupyのHPに掲載されていた、半精度のFFTのソースコードを使用したがエラーが出てしまう。
発生している問題・エラーメッセージ
CUFFT_INVALID_VALUE
該当のソースコード
python
1idtype = odtype = edtype = 'E' 2for i in range(Fn): 3 data_array[i] = data_array[i].astype(np.float16) 4 data_array[i] = cp.asarray(data_array[i]) 5 plan = cp.cuda.cufft.XtPlanNd(shape[1:], 6 shape[1:], 1, shape[1]*shape[2], idtype, 7 shape[1:], 1, shape[1]*shape[2], odtype, 8 shape[0], edtype, 9 order='C', last_axis=-1, last_size=None)
Fn=70,data_array[i]=[0:4410]
試したこと
ここに問題に対して試したことを記載してください。
補足情報(FW/ツールのバージョンなど)
ここにより詳細な情報を記載してください。
あなたの回答
tips
プレビュー