リアルタイムボイスチェンジャーを作りたい

Question

前提・実現したいこと

マイク（まずはwaveファイル）の音声データから
基本周波数・スペクトル包絡をいじってリアルタイムで再生したい

発生している問題・エラーメッセージ

エラーメッセージは出ずにガガガガというノイズがなって途中で処理が止まります。(Ctrl+Cでも中止できません）
メモリ不足？

該当のソースコード

import pyworld as pw
import numpy as np
import pyaudio
import wave
import struct


class World:
    CHANNELS = 1
    RATE = 44100
    CHUNK = 1024
    SIZE = 0
    def __init__(self):
        try:
            wf = wave.open("../a.wav", "r")
            # ストリーム開始
            self.p = pyaudio.PyAudio()

            self.SIZE = wf.getsampwidth()
            self.format = self.p.get_format_from_width(wf.getsampwidth())   # => pyaudio.paALSA
            self.CHANNELS = wf.getnchannels()
            self.RATE = wf.getframerate()
            self.wf = wf
            print(self.format)

            self.stream = self.getStream()

            self.start()
        except Exception as e:
            print(e)
    def getStream(self):
        stream = self.p.open(format=self.format,
                        channels=self.CHANNELS,
                        rate=self.RATE,
                        output=True)
        return stream

    def start(self):
        data = self.wf.readframes(self.CHUNK)
        while(data != b''):
            data = self.changeVoice(data)
            self.stream.write(data)
            data = self.wf.readframes(self.CHUNK)
        self.stream.close()      # ストリーム終了
        self.p.terminate()

    def changeVoice(self,data):
        # data = data.astype(np.float)
        data = np.frombuffer(data, np.uint16)
        data = data.astype(np.float64) # WORLDはfloat前提のコードになっているのでfloat型にしておく
        _f0, t = pw.dio(data, self.RATE)  # 基本周波数の抽出
        f0 = pw.stonemask(data, _f0, t, self.RATE)  # 基本周波数の修正
        sp = pw.cheaptrick(data, f0, t, self.RATE)  # スペクトル包絡の抽出
        ap = pw.d4c(data, f0, t, self.RATE)  # 非周期性指標の抽出

        data = pw.synthesize(f0, sp, ap, self.RATE).astype(np.uint16).tobytes()
        return data

    def binary(self,num):
        return ''.join(bin(ord(c)).replace('0b', '').rjust(8, '0') for c in struct.pack('!f', num))
if __name__ == "__main__":
    spec = World()

試したこと

changeVoice関数を通さなければ再生できるので、このあたり、特にバイナリデータからndarrayや型変換するところがおかしいと思うのですが、どう直せばいいか分かりません。

waveファイルのバイナリデータ -> 解析のためにndarrayに変換 -> 解析・編集 -> 再生するためにもとのバイナリに戻すということがしたいです。

frombufferの第二引数を色々変えてみたり等したのですが、うまく行きませんでした。

補足情報（FW/ツールのバージョンなど）

Python3.6.5
Docker version 18.03.1-ce
docker-compose version 1.22.0-rc2
ホストOS：ubuntu:18.04
コンテナOS:ubuntu:18.04

CONTAINER ID        NAME                CPU %               MEM USAGE / LIMIT     MEM %               NET I/O             BLOCK I/O           PIDS
839e827ec187        voichan_python_1    0.22%               24.75MiB / 31.35GiB   0.08%               12.4kB / 0B         0B / 0B             14

Comments

[YouheiSakurai]

data = self.changeVoice(data)をコメントアウトすると期待する結果が得られるということですよね？

[ascreit]

そうです。コメントアウトすればwaveファイルを再生できることは確認できました。changeVoiceの中身が一番やりたいことなので、その部分ができてない感じですね

Answer 1

waveファイルでは、一つのサンプルを何バイトで表現するかが決まっています。
これが、pyaudioでopenする際のformatを決定付けます。

2バイトで表現することが多いのですが、その場合int16となります。
このサイズに変更を加えないのであれば、最終的にwriteするときもint16のストリームである必要があります。

したがって、以下上側のコードは下のコードが適切です。

data = pw.synthesize(f0, sp, ap, self.RATE).astype(np.uint16).tobytes()

data = pw.synthesize(f0, sp, ap, self.RATE).astype(np.int16)

changeVoiceで渡されたデータもshortあるいはint16のタイプになっているはずです。
したがって、以下のコードは不要で、floatへの変換のみで良いです。

data = np.frombuffer(data, np.uint16)

Comments

[ascreit]

data = np.frombuffer(data, np.int16)
data = data.astype(np.float64)
この２つをコメントアウトして実行すると、下記のエラーが発生します。

Argument 'x' has incorrect type (expected numpy.ndarray, got bytes)

どうやらWORLDはnumpyのndarrayしか受け付けないようです。

次に、data = np.frombuffer(data, np.int16)　だけを残して実行すると
Buffer dtype mismatch, expected 'double' but got 'short
というエラーがでます。

wf.getsampwidth()を実行すると8が返ってくるので再生したいwaveファイルのフォーマットはどうやらpyaudio.paALSAとかいうものみたいなのですが、これが何なのか謎です...

[t_obara]

であれば、元のデータが8バイトなのでしょう。
まずは単純にそのサンプルあたりのバイト数を入出力で合わせるようにして試してみてはいかがでしょうか。