音声認識の結果をテキスト化して、マルコフ連鎖の辞書に登録する方法

Question

解決したいこと

音声とテキストでの擬似会話のプログラムを作成しています。
具体的には、音声認識で入力したデータをテキスト化して、マルコフ連鎖を使って、形態素解析　→　辞書の作成　→　文章生成。再度、音声認識と繰り返すプログラムを作りたいです。
音声認識の結果をテキスト化して保存するところまではできているようなのですが、形態素解析がうまくいかなくて悩んでおります。
ご教授よろしくお願いいたします。

発生している問題・エラーメッセージ

エラーメッセージ

TypeError                                 Traceback (most recent call last)
<ipython-input-******> in <module>()
    180     tagger = MeCab.Tagger("/Users/****/mecab-ipadic-neologd")
    181     tagger.parse("")
--> 182     node =  tagger.parseToNode(text)
    183 
    184     # 形態素解析の結果から、単語と品詞情報を抽出

~/.pyenv/versions/anaconda3-5.0.0/envs/py35/lib/python3.5/site-packages/MeCab.py in parseToNode(self, *args)
    280     __repr__ = _swig_repr
    281     def parse(self, *args): return _MeCab.Tagger_parse(self, *args)
--> 282     def parseToNode(self, *args): return _MeCab.Tagger_parseToNode(self, *args)
    283     def parseNBest(self, *args): return _MeCab.Tagger_parseNBest(self, *args)
    284     def parseNBestInit(self, *args): return _MeCab.Tagger_parseNBestInit(self, *args)

TypeError: in method 'Tagger_parseToNode', argument 2 of type 'char const *'

該当のソースコード

#coding:utf8
import base64
from googleapiclient import discovery
import httplib2
 
import pyaudio  #録音機能を使うためのライブラリ
import wave     #wavファイルを扱うためのライブラリ
 
#APIキーを設定
key = "*******"
 
#音声を保存するファイル名
WAVE_OUTPUT_FILENAME = "sample10.wav"
 
#録音に関する基本情報
RECORD_SECONDS = 4 #録音する時間の長さ（秒）
iDeviceIndex = 0 #録音デバイスのインデックス番号
 
#APIのURL情報
DISCOVERY_URL = ('https://{api}.googleapis.com/$discovery/rest?'
                 'version={apiVersion}')
 
def record():
    #基本情報の設定
    FORMAT = pyaudio.paInt16 #音声のフォーマット
    CHANNELS = 1             #モノラル
    RATE = 44100             #サンプルレート
    CHUNK = 2**11            #データ点数
    audio = pyaudio.PyAudio()
 
    stream = audio.open(format=FORMAT, channels=CHANNELS,
            rate=RATE, input=True,
            input_device_index = iDeviceIndex, #録音デバイスのインデックス番号
            frames_per_buffer=CHUNK)
 
    #--------------録音開始---------------
 
    print ("recording...")
    frames = []
    for i in range(0, int(RATE / CHUNK * RECORD_SECONDS)):
        data = stream.read(CHUNK)
        frames.append(data)
 
 
    print ("finished recording")
 
    #--------------録音終了---------------
 
    stream.stop_stream()
    stream.close()
    audio.terminate()
 
    waveFile = wave.open(WAVE_OUTPUT_FILENAME, 'wb')
    waveFile.setnchannels(CHANNELS)
    waveFile.setsampwidth(audio.get_sample_size(FORMAT))
    waveFile.setframerate(RATE)
    waveFile.writeframes(b''.join(frames))
    waveFile.close()
 
 
 
#APIの情報を返す関数
def get_speech_service():
    http = httplib2.Http()
    return discovery.build(
        'speech', 'v1', http=http, discoveryServiceUrl=DISCOVERY_URL, developerKey=key)
 
def SpeechAPI():
    #音声ファイルを開く
    with open(WAVE_OUTPUT_FILENAME, 'rb') as speech:
        speech_content = base64.b64encode(speech.read()) 
 
    #APIの情報を取得して、音声認識を行う
    service = get_speech_service()
    service_request = service.speech().recognize(
        body={
            'config': {
                'encoding': 'LINEAR16',
                'sampleRateHertz': 44100,
                'languageCode': 'ja-JP', #日本語に設定
                'enableWordTimeOffsets': 'false',
            },
            'audio': {
                'content': speech_content.decode('UTF-8')
                }
            })
 
    #SpeechAPIによる認識結果を保存
    response = service_request.execute()
 
    #見やすいようにコンソール画面で出力
    for i in response["results"]:
        print(i["alternatives"][0]["transcript"])
        test_file = open('test.text','w')
        test_file.write(str(i))
        
import MeCab
import os,json,random

dict_file = "markov_dict.json"
dic = {}

# 辞書への登録 
def regist_dic(wordlist):
    global dic
    w1 = ""
    w2 = ""
    
    # 要素が3未満の場合は、何もしない
    if len(wordlist) < 3 : return
    
    for w in wordlist :
        word = w[0]
        if word == "" or  word == "\r\n" or word == "\n" : continue
        # 辞書に単語を設定
        if w1 and w2 :
            set_dic(dic,w1, w2, word)
        # 文末を表す語のの場合、連鎖をクリアする
        if word == "の" or word == "か" or  word == "よ" :
            w1 = ""
            w2 = ""
            continue
        # 次の前後関係を登録するために、単語をスライド
        w1, w2 = w2, word
    
    # 辞書を保存
    json.dump(dic, open(dict_file,"w", encoding="utf-8"))

# 辞書に単語を設定 
def set_dic(dic, w1, w2, w3):
    # 新しい単語の場合は、新しい辞書オブジェクトを作成
    if w1 not in dic : dic[w1] = {}
    if w2 not in dic[w1] : dic[w1][w2] = {}
    if w3 not in dic[w1][w2]: dic[w1][w2][w3] = 0
    # 単語の出現数をインクリメントする
    dic[w1][w2][w3] += 1

# 応答文の作成 
def make_response(word):
    res = []
    
    # 「名詞」/「形容詞」/「動詞」は、文章の意図を示していることが多いと想定し、始点の単語とする。
    w1 = word
    res.append(w1)
    w2 = word_choice(dic[w1])
    res.append(w2)
    while True:
        # w1,w2の組み合わせから予想される、単語を選択
        if w1 in dic and w2 in dic[w1] : w3 = word_choice(dic[w1][w2])
        else : w3 = ""
        res.append(w3)
        # 文末を表す語の場合、作文を終了
        if w3 == "。" or w3 == "?" or  w3 == "？"  or w3 == "" :  break
        # 次の単語を選択するために、単語をスライド
        w1, w2 = w2, w3
    return "".join(res)
        
def word_choice(candidate):
    keys = candidate.keys()
    return random.choice(list(keys))

# メイン処理 

# 辞書がすでに存在する場合は、最初に読み込む
if os.path.exists(dict_file):
        dic = json.load(open(dict_file,"r"))

while True:
    record()
    SpeechAPI()
    # test.textから入力を受け付け、「さようなら」が入力されるまで続ける
    text_file = open('test.text','r')
    text = text_file
    if text == "" or text == "さようなら" : 
        print("A -> さようなら")
        break
        

    # 形態素解析
    tagger = MeCab.Tagger("/Users/******/mecab-ipadic-neologd")
    tagger.parse("") 
    node =  tagger.parseToNode(text)
    
    # 形態素解析の結果から、単語と品詞情報を抽出
    wordlist = []
    while node is not None:
        hinshi = node.feature.split(",")[0]
        if  hinshi not  in ["BOS/EOS"]:
            wordlist.append([node.surface,hinshi])
        node = node.next
    
    # マルコフ連鎖の辞書に登録
    regist_dic(wordlist)

    # 応答文の作成
    for w in wordlist:
        word = w[0]
        hinshi = w[1]
        # 品詞が「感動詞」の場合は、単語をそのまま返す
        if hinshi in [ "感動詞"] : 
            print("A -> 何に"+word)
            break
        # 品詞が「名詞」「形容詞」「動詞」の場合で、かつ、辞書に単語が存在する場合は、作文して返す
        elif (hinshi in [ "名詞" ,"形容詞","動詞"]) and (word in dic):
            print("A -> " + make_response(word))
            break

Answer 1

標準入力から入力を受け付け、「さようなら」が入力されるまで続ける

text_file = open('test.text','r')
text = text_file
if text == "" or text == "さようなら" :
print("A -> さようなら")
break

とても『標準入力から入力を受け付け』ているようには見えません。

Comments

[KOBETA]

失礼しました。
#test.textから入力を受け付け、「さようなら」が入力されるまで続ける
です。標準入力ではなく、test.textに保存された音声認識の結果から入力したいと考えています。

[LouiS0616]

text_fileは文字列ではなくファイルオブジェクトですから、
text = text_file.read().strip() とかする必要がありますね。

[KOBETA]

ご回答ありがとうございます。なんとか動かすことができましたが、
以下のように、返答の文章作成部分に”alternatives”"transcript"が毎回表示されます。

A -> {'alternatives':[{'transcript':'この後に作成した文章が続く・・・

毎回ではないのですが、2回に1回程度の頻度で文章の最後に
','confidence':0.9326681}]}
とSpeechAPIの認識結果の正確さの数値が表示されます。

文章以外表示されないようにしたいのですが、何が原因なのでしょうか。
ご教授よろしくお願いします。

[LouiS0616]

make_responseに想定どおりの型の変数が渡っているか調べた方が良いですね。

[KOBETA]

make_responseには、<class 'function'>が渡っているようです。

make_responseを文字列型に　make_responseの定義の後にstr(make_response)を書き加えて変換しても
返答の文章作成部分には、
{'alternatives':[{'transcript':'
が表示されたままになります。

text_fileファイルを確認したところ、書き込まれている段階で

{'alternatives': [{'transcript': 'ここに音声認識結果のテキストが入る', 'confidence': 0.86364347}]}

と文章以外の余分な情報が入ってしまっているようです。

[LouiS0616]

もともとがjson形式で書き込まれる仕様なのでは？

[KOBETA]

Speech APIはjson形式で書き込まれているようです。
辞書型の'transcript'に対応する文字列部分（音声認識結果）を
test_file = [d.get('transcript') for d in i]
を使って取り出そうとしましたが、AttributeError: 'str' object has no attribute 'get'とエラーが出ました。
iの型を調べると辞書型なのですが・・・。

[LouiS0616]

辞書型の変数を単純に巡回すると、キーのリストが渡されますので。

import json
with open('test.text') as fin:
__read_dict = json.load(fin)

text = read_dict['alternatives'][0]['transcript']

こんなふうに読み取れるんじゃないですかね。
註：空白をアンダースコアで代替しています。