文章が読み込まれません

Question

下記のコードで、３万９０００件の文章データを入れているはずが、一文しか入っていないということになっています。

Using TensorFlow backend.

朝霧 の 中 に 九段 の ともし 哉
corpus length: 20
total chars: 12
Sequences: ['朝霧', ' の', ' 中', ' に', ' 九', '段 ', 'の ', 'とも', 'し ']
Vectorization...
Build model...

原因を推測される方は何卒、宜しくお願いいたします。

追記：
textをpoemsに変えてみました。
すると、ValueError: Error when checking target: expected dense_7 to have shape (2, 12) but got array with shape (2, 39065)となりました。

文章が表示される原因が、
print('Sequences:', sentences)
であることがわかりました。

/home/yudai/Desktop/src/keras_AE.py:54: UserWarning: Update your Model call to the Keras 2 API: Model(inputs=Tensor("in..., outputs=Tensor("de...)
autoencoder = Model(input=input_word, output=decoded)
は、
autoencoder = Model(inputs=input_word, outputs=decoded)
で解消されることがわかりました。

poem.txt

朝霧 の 中 に 九段 の ともし 哉 
あたたか な 雨 が 降る なり 枯葎 
菜の花 や は つと 明るき 町 は づれ 
秋風 や 伊予 へ 流る る 汐 の 音 
長閑 さ や 障子 の 穴 に 海 見え て 
若鮎 の 二 手 に なりて 上り けり 
行く 秋 を す つく と 鹿 の 立ち に けり 
我 声 の 風 に なり けり 茸狩 
毎年 よ 彼岸の入り に 寒い の は 
我宿 は 女 ばかり の あつ さ 哉 
妻 より は 妾 の 多し 門 涼み 
みちのく へ 涼み に 行く や 下駄 は い て 
夕立 や 殺生石 の あたり より 
稲妻 や 生血 したたる つるし 熊 
薪 を わる いもうと 一人 冬 籠 
絶えず 人 いこ ふ 夏野 の 石 一つ 
赤蜻蛉 筑波 に 雲 もなか り けり 
何となく 奈良 なつかし や 古 暦 
春 や 昔 十 五 万 石 の 城下 哉 
六月 を 奇麗 な 風 の 吹く こと よ 
夏 瘦 の 骨 に とどまる 命 か な 
行く 我 に とどまる 汝 に 秋 二つ 
柿 く へ ば 鐘 が 鳴る なり 法隆寺 
漱石 が 来 て 虚子 が 来 て 大 三十日
枯薄 ここら よ 昔 不破の関 
元日 の 人通り と は なり に けり 
春風 に こぼれ て 赤 し 歯磨粉 
春 の 夜 や 屏風 の 陰 に 物 の 息 

import numpy as np
import codecs
from keras.layers import Activation, Dense, Input
from keras.models import Model
import sys

#データの読み込み
with open(r'/home/hoge/Desktop/data/haiku.txt', encoding='utf-8') as f:
    poems = f.read().splitlines()
text = poems[0]  # 1個目のデータ
print(text)

# コーパスの長さ
print('corpus length:', len(text))
# 文字数を数えるため、textをソート
chars = sorted(list(set(text)))
# 全文字数の表示
print('total chars:', len(chars))
# 文字をID変換
char_indices = dict((c, i) for i, c in enumerate(chars))
# IDから文字へ変換
indices_char = dict((i, c) for i, c in enumerate(chars))
#テキストを17文字ずつ読み込む
maxlen = 2
#サンプルバッチ数
step = 2
sentences = []
for i in range(0, len(text) - maxlen, step):
    sentences.append(text[i: i + maxlen])
#ベクトル化する
print('Vectorization...')
x = np.zeros((len(sentences), maxlen, len(chars)), dtype=np.bool)
for i, sentence in enumerate(sentences):
    for t, char in enumerate(sentence):
        x[i, t, char_indices[char]] = 1
#モデルを構築する工程に入る
print('Build model...')
#encoderの次元
encoding_dim = 128
#入力用の変数
input_word = Input(shape=(maxlen, len(chars)))
#入力された語がencodeされたものを格納する
encoded = Dense(128, activation='relu')(input_word)
encoded = Dense(64, activation='relu')(encoded)
encoded = Dense(32, activation='relu')(encoded)
#潜在変数（実質的な主成分分析）
latent = Dense(8, activation='relu')(encoded)
#encodeされたデータを再構成
decoded = Dense(32, activation='relu')(latent)
decoded = Dense(64, activation='relu')(decoded)
decoded = Dense(12, activation='relu')(encoded)
autoencoder = Model(inputs=input_word, outputs=decoded)
# #Adamで最適化、loss関数をcategorical_crossentropy
autoencoder.compile(optimizer='Adam', loss='categorical_crossentropy')
#モデルの構造を見る
autoencoder.summary()
#アレイサイズの確認
print(x.shape)
#autoencoderの実行
autoencoder.fit(x, x,
       epochs=50,
       batch_size=3,
       shuffle=False)

for i in range(17):
    x_haiku = np.zeros((1, maxlen, len(chars)))
    for t, char in enumerate(sentence):
        x_haiku[0,char_indices[char]] = 1.
        sentence = sentence[:-1]
print(char)

Comments

[退会済みユーザー]

どの時点で、得られるべきデータが得られていないかを、デバッグ機能で確認してみてください。ちなみに、12というのは文字数のことではないですよね？

[yep]

エラーというわけではなく動きはするようですが、
$ python3 '/home/yudai/Desktop/src/keras_AE.py'
Using TensorFlow backend.
朝霧 の 中 に 九段 の ともし 哉
corpus length: 20
total chars: 12 Sequences: ['朝霧', ' の', ' 中', ' に', ' 九', '段 ', 'の ', 'とも', 'し '] Vectorization...
Build model...
/home/yudai/Desktop/src/keras_AE.py:54: UserWarning: Update your `Model` call to the Keras 2 API: `Model(inputs=Tensor("in..., outputs=Tensor("de...)` autoencoder = Model(input=input_word, output=decoded)

[yep]

うまく読み込められていないようです。

[yep]

おそらくですが、text = poems[0]によってデータが一個しか入っていないという事でしょうか？

[退会済みユーザー]

うーん、kerasについて無知なので的外れだと申し訳ないのですが、print('Build model...')以降のどこかで失敗しているのですよね？警告(UserWarning)のあたりが、関係していそうですが、そのあたりの文言でググってみると、対応策が見つかるかもしれませんよ？例えば、「keras_AE.py:54: UserWarning: Update your Model call to the Keras 2 API」とか。keras_AE.py:54の部分は、kerasを利用する人共通の部分だと思うので、検索ワードとして引っかかりそうです。また、UserWarning以降は、警告文なので検索ワードとして適切そうです。で、これ以降は、文字や記号でごちゃごちゃしているので、検索ワードとして不適切かと。

[yep]

調べてみるとどうやら、このUserWarningは、問題ないようです。

[退会済みユーザー]

あ、text = poems[0] # 1個目のデータ と、ありますが、一文分しか実行されてないということはないですか？for文で回した方がいい気がしますが。これじゃなかったら私にはお手上げです。ごめんなさい。

[yep]

textをpoemsに変更。for文で回しcorpus length: 39069
total chars: 39065になりました。しかし、Value errorはあるので直していきたいと思います。

Answer 1

textをpoemsに変更。for文で回しcorpus length: 39069 total chars: 39065になりました。しかし、Value errorが残りました。

with open(r'/home/yudai/Desktop/data/haiku.txt', encoding='utf-8') as f:
    poems = f.readlines()
    for p in poems:
        s = p.rstrip() # 改行を除去
        s = s.split(' ')

以前の「テキストを一行ずつ読み込みたい」より

その後、
ValueError: Error when checking target: expected dense_7 to have shape (2, 12) but got array with shape (2, 39065)

decoded = Dense(12, activation='relu')(encoded)

を

decoded = Dense(39065, activation='relu')(encoded)

に修正すると、正常に学習できました。

Comments

[退会済みユーザー]

おめでとうございます！