web-dev-qa-db-ja.com

ケラスの2つの層を連結する方法は?

2層のニューラルネットワークの例があります。最初の層は2つの引数を取り、1つの出力を持ちます。 2番目は、最初のレイヤの結果として1つの引数と1つの追加の引数を取ります。これは次のようになります。

x1  x2  x3
 \  /   /
  y1   /
   \  /
    y2

そこで、2つのレイヤーを持つモデルを作成してそれらをマージしようとしましたが、エラーThe first layer in a Sequential model must get an "input_shape" or "batch_input_shape" argument.が行result.add(merged)に返されました。

モデル:

first = Sequential()
first.add(Dense(1, input_shape=(2,), activation='sigmoid'))

second = Sequential()
second.add(Dense(1, input_shape=(1,), activation='sigmoid'))

result = Sequential()
merged = Concatenate([first, second])
ada_grad = Adagrad(lr=0.1, epsilon=1e-08, decay=0.0)
result.add(merged)
result.compile(optimizer=ada_grad, loss=_loss_tensor, metrics=['accuracy'])
65
rdo

Sequential()として定義されているresultは単なるモデルのコンテナであり、入力を定義していないため、エラーが発生しています。

3番目の入力x3を受け取るためにset resultを構築しようとしているものを考えてみましょう。

first = Sequential()
first.add(Dense(1, input_shape=(2,), activation='sigmoid'))

second = Sequential()
second.add(Dense(1, input_shape=(1,), activation='sigmoid'))

third = Sequential()
# of course you must provide the input to result with will be your x3
third.add(Dense(1, input_shape=(1,), activation='sigmoid'))

# lets say you add a few more layers to first and second.
# concatenate them
merged = Concatenate([first, second])

# then concatenate the two outputs

result = Concatenate([merged,  third])

ada_grad = Adagrad(lr=0.1, epsilon=1e-08, decay=0.0)

result.compile(optimizer=ada_grad, loss='binary_crossentropy',
               metrics=['accuracy'])

しかし、このタイプの入力構造を持つモデルを作成するための私の好ましい方法は、 機能的なapi を使うことです。

これはあなたが始めるためのあなたの要件の実装です。

from keras.models import Model
from keras.layers import Concatenate, Dense, LSTM, Input, concatenate
from keras.optimizers import Adagrad

first_input = Input(shape=(2, ))
first_dense = Dense(1, )(first_input)

second_input = Input(shape=(2, ))
second_dense = Dense(1, )(second_input)

merge_one = concatenate([first_dense, second_dense])

third_input = Input(shape=(1, ))
merge_two = concatenate([merge_one, third_input])

model = Model(inputs=[first_input, second_input, third_input], outputs=merge_two)
ada_grad = Adagrad(lr=0.1, epsilon=1e-08, decay=0.0)
model.compile(optimizer=ada_grad, loss='binary_crossentropy',
               metrics=['accuracy'])

コメント内の質問に答えるには

1)結果とマージはどのように関連していますか。あなたがそれらがどのように連結されているかを意味すると仮定します。

連結は次のように機能します。

  a        b         c
a b c   g h i    a b c g h i
d e f   j k l    d e f j k l

つまり、行は結合されているだけです。

2)x1がfirstに入力され、x2がsecondに入力され、x3が3番目に入力されます。

83
orsonady

model.summary()を使って試すことができます(concatenate_XX(Concatenate)レイヤーのサイズに注意してください)。

# merge samples, two input must be same shape
inp1 = Input(shape=(10,32))
inp2 = Input(shape=(10,32))
cc1 = concatenate([inp1, inp2],axis=0) # Merge data must same row column
output = Dense(30, activation='relu')(cc1)
model = Model(inputs=[inp1, inp2], outputs=output)
model.summary()

# merge row must same column size
inp1 = Input(shape=(20,10))
inp2 = Input(shape=(32,10))
cc1 = concatenate([inp1, inp2],axis=1)
output = Dense(30, activation='relu')(cc1)
model = Model(inputs=[inp1, inp2], outputs=output)
model.summary()

# merge column must same row size
inp1 = Input(shape=(10,20))
inp2 = Input(shape=(10,32))
cc1 = concatenate([inp1, inp2],axis=1)
output = Dense(30, activation='relu')(cc1)
model = Model(inputs=[inp1, inp2], outputs=output)
model.summary()

ここでノートブックを詳しく見ることができます。 https://nbviewer.jupyter.org/github/anhhh11/DeepLearning/blob/master/Concanate_two_layer_keras.ipynb

5