Блог

Я пытаюсь написать слой, который по сути является обычным слоем прямой связи (активация (W x b)). Единственное новшество заключается в том, что я хочу, чтобы слой содержал одномерный вектор параметров (размер выходного измерения) и при вызове просто выводил этот одномерный вектор вместо фактического вычисления активации (W x b). Вектор должен быть обучаемым.

Вот код, который я придумал:

 from keras import backend as K
from keras.layers import Layer
import keras

class MyLayer(Layer):

    def __init__(self, output_dim, **kwargs):
        self.output_dim = output_dim
        super(MyLayer, self).__init__(**kwargs)

    def build(self, input_shape):
        # Create a trainable weight variable for this layer.
        self.kernel = self.add_weight(name='kernel', 
                                      shape=(input_shape[1], self.output_dim),
                                      initializer='uniform',
                                      trainable=True)
        self.out_estimate = self.add_weight(name='out_estimate',
                                              shape=(self.output_dim,),
                                              initializer='uniform',
                                              trainable=True)
        super(MyLayer, self).build(input_shape)  # Be sure to call this at the end

    def call(self, x):
        return self.out_estimate

    def compute_output_shape(self, input_shape):
        return (self.output_dim,)
 

 from keras.models import  Model
from keras import layers
from keras import Input

input_tensor = layers.Input(shape=(784,))
output_tensor = MyLayer(10)(input_tensor)

model = Model(input_tensor, output_tensor)
model.summary()
 

 model.compile(optimizer='rmsprop', loss='categorical_crossentropy')
model.fit(train_images, train_labels, epochs=1, batch_size=128)
 

Вот результат:

Ошибка ValueError: ошибка при проверке цели: ожидалось, что my_layer_69 будет иметь 1 измерение, но получен массив с формой (60000, 10)

MyLayer Класс __init__ ищет измерение. Но вы посылаете в tesnor . Извлеките tesnor измерение, чтобы self.output_dim