Пользовательская функция потери Keras

#tensorflow #keras #neural-network #loss-function

#тензорный поток #keras #нейронная сеть #функция потери

Вопрос:

Я хотел бы реализовать следующую пользовательскую функцию потерь с аргументом x в качестве вывода последнего слоя. До сих пор я реализовывал функцию this как Lambda слой в сочетании с потерей keras mae , но я этого больше не хочу

 def GMM_UNC2(self, x):
    tmp = self.create_mr(x) # get mr series
    mr  = k.sum(tmp, axis=1) # sum over time
    tmp = k.square((1/self.T_i) * mr)
    tmp = k.dot(tmp, k.transpose(self.T_i))
    tmp = (1/(self.T * self.N)) * tmp

    f   = self.create_factor(x) # get factor
    std = k.std(f)
    mu  = k.mean(f)
    tmp = tmp   std/mu 

    def loss(y_true, y_pred=tmp):
        return k.abs(y_true-y_pred)

    return loss

self.y_true = np.zeros((1,1))
self.sdf_net = Model(inputs=[self.in_ma, self.in_mi, self.in_re, self.in_si], outputs=w)
self.sdf_net.compile(optimizer=self.optimizer, loss=self.GMM_UNC2(w))
self.sdf_net.fit([self.macro, self.micro, self.R, self.R_sign], self.y_true, epochs=epochs, verbose=1)
  

Код фактически выполняется, но на самом деле он не используется tmp в качестве входных данных для потери (я умножил его на некоторое число, но потеря остается неизменной)

Что я делаю не так?

Ответ №1:

Из вашего вопроса не совсем ясно, хотите ли вы применить GMM_UNC2 функцию к прогнозам, или она применяется только один раз для построения потерь. Если это первый вариант, то весь этот код должен быть внутри потери и применять его поверх y_pred , например

 def GMM_UNC2(self):

    def loss(y_true, y_pred):
        tmp = self.create_mr(y_pred) # get mr series
        mr  = k.sum(tmp, axis=1) # sum over time
        tmp = k.square((1/self.T_i) * mr)
        tmp = k.dot(tmp, k.transpose(self.T_i))
        tmp = (1/(self.T * self.N)) * tmp
        f   = self.create_factor(x) # get factor
        std = k.std(f)
        mu  = k.mean(f)
        tmp = tmp   std/mu 
        return k.abs(y_true-y_pred)

    return loss
  

Если это второй вариант, в общем случае передача объектов в качестве значений по умолчанию в определении функции Python не является хорошей идеей, потому что это может быть изменено в определении функции. Кроме того, вы предполагаете, что второй аргумент потери имеет имя y_pred , но при вызове это выполняется без имени в качестве позиционного аргумента. Таким образом, вы могли бы попробовать использовать явное сравнение внутри потери, например

     def loss(y_true, y_pred):
        if y_pred is None:
            y_pred = tmp
        return k.abs(y_true - y_pred)
  

Если вам нравится игнорировать предсказания и принудительно использовать tmp , то вы можете игнорировать y_pred аргумент потери и использовать только tmp , например

     def loss(y_true, _):
        return k.abs(y_true - tmp)