Блог

в настоящее время я получаю предупреждение о неразрешенной ссылке на атрибут self.iniit_weights() в моем настроенном Bert. Ты знаешь, как я могу это исправить? Нейронные сети и трансформаторы для меня очень новы. Я использую новейшую версию transformers 4.9.1 и python 3.8.

Мой класс Bert выглядит так и очень похож на пример, найденный в Интернете, только в нем больше классификаторов.

 class MyBert(BertPreTrainedModel):

    def __init__(self, config, num_labels1=None, num_labels2=None, num_labels3=None):
        super().__init__(config)
        self.num_labels1 = num_labels1
        self.num_labels2 = num_labels2
        self.num_labels3 = num_labels3
        self.bert = BertModel(config)
        self.dropout = torch.nn.Dropout(config.hidden_dropout_prob)
        self.classifier1 = torch.nn.Linear(config.hidden_size, num_labels1)
        self.classifier2 = torch.nn.Linear(config.hidden_size, num_labels2)
        self.classifier3 = torch.nn.Linear(config.hidden_size, num_labels3)
        self.init_weights() # unresolved attribute reference
 

Спасибо вам за любую помощь.