Как мы можем использовать нейронную сеть в качестве фиксированного слоя при оптимизации?

#optimization #neural-network #pytorch

Вопрос:

Я обучил нейронную сеть с помощью pytorch. Я хочу использовать его в качестве компонента (без обновления веса) в конвейере оптимизации. Я планирую, что оптимизация будет реализована в PyTorch. Как я могу это сделать?

Комментарии:

1. Создайте экземпляр обученной модели (модуля) с requires_grad=False в новой настройке обучения. Он не будет тренироваться, но все равно будет проходить градиенты, если какой-либо из его входов потребует обучения (см. pytorch.org/docs/stable/notes/… ).

2. Да,@Daugmented прав. Вы можете просто загрузить обученные веса в модель и установить requires_grad=False, вы можете использовать его в качестве компонента во время оптимизации.