Накапливать градиенты с распределенной стратегией в Tensorflow 2
#python #tensorflow #tensorflow2.0 #multi-gpu #python #tensorflow #tensorflow2.0 #мульти-графический процессор Вопрос: Я реализовал распределенную стратегию для обучения моей модели на нескольких графических процессорах. strategy = tf.distribute.MirroredStrategy(devices=devices[:FLAGS.n_gpus]) strategy.run(fn=self.train_step, args=(model, data)) Моя модель…