Блог

Главная - Вопросы по программированию - Как использовать конвейер transformers с несколькими графическими процессорами?

Как использовать конвейер transformers с несколькими графическими процессорами?

#python #huggingface-transformers

#python #huggingface-трансформеры

Вопрос:

 ner_model = pipeline('ner', model=model, tokenizer=tokenizer, device=0, grouped_entities=True)

устройство указало конвейер для использования no_gpu= 0 (только с использованием GPU), пожалуйста, покажите мне, как использовать multi-gpu.

Комментарии:

1. Есть Pipeline._config.device вариант. Я думаю, что это хороший момент для начала расследования. Также существует проблема с глобальной конфигурацией параметров конвейера в репозитории trankit. Создайте два конвейера для двух графических процессоров и назначьте им разные задачи.