#python #generator #documentation #huggingface-transformers
Вопрос:
Я использую библиотеку python transformers huggingface для text-generation модели. Мне нужно знать, как реализовать stopping_criteria параметр в generator() функции, которую я использую.
Я нашел stopping_criteria параметр в этой документации: https://huggingface.co/transformers/main_classes/pipelines.html#transformers.Генерация текста на трубопроводе
Проблема в том, что я просто не знаю, как это реализовать.
Мой Код:
from transformers import pipeline
generator = pipeline('text-generation', model='EleutherAI/gpt-neo-125M')
stl = StoppingCriteria(['###'])
res = generator(prompt, do_sample=True,stopping_criteria = stl)