Можете ли вы использовать longformer в пакете simpletransformer?

#python #simpletransformers

#питон #простые преобразователи

Вопрос:

Я хочу запустить модель longformer для создания вложений для набора документов с использованием simpletransformers пакета.

Я попытался использовать "longformer" для model_type и model_name , но получил сообщение об ошибке.

Кто — нибудь знает, какой тип модели и название модели я должен использовать для использования longformer в пакете simpletransformers?

 from simpletransformers.language_representation import RepresentationModel sentences = list(X['content']) model = RepresentationModel(  model_type="bert",  model_name="bert-base-uncased",  use_cuda=True  ) sentence_vectors = model.encode_sentences(sentences, combine_strategy="mean")  

Комментарии:

1. Пожалуйста, проясните вашу конкретную проблему или предоставьте дополнительные сведения, чтобы выделить именно то, что вам нужно. Поскольку это написано в настоящее время, трудно точно сказать, о чем вы просите.