#python #nlp #artificial-intelligence #huggingface-transformers #huggingface-tokenizers
Вопрос:
У меня проблема с классификацией последовательностей, я хочу, чтобы мой классификатор последовательностей Роберты-базы предсказывал погоду, ответ на конкретный вопрос действителен или недействителен. Я уже могу сделать это для ответов, которые имеют 1 или 2 жетона, обучив этому https://huggingface.co/iarfmoose/bert-base-cased-qa-evaluator модель трансформеров на Hotpot QA и отряде. Но проблема возникает, когда мы хотим классифицировать ответы, которые являются длинными (т. Е. Ответы с 3 или более маркерами). Классификатор последовательностей Роберты не может обучаться для более длинных последовательностей. Есть ли способ обучить его более длинным последовательным ответам?