CountVectorizer с фреймом данных Pandas, возвращающим неправильную форму

#python #pandas #reshape #data-mining #countvectorizer

#python #панды #изменить форму #интеллектуальный анализ данных #countvectorizer

Вопрос:

 import numpy as np
import pandas as pd
from sklearn.feature_extraction.text import CountVectorizer
from sklearn.naive_bayes import MultinomialNB
from sklearn.metrics import (f1_score,precision_score,recall_score)
ifile=open("train_pos.txt")
rows = []
for ln in ifile:
    rows.append({'text': ln, 'class': 1})
ifile.close()
data_frame = pd.DataFrame(rows)
data_frame
 

Этот код выводит:

 text    class
0   Coffee is great and I live close so it's conve...   1
1   I love this place for its coffeeshop feel with...   1
2   I've come here now a couple of times and I lov...   1
3   Nice vibes, just ok food and not too warm serv...   1
4   Not a big breakfast person but this place has ...   1
... ... ...
74241   Henry the bartender makes a stop in at Bijans ...   1
74242   I love the ambiance at Bijan, especially the w...   1
74243   Popped in for Happy Hour, on a hot and stormy ...   1
74244   Update: Â Bijan's came on the scene as a great...   1
74245   The nearly day-glo lime green walls, harsh flu...   1
74246 rows × 2 columns
 

Я пытаюсь выполнить извлечение объектов с помощью countvectorizer с pandas data_frame в качестве входных данных.

Для этого я выполнил код

 count_vect = CountVectorizer() 
X_train_counts = count_vect.fit_transform(data_frame.text)
X_train_counts.shape 

 

Проблема в том, что он выдает мне неправильную форму, когда я запускаю приведенный выше код. Форма выводит (74246, 61803), но она должна выводить (74246, 2). Он выдает правильный вывод при запуске
data_frame.shape

Кто-нибудь знает, почему это происходит и как это исправить?

Любая помощь будет очень признательна!

Комментарии:

1. Я не думаю, что вы понимаете, что CountVectorizer делает. Он преобразует ваш текст в количество токенов. Вы не должны ожидать только двух функций, когда у вас явно есть гораздо больше уникальных слов (в данном случае где-то в диапазоне 61 800).

Ответ №1:

Возможно, вы путаете fit_transform() с fit(). fit_transform() изучает словарь словаря, а затем преобразует его в матрицу терминов документа. Таким образом, вы получаете матрицу, а не словарь. fit_transform — это то же самое, что выполнить подгонку с последующим преобразованием. Так что, если вы ищете словарь, просто используйте fit()