Блог

Я пытаюсь получить очень простой анализ настроений с сайта CNBC. Я собрал этот фрагмент кода, и он отлично работает.

 from bs4 import BeautifulSoup
import urllib.request
from  pandas import DataFrame

resp = urllib.request.urlopen("https://www.cnbc.com/finance/")
soup = BeautifulSoup(resp, from_encoding=resp.info().get_param('charset'))
    
substring = 'https://www.cnbc.com/'

df = ['review']
for link in soup.find_all('a', href=True):
    print(link['href'])
    if (link['href'].find(substring) == 0): 
        # append
        df.append(link['href'])

#print(link['href'])


#list(df)
# convert list to data frame
df = DataFrame(df)
#type(df)
#list(df)

# add column name
df.columns = ['review']

# clean up
df['review'] = df['review'].str.replace('d ', '')

# Get rid of special characters
df['review'] = df['review'].str.replace(r'[^ws] ', '')


from nltk.sentiment.vader import SentimentIntensityAnalyzer
sid = SentimentIntensityAnalyzer()
df['sentiment'] = df['review'].apply(lambda x: sid.polarity_scores(x))
def convert(x):
    if x < 0:
        return "negative"
    elif x > .2:
        return "positive"
    else:
        return "neutral"
df['result'] = df['sentiment'].apply(lambda x:convert(x['compound']))
df['result']
  

Когда я запускаю приведенный выше код, я получаю положительные и отрицательные результаты, но они не сопоставляются с исходным «обзором». Как я могу показать каждое настроение во фрейме данных рядом с языком каждой ссылки? Спасибо!

О, черт, я совершенно теряю это! Это было просто слияние!!

 df_final = pd.merge(df['review'], df['result'], left_index=True, right_index=True)
df_final
  

Результат:

 0                                              review  neutral
1                      https://www.cnbc.com/business/  neutral
2   https://www.cnbc.com/2020/09/15/stocks-making-...  neutral
3   https://www.cnbc.com/2020/09/15/stocks-making-...  neutral
4             https://www.cnbc.com/maggie-fitzgerald/  neutral
..                                                ...      ...
90                      https://www.cnbc.com/finance/  neutral
91  https://www.cnbc.com/2020/09/10/citi-ceo-micha...  neutral
92                https://www.cnbc.com/central-banks/  neutral
93  https://www.cnbc.com/2020/09/10/watch-ecb-pres...  neutral
94               https://www.cnbc.com/finance/?page=2  neutral