Извлечение полных имен с помощью ne_chunks

#python-3.x #chunks #named-entity-recognition

#python-3.x #фрагменты #распознавание именованных объектов

Вопрос:

Здесь новичок. Я пытаюсь извлечь полные имена людей и организаций, используя следующий код.

 def get_continuous_chunks(text):
    chunked = ne_chunk(pos_tag(word_tokenize(text)))
    continuous_chunk = []
    current_chunk = []
    for i in chunked:
        if type(i) == Tree:
            current_chunk.append(' '.join([token for token, pos in i.leaves()]))
            if current_chunk:
                named_entity = ' '.join(current_chunk)
                if named_entity not in continuous_chunk:
                    continuous_chunk.append(named_entity)
                    current_chunk = []
                else:
                    continue
                return continuous_chunk

            
>>> my_sent = "Toni Morrison was the first black female editor in fiction at Random House in New York City."
>>> get_continuous_chunks(my_sent)
['Toni']
 

Как вы можете видеть, он возвращает только первое имя собственное. Не полное имя, а не какие-либо другие имена собственные в строке.

Что я делаю не так?

Ответ №1:

Вот некоторый рабочий код.

Лучшее, что можно сделать, это пошагово выполнить свой код и поместить много операторов печати в разные места. Вы увидите, где я напечатал type() и str() значение элементов, которые вы повторяете. Я считаю, что это помогает мне визуализировать и больше думать о циклах и условных обозначениях, которые я пишу, если я вижу их в списке.

Кроме того, упс, я непреднамеренно назвал все переменные «непрерывными» вместо «непрерывными»… не уверен, почему … непрерывный может быть более точным

Код:

 from nltk import ne_chunk, pos_tag, word_tokenize
from nltk.tree import Tree


def get_continuous_chunks(text):
    chunked = ne_chunk(pos_tag(word_tokenize(text)))
    current_chunk = []
    contiguous_chunk = []
    contiguous_chunks = []

    for i in chunked:
        print(f"{type(i)}: {i}")
        if type(i) == Tree:
            current_chunk = ' '.join([token for token, pos in i.leaves()])
            # Apparently, Tony and Morrison are two separate items,
            # but "Random House" and "New York City" are single items.
            contiguous_chunk.append(current_chunk)
        else:
            # discontiguous, append to known contiguous chunks.
            if len(contiguous_chunk) > 0:
                contiguous_chunks.append(' '.join(contiguous_chunk))
                contiguous_chunk = []
                current_chunk = []

    return contiguous_chunks

my_sent = "Toni Morrison was the first black female editor in fiction at Random House in New York City."


print()
contig_chunks = get_continuous_chunks(my_sent)
print(f"INPUT: My sentence: '{my_sent}'")
print(f"ANSWER: My contiguous chunks: {contig_chunks}")
 

Исключение:

 (venv) [ttucker@zim stackoverflow]$ python contig.py 

<class 'nltk.tree.Tree'>: (PERSON Toni/NNP)
<class 'nltk.tree.Tree'>: (PERSON Morrison/NNP)
<class 'tuple'>: ('was', 'VBD')
<class 'tuple'>: ('the', 'DT')
<class 'tuple'>: ('first', 'JJ')
<class 'tuple'>: ('black', 'JJ')
<class 'tuple'>: ('female', 'NN')
<class 'tuple'>: ('editor', 'NN')
<class 'tuple'>: ('in', 'IN')
<class 'tuple'>: ('fiction', 'NN')
<class 'tuple'>: ('at', 'IN')
<class 'nltk.tree.Tree'>: (ORGANIZATION Random/NNP House/NNP)
<class 'tuple'>: ('in', 'IN')
<class 'nltk.tree.Tree'>: (GPE New/NNP York/NNP City/NNP)
<class 'tuple'>: ('.', '.')
INPUT: My sentence: 'Toni Morrison was the first black female editor in fiction at Random House in New York City.'
ANSWER: My contiguous chunks: ['Toni Morrison', 'Random House', 'New York City']
 

Мне также немного неясно, что именно вы искали, но, судя по описанию, это похоже на это.