Запуск scrapy spider с Anaconda

#python-2.7 #scrapy #anaconda #scrapy-spider

#python-2.7 #anaconda #scrapy

Вопрос:

Здравствуйте, я пытаюсь завершить учебник, найденный по адресу:

https://doc.scrapy.org/en/latest/intro/tutorial.html

Я выполнил все шаги до «Нашего первого паука» без ошибок, однако, когда я пытаюсь запустить spider, я получаю следующее сообщение об ошибке при запуске «кавычек scrapy crawl»:

Файл «//anaconda/lib/python2.7/site-packages/scrapy/spiderloader.py «, строка 43, в load raise KeyError(«Паук не найден: {}».format(имя_спидера)) Ошибка ключа: ‘Паук не найден: кавычки’

Итак, по какой-то причине менеджер spider не находит spider. Однако, когда я перехожу непосредственно в каталог spider, я могу найти spider без ошибок.

Ответ №1:

Для параметра командной строки Scrapy «сканирование» требуется проект Scrapy, чтобы найти указанный spider и запустить сканирование (см. Документацию здесь, в которой указан «Требуется проект: да«).

Реально, Scrapy не сможет узнать местоположение всех Scrapy spider в вашей системе, выбрать один и запустить его. Для параметров, требующих проекта, вы должны находиться в каталоге проекта Scrapy, в котором будет находиться файл scrapy.cfg .

Если вы не хотите использовать «сканирование», вместо этого вы можете использовать «runspider» и указать файл Python, содержащий spider.