Сельдерей в контейнере Docker: ОШИБКА / потребитель основного процесса: не удается подключиться к redis

#python #docker #redis #rabbitmq #celery

#python #docker #redis #rabbitmq #сельдерей

Вопрос:

Много разочарований по этому поводу, пытался заставить его работать в течение нескольких дней. Я прошу о помощи.

Это проект Django с Postgres, сельдереем и докером. Сначала я попробовал с помощью RabbitMQ, и у меня была та же ошибка, что и сейчас с Redis, затем я перешел на redis после нескольких попыток, и ошибка все та же, поэтому я думаю, что проблема связана с сельдереем, а не с RabbitMQ / Redis.

Dockerfile:

 FROM python:3.8.5-alpine

ENV PYTHONUNBUFFERED 1

RUN apk update 
    # psycopg2 dependencies
    amp;amp; apk add --virtual build-deps gcc python3-dev musl-dev 
    amp;amp; apk add postgresql-dev 
    # Pillow dependencies
    amp;amp; apk add jpeg-dev zlib-dev freetype-dev lcms2-dev openjpeg-dev tiff-dev tk-dev tcl-dev 
    # Translation dependencies
    amp;amp; apk add gettext 
    # CFFI dependencies
    amp;amp; apk add libffi-dev py-cffi 
    amp;amp; apk add --no-cache openssl-dev libffi-dev 
    amp;amp; apk add --no-cache --virtual .pynacl_deps build-base python3-dev libffi-dev

RUN mkdir /app
WORKDIR /app
COPY requirements.txt /app/
RUN pip install -r requirements.txt
COPY . /app/
  

docker-compose.yml:

 version: '3'

volumes:
  local_postgres_data: {}

services:
  postgres:
    image: postgres
    environment:
      - POSTGRES_DB=postgres
      - POSTGRES_USER=postgres
      - POSTGRES_PASSWORD=postgres
    volumes:
      - local_postgres_data:/var/lib/postgresql/data
    env_file:
      - ./.envs/.postgres

  django: amp;django
    build: .
    command: python manage.py runserver 0.0.0.0:8000
    volumes:
      - .:/app/
    ports:
      - "8000:8000"
    depends_on:
      - postgres

  redis:
    image: redis:6.0.8

  celeryworker:
    <<: *django
    image: pyrty_celeryworker
    depends_on:
      - redis
      - postgres
    ports: []
    command: celery -A pyrty worker -l INFO

  celerybeat:
    <<: *django
    image: pyrty_celerybeat
    depends_on:
      - redis
      - postgres
    ports: []
    command: celery -A pyrty beat -l INFO
  

pyrty/pyrty/celery.py:

 from __future__ import absolute_import, unicode_literals

import os

from celery import Celery


os.environ.setdefault('DJANGO_SETTINGS_MODULE', 'pyrty.settings')

app = Celery('pyrty')

app.config_from_object('django.conf:settings', namespace='CELERY')

app.autodiscover_tasks()


@app.task(bind=True)
def debug_task(self):
    print('Request: {0!r}'.format(self.request))
  

pyrty/pyrty/settings.py:

 # Celery conf
CELERY_BROKER_URL = 'redis://127.0.0.1:6379/0' #also tried localhost and
CELERY_RESULT_BACKEND = 'redis://127.0.0.1:6379/0' #also tried without the '/0'
CELERY_ACCEPT_CONTENT = ['json']
CELERY_TASK_SERIALIZER = 'json'
CELERY_RESULT_SERIALIZER = 'json'
CELERY_TIMEZONE = 'America/Argentina/Buenos_Aires'
  

pyrty/pyrty/init.py:

 from __future__ import absolute_import, unicode_literals

from .celery import app as celery_app


__all__ = ('celery_app',)
  

requirements.txt:

 Django==3.1
psycopg2==2.8.3
djangorestframework==3.11.0
celery==4.4.7
redis==3.5.3
Pillow==7.1.2
django-extensions==2.2.9
amqp==2.6.1
billiard==3.6.3
kombu==4.6.11
vine==1.3.0
pytz==2020.1
  

Вот и вся конфигурация, затем, когда я это делаю docker-compose up , я получаю следующее (относительно сельдерея и Redis) в терминале:

 redis_1         | 1:M 19 Sep 2020 18:09:08.117 # Server initialized
redis_1         | 1:M 19 Sep 2020 18:09:08.117 # WARNING overcommit_memory is set to 0! Background save may fail under low memory condition. To fix this issue add 'vm.overcommit_memory = 1' to /etc/sysctl.conf and then reboot or run the command 'sysctl vm.overcommit_memory=1' for this to take effect.
redis_1         | 1:M 19 Sep 2020 18:09:08.118 * Loading RDB produced by version 6.0.8
redis_1         | 1:M 19 Sep 2020 18:09:08.118 * RDB age 16 seconds
redis_1         | 1:M 19 Sep 2020 18:09:08.118 * RDB memory usage when created 0.77 Mb
redis_1         | 1:M 19 Sep 2020 18:09:08.118 * DB loaded from disk: 0.000 seconds
redis_1         | 1:M 19 Sep 2020 18:09:08.118 * Ready to accept connections

celeryworker_1  |  
celeryworker_1  |  -------------- celery@f334b468b079 v4.4.7 (cliffs)
celeryworker_1  | --- ***** ----- 
celeryworker_1  | -- ******* ---- Linux-5.4.0-47-generic-x86_64-with 2020-09-19 18:09:16
celeryworker_1  | - *** --- * --- 
celeryworker_1  | - ** ---------- [config]
celeryworker_1  | - ** ---------- .> app:         pyrty:0x7fd280ac7640
celeryworker_1  | - ** ---------- .> transport:   redis://127.0.0.1:6379/0
celeryworker_1  | - ** ---------- .> results:     redis://127.0.0.1:6379/0
celeryworker_1  | - *** --- * --- .> concurrency: 6 (prefork)
celeryworker_1  | -- ******* ---- .> task events: OFF (enable -E to monitor tasks in this worker)
celeryworker_1  | --- ***** ----- 
celeryworker_1  |  -------------- [queues]
celeryworker_1  |                 .> celery           exchange=celery(direct) key=celery
celeryworker_1  |                 
celeryworker_1  | 
celeryworker_1  | [tasks]
celeryworker_1  |   . pyrty.celery.debug_task
celeryworker_1  | 
celeryworker_1  | [2020-09-19 18:09:16,865: ERROR/MainProcess] consumer: Cannot connect to redis://127.0.0.1:6379/0: Error 111 connecting to 127.0.0.1:6379. Connection refused..
celeryworker_1  | Trying again in 2.00 seconds... (1/100)
celeryworker_1  | 
celeryworker_1  | [2020-09-19 18:09:18,871: ERROR/MainProcess] consumer: Cannot connect to redis://127.0.0.1:6379/0: Error 111 connecting to 127.0.0.1:6379. Connection refused..
celeryworker_1  | Trying again in 4.00 seconds... (2/100)
  

Я действительно не понимаю, чего мне не хватает, я читал документацию, но не могу это решить. Пожалуйста, помогите!

Комментарии:

1. Можете ли вы проверить, запущен сервер Redis или нет. Вы можете использовать командную строку, чтобы определить, запущен ли redis: redis-cli ping вы должны вернуться PONG

Ответ №1:

Попробуйте обновить настройки своего приложения, чтобы использовать имя хоста redis redis вместо 127.0.0.1

 # Celery conf
CELERY_BROKER_URL = 'redis://redis:6379/0'
CELERY_RESULT_BACKEND = 'redis://redis:6379/0'
  

Ссылка:

Теперь каждый контейнер может искать имя хоста web или db и возвращать IP-адрес соответствующего контейнера. Например, код веб-приложения может подключиться к URL postgres: // db: 5432 и начать использовать базу данных Postgres.

https://docs.docker.com/compose/networking/

Комментарии:

1. Решительный герой!!!!!!! Это также сработало, выполнив его обратно с помощью rabbitmq (CELERY_BROKER_URL = ‘amqp: // rabbitmq:5672’), поэтому мне не пришлось менять rabbit на redis.

2. Разочарование также на моей стороне, поскольку я пытался возиться с правильными URL-адресами, но всегда получаю ОШИБКУ /MainProcess] потребитель: не удается подключиться к redis: // redis: 6379 //: Ошибка -3 при подключении к redis: 6379. Что означает ОШИБКА -3?