Установка DVC на мини-хранилище

#python #minio #dvc

Вопрос:

Кто-нибудь устанавливает DVC на мини-хранилище?

Я читал документы, но для меня не все ясно.

Какую команду я должен использовать для настройки мини-хранилища с этими входными параметрами:

URL-адрес хранилища: https://minio.mysite.com/minio/bucket-name/ логин: my_login пароль: my_password

Ответ №1:

Устанавливать

Я обычно использую его как пакет Python, в этом случае вам нужно установить:

 pip install "dvc[s3]"
 

Дистанционная настройка

По умолчанию DVC поддерживает хранилища AWS S3, и они работают нормально.
Также они поддерживают «хранилище, совместимое с S3», но настройка для этого типа пультов дистанционного управления описана правильно. В конкретном случае MinIO у вас есть каталог — корзина на сервере MinIO, где хранятся фактические данные (аналогично ведру AWS), но DVC использует интерфейс командной строки AWS для аутентификации. В случае МинИО вам нужно передать их явно.

Затем следуйте командам для настройки пульта дистанционного управления DVC:

 # setup default remote (change "bucket-name" to your minio backet name)
dvc remote add -d minio s3://bucket-name -f

# add information about storage url (where "https://minio.mysite.com" your url)
dvc remote modify minio endpointurl https://minio.mysite.com

#  add info about login and password
dvc remote modify minio access_key_id my_login
dvc remote modify minio secret_access_key my_password
 

Если вы перемещаетесь со старого пульта дистанционного управления, используйте команду follow для перемещения ваших данных:

Перед установкой (загрузите весь старый удаленный кэш на локальную машину):

 dvc pull -r <old_remote_name> --all-commits --all-tags --all-branches
 

После настройки (загрузите весь кэш на новый пульт дистанционного управления):

 dvc push -r <new_remote_name> --all-commits --all-tags --all-branches