Переносить сегменты из S3 в GCS и обратно, а также использовать python3 без предварительной загрузки сегментов?

#python-3.x #amazon-s3 #google-cloud-storage

#python-3.x #amazon-s3 #google-облачное хранилище

Вопрос:

Я знаю, что есть gsutil, который я сейчас изучаю. Но я пытаюсь выяснить, есть ли способ перенести сегменты из aws s3 в gcs и из gcs в s3 без необходимости загружать все данные локально из одного, а затем повторно загружать их.

Ответ №1:

Я бы рекомендовал воспользоваться сервисом Google Cloud Transfer.

Вы можете следовать этому руководству :

Передача данных из Amazon S3 в облачное хранилище с помощью VPC Service Controls и службы переноса хранилища

В этом руководстве описывается, как упростить передачу данных из Amazon Simple Storage Service (Amazon S3) в облачное хранилище с помощью службы переноса хранилища с периметром управления службами VPC. Это руководство предназначено для владельцев данных, у которых есть данные, хранящиеся в Amazon S3, и которые хотят безопасно обработать или перенести эти данные в Google Cloud.

Комментарии:

1. классная вещь для одноразовых. но мне нужно что-то, что я мог бы интегрировать в существующую автоматизацию с помощью python

2. Я бы рекомендовал проверить миграцию с Amazon S3 на облачное хранилище , вы можете выполнить задание, отправив запросы с помощью API