Подходит
Архивы, бэкапы и медиа из S3
Перенос бакетов до десятков терабайт через mc или rclone, когда на источнике стандартный S3 API без экзотических расширений.
Справка
Документация
Пошаговые инструкции, таблица совместимости S3, миграция и безопасность — на одном экране с боковым меню, без выхода из раздела.
Документация
Перенос данных и хранение бэкапов из AWS S3, Yandex Object Storage, Selectel, MinIO или другого S3-совместимого хранилища — привычными инструментами mc, rclone и aws-cli. Ниже — готовые команды и типичные ограничения.
Подходит
Перенос бакетов до десятков терабайт через mc или rclone, когда на источнике стандартный S3 API без экзотических расширений.
Проверить отдельно
Если критичны версии объектов, object lock или нестандартные bucket policy — сверьте ограничения в совместимости S3 и согласуйте план с поддержкой.
Удобен для миграции: есть непрерывная синхронизация (--watch) и хорошая совместимость с разными S3-провайдерами.
# Подключите оба endpoint mc alias set source https://s3.amazonaws.com АКЛЮЧ_ИСТОЧНИКА АСЕКРЕТ_ИСТОЧНИКА mc alias set s3data https://s3.s3data.ru ВАШ_КЛЮЧ ВАШ_СЕКРЕТ # Сухой прогон — посмотреть, что будет скопировано mc mirror --watch --dry-run source/исходный-бакет s3data/новое-хранилище # Реальный перенос (зеркало с сохранением структуры) mc mirror --preserve source/исходный-бакет s3data/новое-хранилище # Проверка совпадения mc diff source/исходный-бакет s3data/новое-хранилище
Подходит, если rclone уже стоит в инфраструктуре: наглядный прогресс и гибкие параметры параллелизма.
# rclone.conf — добавьте оба удалённых хранилища (см. раздел «Быстрый старт» в документации)
# Перенос с сохранением структуры
rclone sync --progress \
source:исходный-бакет \
s3data:новое-хранилище
# Только проверка различий
rclone check source:исходный-бакет s3data:новое-хранилище
# Параллельность и устойчивость
rclone sync --transfers 16 --checkers 32 --retries 5 \
source:исходный-бакет s3data:новое-хранилищеИмеет смысл, если уже есть скрипты на aws-cli и не хочется добавлять новые утилиты.
# Если переносите между двумя S3-хранилищами через aws-cli:
aws --profile source --endpoint-url https://s3.amazonaws.com \
s3 cp s3://исходный-бакет/ - --recursive \
| aws --profile s3data --endpoint-url https://s3.s3data.ru \
s3 cp - s3://новое-хранилище/ --recursive
# Чаще удобнее качать в локальный буфер и заливать:
aws --profile source --endpoint-url https://s3.amazonaws.com \
s3 sync s3://исходный-бакет/ ./буфер/
aws --profile s3data --endpoint-url https://s3.s3data.ru \
s3 sync ./буфер/ s3://новое-хранилище/При переносе больших объёмов (от десятков терабайт) или критичных нагрузок помогаем спланировать миграцию: окно перехода, сетевые параметры, скрипты-обвязки. Напишите на info@s3data.ru.
К быстрому старту