The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]



"Выпуск утилиты для резервного копирования rclone 1.59"
Вариант для распечатки  
Пред. тема | След. тема 
Форум Разговоры, обсуждение новостей
Изначальное сообщение [ Отслеживать ]

"Выпуск утилиты для резервного копирования rclone 1.59"  +/
Сообщение от opennews (??), 10-Июл-22, 10:03 
Опубликован выпуск утилиты rclone 1.59, которая представляет собой аналог rsync, предназначенный для копирования и синхронизации данных между локальной системой и различными облачными хранилищами, такими как Google Drive, Amazon Drive, S3, Dropbox, Backblaze B2, One Drive, Swift, Hubic, Cloudfiles, Google Cloud Storage, Mail.ru Cloud и Яндекс.Диск. Код проекта написан на языке Go и распространяется под лицензией MIT...

Подробнее: https://www.opennet.me/opennews/art.shtml?num=57482

Ответить | Правка | Cообщить модератору

Оглавление

Сообщения [Сортировка по ответам | RSS]

1. Сообщение от Аноним (1), 10-Июл-22, 10:03   –11 +/
А чем rsync не устроил, если те же облака замонтировать как разделы?
Rclone нарушает unix-way
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #2, #3, #10, #22, #28, #37, #91

2. Сообщение от Аноним (2), 10-Июл-22, 10:27   +1 +/
А если облако невозможно замонтировать?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1

3. Сообщение от Stanislavvv (?), 10-Июл-22, 10:31   +1 +/
Как смонтировать яндекс.диск так, чтобы аплоадить файлы по несколько десятков мегабайт без боли и проприетарщины?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1 Ответы: #4, #14

4. Сообщение от knike (?), 10-Июл-22, 10:35   –3 +/
webdav же
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #3 Ответы: #5, #6

5. Сообщение от Аналним (?), 10-Июл-22, 10:48   +1 +/
Ждем гайд
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #4

6. Сообщение от Виктор Гогю (?), 10-Июл-22, 10:52   +1 +/
У Яндекса нет WebDav, они его давно убрали
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #4 Ответы: #7

7. Сообщение от EuPhobos (ok), 10-Июл-22, 10:53   –1 +/
https://yandex.ru/dev/disk/webdav/
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #6 Ответы: #11

8. Сообщение от pashev.ru (?), 10-Июл-22, 11:02   +/
rdiff-backup и зашифрованный диск — мой выбор.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #16, #35

10. Сообщение от Аноним (10), 10-Июл-22, 11:19   +2 +/
Тогда пользуйся рсинком и наслаждайся своим юниксвеем, вантузятник.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1

11. Сообщение от Container memory (?), 10-Июл-22, 11:45   +3 +/
Сразу видно человека который рассуждает о том, чем не пользуется.
Яндекс несколько лет назад ограничили скорость по webdav до нескольких десятых мегабайтов в секунду. Можно ли это назвать "не отключили"? Ну может быть, если тебе нравится аплоадить файлы в 10 мегабайт за сутки.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #7 Ответы: #20, #34, #67, #75

12. Сообщение от Аноним (12), 10-Июл-22, 11:59   –4 +/
>> Добавлены бэкенды для хранения

Ясно понятно добавили новые бекдоры.  

Ответить | Правка | Наверх | Cообщить модератору
Ответы: #19

14. Сообщение от Аноним (14), 10-Июл-22, 12:09   +/
Никак. И rclone в этом не поможет.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #3

16. Сообщение от Аноним (16), 10-Июл-22, 12:16   –3 +/
Бэкапилка на питоне - может проще сразу сделать dd из /dev/urandom?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #8 Ответы: #47

19. Сообщение от Аноним (-), 10-Июл-22, 12:22   +2 +/
А ты чем пользуешься? CTRL-C, CTRL-V? :D
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #12 Ответы: #24

20. Сообщение от жявамэн (ok), 10-Июл-22, 12:31   +/
Они и на платных тарифах вебдав урезали псы.
Потому только майлру. Для заливки зашифрованых бацкупов
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #11

22. Сообщение от freehckemail (ok), 10-Июл-22, 12:33   +29 +/
> Rclone нарушает unix-way

Не нарушает. В rsync нет нативного бэкенда для синхронизации с S3, а rclone именно под него заточен.

> А чем rsync не устроил, если те же облака замонтировать как разделы?

Суть не в rsync, а скорее в том, что s3 нельзя представить в виде полноценной файловой системы. В частности, вы не можете записать или прочитать файл частично. Потому можете забыть про флаг -no-W, например: передача дельт работать не будет. А она кстати включена по умолчанию, когда источник с таргетом у rsync-а локальные. И когда вы монтируете, у вас все пути именно такими и будут: rsync-у не ведомо, что по одному из путей -- сетевая фс.

Плюс к тому, если вы смонтируете s3-бакет и попытаетесь с ним работать при помощи rsync, всплывёт куча удивляющих вещей. Например, многие не знают, что при синхронизации файла rsync по умолчанию создаёт part-файл, куда и ведёт загрузку новой версии, а когда завершит, перемещает part-файл по целевому пути. В случае с s3 это приведёт к двум загрузкам одного и того же файла (и ещё, кажется, одной выгрузке).

И это ещё не все нюансы. Оно конечно всё фиксится флагами rsync-а, но их целая куча, и их ещё пойди подбери, плюс тебе ещё надо монтировать s3fs через fuse... Очень много телодвижений, прям беда: за всем этим нужно следить, и ошибиться проще некуда. А rclone взял, указал источник с таргетом -- и всё. В общем, специализированный инструмент тут как раз надёжнее. К тому же он неплохо параллелится.

А облачный s3 штука нужная и востребованная, так что никуда от него не деться: это же фактически бесконечное хранилище, где вы платите только за занятое место. Плюс к тому, есть очень много кейсов, когда функции ФС в полной мере не нужны: любое хранилище артефактов например. Вам нужно много места, вам нужно туда загружать файлы целиком, и точно также выгружать их оттуда целиком. Собственно, s3 для того и создавался.

PS: суть этого поста не в "rclone хорош" (я сам пользуюсь s3cmd sync); Суть в том, что "rsync для s3 не удобен".

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1 Ответы: #49, #60, #76, #78, #81

24. Сообщение от Аноним (24), 10-Июл-22, 12:36   +/
А ты пользуешься новыми бекдорами?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #19

27. Сообщение от Shevchuk (ok), 10-Июл-22, 12:42   +2 +/
Годно, нужно.
В комментах опять половина теоретики и луддиты, рукалицо.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #43, #50

28. Сообщение от Аноним (28), 10-Июл-22, 13:00   +1 +/
А чем casync не устроил, если те же облака замонтировать как разделы?
Rsync нарушает unix-way
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1

34. Сообщение от Аноним (-), 10-Июл-22, 13:34   +/
Вроде и на г диске также я лет 3-5 назад загрузил как тест на их диск 2гб с скортью 100 мбит за пару минут и скачал за паруминут видимо им поплохело и быльше 100 я не увидел. Я г диском не пользуюсь для файлов, но почта в размер диска вхит письма. Перепроверять надо давно было и я проверяял пару раз один раз 100 и через пару дней ещё раз уже неприемлемо было низкая скорость. Больше на использовал диск как загрузил, скачал файлы. Оно и понятно некакх хранилищ не хватит если всем и на большой скорости дать использовать.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #11 Ответы: #36

35. Сообщение от Аноним (35), 10-Июл-22, 13:35   +2 +/
Видимо и быстрее и надежнее будет попробовать zfs send/receive с шифрованными датасетами
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #8

36. Сообщение от Аноним (-), 10-Июл-22, 13:36   –1 +/
вхит - входит
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #34 Ответы: #57

37. Сообщение от Онаним (?), 10-Июл-22, 14:03   –6 +/
Ну оно же на игогошечке.
Штобыбыло, почесать чсв, наспех склеив 100500 лефтпадов.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1 Ответы: #40

40. Сообщение от Аноним (71), 10-Июл-22, 14:22   +1 +/
Кстати, а вы Java от JavaScript отличаете?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #37 Ответы: #46, #59

43. Сообщение от Аноним (71), 10-Июл-22, 14:28   +/
Просто далёкие от IT люди, который однажды поставили Void на виртуалку вмвари под виндой и теперь дофига одмины-линуксоиды :)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #27

46. Сообщение от Аноним (1), 10-Июл-22, 14:33   +/
А в чем разница? И там и там интерпретируемые языки. И там и там репозиторий вредоносных пакетов. И там и там пишут монкей
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #40 Ответы: #56

47. Сообщение от Аноним (1), 10-Июл-22, 14:37   +/
Хорошо хоть не на джава со встроенным лефтпадом
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #16 Ответы: #68

49. Сообщение от Ононимдва (?), 10-Июл-22, 15:14   +5 +/
Хоспидяй, адекватный чувак на опеннете, которому не влом все по полочкам разложить.
Респект и уважуха. (без сарказма)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #22 Ответы: #52

50. Сообщение от Аноним (50), 10-Июл-22, 15:17   –1 +/
А ты используешь надёжное шифрование перед заливкой данных дяде в "облака"? Если нет - то ты в сто раз хуже этих "теоретиков и луддитов".
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #27 Ответы: #55, #77, #84

52. Сообщение от Аноним (52), 10-Июл-22, 16:04   +3 +/
Он просто притворяется, а на самом деле он такой же как и все тут.  
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #49 Ответы: #79

55. Сообщение от Аноним (52), 10-Июл-22, 16:07   –1 +/
Да это очередной комментатор из разряда. У меня нет антивируса, значит нет вируса. Ни один майор ко мне не приходил, значит мои данные в корповом облаке полностью защищены.  

Как вообще перестать с таких орать?

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #50 Ответы: #89

56. Сообщение от Аноним (56), 10-Июл-22, 16:09   +6 +/
На Java пишут interprise monkeys
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #46 Ответы: #80

57. Сообщение от Аноним (-), 10-Июл-22, 16:10   +/
Я думаю ты не прав: вхит - это не входит, а выходит.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #36 Ответы: #62

59. Сообщение от Онаним (?), 10-Июл-22, 17:09   +/
А вы Java от ECMAScript?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #40 Ответы: #65

60. Сообщение от Онаним (?), 10-Июл-22, 17:13   –3 +/
"это же фактически бесконечное хранилище"
Законы физики немножечко против.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #22

62. Сообщение от Онаним (?), 10-Июл-22, 17:15   +/
Вхит - это втоп.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #57

65. Сообщение от Аноним (71), 10-Июл-22, 19:18   +/
Остроумно, интеллектуально. Хвалю.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #59

67. Сообщение от Михрютка (ok), 10-Июл-22, 19:21   +/
коллеги, это одному мне кажется, что вообще пользоваться облачными сервисами яндекса - это приблизительно как хостить видео на рутубе?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #11 Ответы: #71

68. Сообщение от Аноним (71), 10-Июл-22, 19:21   +/
А лефтпад разве не эксклюзивно сишная фича?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #47

71. Сообщение от Аноним (71), 10-Июл-22, 19:25   +/
Рутуб, ютуб, гугель, яндекс - сорта этогосамого.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #67 Ответы: #74

74. Сообщение от Михрютка (ok), 10-Июл-22, 19:38   –5 +/
ну некоторые почему-то думают, что если этосамое свое, родное - то оно и не пахнет, и его можно деревянной хохломской ложкой наворачивать за обе щеки.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #71

75. Сообщение от Аноним (75), 10-Июл-22, 20:00   +/
Нет, урезали скорость - это, видимо, позже. Это ещё нормально. А перед этим, они попросту сломали протокол. Типа "WebDav" работал только с их закрытым клиентом, а открытые решения зависали по таймаутам.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #11

76. Сообщение от Михрютка (ok), 10-Июл-22, 20:06   +/
> PS: суть этого поста не в "rclone хорош" (я сам пользуюсь s3cmd sync); Суть в том, что "rsync для s3 не удобен".

тарщ капитан, я так тож умею, например: не следует сувать блочне данне в объектное хранилище.

это приблизительно как на нетаппах вафельных серий разворачивать vmfs. не, оно будет работать. но будет работать так плохо и так печально...

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #22 Ответы: #88, #93

77. Сообщение от Аноним (77), 10-Июл-22, 21:31   +1 +/
В rclone всё замечательно шифрует.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #50

78. Сообщение от microsoft (?), 10-Июл-22, 23:09   –1 +/
Ууух, s3 хорошо тебе промыли голову.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #22

79. Сообщение от Аноним (79), 11-Июл-22, 03:36   +/
Кстати да, довольно часто троллит людей, на личности переходит и т.п. Но бывают и хорошие посты, вот как этот.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #52

80. Сообщение от Аноним (79), 11-Июл-22, 03:39   +/
А interprise - это типа международный приз?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #56

81. Сообщение от анонимз (?), 11-Июл-22, 07:40   +/
"А облачный s3 штука нужная и востребованная, так что никуда от него не деться" именно. хотя Amazon намного большее зло чем Microsoft, но избавиться от них труднее
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #22 Ответы: #82

82. Сообщение от 1 (??), 11-Июл-22, 10:32   +/
Чем больше зло - тем труднее избавляться
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #81

83. Сообщение от Аноним (83), 11-Июл-22, 18:00   +/
Чем оно лучше borg или restic?
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #85

84. Сообщение от Вы забыли заполнить поле Name (?), 11-Июл-22, 18:19   +1 +/
А ты не используешь надёжное шифрование для локальных данных?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #50

85. Сообщение от Alex (??), 11-Июл-22, 23:38   +1 +/
Это бэкенд к сервисам, а restic - это типа Git для бэкапов. Сам пестик всего что Rclone умеет сам не может, но может через Rclone. А Rclone только создавать и удалять в клубах может, версионность не может.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #83

88. Сообщение от Аноним (71), 12-Июл-22, 12:21   +/
> тарщ капитан, я так тож умею, например: не следует сувать блочне данне в объектное хранилище.

Скажите это разработчикам ceph, у которых блочное хранилище и ФС строятся поверх объектного хранилища.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #76 Ответы: #90

89. Сообщение от Аноним (71), 12-Июл-22, 12:26   +1 +/
А как перестать орать с админов мамкиного борща, у которых единственное возможное использование rclone - заливать супер-секретные фоточки своих котиков к дяде в облако?

У взрослых дядек собственные s3-совместимых хранилища (minio или ceph) используются для серьезных задач — хранить загружаемый контент, WAL-ы для БД, логи (boltdb-shipper).
И чтобы бэкапить оттуда данные на обычную дисковую полку — rclone подходит отлично.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #55

90. Сообщение от Михрютка (ok), 12-Июл-22, 21:22   +/
>> тарщ капитан, я так тож умею, например: не следует сувать блочне данне в объектное хранилище.
> Скажите это разработчикам ceph, у которых блочное хранилище и ФС строятся поверх
> объектного хранилища.

на проксмоксовых форумах им ето говорит практически любой, кто сдуру задеплоился на ceph-based хранилище.

и про скорости записи, и про латентность.

толку-то.

я вообще старый пень, как только в разговорах с заказчиком слышу "мы планируем использовать ceph хранилище" или "необходима поддержка ceph хранилища", сразу быстренько извиняюсь и заканчиваю разговор.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #88

91. Сообщение от pfg21 (ok), 12-Июл-22, 23:50   +/
rclone работает напрямую с облаком и к примеру может запросить хеш файла из облака в том формате который используется в облаке и сравнить его с посчитанным хешом локального файла.  
рсинк для подсчета хеша файла, должен его будет полностью скачать и посчитать хеш.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1

93. Сообщение от freehckemail (ok), 12-Окт-22, 21:29   +/
> не следует сувать блочне данне в объектное хранилище

Не согласен.

Если рассматривать один блок ФС за объект, то всё должно быть нормально, особенно с учётом того, что jumbo-фреймы ethernet-а позволяют спокойно передавать дейтаграммы размером до 8К.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #76


Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема




Партнёры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2024 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру