Вариант для распечатки		Пред. тема | След. тема
Форум Разговоры, обсуждение новостей
Изначальное сообщение		[ Отслеживать ]

"Автор Bcachefs представил патчи для исправления ФС, разрушенных недавней ошибкой"	+/–
Сообщение от opennews (??), 08-Апр-24, 09:52
Кент Оверстрит (Kent Overstreet), разработчик ФС Bcachefs, предложил патчи, позволяющие ядру Linux работать с ФС Bcachefs даже после  повреждения существенного объёма метаданных, при необходимости перестраивая испорченные b-деревья по метаданным из структур inode и dirent. Изменения приняты Линусом Торвальдсом и включены в состав сегодняшнего тестового обновления ядра 6.9-rc3... Подробнее: https://www.opennet.me/opennews/art.shtml?num=60946
Ответить | Правка | Cообщить модератору

Сообщения

[Сортировка по ответам | RSS]

1. Сообщение от Аноним (1), 08-Апр-24, 09:52	+4 +/–
Ближайшие 2-3 года пока сидим на Btrfs. Сыровата новинка пока.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #3, #4, #6, #22

2. Сообщение от Аноним (2), 08-Апр-24, 09:59	+2 +/–
Рукалицо. Олдскульные фс это то, чему в самом деле можно доверить котиков.Вот это пока все же лучше обойти стороной по моему скромному мнению. Эх,жалко reiserfs на следующий год выкинут окончательно. Так вот и будешь сидеть на екст котоую еще мамонты видели.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #5

3. Сообщение от Аноним (3), 08-Апр-24, 10:08	+17 +/–
Btrfs сама ещё похлеще портит данные.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1 Ответы: #10, #69

4. Сообщение от КО (?), 08-Апр-24, 10:08	+3 +/–
Шило на мыло
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1

5. Сообщение от Аноним (5), 08-Апр-24, 10:08	+2 +/–
А что плохого в выкидывании самой ненадёжной и дохлой фс в истории, сколько лет она просущестовала, 2-3? 20 лет назад. Даже максимальный размер тома половиной диска ограничен, да? Ну и та же xfs хоть и регулярно обнуляет и теряет файлы, но хотя бы не дохлая.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #2 Ответы: #7, #8

6. Сообщение от Werenter (ok), 08-Апр-24, 10:13	+3 +/–
Я вот пару дней назад поставил систему на bcachefs. Посмотрим, сколько продержится.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1

7. Сообщение от Аноним (7), 08-Апр-24, 10:15	+/–
> Даже максимальный размер тома половиной диска ограничен, да? И давно в продажу поступили диски на 2 эксбибайта?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #5 Ответы: #11

8. Сообщение от Аноним (2), 08-Апр-24, 10:18	+/–
Я очень долго triserfs пользовался. Привык к ней,а таких объемов чтобы исчерпать возможности фс у меня просто нет. io_uring я и так в ядре отрубаю. Печально,что reiser4 не принимают в ядро. Тогда бы я ей начал пользоваться.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #5 Ответы: #13

9. Сообщение от Аноним (10), 08-Апр-24, 10:18	+1 +/–
Типа существуют люди, которые повредили эту фс и так и сидели ждали этот патч?
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #12, #16, #32

10. Сообщение от Аноним (10), 08-Апр-24, 10:18	–7 +/–
Это описался в слове zfs.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #3 Ответы: #28

11. Сообщение от Аноним (5), 08-Апр-24, 10:19	+/–
В википедии ссылка на спецификацию, там 16TiB. >max filesystem size     232 (4K) blocks => 16 Ti
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #7

12. Сообщение от ПомидорИзДолины (?), 08-Апр-24, 10:27	+/–
Если и не ждали патча, то как минимум сделали полный побайтовый слепок перед тем как пытаться что-то восстановить. Если сами восстановить не смогли, то теперь из слепка восстановят. Можно даже не дожидаться принятия в официальное ядро -- собрать локально из RC и восстановиться.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #9 Ответы: #15

13. Сообщение от Аноним (5), 08-Апр-24, 10:29	+/–
Битрот у неё особенно силён, для архивного хранения не годится. Какое-то время она была интересна упаковкой хвостов, на каком-нибудь почтовом сервере, где все файлы меньше стандартного минимального блока в 4кб, довольно интересно. Ещё бы не теряла данные от этой упаковки.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #8 Ответы: #25

14. Сообщение от Аноним (14), 08-Апр-24, 10:33	–1 +/–
Повреждаем Bcachefs, запускаем восстановление, параллельным процессом сканируем процесс восстановления и получаем etc/passwd. Бинго! Видимо, вся эта фс - это просто изощрянная атака на мировую инфраструктуру.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #17, #35

15. Сообщение от 1 (??), 08-Апр-24, 10:34	+1 +/–
Да ладно ... Какой-то сценарий из 90х ... Побитовый слепок. Небось нынче и не знают как dd запускать ... там же непонятные in of без всяких -- в начале. Восстановили все данные из облачка на любимый ext2 и в ус^W бороду не дуют.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #12 Ответы: #20

16. Сообщение от n00by (ok), 08-Апр-24, 10:36	+/–
"Типа" автор предусмотрел в драйвере ФС возможность самовосстановления даже в случае намеренной порчи части управляющих структур. Чему поспособствовала ошибка в каких-то утилитах.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #9 Ответы: #59

17. Сообщение от n00by (ok), 08-Апр-24, 10:38	+/–
Что бы получить этот файл, ФС как таковая не нужна, пока он хранится как plaintext в блоке на блочном устройстве. Так что предлагаю другую конспирологию: именно поэтому производители и обеспечивают возможность их замены по гарантии. ;)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #14

20. Сообщение от Аноним (5), 08-Апр-24, 10:53	+/–
Ну так правильно, сегодня все уже знают, что можно только gnu ddsrescue использовать для такого. Безграмотные остались в прошлом.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #15 Ответы: #37

21. Сообщение от Аноним (21), 08-Апр-24, 11:25	+1 +/–
Товарищи, кто в теме! Это можно расматривать в перспективе как замену простым, как пробка, и надёжным, как весь гражданский флот, ext2/3/4? Или очередной аналог zfs/btrfs/xfs, созданный для нужд крупного энтерпрайза и требующих бесперебойника, резервных копий, постоянного мониторинга, реплицирования и на 90% состоящих из функционала, не нужного среднему домохозяину?
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #23, #30, #31, #33, #64, #109

22. Сообщение от Аноним (22), 08-Апр-24, 11:39	+/–
Прошлым летом сильно обжёгся об Btrfs. Пока посижу на ReiserFS. Благо, что ядро 6.1 обещают сильно долго LTS.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1 Ответы: #29, #34, #42

23. Сообщение от Аноним (1), 08-Апр-24, 11:40	+1 +/–
Изначально, она задумана как работа над ошибками реализации Btrfs. Чем она станет в итоге, пока рано говорить. На текущем этапе, как я понял, ставить ее имеет смысл только для тестов.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #21 Ответы: #63

24. Сообщение от Аноним (22), 08-Апр-24, 11:51	+/–
Чего все разработчики ФС используют B-tree, почему бы не попробовать Dancing Tree, как у Райзера? Неужто, Ханс запатентовал?
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #36, #61

25. Сообщение от Аноним (22), 08-Апр-24, 11:59	+/–
Да и при хранении файлов >4 Кб заметно место экономит.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #13 Ответы: #51

26. Сообщение от YetAnotherOnanym (ok), 08-Апр-24, 12:13	–3 +/–
Вобщем, Bcachefs - вычёркиваю. Годика через три-четыре потыкаю палочкой, если оно ещё будет.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #65

28. Сообщение от Аноним (-), 08-Апр-24, 12:15	+/–
> Это описался в слове zfs. Интересно за что ему 2 минуса? Только недавно эта штука била данные на рефлинках. При том в отличие от кента - инструментов для фиксов для побитого пула так вроде и не выкатили, только пообещав, не? А этот вот - подрасперся, и, вот - извольте получить. Все же более приятный вариант чем "а теперь пересоберите свой пул с ноля!"
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #10 Ответы: #72

29. Сообщение от scriptkiddis (?), 08-Апр-24, 12:25	+1 +/–
Лучше на fat32 сиди.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #22 Ответы: #48

30. Сообщение от scriptkiddis (?), 08-Апр-24, 12:29	+/–
Да.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #21

31. Сообщение от а што не так (?), 08-Апр-24, 12:47	+/–
Использую f2fs на дисках с черепичной записью работает быстрее чем ext4.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #21 Ответы: #40

32. Сообщение от Аноним (-), 08-Апр-24, 13:37	+1 +/–
> Типа существуют люди, которые повредили эту фс и так и сидели ждали этот патч? Типа, проблема возникала в МНОГОДИСКОВЫХ ПУЛАХ. И с учетом такой небольшой особенности - возможно это даже имело некий смысл. Учитывая времена операций с многодисковыми конфигами, чего доброго еще и большими. А, да, вы же не использовали экспериментальную ФС прям в живом проде, я надеюсь?!
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #9 Ответы: #87

33. Сообщение от Аноним (33), 08-Апр-24, 13:39	–1 +/–
Надежность ext* существует только в сферическом вакууме, где физические диски работают идеально. Ведь она никак не проверяет целостность читаемых данных. То есть в типичной пользовательской системе из одного диска без избыточности/рейдов, вы о тихой порче данных просто не узнаете. А Btrfs монтированная с опцией flushoncommit устойчива к любым внезапным сбоям, ведь вся концепция CoW как раз строится на том, что фс просто не может находиться в невалидном состоянии. Ну и проверка целостности читаемых данных не позволяет тихую порчу.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #21 Ответы: #38

34. Сообщение от Аноним (-), 08-Апр-24, 13:40	+/–
> Пока посижу на ReiserFS. Благо, что ядро 6.1 обещают сильно долго LTS. fsck еще не забывай запускать, особенно если виртуалки на диске хранятся. Тебе понравится, ибо чужие деревья эта штука может укатать в ФС одной левой. А вот потом - это таки не bcachefs, и информации для рекавери в этом случае уже таки - нет. Так что если данные вдруг нужны - познаете прелести testdisk и photorec как раз.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #22 Ответы: #49

35. Сообщение от Аноним (-), 08-Апр-24, 13:45	+/–
> Повреждаем Bcachefs, запускаем восстановление, параллельным процессом сканируем > процесс восстановления и получаем etc/passwd. Бинго! Это ты еще не видел что testdisk и photorec могут. Я вон с найденой флехи undelete-нул пачку музыкальных треков. Чисто поугорать, "сколько удастся вынуть". Вынулось 90% объема флехи. Правда, музыкальные вкусы владельца флехи оказались уг, но тут уж заранее не угадаешь. Там правда NTFS был, но какая нахрен разница...
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #14 Ответы: #41

36. Сообщение от Аноним (-), 08-Апр-24, 13:48	+/–
> Чего все разработчики ФС используют B-tree, почему бы не попробовать Dancing Tree, > как у Райзера? Неужто, Ханс запатентовал? То что академ концепции хороши - на бумаге. А в реальном мире - есть куча оврагов.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #24 Ответы: #46, #74

37. Сообщение от Аноним (-), 08-Апр-24, 13:50	+1 +/–
> Ну так правильно, сегодня все уже знают, что можно только gnu ddsrescue > использовать для такого. Безграмотные остались в прошлом. Можно также myrescue и WHDD - с энными оговорками, и понимая что и зачем делается. В советах был тематический треп с gumanzoy - при интересе к тотпику рекомендую, этот ник где-то примелькался в том контексте и по нему можно найти ряд интересных тулсов на тему. Если оно вам надо.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #20

38. Сообщение от Аноним (5), 08-Апр-24, 14:05	+/–
У меня ext4 пережила примерно 50 разлетевшихся журналов подряд и даже ничего не потеряла каким-то чудом (пару раз пришлось ресетнуть аддоны и кэши браузера). Для сравнения ntfs у меня достаточно часто теряла/повреждала данные (которые повреждать не должна была, если бы это была ext4) и ей для этого хватало пару бсодов словить. А вот btrfs достаточно легко приводится в состояние, в котором из неё извлечь нельзя ничего. Недавно вон она сама себя приводила к подобным повреждениям.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #33 Ответы: #39, #58

39. Сообщение от Аноним (33), 08-Апр-24, 15:40	+1 +/–
Ничего не потеряла = просто отсутствие проверки на битые файлы. Что собственно подтверждается вашим же предложением о ресете браузера. Тихое повреждение содержимого файлов это гораздо хуже, чем просто их потеря, ведь это ведет к абсолютно непредсказуемым результатам. И эти же битые файлы потом могут в бэкап уйти, заменив их нормальные версии. А когда выяснится, будет уже поздно. Да и вообще битье может произойти на многих уровнях, поэтому проверка целостности маст хэв. И btrfs все правильно делает, что не дает читать битые файлы или даже монтировать фс вообще при намеке на ее развал. Короче бэкапы нужно делать, а не надеяться, что данные "каким-то чудом" удасться восстановить.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #38 Ответы: #43, #47

40. Сообщение от Kuromi (ok), 08-Апр-24, 15:42	+2 +/–
Логично, f2fs же log-based. Другой вопрос что в  идеале не надо было SMR использовать вообще.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #31 Ответы: #88

41. Сообщение от Kuromi (ok), 08-Апр-24, 15:51	+/–
Ну так они ищут файл по сигнатурам, особенно хорошо работает если фрагментация мала. Если ФС не шифрует файлы то в принципе с любой так можно вытащить.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #35 Ответы: #57

42. Сообщение от qweo (?), 08-Апр-24, 15:58	+/–
На чём обжёгся? Избегаю это поделие, но полагал, что за 15 лет довели кодовую базу до вменяемого состояние. Преждевременно?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #22 Ответы: #54

43. Сообщение от Аноним (5), 08-Апр-24, 16:04	–1 +/–
Данные были на разделе с data=writeback, что не является умолчанием. 1 раз у меня файл .bash_history рута оказался заполнен мусором. Это после тысяч повреждений, если бы что-то случилось, это бы обнаружилось достаточно быстро (у большинства файлов хэши и/или контроль целостности). Записанные файлы и не должны повреждаться. Файлы, открытые на запись, будут повреждаться в любом случае, тут ни одна ФС не поможет. В общем, ext4 зарекомендовала себя достаточно хорошо. А вот бртфс вечно то рассыпается из-за видеодрайвера, то ещё что.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #39 Ответы: #44

44. Сообщение от Аноним (33), 08-Апр-24, 16:47	+1 +/–
> Файлы, открытые на запись, будут повреждаться в любом случае, тут ни одна ФС не поможет. А вот это неправда. Почитайте принципы работы Copy-on-Write и зачем его вообще придумали. Такие фс не пишут поверх существующих данных, а всегда создается новый экстент, синкается на диск, и только затем атомарно подменяется указатель в дереве. Это гарантирует, что в любой момент времени файл всегда в валидном состоянии. То есть после сбоя файл всегда будет либо в старом состоянии (до записи), либо в новом (после записи), и никогда посередине. И тем более не может оказаться с рандомным мусором вместо содержимого.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #43 Ответы: #45

45. Сообщение от Аноним (5), 08-Апр-24, 17:15	+/–
Ещё как правда. Дело не в записи, дело в повреждении данных при частичной записи. И это мне казалось, что 100к фрагментов на 10мб файл на ext4 это уже слишком фрагментировано, бтрфс поможет вывести фрагментацию на новый уровень? А сколько записей впустую при этом совершает? На самом деле, конечно, главный довод против бтрфс -- это необходимость регулярной ребалансировки деревьев.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #44 Ответы: #53

46. Сообщение от Аноним (21), 08-Апр-24, 17:28	+/–
> А в реальном мире - есть куча оврагов Типа личной неприязни руководителя проекта? Ну да, убедили.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #36 Ответы: #60

47. Сообщение от Аноним (21), 08-Апр-24, 17:32	+/–
Вот я и хочу понять, bcache - просто это ext4 с добавленными чексуммами и прочими радостями, улучшающими экспириенс пользователе? Или это очередной монстр, предназначенный для замены вообще всего блочного стека, включая всякие lvm/raid6/..., который периодически будет разваливаться под собственной тяжестью и без посторонней помощи, в результате чего бэкапы будут нужны не "когда диск сломался", а стабильно раз в несколько месяцев.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #39 Ответы: #50, #73, #89

48. Сообщение от Аноним (22), 08-Апр-24, 17:41	+1 +/–
UNIX Rights, Extendet attributes, POSIX ACL?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #29 Ответы: #79

49. Сообщение от Аноним (22), 08-Апр-24, 17:45	+/–
--rebuild-tree ни разу не подвёл.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #34 Ответы: #52

50. Сообщение от Аноним (33), 08-Апр-24, 17:52	+1 +/–
Нет, ничего общего с ext4. Она навороченая, ближе к zfs и btrfs, и тоже CoW.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #47

51. Сообщение от Аноним (-), 08-Апр-24, 17:56	–1 +/–
> Да и при хранении файлов >4 Кб заметно место экономит. Да вот знаете ли btrfs и сабж тоже так умеют. Ибо нет монополии на inline хранение файлов и tailpacking. А не умеет это все только совсем уж окаменелый хлам. Для новых дизайнов это уже джентльменским минимумом считается.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #25

52. Сообщение от Аноним (-), 08-Апр-24, 18:00	+/–
> --rebuild-tree ни разу не подвёл. А ты пару RAW образов виртуалочек на файлуху разложи! Заодно потом и посмотришь как тебе такой NOTABUG/WONTFIX. И в этом месте начнешь догадываться почему в современном мире рейзера за что-то не лю. Эти клоуны не догадались валидацию "чье это дерево вообще?!" делать. Могут чужое в файлуху раскатать - с понятным результатом.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #49 Ответы: #83, #125, #147

53. Сообщение от Аноним (33), 08-Апр-24, 18:01	+/–
> Дело не в записи, дело в повреждении данных при частичной записи. О том и речь. CoW исключает частичную запись. Блок либо запишется полностью и валидно, либо не запишется совсем, среднего не дано. В этом суть самой технологии. > бтрфс поможет вывести фрагментацию на новый уровень? Если трогать большой файл частичными перезаписями - да. Особенно страдают вещи типа образов виртуальных машин и прочие базы данных. Но это исключительные случаи, для которых CoW можно отключить индивидуально при желании. > На самом деле, конечно, главный довод против бтрфс -- это необходимость регулярной ребалансировки деревьев. Сколько лет с ней живу, ни разу не приходилось.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #45 Ответы: #68

54. Сообщение от Аноним (54), 08-Апр-24, 18:11	+/–
Оказалось, что маловато напряжение по 5 В (4.76), хотя, считал, что этого достаточно. До этого использовались ReiserFS, тоже иногда повреждались, но reiserfsck --rebuild-tree всегда отрабатывала безотказно, как автомат Калашникова. Сервисная утилита Btrfs после такого сказала, что на разделе ФС отсутствует, точка. Вернулся к использованию ReiserFS. Теперь на Uпит. больше обращаю внимания, но от btrfs.fsck неприятный осадочек остался. Теперь знаю, что если что, не вывезет.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #42

57. Сообщение от Аноним (-), 08-Апр-24, 18:15	+1 +/–
> Ну так они ищут файл по сигнатурам, особенно хорошо работает если фрагментация > мала. Если ФС не шифрует файлы то в принципе с любой > так можно вытащить. Ну дык. Я и не понимаю что тот наивный чукотский юноша ужасается. Если мне в лапы попадется его диск - я ему такое досье на него выну которое он якобы-стер, что /etc/passwd ему покажется сущими мелочами. Вы же понимаете что ФС реально не затирают файлы после "удаления"? Как самый максимум, trim на ssd может быть, когда-нибудь и занулит, и то опционально... (не, в синхронном режиме его не прикольно, записи тормозит, а когда там у энной ФС "когда-нибудь" наступает - отдельный вопрос).
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #41

58. Сообщение от Аноним (-), 08-Апр-24, 18:20	–1 +/–
> У меня ext4 пережила примерно 50 разлетевшихся журналов подряд и даже ничего > не потеряла каким-то чудом (пару раз пришлось ресетнуть аддоны и кэши браузера). А некоторым другим, менее везучим господам, реплей битого журнала - сделал из ФС вермишель. Ожегшись на такой фигне господа аж чексумы журнала запилили. Так что счет чексум будет грузить и ваш проц. Но вот на основную область данных эта благодать не распостраняется - так что о битроте, глючном жележе, накопителях или софте - вы таки узнаете последним. Когда факап настолько очевиден что игнорить его уже не получается. > для этого хватало пару бсодов словить. Еще прикольнее если она рушится так что при попытке монтирования винды улетают в бсод. Юзер на соседний комп. А там тоже - бсод. Юзер в панике - "а данные то теперь вынуть как?!?". > А вот btrfs достаточно легко приводится в состояние, в котором из неё > извлечь нельзя ничего. Недавно вон она сама себя приводила к подобным повреждениям. Да ну фигня. Там кроме всего прочего офлайн-читалка в тулсах есть, если уж мы про извлечь из нее. У Кента вот именно такой штуки вроде до сих пор нету. Впрочем идея ребилда деревьев по остаткам из inode/dirent это тоже довольно красиво. Но имеет свои ограничения.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #38

59. Сообщение от нах. (?), 08-Апр-24, 18:29	+/–
А обещанной внешней fsck - так и не написал, видимо, потому что взялся сразу ее писать на хрусте?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #16 Ответы: #66, #93

60. Сообщение от Аноним (-), 08-Апр-24, 18:29	+/–
>> А в реальном мире - есть куча оврагов > Типа личной неприязни руководителя проекта? Ну да, убедили. Типа того факта что на практике - если фс использовать по назначению - вон то прекрасно работает. А патологические случаи выискивают в освновном академики. При том большой вопрос что будет если в их ФС в целом - потыкать палочкой с тем же целеполаганием. Любую ФС можно сильно просадить неудачным целенаправленным паттерном целящим в ее слабые места. И я не думаю что академФС будет лучше в этом смысле, наверняка найдется кейс который господа не предусмотрели и продумали хреново. Сложность задачи в целом такая, что все взаимодействия не предугадаешь. А что до личной неприязни - знаете что? Даже фрик и раздолбай Кент в ядро пролез! Хоть и достал половину майнтайнеров. Если кто не может даже такой джентльменский минимум - ну, окей, значит пусть кодит все от и до сам, раз самый умный и лучше всех все знает, плевать хотев на соображения других участников проекта и их проблематику вообще откровенно возложив что-то на монитор. Нет, перехреначивать весь кернел для лично вас никто не будет. Хоть вы десять раз гениальны. Как максимум возможен плавный постепенный рефактор в нужную сторону. Если кто не может с этим фактом жить - окей, ему не место в линукс кернеле.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #46

61. Сообщение от нах. (?), 08-Апр-24, 18:31	+/–
потому что Ctrl-C/Ctrl-V А самостоятельно - нужно математическое образование. А его у них нет, и получите несходящиеся алгоритмы.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #24

63. Сообщение от anonymous (??), 08-Апр-24, 19:52	+1 +/–
Btrfs вообще никаким боком ни разу, именно работал над прозрачным кэшем для HDD через SSD и в процессе увлекся, понял что там всю "систему менять надо" и стал делать с 0 новую ФС.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #23 Ответы: #67

64. Сообщение от кент кента (?), 08-Апр-24, 20:12	+1 +/–
>как замену простым, как пробка, и надёжным, как весь гражданский флот, ext2/3/4? а с чего ты взял, что ехт4 простая и надежная? )))) у кента этого написано, что там кода и костылей больше, чем в btrfs (который на порядок сложнее). простая и надежная это xfs (тсс, открытые файлы оно обнуляло 15 лет назад).
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #21 Ответы: #71

65. Сообщение от кент кента (?), 08-Апр-24, 20:17	+/–
>Годика через три-четыре потыкаю палочкой, если оно ещё будет. у кента план, чтобы его FS пережила его самого. учитывая, плачевное состояние остальных фс (даже вашего "эталона" ехтN), вполне реально.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #26 Ответы: #85, #91

66. Сообщение от Аноним (-), 08-Апр-24, 22:09	+/–
> А обещанной внешней fsck - так и не написал, видимо, потому что взялся сразу > ее писать на хрусте? А таки - факап заделал. А как там ZFSники то - уже выкатили тул для фикса пула с рассыпоном от рефлинков? Или таки - "пересоздайте пул"? И кстати не мог бы ты ответить в соседнем топике iZEN'у на интереснейший вопрос - "поддерживает ли ZFS Linux"? :D В вот именно своем незабываемом стиле. Хочу посмотреть как назамутненный разум (или таки разумом?!) переварит такой ответ вообще! Я конечно могу и сам ему сказать, но без фирменного стиля подачи это будет уже не то!
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #59 Ответы: #70

67. Сообщение от Аноним (-), 08-Апр-24, 22:19	+/–
> Btrfs вообще никаким боком ни разу, именно работал над прозрачным кэшем для HDD > через SSD и в процессе увлекся, понял что там всю "систему менять надо" и стал > делать с 0 новую ФС. Если не считать того что большую часть алгоритмов и управления ФС Кент содрал оттуда, хоть и заметно переиначив в процессе - то да. Ессно хватает и отличий. Однако это тоже CoW, тоже с деревьями. Правда вместо больших Block Group - мелкие buckets, и логика работы с ними - другая. Тоже многодисковый, тоже обладает понятием subvolumes и снапшотов, и ключевые "продвинутые" вызовы к ФС, типа дедубликации экстента очень похожи. А заодно будучи автором bcache он допер до годной идеи, скрестить с иерархической хранилкой/кешом прямо на уровне рюхания избыточности и аллокатора. А пуркуа б ему да не па?! В этом смысле предыдущий чел чем-то прав. Это такой ответ на вопрос "а что если это задизайнить еще раз, с учетом всех уже известных грабель?!". И тогда получится - что-то типа вот этого вот. И вероятно новые продвинутые дизайны тоже будут следовать тем же паттернам. Потому что это неплохо работает и дает ряд интересных фич стоящих возни с ними.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #63

68. Сообщение от Аноним (-), 08-Апр-24, 22:30	+/–
> О том и речь. CoW исключает частичную запись. Блок либо запишется полностью > и валидно, либо не запишется совсем, среднего не дано. В этом > суть самой технологии. Этот фокус позволяет ему делать вещи от которых остальные в штаны бы обгадились. Типа, вот, неспешно конвертировать в другую схему RAID. А если покрешится в процессе - так и черт с ним, после перезапуска сможет продолжить это занятие без каких-то особых проблем. В силу вон той механики - на файлах сие не скажется. А на уровне аллокатора оно ок с смесью block group разных типов. Есть дефолтные с которым новые данные и метаданные пишутся, но смесь типов block group вполне рабочий сценарий. > Если трогать большой файл частичными перезаписями - да. Особенно страдают вещи типа > образов виртуальных машин и прочие базы данных. Просто надо сделать только 1 CoW. И снапшоты либо ФС - либо виртуализатором. А вот cow диск на cow файлухе - это уже довольно неудачная идея. Если уж хочется cow диск, логично его nocow сделать при большой нагрузке. >> На самом деле, конечно, главный довод против бтрфс -- это необходимость >> регулярной ребалансировки деревьев. > Сколько лет с ней живу, ни разу не приходилось. Удваиваю. Ребаланс реально нужен если девайсами маневрировать, типа убрали-добавили. В старых ядрах - еще если соотношение метаданных и данных радикаьлно изменилось. В новых - оно почти пустые block group само научилось в фоне подгребать и в этом месте конвергенция идей с сабжем стала просматриваться еще сильнее. Это такая часть логики рюхания buckets от Кента. Хоть и иная в деталях. А что, идеи можно таскать и в обе стороны :)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #53

69. Сообщение от DEF (?), 08-Апр-24, 22:37	+/–
>Btrfs сама ещё похлеще портит данные. Наглое безапеляционное вранье. Btrfs уже как 5 лет стабильна как скала и используется в корпоративном продакшене.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #3 Ответы: #77

70. Сообщение от нах. (?), 08-Апр-24, 22:53	+/–
> А таки - факап заделал. судя по оговорке - нет. > А как там ZFSники то - уже выкатили тул для фикса пула с рассыпоном от рефлинков? там ничего не рассыпается
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #66 Ответы: #75

71. Сообщение от Аноним (-), 08-Апр-24, 23:26	+/–
>>как замену простым, как пробка, и надёжным, как весь гражданский флот, ext2/3/4? > а с чего ты взял, что ехт4 простая и надежная? )))) у > кента этого написано, что там кода и костылей больше, чем в > btrfs (который на порядок сложнее). простая и надежная это xfs (тсс, > открытые файлы оно обнуляло 15 лет назад). Именно поэтому майнтайнер XFS панически сы...ся оттуда, заваленый багами от ботов. Логично! Не менее логично что online scrub этой пакости они корябают я уже забыл сколько. Но в общем давно, а воз и ныне там. Да и в целом - не понятен этот смысл натяжки совы на глобус. Как cow оно по фичам недопилок жуткий, да еще с кучей кода XFSv4 от дидов внагрузку, при том это булшит-бинго еще и без пути миграции, зато с обещанием дропнуть. И получился уродец. Он с одной стороны - таки довольно сложный, кривой и с кучей проблем. С другой до фич нормального cow недотягивает, а управление фс - ужасное. И вот нахрена оно такое вообще надо? Только редхат и знает. Видимо, все остальное было уже при деле - ну не JFS же было загребать к загребущим лапкам, в самом деле?! Но вот исход блочно-файлушников из редхата как бы намекает. Представляете? В шляпе полная шляпа - не осталось ни 1 известного имени по этой теме! Нате-ка вам индусского кота вместо этого от каких-то нонеймов.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #64

72. Сообщение от Минона (ok), 08-Апр-24, 23:26	+1 +/–
Ну куда ты со своим звездолетом да в калашный ряд! > "а теперь пересоберите свой пул с ноля!" Балбес, не пересобрать, а восстановить из бэкапа.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #28 Ответы: #76

73. Сообщение от Аноним (-), 08-Апр-24, 23:46	+/–
> Вот я и хочу понять, bcache - просто это ext4 с добавленными > чексуммами и прочими радостями, улучшающими экспириенс пользователе? Или это очередной > монстр, предназначенный для замены вообще всего блочного стека, включая всякие lvm/raid6/..., > который периодически будет разваливаться под собственной тяжестью и без посторонней помощи, > в результате чего бэкапы будут нужны не "когда диск сломался", а > стабильно раз в несколько месяцев. Называя вещи своими именами - вот тот классический стек как раз и норовит сдохнуть под своим весом. Потому что сколь-нибудь продвинутые взаимодействия, типа RAID, там кривы и безблагодатны. На стыке уровней теряется много инфо, продвинутые решения оно принимать не может. И вот вроде в RAID1 мы и видим что зеркала не сходятся - но какое из них правильное то? Вон те знают ответ на этот вопрос. А ваш горбатый запор EXT4 - увы и ах. Про то что управление местом на таких райдах полная дичь а снапшоты LVM такая штука что лучше бы их вообще не было дабы не позориться на публику - даже и упоминать неудобно. А представляете, ФС может быть простой в управлении и с продвинутыми фичами, типа снапшотов, рефлинков, УДОБНОГО raid'а расширяемого подтыканием i++ девайса без нагрева мозга выраваниемнием. А чексумы намекнут если у вас железо глючит. Только все это - не про тот окаменелый мусор. Там как максимум какая-нибудь хтонь типа сратиса, и вот если он облажается на каком-нибудь ресайзе фс и проч - там даже чемодан денег редхату может не помочь. Учитывая что майнтайнер XFS оттуда драп-драп - сами понимаете.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #47

74. Сообщение от maximnik0 (?), 09-Апр-24, 01:17	+/–
>попробовать Dancing Tree Было обсуждение лет 10 назад на Линукс орг,тестировали на райзер 4. В общем на новой фс все прекрасно,есть небольшой выигрыш по скорости,а дальше в эксплуатации начинается нюансы- в общем только в специфичных случаях выигрыш.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #36 Ответы: #102

75. Сообщение от Аноним (-), 09-Апр-24, 05:25	+/–
>> А таки - факап заделал. > судя по оговорке - нет. Таки мне его ход мыслей нравится. "Нет деревьев - перестроим заново!". Ну, типа как с битыми индексами у БД. Его дизайн вообще немного навеян движками БД. Он это и не скрывает. >> А как там ZFSники то - уже выкатили тул для фикса пула с рассыпоном от рефлинков? > там ничего не рассыпается А почему рекомендовали пул пересоздать? Чисто по приколу? Что-то не сходится.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #70 Ответы: #86

76. Сообщение от Аноним (-), 09-Апр-24, 05:29	+/–
> Ну куда ты со своим звездолетом да в калашный ряд! Да вы погодите - ща вам покажут чудеса телепортации фиги из кармана. Оставайтесь на связи. Вон там уже одним господам iXsystem показал немного магии. По сути задропав фрю к хренам. >> "а теперь пересоберите свой пул с ноля!" > Балбес, не пересобрать, а восстановить из бэкапа. Ну я очень приблизительно следил что там у вас в вашей помойке случается. Мне она не интересна, ни эксплуатационно, ни технологически. Гитхаб конечно интересно было почитать, на его фоне кент, пожалуй, за продакшн может сойти :)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #72 Ответы: #81

77. Сообщение от Аноним (-), 09-Апр-24, 05:36	+/–
>>Btrfs сама ещё похлеще портит данные. > Наглое безапеляционное вранье. Btrfs уже как 5 лет стабильна как скала и > используется в корпоративном продакшене. Ей мордокнига пару миилиардов юзерей обслуживает. Постоянно. Чартерными рейсами. На этом фоне вон те клоуны - админы локалхоста. У скольких из них БД на 30 терабайт вообще есть как у фэйсбука? А в результате протестированость и вообще качество ZFSного кода - походу дно, как показал инцидент с рефлинками. Баг влепленый "гуру" жил себе дохрена лет, всем пофиг. А вылез когда - в кои-то веки - от cow захотели чтобы он умел cow, надо же какая неожиданная хотелка! Только пот не понятно - с фига он ломаться от этого должен?! :)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #69 Ответы: #80, #90

78. Сообщение от Аноним (78), 09-Апр-24, 07:00	+/–
всегда читая новости про любую ФС делаю ставку, что в коментах напишут как потеряли данные на btrfs. Ставка всегда выигрывает, уже в архив мемов наверно можно.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #92

79. Сообщение от maximnik0 (?), 09-Апр-24, 07:40	+/–
>POSIX ACL? Был когда то костыль, называется UMSDOS если по названию память не подводит.Но это именно костыль, приклеенный к тому же скотчем.Легко ломался и обходился, достаточно было хитро переименовать файл.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #48

80. Сообщение от maximnik0 (?), 09-Апр-24, 08:15	+/–
>На этом фоне вон те клоуны - админы локалхоста Объясняю почему так происходит -у мордокниги железо наверное понадежнее,жёсткие и Флэш диски с усиленной контрольной суммой.Наверняка использует раиды с комбинерованной схемой и  кластерные решения- если где то и произошел сбой,автоматом сбойный сектор (да даже и диск с стойкой) помечается и подтянется исправный.Да и память тоже с 2-Q4   ECC .Вот и весь секрет, несмотря на объемы математика работает в пользу корпорации. А народ и меня бесит что в однодисковой конфигурации в 90 % повредилось 2-3 файла,но ФС не ремонтируется.Нету режима ремонта с потерями данных, да есть откат COW дерева,но не всегда помогает да и мягко говоря ошибиться вплоть до game over легко.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #77 Ответы: #82, #84, #96

81. Сообщение от Минона (ok), 09-Апр-24, 08:19	+/–
>> Ну куда ты со своим звездолетом да в калашный ряд! > Да вы погодите - ща вам покажут чудеса телепортации фиги из кармана. > Оставайтесь на связи. Вон там уже одним господам iXsystem показал немного > магии. По сути задропав фрю к хренам. Да причём фря то? Один хрен они в своих SCALE ZFS юзают, а не твой подбитый звездолёт. >>> "а теперь пересоберите свой пул с ноля!" >> Балбес, не пересобрать, а восстановить из бэкапа. > Ну я очень приблизительно следил что там у вас в вашей помойке > случается. Мне она не интересна, ни эксплуатационно, ни технологически. Гитхаб конечно > интересно было почитать, на его фоне кент, пожалуй, за продакшн может > сойти :) Да ты мануалы то читать не умеешь, куда тебе до кода.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #76 Ответы: #95

82. Сообщение от User (??), 09-Апр-24, 08:30	+1 +/–
Неее... для применения решений фейсбука - надо быть примерно фейсбуком. Иметь кучу данных на которые тебе настолько "пофиг", что просто "пофиг", реплицировать это все с определенной избыточностью на уровне сильно выше ФС по всему шарику, иметь возможность любую сбойнувшую железку выкинуть к чертям собачачьим и заменить на вот точно такую же - ну и так далее. В противном случае "решения фейсбука" вам ну вот примерно до лампочки и применить их у себя сколько-нибудь осмысленным образом вы не сможете.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #80 Ответы: #98, #136

83. Сообщение от User (??), 09-Апр-24, 08:38	+/–
На всякий случай - есть какая-то необходимость использовать именно raw формат?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #52 Ответы: #97

84. Сообщение от Минона (ok), 09-Апр-24, 08:51	+/–
>>На этом фоне вон те клоуны - админы локалхоста > Объясняю почему так происходит -у мордокниги железо наверное понадежнее,жёсткие и Флэш > диски с усиленной контрольной суммой.Наверняка использует раиды с комбинерованной схемой > и  кластерные решения- если где то и произошел сбой,автоматом сбойный > сектор (да даже и диск с стойкой) помечается и подтянется исправный.Да > и память тоже с 2-Q4 > ECC .Вот и весь секрет, несмотря на объемы математика работает в пользу > корпорации. Память у них действительно ЕСС ибо железо серверное. А вот диски обычные так как это расходник и должен быть дешевым. А надёжность обеспечивается распределённой кластерной ФС. > А народ и меня бесит что в однодисковой конфигурации в > 90 % повредилось 2-3 файла,но ФС не ремонтируется.Нету режима ремонта с > потерями данных, да есть откат COW дерева,но не всегда помогает да > и мягко говоря ошибиться вплоть до game over легко. Ты о чем, какой ремонт? Если повредились метаданные, то они там не в одном экземпляре. Если сами файлы, то восстанавливаешь из бэкапа.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #80 Ответы: #105

85. Сообщение от YetAnotherOnanym (ok), 09-Апр-24, 08:53	+/–
> плачевное состояние остальных фс А мужики-то не знают!
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #65

86. Сообщение от нах. (?), 09-Апр-24, 08:58	+/–
> Таки мне его ход мыслей нравится. "Нет деревьев - перестроим заново!". "но деревья снапшотов должны быть". Вместо - "ну хрен с ними, со снапшотами, раз уже побились до невосстановимого состояния - давайте их удалим и сохраним хотя бы текущее состояние пула". Как должно бы быть у нормального инструмента восстановления (и разумеется не встроенного намертво в ведро, где уже некому и некуда задавать вопросы - точно ли надо или ты еще вручную может что вытащишь) Но он его начал писать на нескучном языке, и, видимо, уже готовы кок и ридми, как обычно, а остальное может подождать пока он ублажит клиппи. >> там ничего не рассыпается > А почему рекомендовали пул пересоздать? о дурачках беспокоятся, неспособных разобраться что они делали и какие файлы могли пострадать. Они уже испорчены, избыточности тут нет, восстанавливать нечего. Можешь просто удалить, если знаешь, какие точно. Ну или забить - подумаешь пара котиков будут с артефактами.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #75 Ответы: #99

87. Сообщение от нах. (?), 09-Апр-24, 09:00	+/–
>> Типа существуют люди, которые повредили эту фс и так и сидели ждали этот патч? > Типа, проблема возникала в МНОГОДИСКОВЫХ ПУЛАХ. И с учетом такой небольшой особенности > - возможно это даже имело некий смысл. Учитывая времена операций с > многодисковыми конфигами, чего доброго еще и большими. А, да, вы же > не использовали экспериментальную ФС прям в живом проде, я надеюсь?! чувак, просивший патчи к немодному ведру - использовал на своем вполне живом (тогда еще) ноуте. Уж не знаю откуда взялся многодисковый пул (возможно это не единственное что ломалось), но содержимое ноута ему явно было неохота восстанавливать, даже если было с чего.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #32 Ответы: #100

88. Сообщение от нах. (?), 09-Апр-24, 09:01	+/–
> Логично, f2fs же log-based. Другой вопрос что в  идеале не надо > было SMR использовать вообще. найди мне 2t 2.5" диск для ноута без smr?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #40 Ответы: #108

89. Сообщение от нах. (?), 09-Апр-24, 09:03	+/–
> Вот я и хочу понять, bcache - просто это ext4 с добавленными нет, это адский оверинжиниренный трэш. Смысл его написания и назначение неведомы никому кроме его создателя. Кажется, он контрактует в компании, продающей наколеночной сборки насы, но это неточно. > чексуммами и прочими радостями, улучшающими экспириенс пользователе? Или это очередной чексуммы сами по себе экспириенс пользователя могут только ухудшить.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #47 Ответы: #101

90. Сообщение от Минона (ok), 09-Апр-24, 09:09	+/–
> Ей мордокнига пару миилиардов юзерей обслуживает. Постоянно. Чартерными рейсами. На этом > фоне вон те клоуны - админы локалхоста. У скольких из них > БД на 30 терабайт вообще есть как у фэйсбука? У церна больше. А вообще у меня файлохранилище на 20 тб, видеоархивы на 200+ тб. Сейчас ждём поставку дисков по 20 тб, вместо 4 и 6, так что эти 200+ вырастут до 1000+ тб.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #77 Ответы: #115

91. Сообщение от нах. (?), 09-Апр-24, 09:25	+/–
>>Годика через три-четыре потыкаю палочкой, если оно ещё будет. > у кента план, чтобы его FS пережила его самого. учитывая, плачевное состояние ну для этого он может прыгать под автобус прямщас, незачем четыре года ждать. > остальных фс (даже вашего "эталона" ехтN), вполне реально. "теперь есть n+1 несовместимых стандартов" И да, то что вся поделка держится на одном-единственном человеке, получающем зарплату в крошечной никому неведомой подвальной фирмешке - говорит нам о ее жизнеспособности. reizerfs прожила без автора пятнадцать лет и до сих пор используется. (и прожила бы дольше если бы ему хотя бы не мешали)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #65

92. Сообщение от нах. (?), 09-Апр-24, 09:28	+/–
> всегда читая новости про любую ФС делаю ставку, что в коментах напишут > как потеряли данные на btrfs ну зачем обязательно терять-то? Неужели тебя недостаточно радует "места дофига но его - НЕТ", с перспективой копирования пятерочки терабайтов куда-нибудь тудой, а весь мир подождет? Ентер-прайс куолити, не хрен собачий - орацл, новел и кто там еще не дадут соврать! Жаль они еще vmware в концессию не пригласили... а, стоп, у них у самих неплохо fsck вышел который ничего не чинит.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #78 Ответы: #103, #110

93. Сообщение от n00by (ok), 09-Апр-24, 09:47	+/–
> А обещанной внешней fsck - так и не написал, видимо, потому что > взялся сразу ее писать на хрусте? Потому что узнал, что ФС пользуется популярностью на Опеннет, и тут каждый желает ему помочь.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #59 Ответы: #94

94. Сообщение от нах. (?), 09-Апр-24, 09:57	+/–
Ну желают, и чего? Кодить-то не умеют... и деньгов нет.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #93

95. Сообщение от Аноним (-), 09-Апр-24, 09:59	+/–
> Да причём фря то? Хотя-бы при том что тут iZEN в соседнем топике отжог, спросив "поддерживает ли Linux ZFS". Было бы круто если пох ему объяснил на каких деревьях те булки ща растут. Я сам не смогу с нужным колоритом. > Один хрен они в своих SCALE ZFS юзают, а не твой подбитый звездолёт. ZFS это такой же звездолет, только он еще древний как г-но, управление вызывает лулзы, навигация доисторическая, судя по гиту - все уже наполовину забыли как это вообще работает. Да, еще летает, но почему-то желающие делать именно это, именно так - закончились пару столетий назад. Он конечно чем-то напоминает btrfs и сабж но видно что на пару поколений более древняя итерация технологии. А еще - в линухе существующая инфраструктура под ЭТО уже не приспособлено. Никто не парится. И это ваши проблемы как вы свою древность будете парковать вон там на базе. > Да ты мануалы то читать не умеешь, куда тебе до кода. Вполне умею, но это касается только интересных мне технологий. ZFS с его сочетанием энетрепрайзности с out of tree мне - просто не уперся. Как категория. Я себе не враг, пусть пох вон какой самым сложным способом все делает. Ему полезно. А я буду за простой и логичный менеджмент моих систем и минимум возни при эксплутатации.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #81 Ответы: #130

96. Сообщение от Аноним (-), 09-Апр-24, 10:10	+1 +/–
> Объясняю почему так происходит -у мордокниги железо наверное понадежнее, Ну как бы откровенное г-но они не берут, но - установите кучу систем, погоняйте эн лет, и таки увидите, сбои будут. Они хвалили отлов глючных контроллеров и железа. А помойка типа EXT4 будет тихо глюкать, пока совсем не развалится. > жёсткие и Флэш диски с усиленной контрольной суммой. У btrfs у самого чексумы есть. Поэтому какие там на накопителе - в общем то похрен, если избыточность есть. Даже если что и проскочит - будет зарублено. При том это проверяет все end to end, от проца и рамы до шин, накопителей и чего там еще. В чем фича и состоит. > Наверняка использует раиды с комбинерованной схемой и  кластерные решения- Нахрена оно им? Чтобы денег выкинуть побольше? С их масштабом - жаба удушит. Такие обычно делают резервирование и рекавери на другом уровне. Так что плюс-минус пару серваков в ауте никто вообще не заметит. > сектор (да даже и диск с стойкой) помечается и подтянется исправный.Да > и память тоже с 2-Q4 ECC Не, конечно можно глюкавить с просевшими 5V и памятью с алика, а потом плакаться на ФС... все  правильно сделали :)) > корпорации. А народ и меня бесит что в однодисковой конфигурации в > 90 % повредилось 2-3 файла,но ФС не ремонтируется. Ну я и воткнул его в DUP на такие штуки местами. Пару случайных бэдов раз в эн лет и проч стало переживать на ура, вообще без потерь. И глюки железа хайлайтит изумительно. > Нету режима ремонта с потерями данных, да есть откат COW дерева,но не всегда помогает да > и мягко говоря ошибиться вплоть до game over легко. Зато допустим DUP есть. Да, половину места потеряет. И записи тормознее. Зато - если что починится без потерь. А кент хочет вообще erasure coding забацать своей штуке, это поэффективнее по месту может быть. Пока не допилено. А починка с потерями - круто, ога, у меня libc6 и попортился случайным бэдом. И какой у вас на этот случай план, маэстро? Отношаться полдня с починкой тазика? Это голимый план!
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #80 Ответы: #104

97. Сообщение от Аноним (97), 09-Апр-24, 10:18	+/–
> На всякий случай - есть какая-то необходимость использовать именно raw формат? Да мало ли, может скачали такое. Или было transient при какой-то работе с виртуалками. Я например генерю себе виртуалки, RAW файло создать и взять в оборот мне тупо проще! По занимаемому месту - fallocate же. А потом я его может и прогоню конвертором qcow. Но структуры ФС от той штуки - в недрах стоража останутся же! И вот круто то будет если fsck втолкает в ФС хоста деревья с виртуалки. Эти дятлы были не в курсе что проверять FS UUID при таких операциях хорошая идея. Это как раз 1 известный способ получить "F...k you reiserfs!". Закрытый как notabug/wontfix. Видимо структуры не содержат нужного инфо и поздно пить боржоми. Зато остальных эта вермишель таки научила прихранивать вон то. Вот как раз поэтому.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #83 Ответы: #107

98. Сообщение от Минона (ok), 09-Апр-24, 10:19	+/–
> Неее... для применения решений фейсбука - надо быть примерно фейсбуком. Иметь кучу > данных на которые тебе настолько "пофиг", что просто "пофиг", реплицировать это > все с определенной избыточностью на уровне сильно выше ФС по всему > шарику, иметь возможность любую сбойнувшую железку выкинуть к чертям собачачьим и > заменить на вот точно такую же - ну и так далее. > В противном случае "решения фейсбука" вам ну вот примерно до лампочки и > применить их у себя сколько-нибудь осмысленным образом вы не сможете. Почему это не сможет? Берёшь батарею из писюков, набиваешь дисками, накатываешь какую нибудь кластерную ФС. И вуаля, ты "подкроватный Фейсбук ". Можешь складывать туда свои фоточки.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #82 Ответы: #106, #133

99. Сообщение от Аноним (-), 09-Апр-24, 10:24	+/–
> "но деревья снапшотов должны быть". Вместо - "ну хрен с ними, со > снапшотами, раз уже побились до невосстановимого состояния - давайте их удалим > и сохраним хотя бы текущее состояние пула". А таки для факапа такого уровня - сильно лучше чем ничего. Тем более в экспериментальной ФС. > Как должно бы быть у нормального инструмента восстановления (и разумеется не встроенного > намертво в ведро, где уже некому и некуда задавать вопросы - Вон то само по себе ничего особо вредного вроде не могет, кроме как вернуть доступ к файлам, перестроив индексы. Таки прикольно фигачит, держит марку. > кок и ридми, как обычно, а остальное может подождать пока он ублажит клиппи. Ты по моему с ZFSниками путаешь - это они там себя стабильными назвали, и решили потестить рефлинки прям в продакшне. Test failed successfully. Малаца. И вот кто тут после этого экспериментальная ФС еще, справшивается... > о дурачках беспокоятся, неспособных разобраться что они делали и какие файлы могли пострадать. Ну дык, диагностика той байды не особо очевидна. Так что логично что беспокоятся. > Ну или забить - подумаешь пара котиков будут с артефактами. Если котиков - может и пофиг. Но от ФС с чексумами юзеры такого в целом все же не ожидают. Особенно если ее stable назвали. У кента то отмазка - он "experimental". И честно написал.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #86

100. Сообщение от Аноним (-), 09-Апр-24, 10:27	+/–
> чувак, просивший патчи к немодному ведру - использовал на своем вполне живом > (тогда еще) ноуте. На ноуте по моему вон тот факап вообще довольно проблематично получить? Он срабатывает только на многодисковой конфиге. Если кому надо старое ядро, на ноуте, с многодисковой конфигой, про это есть анек - "сам топи урановые ломы в ртути!" > Уж не знаю откуда взялся многодисковый пул (возможно это не единственное что > ломалось), но содержимое ноута ему явно было неохота восстанавливать, даже если было с чего. На мой вкус чувак не развалится прогрейдиться до актуального ядра с такой конфигой. Прости, но бэкпортить Experimental фичи в старые кернелы - это все же немного изврат. Типа, вот, урановых ломов в ртути.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #87 Ответы: #138

101. Сообщение от Аноним (-), 09-Апр-24, 10:31	+/–
>> Вот я и хочу понять, bcache - просто это ext4 с добавленными > нет, это адский оверинжиниренный трэш. Если сравнить это с ZFSом - так тот в цать раз жирнее. И как его тогда называть? :) > Смысл его написания и назначение неведомы никому кроме его создателя. Иерархическая хранилка с CoW и RAID'ами то? По моему вполне клево задумано. > Кажется, он контрактует в компании, продающей наколеночной сборки насы, но это неточно. Со временем до тех дойдет что менеджмент NAS может быть простым, логичным, без траха с выравниваниями, возможностью отрастить или даже сдуть по мере надобности и проч. >> чексуммами и прочими радостями, улучшающими экспириенс пользователе? Или это очередной > чексуммы сами по себе экспириенс пользователя могут только ухудшить. Это почему? Если я выкину глючный проц, оперативу, шнурок, питальник, стораж и проч - это спасет меня от множества горя.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #89 Ответы: #113

102. Сообщение от Аноним (-), 09-Апр-24, 10:33	+/–
> В общем на новой фс все прекрасно,есть небольшой выигрыш по скорости,а дальше > в эксплуатации начинается нюансы- в общем только в специфичных случаях выигрыш. Еще более интересные нюансы начнутся когда окажется что например сторажи отказывают не так как это себе возомнили академики. Откуда и идея что крутая теория - ни о чем без отлаженной, протестированной реализации подкостыленой под реальный мир.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #74

103. Сообщение от Аноним (-), 09-Апр-24, 10:37	+/–
> ну зачем обязательно терять-то? Неужели тебя недостаточно радует "места дофига но его > - НЕТ", с перспективой копирования пятерочки терабайтов куда-нибудь тудой, а весь > мир подождет? Они в новых кернелах вообще по этому поводу сдедали ... авто-GC почти пустых block groups, откосплеив идею кента с buckets. > Ентер-прайс куолити, не хрен собачий - орацл, новел и кто там еще не дадут соврать! Судя по гитхабу ZFS - даже не врут, у тех на гитхабе куда более злой трэш. > Жаль они еще vmware в концессию не пригласили... а, стоп, у них > у самих неплохо fsck вышел который ничего не чинит. А нафиг им vmware или vmware'у - btrfs? Да и скушали уже вашу вмвару.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #92

104. Сообщение от maximnik0 (?), 09-Апр-24, 11:07	+/–
>И какой у вас на этот случай план, маэстро? Отношаться полдня с починкой тазика Самый плохой бэд ,это вы правильно заметили.Но если из диагностики фс известно что этот файл того- я его вытащу в первую очередь..... Из кэша Deb пакетов.2 или 3 команды чтобы узнать какому пакету принадлежит файл и его переставить.Внезапно,опыт был- не пропьешь.Снесло когда то на ровном месте- ещё ext3 полдиска при плановой проверке fsck - 200 мгб файлов.Как не Удивительно ,но система ещё грузилась, т.к я сделал лайв загрузку аварийную :-) Но бэкапы были только на пользовательские данные ,так мне подсказали скрипт для проверки на битые файлы и восстановление с пакетного менеджера.Да,был бы бэкап за полчаса управился ,а так на 2 часа удовольствие растянулось :-( Система заработала.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #96 Ответы: #114

105. Сообщение от maximnik0 (?), 09-Апр-24, 11:19	+/–
>Ты о чем, какой ремонт Пишет тебе такие то файлы не корректные (+ может быть и методанные) , ладно поченить не получается -откатываешься по COW .Есть шанс что теперь методанные не сойдутся ,т.к эти данные были в методанных (мелкие файлы)- режим RO ,и пару повреждённых файлов которые не удалить не можешь, не поченить.Из за 4 мгб данных (к примеру)  переустанавливать на 10 Гб , так себе решение.Нету fsck которые эти некорректные данные снёс с разрешения юзера, сейчас именно упакованные мелкие файлы в метаданных есть слабое место btrfs в однодисковой конфигураци.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #84

106. Сообщение от User (??), 09-Апр-24, 12:33	+/–
>[оверквотинг удален] >> данных на которые тебе настолько "пофиг", что просто "пофиг", реплицировать это >> все с определенной избыточностью на уровне сильно выше ФС по всему >> шарику, иметь возможность любую сбойнувшую железку выкинуть к чертям собачачьим и >> заменить на вот точно такую же - ну и так далее. >> В противном случае "решения фейсбука" вам ну вот примерно до лампочки и >> применить их у себя сколько-нибудь осмысленным образом вы не сможете. > Почему это не сможет? > Берёшь батарею из писюков, набиваешь дисками, накатываешь какую нибудь кластерную ФС. > И вуаля, ты "подкроватный Фейсбук ". > Можешь складывать туда свои фоточки. Не, ну попробовать можно, да. У меня даже ведерочко попкорна есть....
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #98

107. Сообщение от User (??), 09-Апр-24, 12:34	+/–
>[оверквотинг удален] > взять в оборот мне тупо проще! По занимаемому месту - fallocate > же. А потом я его может и прогоню конвертором qcow. Но > структуры ФС от той штуки - в недрах стоража останутся же! > И вот круто то будет если fsck втолкает в ФС хоста > деревья с виртуалки. Эти дятлы были не в курсе что проверять > FS UUID при таких операциях хорошая идея. > Это как раз 1 известный способ получить "F...k you reiserfs!". Закрытый как > notabug/wontfix. Видимо структуры не содержат нужного инфо и поздно пить боржоми. > Зато остальных эта вермишель таки научила прихранивать вон то. Вот как > раз поэтому. Ну оооок. У меня зубов в труднодоступных местах нет - но я верю, что эти конкретные - острые весьма.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #97 Ответы: #117

108. Сообщение от maximnik0 (?), 09-Апр-24, 18:05	+/–
>найди мне 2t 2.5" диск для ноута без smr? Есть ещё в продаже модель (используется в внешних коробочках Seagate Backup Plus Slim ,но могли  и сменить,т.к очень древняя модель) Seagate Samsung Spinpoint M9T ST2000LM003 2TB Но цена дикая :-(
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #88

109. Сообщение от Аноним (109), 09-Апр-24, 18:30	+/–
У неё прям в названии написано, что она не простая (>bcache<fs). Но можно сказать, что CoW постепенно обретает человеческое лицо (ZFS => btrfs => bcachefs). Мне интересна, потому что нет в природе "ext5" с фичами NTFS (сжатие файлов, VSS-снапшоты, невозможность "исчерпания inode").
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #21 Ответы: #111

110. Сообщение от maximnik0 (?), 09-Апр-24, 18:38	+/–
>места дофига но его - НЕТ Починили этот баг,уже давно, 8 лет должно быть.У ext4 не хватало инод, а у btrfs места, что сбивало с толку.А на самом деле Были напиленные полоски -страйпы: данные_методанные.Но при работе с мелкими файлами ( пишуться в методанные) или очень мелкими изменениями в БД без режима отключения COW  кончалось место на страйпе с методанными,хорошо если балансировка помогала.Сейчас добавили возможность выделение дополнительного объема для страйпа с методанными - да, это косяк разработчиков ,они не учли что методанные в COW могут нарастать нетипично быстро,что фоновая балансировка обгадиться. Сам напаривался на этот косяк- потом в течение 5 лет проверял на приложение либрусек когда починят.Есть ещё косяк с удалением-созданием мелких файлов (баг Шишкина) - но с включенной компрессией баг сглаживается, и только специально можно будет вывести эту фс.Опять же при отключенных квотах для юзера.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #92 Ответы: #112, #119

111. Сообщение от maximnik0 (?), 09-Апр-24, 23:03	+/–
>Мне интересна, потому что нет в природе "ext5" с фичами NTFS (сжатие файлов, У Алана было ядро с NEXT4.Там единственное что иноды можно было исчерпать,но посредством пары команд можно было и добавить место под иноды.Том получался под "эмуляцией" LVM,использовали свои костыли.Отказались т.к вышел дикобраз- и скорости уже нету, и надежности-то снапшоты отвалиться,то сжатые файлы.А рук довести этот дикобраз не нашлось,они сами уже планировали поломать совместимость, т.к костыли мешали.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #109

112. Сообщение от нах. (?), 09-Апр-24, 23:35	+/–
> У ext4 не хватало инод нехватка инод - это не "места дофига", это иноды кончились. Видно в df, легко отслеживается и освобождается командой rm без плясок с бубном (и решаемо при создании fs даже при статических inodes). Тут - баг by design, подпертый костыликом. И неважно насколько "давно" - важно сколько лет с этим багом жили (примерно тоже восемь). Да и костылик кривоват. Т.е. об этом должны были подумать авторы изначальной концепции (вот ровно в тот момент, когда у них в дизайне завелась асинхронная операция) - но им было нечем и некогда. При том что их был целый комитет работников на зарплате. (Вот с математическим образованием - похоже, никого.) Можно проэкстраполировать о чем и в каком количестве не успел подумать единственный затраханный автор новой fs... ну и отойти подальше, чтоб не засыпало обломками. (С математическим образованием у него тоже явно все плохо - судя по (опять!) выбору btree без приведения доказательств. По этой же причине работающего EC не ждите, там все куда сложнее, это в мире всего три человека понимали.)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #110 Ответы: #116

113. Сообщение от нах. (?), 09-Апр-24, 23:58	+/–
> Если сравнить это с ZFSом - так тот в цать раз жирнее. Мнение местного специалиста ни в чем - очень важно для нас. >> Смысл его написания и назначение неведомы никому кроме его создателя. > Иерархическая хранилка с CoW и RAID'ами то? По моему вполне клево задумано. "но нет таких задач и железа" > Это почему? Если я выкину глючный проц, оперативу, шнурок, питальник, стораж и проч - это спасет > меня от множества горя. но пока ты не выкинул даже флэшки из самой нижней строчки алиэкспресса.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #101 Ответы: #118

114. Сообщение от Аноним (-), 10-Апр-24, 07:53	+/–
> Самый плохой бэд ,это вы правильно заметили.Но если из диагностики фс известно > что этот файл того- я его вытащу в первую очередь..... Я предпочту чтобы ЭТО мне не требовалось, если данные и работающие системы нужны. В этом случае речь уже идет о профаченой доступности систем и мануальных запрыгах. А оно мне надо? > Из кэша Deb пакетов.2 или 3 команды чтобы узнать какому пакету принадлежит > файл и его переставить. Btrfs вообще при проблемах в dmesg пишет к чему сбоящий блок относился. Только это намного лучше с уточнением что сие - fixed. Так что вместо того запрыга нормальное продолжение работа. Со своей стороны я рад что Кент считает как-то так же. А вы можете выковыривать побитые файлики. > месте- ещё ext3 полдиска при плановой проверке fsck - 200 мгб > файлов.Как не Удивительно ,но система ещё грузилась, Вот это все - ниоткуда не следует. И весь этот ваш fsck при старте систем - я тоже в гробу видал, скажем прямо. Особенно - с современными емкостями накопителей. Тупиковый путь эволюции ФС, уже дошел до своих логических пределов. > пакетного менеджера.Да,был бы бэкап за полчаса управился ,а так на 2 > часа удовольствие растянулось :-( Система заработала. А я таки придушил в ряде мест жабу и сделал DUP или, где можно, RAID1 - и так не очень крутые случайные взбрыки просто заруливаются в фоне. Автоматически. Без моего участия. Так намного прикольнее. Ну да, если годами гонять на глюкавой системе с рушеной RAM, просевшим 5V или чем там еще - может что и произойдет. Но я начну дергаться с выяснением что у меня за проблемы после первых нескольких "csum failed". Стабильно работающее железо - спасет меня от чертовой кучи неприятных сюрпризов.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #104 Ответы: #122

115. Сообщение от Аноним (115), 10-Апр-24, 08:00	–1 +/–
>> БД на 30 терабайт вообще есть как у фэйсбука? > У церна больше. "Completely missed point". Меня в том контексте больше интересует даже не база и не сам ее размер - сколько факт что пару миллиардов хомяков дружно и активно вытаптывают поляну. При этом они обречены прозвонить даже очень экзотичные закоулки кодовой базы. А у церна может быть - что угодно. Но это - с каким количеством юзеров и их уровнем активности? И как это с миллиардами юзерей книги относится? Ну вон они и тестят рефлинки прям на пользаках в проде в результате. > А вообще у меня файлохранилище на 20 тб, видеоархивы на 200+ тб. > Сейчас ждём поставку дисков по 20 тб, вместо 4 и 6, так > что эти 200+ вырастут до 1000+ тб. А вот именно баз - чего именно активно эксплуатируемых - на 30 Тб у вас таки врядли есть. Довольно экзотичнай штука. Поэтому разваливается ли у вас что-то на 25-м терабайте - ну, кому оно надо тот прям своей тушкой и узнает, фигли.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #90 Ответы: #137

116. Сообщение от maximnik0 (?), 10-Апр-24, 08:20	+/–
>По этой же причине работающего EC не ждите, там все куда сложнее, это в мире всего три человека понимали.) Прошу пояснительную бригаду - похоже про эту тему 10 человек вообще читали.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #112 Ответы: #121

117. Сообщение от Аноним (-), 10-Апр-24, 08:24	+/–
>> Зато остальных эта вермишель таки научила прихранивать вон то. Вот как >> раз поэтому. > Ну оооок. У меня зубов в труднодоступных местах нет - но я > верю, что эти конкретные - острые весьма. Ну вот народ периодически нарывается характерным паттерном: "readonly fs" -> fsck -> "f...k you reiserfs!!!1111". Вон то 1 из известных способов проследовать тем маршрутом. Ну я и подсказал челу которому нравится рейзерский fsck как добавить остроты ощущениям при его работе :)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #107

118. Сообщение от Аноним (-), 10-Апр-24, 08:48	+/–
>> Если сравнить это с ZFSом - так тот в цать раз жирнее. > Мнение местного специалиста ни в чем - очень важно для нас. Тебя что, на кернелорге забанили? Посмотри в дереве гита кернела размер кода bcachefs. Пока еще - не такой уж и монстр. Правда я подозреваю что это, возможно, временно. Еще никто не ушел от раздувания кода по мере девелопа софта. >> Иерархическая хранилка с CoW и RAID'ами то? По моему вполне клево задумано. > "но нет таких задач и железа" Вон те толпы с bcache с тобой не согласны. А с сабжем они смогут не заниматься этим костылированием - и работать будет лучше. Ибо о рассыпоне кеша ФС будет куда более явно в курсе, а не так что - "простите, полфайлухи внезапно профакалось, а ФС на такое не расчитаны". > но пока ты не выкинул даже флэшки из самой нижней строчки алиэкспресса. Из любого бага можно сделать фичу, если подойти креативно. Теперь это реалистичный стрестестер файлух, довольно правдоподобно показывающий что с той или иной ФС бу при утечке заряда :).
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #113 Ответы: #120

119. Сообщение от Аноним (-), 10-Апр-24, 09:17	+/–
>>места дофига но его - НЕТ > Починили этот баг,уже давно, 8 лет должно быть.У ext4 не хватало инод, При том вот это вот - как я понимаю абсолютно фатально. Ибо динамическую аллокацию инод оно не умеет. И если с data/metadata ratio не угадали - все, это полный болт, лечится только пересозданием ФС как я понимаю. > отключения COW  кончалось место на страйпе с методанными,хорошо если балансировка помогала. На самом деле суть проблемы опять же сводится к data/metadata ratio, а точнее к его резкому изменению. Btrfs аллоцирует место на девайсах чанками, называемыми block group. Типично оно весит около гига. В нем или данные, или метаданные. Есть режим mixed bg, когда в чанк и то и другое можно, спецом для мелких девайсов. Но в нормальном виде он не рекомендуется. А если соотношение данных и метаданных РЕЗКО меняется - и место уже аллоцировано под bg конкретных типов, возможна ситуация когда место есть, но - "неправильного типа". Как то хотели скажем данные, а есть - в метаданных. Или наоборот. Баланс это лечит, делая радикальный GC и расчищая сколько-то места в совсем-unallocated, без конкретного типа и block groups на нем. Так что можно выделить под нужный тип места. Кент посмотрел на это дело, и идею переиграл. Сделав аллокацию места относительно мелкими buckets по несколько мегов, которые его фс в фоне может GC'ить прямо по ходу дела. И соответственно у него этой проблемы - меньше. Btrfsники посмотрели на это дело - и несколько кернелов назад сделали - тадам - примерно такой же фоновый GC, который при случае целенаправленно расчищает почти пустые block groups. Чтобы это опять стало свободным местом без его конкретного предназначения. Что зело лучше чем мануальный пинок ребаланса. Такое вот тягание идей друг у друга. А почему нет?! > COW могут нарастать нетипично быстро,что фоновая балансировка обгадиться. Тем не менее, с всякими свежими твиками этот эффект более-менее зарулили даже на нагрузках уровня мордокниги вроде. Они там теперь целенаправлено разгребают почти пустые BG, при том для сложных требовательных случаев уровнем с мордокнигу - есть параметры которые можно покрутить. > Шишкина) - но с включенной компрессией баг сглаживается, и только специально > можно будет вывести эту фс.Опять же при отключенных квотах для юзера. Ну как бы специально можно любую ФС нагнуть. XFS например хтонически не любит кучу фрагментов, если качнуть торент без преаллокации на ...цать гигз - он стираться будет дольше чем качался, блин. А ext4... последний который у меня был, оказался довольно фрагментирован, его дефраг оказался не очень эффективен, и я нашел несколько очень раздутых дир, в которых были десятки-сотни тысяч файлов, и даже после стирания оных - дира не деаллоцируется, как и сказал пох. Более того - работа с такой дирой становится очень тормозной. В других ФС я не наблюдал этот эффект. Чисто EXT4'й прикол.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #110 Ответы: #124, #131

120. Сообщение от нах. (?), 10-Апр-24, 09:24	+/–
> Посмотри в дереве гита кернела размер кода bcachefs. бестолку смотреть на размер еще недописанного кода. К тому же еще и сравнивать портируемый код с linoops only - сравнивай с такими же л@п4@тыми поделками, бырбырфесе например. >> "но нет таких задач и железа" > Вон те толпы с bcache с тобой не согласны. это др-4еры. Задач у них - нет. Что там тому чуваку с тошибиным ноутом переставшим засыпать от улучшизмов - не спалось без модной фс? Да просто делать ему нефига было. Ну вот теперь есть чем заняться, чинить будет. А я опять вот в печали - кудыбечь. ceph доразвивался до окончательно неремонтируемой и неуправляемой каши, гластер и те два пшека - сдохли, вмварь говорит сперва паспорт поменяй потом разговаривать будем... и остается только SD. На единственноверной архитектуре под единственноверной ос.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #118 Ответы: #127

121. Сообщение от нах. (?), 10-Апр-24, 09:29	+/–
>>По этой же причине работающего EC не ждите, там все куда сложнее, это в мире всего три человека понимали.) > Прошу пояснительную бригаду - похоже про эту тему 10 человек вообще читали. erasure codes Можно ты воспользуешься поиском и я не буду в пятнадцатый раз пересказывать на каких ужасных соплях держится (но это неточно!) ВСЯ современная рэйд-технология? (а французишку вздумавшего всерьез ворошить эту тему - убили и съели!)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #116 Ответы: #123

122. Сообщение от maximnik0 (?), 10-Апр-24, 11:43	+/–
>А я таки придушил в ряде мест жабу и сделал DUP К чести btrfs при всех ее глюках я важные данные не разу терял.Тоже хоть и ворчу перешёл на нее, вкусностей у нее много,даже при консервативном использование.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #114 Ответы: #126

123. Сообщение от maximnik0 (?), 10-Апр-24, 12:01	+/–
Расшифровали понял. >это в мире всего три человека понимали Но это не точно, есть в Петербурге разработчики, они рэйд для реального времени сделали,для видиохостингов . Статья на Хабре называлась <Как разработчики сидели в Петербурге и тихо ели грибы, а потом написали ОС для систем хранения данных>
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #121 Ответы: #129

124. Сообщение от maximnik0 (?), 10-Апр-24, 12:09	+/–
>Ибо динамическую аллокацию инод оно не умеет. С помощью бубна и LVM это можно поправить. Но вообще-то Ари для аллокации инод было написано.На linux.org один из участников кернел групп под расстрельный список давал на тестирование утилиту для увеличения количества инод.Отказались от утилиты, т.к риск потери информации оказался слишком большим, особенно на фрагментированной фс.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #119 Ответы: #128

125. Сообщение от Аноним (125), 10-Апр-24, 13:24	+1 +/–
Клоуны - это те, кто не читает документацию прежде чем что-то делать. А потом визжит.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #52

126. Сообщение от Аноним (-), 10-Апр-24, 13:45	+/–
>>А я таки придушил в ряде мест жабу и сделал DUP > К чести btrfs при всех ее глюках я важные данные не разу > терял.Тоже хоть и ворчу перешёл на нее, вкусностей у нее много,даже > при консервативном использование. На самом деле - серебряных пуль не бывает. У всех дизайнов есть свои приколы и особенности. Если их немного понимать - тогда все будет норм. С btrfs'ом - не стоит юзать древние ядра, и забивать на вопли типа "csum error". Если они есть, окей, железо дурит и с этим - надо разобраться. И не только из-за btrfs, а вообще. На SSD иногда бывают "запроектные" аварии - типа потери очень большого сегмента. Но даже при этом обычно кто-то из суперов все же выживает. Остальное при наличии избыточности - чинябельно. В этом смысле - как минимум метаданные должны всегда быть RAID1 или DUP. Ну и если данные капец как нужны, а планы A, B и C обломались, их можно попытаться вынуть офлайн читалкой. Единственное что до резких движений типа пуска fsck с исправлением - лучше проконсультироваться с девами на тему то ли вы хотите сделать. А так - вон та ининциатива кента мне определенно нравится. Перестроить убитое дерево таки по своему красивая идея.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #122

127. Сообщение от Аноним (-), 10-Апр-24, 14:01	+/–
> бестолку смотреть на размер еще недописанного кода. Ну вообще-то большая часть заявленных фич так то уже на месте. Вместе с иерархической хранилкой и проч. При этом он пока вдвое компактнее btrfs'а. Не вижу на что жаловаться. Впрочем XFS в параде жирдяев дает мастеркласс. Вероятно из-за поддержки v4 и v5. Но вообще-то я их поздравляю - у них самая жирная кодовая база при никаких фичах. Надеюсь это отвечает на вопрос почему я считаю его тупиком эволюции. Вон уже сколько лет онлайн scrub пытаются. Видимо кастомерам не нравится полдня fsck гонять? :) > К тому же еще и сравнивать портируемый код с linoops only - сравнивай с такими же > л@п4@тыми поделками, бырбырфесе например. Так я и сравнил. А портабельность этой пакости на бсди какие мне интересна как зайцу стопсигнал. И если это приводит к спагетти вместо кода - и, вон, тестам рефлинков прям в проде, ну, круто, ты это и юзай, если тебе именно такие соотношения надо :) А там вон WinBTRFS есть. Но это отдельная кодовая база, которая мне на голову не гадит, и отдельные девы не пытающиеся редиректить хзкаких сов на глобус. >> Вон те толпы с bcache с тобой не согласны. > это др-4еры. Задач у них - нет. Что там тому чуваку с > тошибиным ноутом переставшим засыпать от улучшизмов - не спалось Среди них таки и всякие господа с какими-то энтерпрайзными SSD за кучу денег лезут. Врядли с ноутами. К btrfs'никам они лезут с вопросами вида "csum error - это баг в btrfs?!" -> "не, чувак, это у тебя SSD мрет - все брось и МЕНЯЙ ЕГО СЕЙЧАС!!!". А вон там у XFS/EXT4 такие же - "что значит, ФС капец?". Ну, блин. вот то и значит - не живет ФС если кеш совсем осыпался :) У кента фс это все видит не через идиотские абстракции теряющие ошибки, так что сможет куда лучше с этим разбираться, имхо. > без модной фс? Да просто делать ему нефига было. Ну вот теперь есть > чем заняться, чинить будет. Да там не в ФС дело - а в том что гоняют эту штуку, не замечая особых проблем, пока SSD не протрется совсем до дыр. Тогжа, конечно, замечают. В половине случаев - по крякнувшей ФС при том, да, такое сложно не заметить :) > А я опять вот в печали - кудыбечь. ceph доразвивался до окончательно > неремонтируемой и неуправляемой каши, гластер и те два пшека - сдохли, > вмварь говорит сперва паспорт поменяй потом разговаривать будем... и остается только > SD. На единственноверной архитектуре под единственноверной ос. Ну вот всякие кластерные и сетевые штуки - это все же не мое, тут уж сорь. У меня как видишь и правда довольно специфичные хотелки, которые с энтерпрайзом пересекаются далеко не на 100%.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #120

128. Сообщение от Аноним (-), 10-Апр-24, 14:18	+/–
>>Ибо динамическую аллокацию инод оно не умеет. > С помощью бубна и LVM это можно поправить. Получится хорошая иллюстрация на тему "given enough thrust pigs fly just fine" имхо. > Но вообще-то Ари для аллокации инод было написано. Никому не надо "апи для аллокации инод". Надо - работающие, более-менее безпроблемные решения. И чем оно меньше делает мозг и проще в управлении - там лучше. А в случае античной дисковой структуры - в ней просто не были предусмотрены современные фичи и/или серьезная расширяемость, а также полно груза совместимости. С точки зрения разработки хреновые соотношения получаются. Настолько что написать с ноля уже не выглядит глупой затеей. > от утилиты, т.к риск потери информации оказался слишком большим, особенно на > фрагментированной фс. Одна из проблем in-place дизайнов состоит в том что практически любой факап... 1) Может быть достаточно фатален, если лезет достаточно глубоко в дебри. 2) Многие продвинутые операции очень стремные. 3) Отыграть что либо взад - крайне сложно. Потому что изначально это не было предусмотрено совсем, старое состояние может быть уже разрушено. В этом смысле cow где сперва делается копия (возможно, с изменением схемы хранения и проч) а потом на нее "перевешивается указатель" если все прокатило - в целом менее дурацкая операция, к тому же как правило прощающая случай "не прокатило". У меня как-то слетело питание при рестрайпе RAID на btrfs в другую схему. Ну, перезагрузился - да запустил заново, оно и доделалось. Можно вообще не рестрайпить явно а только дефолт сменить, новые записи будут в новой схеме. И только. А что было бы на более классическом дизайне при таком фортеле я даже представить не берусь. Фанаты сратисов и LVM могут посмотреть что там, если не лениво сетапить операцию - при том что оно потенциально может сдохнуть, вероятно, если не повезет.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #124

129. Сообщение от нах. (?), 10-Апр-24, 18:54	+/–
точно, точно - от тех троих есть пруф. (Ну и от лягушатника вроде тоже но я не видел, может врутъ!) > Статья на Хабре называлась да видел я рекламу этих норкоманов. Как обычно - если твоей подвальной лавке понадобилась реклама на швабре - значит уволиться надо было еще месяц назад. Очередной мертворожденный импортозамещательный проект для несуществующих видимохостингов. Математику изучать пол-жизни для этого не нужно.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #123

130. Сообщение от iZEN (ok), 10-Апр-24, 20:26	+/–
Ты не отмораживайся, а ответь прямо: поддерживает ли линукс 6.9-rc3 "древнюю" ZFS (zfs-2.1.15)?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #95 Ответы: #132, #135

131. Сообщение от maximnik0 (?), 10-Апр-24, 23:21	+/–
>Чисто EXT4'й прикол. Но я уже несколько раз писал,разработчики костыль сделали чтобы это дело поправить. sudo fsck.ext4 -fD Где D optimize_extens. Принудительно перестраивает таблицу экстентов когда из за риска потери информации это не делает фс, а дальше освободив экстенты,проверяется иноды и тоже чистятся. ( Это дело можно поправить на новых ядрах, но переписывать старый код multiblock allacator побоялись)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #119 Ответы: #134

132. Сообщение от Аноним (-), 11-Апр-24, 00:14	+/–
> Ты не отмораживайся, а ответь прямо: поддерживает ли линукс 6.9-rc3 "древнюю" ZFS > (zfs-2.1.15)? Я не знаю насчет "древней", но так, FYI, ты не отмораживайся и подумай о том что бсдюки берут свой ZFS из проекта ... ZFS On Linux. Прости за спойлер, я очень хотел чтобы пох донес это до тебя в его незабываемом стиле. Он бы что-нибудь придумал, чтобы это звучало правильно. С реверансами что "других разработчиков у меня для тебя нет" и все такое. А то что это внемайнлайновая пакость, на правах выкидыша? А вы не гордые и даже такое вот кюшаете с наших задворков. Ну вот какие-то такие соотношения.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #130 Ответы: #150

133. Сообщение от Аноним (-), 11-Апр-24, 03:22	+/–
> Почему это не сможет? > Берёшь батарею из писюков, набиваешь дисками, накатываешь какую нибудь кластерную ФС. > И вуаля, ты "подкроватный Фейсбук ". Зачем вам кластерная ФС в самопальном фэйсбуке? Там балансировка, отказоустойчивость и проч делается на другом уровне. И выгорание плюс-минус пары серверов просто похрен - запрос уйдет соседним, а юзер ничего не заметит даже.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #98

134. Сообщение от Аноним (-), 11-Апр-24, 03:40	+/–
>>Чисто EXT4'й прикол. > Но я уже несколько раз писал,разработчики костыль сделали чтобы это дело поправить. > sudo fsck.ext4 -fD Угу, особенно "удобно" обнаружить что-то такое при работе систем которые шатдаунить, тем более надолго - нежелательно. Или там на рутфс каком. Или к вопросу о том почему современные ФС пытаются делать большинство "длинных" сервисных операций онлайн. Вон даже XFS пытается доказать что он "типа не антик". Правда туговато online scrub идет, но все же. > Принудительно перестраивает таблицу экстентов когда из за риска потери информации это не > делает фс, а дальше освободив экстенты,проверяется иноды и тоже чистятся. А риск потери информации при этом остается? > ( Это дело можно поправить на новых ядрах, но переписывать старый код > multiblock allacator побоялись) Ну дык, сколько я себя помню они там довольно долго факапы выгребали.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #131 Ответы: #139

135. Сообщение от нах. (?), 11-Апр-24, 07:39	+/–
так это не к линуксу вопросы, а к zfs. Раз древняя - значит она шибкомодный стабильный нонсенс-  не поддерживает. Уговаривай разработчиков, лучше - имея на кармане очень веские аргументы. Что, впрочем, касается не только линуксов - я бы и был бы рад вернуть в 14ю фрю обратно оригинальную реализацию из 11й, но, увы...
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #130

136. Сообщение от нах. (?), 11-Апр-24, 07:44	+/–
там репликация не для избыточности, а для распределения нагрузки. Если при этом получается и избыточность - хорошо, если нет или недостаточная - поооофиг! Котиков оно УЖЕ несколько раз теряло прям массово, и... правильно, им - пофиг. Да и юзверькам  в общем-то тоже, попищали-попищали и новых накачали, да и то только те пол-процента что что-то такое заметили - большинство крутят ленточку на час назад и то много, не успевают полайкать. Они исчезновения позавчерашнего котика вообще не заметят. А двухлетнего можно просто архиватором del паковать. А твой relations graph будь уверен хранится не на бырбырфесе, и еще и бэкапается регулярно. Товар ценный, на продажу британским учоным. (На самом деле нет, и по той же причине - ты же сам его и обновишь с максимальной скоростью, как только механизм подбора сбойнет из-за недостатка данных о тебе. Незачем заморачиваться, совсем. НЕТ у фейсбука ценных данных вообще.)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #82 Ответы: #140

137. Сообщение от нах. (?), 11-Апр-24, 07:52	+/–
> Меня в том контексте больше интересует даже не база и не сам ее размер - сколько факт что пару > миллиардов хомяков дружно и активно вытаптывают поляну. лолшта? Прям не покидая своих беговых колес вытаптывают? Поляна распахана, размечена колышками и обрабатывается комбайном по раз навсегда установленной линеечке. Шаг влево-вправо не предусмотрен конструкцией. Вот в этих пределах - все и чинно-благородно проверено и настроено. При сбое сервера - причем не полном отказе а выходе 99процентного персентиля за положенные границы - никто не будет разбираться ни в каких csum, его выводят из эксплуатации сразу, весь, и включают следующий. А этот - reset/reinstall/test - и если тест сбойнет - вынимают из стойки и выкидывают. И нет, там никаких деллов с леновами, там собственная наколеночная платка в корпусе из картона и грязи. А у церна эксперименты стоят очень дорого и повторить их в обозримом будущем никто не даст. И это с юзерами которые нет-нет да и захотят странного, и необычного - они во превых вчоные, им по должности странного хотеть положено, а во-вторых никакие админы не угадают что им сегодня захочется. > И как это с миллиардами юзерей книги относится? никак. Точно так же как твои поделки. Ты - не мордокнига. (впрочем и не церн, ничего у тебя там нет ценного)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #115 Ответы: #141

138. Сообщение от нах. (?), 11-Апр-24, 07:57	+/–
> На мой вкус чувак не развалится прогрейдиться до актуального ядра с такой конфигой. у чувака после этого апгрейда ноут перестал засыпать, а поскольку, в отличие от тебя, он на нем работает - ему такой вариант не подходит. Ну и да, автор фс оказался повменяемей тебя, и патч ему выложил. Тот самый, не принятый в штабильный файлоуничтожитель. Что конечно не означает что остальным надо надеяться на автора-одиночку а не пользоваться хотя бы более-менее стабильными решениями. Вот, к примеру, storage space...
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #100 Ответы: #142

139. Сообщение от maximnik0 (?), 11-Апр-24, 08:10	+/–
>А риск потери информации при этом остается? Гораздо меньше,в разумных пределах.При проверке диска писать на диск может только сам fsck , т.е последовательный доступ.Ставиться метка что диск нуждается в проверке если на этом этапе питание ребут.Для fsck создаётся журнал операции,т.е все сделано чтобы данные не потерять.100% гарантии может дать только Спортлото....т.к даже на самой обычной операции головка винчестера может промахнуться и не тот сектор записать.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #134 Ответы: #144

140. Сообщение от User (??), 11-Апр-24, 08:31	+/–
Нооо... как же... бырбырфысы? Фейсбук? Прод? Н-надежность?! Гаражные ворота?!! Вы что, хотите сказать, что местный эксперт за-зря поверх вот этого вот всего postgresql (Джва года без сайлент дейта коррупцьён - как тебе такое, Илон Муск?) разворачивал?!!! Да чего этот "нах" знать-то может? Бырбырфысы! Фейсбук! Гаражные ворота! Прод! Три-года-без-разрывов!!! 10 рерабайт в коробке из под тапочек - и можно даже одиннадцатый добавить, если винт скотчем примотать! А вот в NTFS ваще! То-то.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #136

141. Сообщение от Аноним (-), 11-Апр-24, 15:48	+/–
>> миллиардов хомяков дружно и активно вытаптывают поляну. > лолшта? Прям не покидая своих беговых колес вытаптывают? Хома у соседа в тему затестил: дизайн с багом! Ось перетерлась и крякнула! А ты гришь! Это работает! :) > линеечке. Шаг влево-вправо не предусмотрен конструкцией. Вот в этих пределах - > все и чинно-благородно проверено и настроено. У них там вероятно есть несколько разных сценариев. При том судя по багам - весьма нагруженных, чем они и интересны. Стресстестит GC и проч по полной -> то что надо. > При сбое сервера - причем не полном отказе а выходе 99процентного персентиля > за положенные границы - никто не будет разбираться Тебе не приходило в голову что я выводы делал глядя на git log майнлайна и характер фиксов? Наблюдаемое отличалось от той теории. Т.е. некий анализ отказов есть. Суммируется, агрегируется, выводы делаются, проблемы заруливаются. Норм рабочий процесс. Это нормально, часть процесса минимизации обслуги систем. Даже я научился в азы failure analisys, жизня заставила. > ни в каких csum, его выводят из эксплуатации сразу, весь, и включают следующий. Если железо - да. Если софт - анализируют, твикают, чинят, улучшают. Csum error им нравится как раз ранним детектом проблем железа. > собственная наколеночная платка в корпусе из картона и грязи. Да и какая разница... в конечном итоге подобная проблематика есть много у кого. > А у церна эксперименты стоят очень дорого и повторить их в обозримом > будущем никто не даст. Церн это нишевая штучная фиговина. Может оно и по своему круто, но нужно именно это, именно так, очень узкой касте маргиналов. Это знание может и не быть релевантно на более приземленных сценариях. > а во-вторых никакие админы не угадают что им сегодня захочется. У них активность рядом не стояла с миллиардом фэйсбучных хомяков. А интересуют не рекорды а вытоптаная поляна. Прозвон механики ФС в всех закоулках, с самыми дурацкими сочетаниями. В случае CoW например вопрос как gc работает достаточно актуален. В том смысле что при постоянной нагрузке он должен успевать подгрести за writer'ом, иначе будет фэйл. > никак. Точно так же как твои поделки. Ты - не мордокнига. (впрочем > и не церн, ничего у тебя там нет ценного) Спасибо кэп, и как я сам не догадался? Однако общий стресс тест механики улучшает состояние дел и для меня. Миллиард юзеров в этом смысле сильно полезнее пары рекордных но куда менее нагруженых хранилок. Чисто статистически больше всякой странной хни вытопчут.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #137 Ответы: #143

142. Сообщение от Аноним (-), 11-Апр-24, 15:56	+/–
> у чувака после этого апгрейда ноут перестал засыпать, а поскольку, в отличие > от тебя, он на нем работает - ему такой вариант не подходит. Ну правильно, bisect проблемы сделать не для него? Тогда пусть и стоит в такой позе, это же у него проблема, а не... > Ну и да, автор фс оказался повменяемей тебя, и патч ему выложил. > Тот самый, не принятый в штабильный файлоуничтожитель. Ну как бы патч - это круто, только майнтайнить олдовый кернел, самому, целиком, таки сомнительная радость на мой вкус. Хотя если кому делать нефиг - опция, конечно. > Что конечно не означает что остальным надо надеяться на автора-одиночку а не > пользоваться хотя бы более-менее стабильными решениями. > Вот, к примеру, storage space... Да кому какое дело кто там назло бабушке уши отморозит? У лично меня нет цели загнать всех на энное решение. Есть цель показать что так можно было - и дальше кто считает что ему по пути и он заинтересован в доведении именно этой технологии, именно так, до ума - велкам.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #138 Ответы: #145

143. Сообщение от нах. (?), 11-Апр-24, 16:06	+/–
> У них там вероятно есть несколько разных сценариев. есть. Только твоих среди них - нет. > Тебе не приходило в голову что я выводы делал глядя на git log майнлайна и характер фиксов? лучше б ты делал выводы на основе опыта работы в фейсбуке. Он, в принципе, общедоступен при некотором усилии, чужой - необязательно самому продаваться. > Церн это нишевая штучная фиговина. мои поделки - что дома, что на работе - сплошь нишевые штучные фиговины. Потерям данных в них при этом я рад совершенно не буду и возне с восстановлением тоже - у меня жизнь вообще всего одна. Поэтому опыт церна мне иногда может быть интересен, а опыт фейсбука - совершенно нет, ровно ноль точек пересечения Нет, миллиард юзеров с совершенно одинаковым и ни шагу в сторону юзпаттерном полезны только тем странным кто построил себе дома фейсбук в натуральную величину. Чисто статистически у тебя ровно ноль шансов попасть в ту же колею.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #141 Ответы: #148

144. Сообщение от Аноним (-), 11-Апр-24, 16:18	+/–
>>А риск потери информации при этом остается? > Гораздо меньше,в разумных пределах. И все же на мой вкус это все как-то многовато внимания к 1 тазику при желании всяких автопилотных операций. Где хочется чтобы просто работало и не делало мозг. Да и на десктопе и ноуте - я работы работаю, а полдня fsck гонять в мои планы чаще всего не входит, так что фича очтак себе. И XFS с потугами онлайн scrub начал что-то подозревать. А это видимо помрет таким. А то что кто-то к таким ритуалам привык - ну, ок, могут жевать крутилки на эн терабайт fsck'ом, конечно. Это же их даунтаймы. > если на этом этапе питание ребут.Для fsck создаётся журнал операции,т.е все > сделано чтобы данные не потерять.100% гарантии может дать только Спортлото....т.к даже Да я так то в курсе, поэтому при рекавери обычно на образе в рефлинке fsck гоняю. Если все совсем развермишелится - обидно, но стереть рефлинк и попробовать еще раз не так уж ужасно, а места он почти не жрал в отличие от честной копии. > на самой обычной операции головка винчестера может промахнуться и не тот > сектор записать. Ну это все же экзотика. И там если оно реально так - винт у вас в обозримом времени даст дуба, снеся сервометки. Без которых он не жилец - по ним "навигация" делается и если запись промахивается, упс, девайс в обозримом будущем - умрет.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #139 Ответы: #146

145. Сообщение от нах. (?), 11-Апр-24, 16:23	+/–
> Ну правильно, bisect проблемы сделать не для него? пару сотен раз пересобрать ведро, вероятнее всего с пачкой разрушающих данные багов? Отличная идея, но нет. Чувак для того и пользуется _стабильным_ (нонсенсом) ведром, чтобы такой херни не делать. А тут ему - подарочек, в шта6ильном ведре никто оказывается не планировал баги-то исправлять.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #142 Ответы: #149

146. Сообщение от maximnik0 (?), 11-Апр-24, 22:23	+/–
>полдня fsck гонять Это что за объемы....4 Тб диск у меня проверяется 6 минут, при этом заполнен был на 85%. Надеюсь все таки допилят verity для включение в ext4. :-) >Ну это все же экзотика. С современной плотностью записи ?То то же  надёжность и "моточасы" падают у жёстких.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #144 Ответы: #152

147. Сообщение от maximnik0 (?), 12-Апр-24, 11:56	+/–
>Эти клоуны не догадались валидацию "чье это дерево вообще?!" делать. Странно, в самой райзер по описанию валидация есть . >Ключи используется в качестве...а также определение положение записей.Ключ состоит....Id родительского каталога,Id  объекта, смещения объекта и его типа . Похоже при восстановление дерева на ключи забивается болт,а потом народ орет а чужое дерево присоеденило с RAW формата виртуалки.Недоработкв fsck , а рук починить не нашлось.Тем более выкидывать ещё 5 лет назад собирались.Нету CRC,и не вкорячиешь,т.к нет версионности фс в традиционном смысле.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #52

148. Сообщение от Аноним (-), 12-Апр-24, 14:51	+/–
>> У них там вероятно есть несколько разных сценариев. > есть. Только твоих среди них - нет. Да ну ладно, там что, инопланетяне чтоли работают? Вот в CERN - я еще поверю. У них там специфичные задачи, которые с моими врядли пересекутся. Зато многие аспекты которые мастхэв для беспилотных штук - ученых не волнуют. Они то если что - посчитают свое добро и на месяц позже, куда им спешить? А это проблемка, будут хотеть другого. Не, приставлять к каждой байде с кредитку размером - и даже серваку - по энтерпрайз-админу в мои планы совершенно точно не входит. И мне нужен менедмент ОС и ее частей который с этой идеей дружит, соответственно. Поэтому чем проще управление и меньше внимания вот это все требует в run time тем оно более ЗБС в моих глазах. Это довольно приоритетный критерий для меня. Фейсбук в этом смысле мало чем отличается. > лучше б ты делал выводы на основе опыта работы в фейсбуке. Он, > в принципе, общедоступен при некотором усилии, чужой - необязательно самому продаваться. Я думаю что у разных тушек этот опыт очень ... разный. К питоняше можно относиться как к г-ну, вышибив его с треском и заменив на нового из очереди за забором. А файлушников например хрен так заменишь. Ну их и ценить будут - сильно иначе, соответственно. Туда же и гранды сжатия типа Cyan/Przemislaw Skibinsky и тому подобные. Штучный товар. > мои поделки - что дома, что на работе - сплошь нишевые штучные фиговины. Тут проблема в том что характер нагрузки и проч - сильно другие. И то что CERN что-то там - не очень релевантно вообще. А фэйсбук что, они ничего супер-экзотичного с ФС AFAIK не делают. > Потерям данных в них при этом я рад совершенно не буду и возне с восстановлением > тоже - у меня жизнь вообще всего одна. Это как бы разумно. Просто у CERN все будет сильно отличаться от твоего сетапа, да и врядли у них вот именно активность на хранилке - ломовая и сравнима с миллиардом юзерей мордокниги на большом парке серверов. Который чисто статистически прозвонит почти все мыслимые code paths в результате. > Поэтому опыт церна мне иногда может быть интересен, а опыт фейсбука - > совершенно нет, ровно ноль точек пересечения А я считаю что результат теста хомячками мне окажется полезнее чем ученых из CERN с нишевыми кейсами. > Нет, миллиард юзеров с совершенно одинаковым и ни шагу в сторону юзпаттерном > полезны только тем странным кто построил себе дома фейсбук в натуральную > величину. Чисто статистически у тебя ровно ноль шансов попасть в ту же колею. С чего такие сведения? Они ФС вроде юзают без какой-то особой экзотики, а ломовая нагрузка на куче серверов - прозванивает code path в самых разных закоулках. И все что может отвалиться - отваливается. В этом и смысл пуска хомяков на поляну.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #143

149. Сообщение от Аноним (-), 12-Апр-24, 14:55	+/–
> пару сотен раз пересобрать ведро, вероятнее всего с пачкой разрушающих данные багов? > Отличная идея, но нет. Реально обычно около дюжины, если это не баг эпохи 2.6.32 какого там. Сотня не получится даже так, число итераций log2(N) всего лишь. И на финальном этапе последние несколко итераций довольно шустры, ибо ребилд нескольких файлов всего зачастую. Так что реально - не такое уж оно и страшное. Особенно vs иные способы зарулить такие баги. > Чувак для того и пользуется _стабильным_ (нонсенсом) ведром, чтобы такой херни не делать. В софте бывают баги. Надо же какое откровение, да? > А тут ему - подарочек, в шта6ильном ведре никто оказывается не планировал > баги-то исправлять. В экспериментальной то ФС? Да и вон то скоро стабильным станет, кули.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #145

150. Сообщение от iZEN (ok), 12-Апр-24, 22:46	+/–
>> Ты не отмораживайся, а ответь прямо: поддерживает ли линукс 6.9-rc3 "древнюю" ZFS >> (zfs-2.1.15)? > Я не знаю насчет "древней", но так, FYI, ты не отмораживайся и > подумай о том что бсдюки берут свой ZFS из проекта ... > ZFS On Linux. Ну зачем мне думать об этом, если на это я повлиять ну никак не могу? > А то что это внемайнлайновая пакость, на правах выкидыша? > А вы не > гордые и даже такое вот кюшаете с наших задворков. Ну вот > какие-то такие соотношения. Мы-то не гордые, кушаем что придётся и давно согласны на это. А вот тру-линуксойды горды настолько, что презирают собственный проект и не могут включить его в ядро Linux — не даёт более "неправильно-свободная" лицензия. Это как чемодан без ручки: вроде нести неудобно, да бросить жалко.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #132 Ответы: #151

151. Сообщение от Аноним (-), 14-Апр-24, 15:23	+/–
> Ну зачем мне думать об этом, если на это я повлиять ну никак не могу? На чисто концептуальном уровне - забавные рассуждения. А с практической точки зрения - странно спрашивать такое, тягая сорц с zfs-on-linux. На столь же концептуальном уровне: если допустить что линукс совсем перестанет поддерживать ZFS, окей, мне то пофиг, а вот ты откуда будешь брать сорц этой штуки и кто ее девелопать бу? Получается что ты шкурно заинтересован в ... существовании линуха и ZFS под него :D. Да, вселенная умеет прикалываться. И иногда это доставляет немало лулзов, скажу я вам. > Мы-то не гордые, кушаем что придётся и давно согласны на это. А мы более гордые. И понимаем что будущее само не создадится. Поэтому пытаемся создавать его таким каким хотелось бы видеть. В том числе впрягаясь в работы в результате которых мы заинтересованы. Мне вот интересен сабж и btrfs, я с ними взаимодействую и на моем счету эн успешно загашеных багов. Это приближает меня к цели "современная фичастая ФС в моих окружениях" и потому стоит затрат времени и сил. А в вашей экосистеме у ее обитателей в ходу какие-то иные принципы. От которых я далек. > А вот тру-линуксойды горды настолько, что презирают собственный проект и не могут > включить его в ядро Linux — не даёт более "неправильно-свободная" лицензия. Это сделали господа из Sun Microsystems. При том - специально. Проблема только в том что где теперь сан, а где линух. Так что на твоем месте я бы молился чтобы статус-кво таким и оставался. Иначе тебе вообще будет негде брать сорц. > Это как чемодан без ручки: вроде нести неудобно, да бросить жалко. Лично мне пофиг: у меня btrfs - и я немного экспериментирую с сабжем. Я для себя решил что мое будущее - такое. А что случится с вон теми - лично мне все-равно. Для меня в этом мире ничего не изменится.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #150 Ответы: #153

152. Сообщение от Аноним (-), 14-Апр-24, 15:45	+/–
> Это что за объемы....4 Тб диск у меня проверяется 6 минут, при > этом заполнен был на 85%. От содержимого еще зависит и ряда других факторов. А если несколько больших винчей в RAID... ну в общем не особо масштабируемое решение получается. С дурацикими дайнтаймами. > Надеюсь все таки допилят verity для включение в ext4. :-) Ну, лично мне оно уже... > С современной плотностью записи ?То то же  надёжность и "моточасы" падают у жёстких. 1) Моточасам относительно пофиг - моторчик тот же самый, плюс минус. 2) Желание чтобы чексумы подстраховывали - в том числе и на случай если FEC/фирмварь/etc сделает какую-то фигню. А чем чаще оно прочло какой-то мусор, тем вероятнее что случится неведома фигня, в том чсиле и выгрузка шумов океанов марса.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #146 Ответы: #154

153. Сообщение от iZEN (ok), 14-Апр-24, 21:42	+/–
>> Ну зачем мне думать об этом, если на это я повлиять ну никак не могу? > На чисто концептуальном уровне - забавные рассуждения. А с практической точки зрения > - странно спрашивать такое, тягая сорц с zfs-on-linux. Исходники ZFS "тягают" и адаптируют разработчики FreeBSD — я к ним не отношусь. > На столь же концептуальном уровне: если допустить что линукс совсем перестанет поддерживать > ZFS, окей, мне то пофиг, а вот ты откуда будешь брать > сорц этой штуки и кто ее девелопать бу? Linux никакого отношения к проекту ZoL не имеет. Это отдельный проект. > Получается что ты > шкурно заинтересован в ... существовании линуха и ZFS под него :D. Мне откровенно пофиг на Linux. Я не заинтересован в его развитии и функционировании. > А мы более гордые. И понимаем что будущее само не создадится. Поэтому > пытаемся создавать его таким каким хотелось бы видеть. В том числе > впрягаясь в работы в результате которых мы заинтересованы. Мне вот интересен > сабж и btrfs, я с ними взаимодействую и на моем счету > эн успешно загашеных багов. Это приближает меня к цели "современная фичастая > ФС в моих окружениях" и потому стоит затрат времени и сил. > А в вашей экосистеме у ее обитателей в ходу какие-то иные > принципы. От которых я далек. Вот именно. >> А вот тру-линуксойды горды настолько, что презирают собственный проект и не могут >> включить его в ядро Linux — не даёт более "неправильно-свободная" лицензия. > Это сделали господа из Sun Microsystems. При том - специально. Проблема только > в том что где теперь сан, а где линух. Так что > на твоем месте я бы молился чтобы статус-кво таким и оставался. > Иначе тебе вообще будет негде брать сорц. Аминь. >> Это как чемодан без ручки: вроде нести неудобно, да бросить жалко. > Лично мне пофиг: у меня btrfs - и я немного экспериментирую с > сабжем. Я для себя решил что мое будущее - такое. А > что случится с вон теми - лично мне все-равно. Для меня > в этом мире ничего не изменится. Для меня — тем более.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #151

154. Сообщение от maximnik0 (?), 15-Апр-24, 23:57	+/–
>1) Моточасам относительно пофиг - моторчик тот же самый, плюс минус. А износ муфт скольжения или подшипников?Раньше пару микрон люфт было по хрен,сейчас уже вынуждена электронника головку отслеживать,иначе запишет не туда.То есть сейчас с радиальным небольшим биением спокойно могут записывать жесткие- видел презентацию рекламу WD -по краям 2 считывающие головки,там много преимуществ такого размещения,отслеживание краев соседних дорожек одно из них.Специальная микропрограмма высчитывает траекторию эллипса и делает корректировки.А без этого ресурс жестких оказался на 18-30% меньше.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #152

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема