Вариант для распечатки		Пред. тема | След. тема
Форум Разговоры, обсуждение новостей
Изначальное сообщение		[ Отслеживать ]

"Micron открыл код движка хранения HSE, оптимизированного для..."	+/–
Сообщение от opennews (??), 28-Апр-20, 11:23
Компания Micron Technology, специализирующаяся на производстве DRAM и флеш-памяти, представила новый движок хранения HSE (Heterogeneous-memory Storage Engine), разработанный с учётом специфики использования на SSD-накопителях, основанных на NAND flash (X100, TLC, QLC 3D NAND) или постоянной памяти (NVDIMM). Движок выполнен в форме библиотеки для встраивания в другие приложения и поддерживает обработку данных в формате ключ-значение. Код HSE написан на языке Си и распространяется под лицензией Apache 2.0... Подробнее: https://www.opennet.me/opennews/art.shtml?num=52827
Ответить | Правка | Cообщить модератору

Сообщения

[Сортировка по ответам | RSS]

2. Сообщение от нах. (?), 28-Апр-20, 11:52	–2 +/–
хмм, а ничего что монга - ни разу не про "ключ-значение", кэширование данных в оперативке делает сама и вряд ли тут что-то можно улучшить без радикальной переделки? В результате - неясно ни что и на чем они тестировали (ок, wired tiger, загадочный яхин тест на не менее загадочном maven - хз как ложится в чью-то реальную задачу, допустим) - а дальше-то что, может вы там lvm+xfs ненастроенные тестировали? Ну и дайте угадаю - если ты не сотрудник micron - хрен тебе это удастся настроить, потому что опять нужны сокровенные знания о внутреннем устройстве ssd/nvme "диска", которые тщательно прячутся.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #30

3. Сообщение от Michael Shigorin (ok), 28-Апр-20, 11:58	–3 +/–
> Возможность комбинировать в одном хранилище > различных классов SSD-накопителей Прям "говорит Одесса" ;-) Занятная штука, спасибо.
Ответить | Правка | Наверх | Cообщить модератору

4. Сообщение от Аноним (4), 28-Апр-20, 12:13	–3 +/–
Чем этот двужок может быть полезен обычному пользователю? Будет ли он работать в windows 10 домашняя или нужна более новая винда?
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #5, #25

5. Сообщение от 1 (??), 28-Апр-20, 12:20	+2 +/–
Аноним не читатель ? "Движок выполнен в форме библиотеки для встраивания в другие приложения" - куда встроишь, там и будет работать.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #4 Ответы: #7

6. Сообщение от Аноним (6), 28-Апр-20, 12:23	–2 +/–
Т.е. это что-то вроде NoSQL SQLite, заточенная под SSD? Любые, или только Micron? Что-то можно портануть в другие проекты? Например в SQLite?
Ответить | Правка | Наверх | Cообщить модератору

7. Сообщение от gogo (?), 28-Апр-20, 12:36	+5 +/–
Аноним - тролль. Троль должен сидеть голодным )
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #5 Ответы: #8

8. Сообщение от Аноним (8), 28-Апр-20, 12:46	+3 +/–
Покорми тролля, покорми тролля .ука.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #7

9. Сообщение от Аноним (8), 28-Апр-20, 12:48	+1 +/–
А что происходит с кэшированными в ОЗУ данными во время аварийного выключения? Что то мне подсказывает что вся база после такого может побиться.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #10, #11

10. Сообщение от Аноним (10), 28-Апр-20, 12:54	–3 +/–
Что есть аварийное выключение? Такого не существует в природе.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #9 Ответы: #12, #13

11. Сообщение от Аноним (6), 28-Апр-20, 13:06	+1 +/–
Кэширование записи в озу позволяет значительно снизить объем записываемых данных. Непредвиденное выключение приведет только к потере этих закэшированных данных. И это нормально. Главное чтобы у адинистратора были рычаги, чтобы выставить в зависимости от критичности данных размер этого буфера.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #9 Ответы: #14, #17, #42

12. Сообщение от Аноним (8), 28-Апр-20, 13:07	+6 +/–
Выключение сервера из розетки. Да представь сервера подключаются в физическую розетку, а не летают в облаках вместе с птицами.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #10 Ответы: #15, #44

13. Сообщение от Аноним (13), 28-Апр-20, 13:07	+/–
ну давай назовем как "аварийный останов". Такое в природе существует
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #10 Ответы: #16

14. Сообщение от Аноним (8), 28-Апр-20, 13:11	+/–
Ну не знаю, некоторые файловые системы от такого разваливаются. А тут база данных и тут возможно варианты.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #11 Ответы: #19

15. Сообщение от Аноним (10), 28-Апр-20, 13:17	+1 +/–
Импосибру, такого не бывает. Абсолютно невероятный кейс.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #12

16. Сообщение от Аноним (10), 28-Апр-20, 13:18	+1 +/–
Оправданием может служить только попадание тактического ядерного заряда прямиком в датацентр.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #13 Ответы: #24

17. Сообщение от нах. (?), 28-Апр-20, 13:52	–3 +/–
> Кэширование записи в озу позволяет значительно снизить объем записываемых данных. спасибо, профессор, а можно мы вас опять заморозим? Ваша лекция о модных научных тенденциях 1962го года будет актуальна лет через 150. Сейчас, в начале 21 века, writeback cache признан крайне малоэффективным, если что. Особенно вот на модных нынче persistent ram он "полезен", ага. > Непредвиденное выключение приведет только к потере этих закэшированных данных. И это нормально. нет, это ненормально, если эти данные вообще были для чего-то нужны. Если они не были нужны ни для чего - их тем более незачем было кэшировать. Давайте, для понимания, мы потеряем вашу зарплату - ну а чо такова, сервер непредвиденно выключился, перевод денег вашему работодателю мы подтвердить успели, а вам - вот, дырка от бублика.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #11 Ответы: #21, #27

18. Сообщение от vitalif (ok), 28-Апр-20, 13:58	+5 +/–
Как оно устроено-то внутри? В чём заключается "оптимизация под SSD"? Нигде упоминаний нет. Код читать что ли? > Высокая скорость работы достигается за счёт гибридной модели хранения - наиболее актуальные данные кэшируются в ОЗУ Охренеть нововведение UPD: Кажись какая-то очередная вариация на тему LSM
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #26

19. Сообщение от нах. (?), 28-Апр-20, 14:15	+2 +/–
вариантов в любом случае возможны ровно два: мы сохраняем транзакционную целостность, подтверждая программе факт фиксации изменения на персистентном носителе, или мы на нее плюем. (необратимая порча базы/fs все равно возможна - для этого (надеюсь) у нас был бэкап?) Во втором случае вполне можно сохранить (или восстановить, в конце-концов) _структурную_ целостность базы (или fs) - но нет никакой возможности сказать, какие операции теперь надо переделать или считать не происходившими. Потому что мы это теперь никак не узнаем. Эти данные потеряны, нет их. Нигде нет. Вот зарплату нашему прохфессору кислых щей к счету приплюсовали, но эта ячейка осталась только в памяти. А из счета его работодателя уже вычли, и эта информация (ну, так получилось) уже попала на носитель. А с базой у нас все в порядке. Вариант интересней - мы уже начали туда писать, и вдруг питание йок, указатель на блок обновился, но содержимое блока - мусор с диска. Опа, оказывается, прохфессор в этом месяце не только не заработал ничего, но и торчит банку пятнадцать миллиардов. Блок на диске - существует, причин не доверять содержимому нет, прохфессор, пройдите на эстакаду. Вместо адреса блока на диске в указателе лежит -1? Профессора не существует вообще, эктерминационная команда выехала для установления структурной целостности мироздания. Чтобы таких вещей не происходило - используются transaction logs и трехступенчатая запись. И любая база, даже такая которой деньги доверять нельзя - пишет их с O_DIRECT, чтобы быть абсолютно точно уверенной, что если запись вернула OK - данные попали на диск, а не в воздухе повисли.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #14

20. Сообщение от user90 (?), 28-Апр-20, 14:31	–2 +/–
Чобля?) Я даже знать не желаю, чо ито за херня, ибо мне казалось, что должен предоставляться СТАНДАРТНЫЙ ОПТИМИЗИРОВАННЫЙ ИНТЕРФЕЙС?
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #28

21. Сообщение от Аноним (6), 28-Апр-20, 14:44	+/–
> Давайте, для понимания, мы потеряем вашу зарплату Здесь утрировать все горазды. То, что у вас хранятся только критически важные данные, не значит, что у всех так. Это ущербное мышление.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #17 Ответы: #32

22. Сообщение от erthink (ok), 28-Апр-20, 14:57	+7 +/–
Из новости (собственно из исходного пресс-релиза) выпала существенная техническая деталь: "HSE uses the mpool kernel module to store data. Mpool implements an object storage device interface on SSD volumes." Так вот, этот https://github.com/hse-project/mpool достаточно оптимально реализует несколько фичей принципиально важных для производительности key-value storage, особенно тех что близки к парадигме LSM+WAL. Соответственно HSE заточен под использование mpool, меньше делает лишнего и из-за этого выигрывает в тестах.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #35, #36, #37

23. Сообщение от Аноним (23), 28-Апр-20, 15:13	–2 +/–
сначало они делают дрянь, с дохнущими после 10-100 перезаписывания ячейками, а потом открывают всякие програмные костыли, чтобы продлит агонию этого богомерского nand qlc выкидаша.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #29

24. Сообщение от Аноним (13), 28-Апр-20, 15:15	+2 +/–
оправданием может служить криворукость программиста, который написал программу с ошибками, или тупость работника ЦОДа, который ошибся сервером и вынул из стойки не тот
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #16 Ответы: #52

25. Сообщение от Нонон (?), 28-Апр-20, 15:32	+/–
Действительно, А зачем обычный пользователь винды 10 будет писать ключи и значения исключительно в байтовых представлениях в какую-то бд?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #4

26. Сообщение от Нонон (?), 28-Апр-20, 15:36	+1 +/–
RocksDB тоже оптимизирована под ssd. И она более популярная. Можешь попробовать погуглить как они это сделали, если найдешь
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #18 Ответы: #34

27. Сообщение от Crazy Alex (ok), 28-Апр-20, 16:06	+/–
Классический пример данных, которые в принципе нужны, но где потерять кусок не проблема (если это, конечно, не раз в неделю происходит) - это профили пользователей (в смысле - кто куда нажал, что больше лайкает, a/b тестирование и т.д.), статистика посещений и подобное. Пишется там много и надо это делать дёшево. Ещё один вариант - разные логи производительности, статистика использования ресурсов и т.п. Впрочем, думаю, что здесь ресь о кэше на чтение
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #17 Ответы: #31

28. Сообщение от Crazy Alex (ok), 28-Апр-20, 16:08	+/–
Для нестандартных задач оптимизированный интферфейс тоже нестандартный. Вон, можете на всякие сетевые стеки для высоких нагрузок поглядеть
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #20 Ответы: #40

29. Сообщение от Crazy Alex (ok), 28-Апр-20, 16:09	+5 +/–
Если по итогу получается выгоднее, чем долговечныве ячейки стоимостью в крыло Боинга - то почему нет? Потмоу что у вас чувство прекрасного страдает?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #23 Ответы: #49

30. Сообщение от kai3341 (ok), 28-Апр-20, 16:21	–2 +/–
> хмм, а ничего что монга - ни разу не про "ключ-значение" В рамках каждого документа очень даже ключ-значение. Просто сперва надо понять, что значение может быть ссылкой на другой документ > Ну и дайте угадаю - если ты не сотрудник micron - хрен тебе это удастся настроить, потому что опять нужны сокровенные знания о внутреннем устройстве ssd/nvme "диска", которые тщательно прячутся. Шок! От нас скрывают внутреннее устройство nvme! И драйверов тоже нет! Уже скоро джва года как нет
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #2 Ответы: #33

31. Сообщение от нах. (?), 28-Апр-20, 16:30	+1 +/–
> Классический пример данных, которые в принципе нужны, но где потерять кусок не проблема это да. Мы можем прогадить о них вообще все, они заново наполнят, нельзя терять только (внезапно) сами учетки - и они хранятся нифига не в м@ндедб. (на самом деле, конечно, нет, не можем - это приведет к снижению ежесекундного дохода от рекламы так, что будут уже не массовые порки, а массовые расстрелы - но там такого и не произойдет, оно шардится и дистрибьютится, прогадим мы только несколько процентов - выпорют, но не убьют) Полагаю, да, где-то так целевая аудитория и выглядит - то есть опять пейсбук (только настоящий не разорится на такие дорогие компоненты, у них memcache, что как бе намекает) > Впрочем, думаю, что здесь ресь о кэше на чтение вряд ли - для nvme он уже почти бесполезен, для pram тем более. Наоборот, ими диски кэшируют. Ты больше на его менеджмент потратишь, чем выиграешь. А вот запись страничная, с преварительным стиранием, и она - тупит, и быстро изнашивает дорогой накопитель.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #27

32. Сообщение от нах. (?), 28-Апр-20, 16:40	+1 +/–
так критически неважные - не требуют не только транзакционной целостности, а вообще никакой. Ну паламалася база пейсбука после крэша сервера - подумаешь, попищали хомячки, и заново котиков понафоткали и понапостили (сто раз уже так было). Но конкретно пейсбуку они это не продадут - не их клиент, и ни разу не монга там.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #21 Ответы: #39

33. Сообщение от нах. (?), 28-Апр-20, 16:45	–2 +/–
> Шок! От нас скрывают внутреннее устройство nvme! знаешь, ты, кажется, зря включал компьютер. Тебя тут шокирует не только и не столько это... > И драйверов тоже нет! драйвер nvme ничего не знает о внутреннем устройстве, в том и дело. У ssd вообще нет никакого специального драйвера. И у "advanced format hdd" тоже. А знать почему-то надо, как ты думаешь (впрочем, было бы тебе, чем) почему?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #30

34. Сообщение от vitalif (ok), 28-Апр-20, 17:20	+1 +/–
Кто они? Что сделали? Я погуглил - по поводу микроновского поделия ничего не нашёл. Из исходников мало что понятно. Ждём технического описания. RocksDB оптимизирована под SSD - это ну такое себе... имеется в виду просто то, что там WriteAmp/ReadAmp/SpaceAmp регулируется параметрами. А в целом LSM деревья всё-таки на HDD больший профит дают, чем на SSD.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #26

35. Сообщение от vitalif (ok), 28-Апр-20, 17:22	+1 +/–
О, вот это интересно, да
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #22

36. Сообщение от erthink (ok), 28-Апр-20, 18:00	+3 +/–
Если я правильно понимаю, то ситуация далеко не однозначная. Понятно что LSM-чанки пишутся асинхронно, в том числе параллельно на несколько дисков, причем непосредственно из памяти без лишнего копирования. При этом все компоненты "знают" что важна целостность всего чанка и могут произвольно переупорядочивать запись его отдельных блоков (оптимальный write barrier персонально для каждого чанка). Далее, с одной стороны, в перспективе mpool должен реализовывать true append write с гранулярностью порядка кеш-линии с однократной очисткой страницы. Т.е. например, место под WAL физически очищается один раз, а потом дозаписывается мелким порциями. Таким образом, страница флеша очищается однократно и немного заранее, а не при фиксации в WAL каждой транзакции. С другой стороны, сейчас mpool НЕ поддерживает "зональные" SSD (которые явно умеют append-ить) и НЕ поддерживает персистентную память (которая вообще всё меняет и обесценивает многие подходы). Поэтому можно заподозрить, что Micron довел до минимальной готовности и вытолкнул в opensource проект, который теряет перспективы из-за приближения "эры" персистентной памяти.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #22

37. Сообщение от vitalif (ok), 28-Апр-20, 18:00	+/–
Не, чот короче на хрен. Лучше бы сделали прямую работу с диском. mpool дурацкий - позволяет хранить либо дописываемый лог, либо большие неизменяемые блобы. То есть как бы почти ФС, но не совсем ФС, с нестандартным интерфейсом, и вообще. и геморрой лишний, и сравнение нечестное получается - может весь выигрыш за счёт page cache? А может весь выигрыш за счёт просто более оптимального интерфейса к ядру?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #22 Ответы: #38

38. Сообщение от erthink (ok), 28-Апр-20, 18:14	+2 +/–
> Не, чот короче на хрен. Лучше бы сделали прямую работу с диском. > mpool дурацкий - позволяет хранить либо дописываемый лог, либо большие неизменяемые > блобы. То есть как бы почти ФС, но не совсем ФС, > с нестандартным интерфейсом, и вообще. Да, оно принципиально заточено под LSM+WAL. Проще говоря, отрезали лишний функционал - получили возможность сделать лучше оставшийся. > и геморрой лишний, и сравнение нечестное получается - может весь выигрыш за > счёт page cache? А может весь выигрыш за счёт просто более > оптимального интерфейса к ядру? Сравнение не может быть "честным", ибо как-бы получился новый тип накопителя с "более прямым" интерфейсом, и HSE работает только с ним.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #37 Ответы: #43

39. Сообщение от Аноним (6), 28-Апр-20, 18:23	+/–
Вы опять смешали всё в кучу. Одно дело когда потеряна какая-та статистика за 5 минут, а совсем другое когда потеряны данные пользователей. Во втором случае кэшировать запись практически бессмыленно. Это ничего не даст.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #32 Ответы: #41

40. Сообщение от user90 (?), 28-Апр-20, 19:26	+/–
Да мне даже спорить лень. Для нестандартных задач идет свое специальное железо, с драйверами и прочим. За большие бабки обычно))
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #28 Ответы: #58

41. Сообщение от нах. (?), 28-Апр-20, 19:48	+/–
> за 5 минут, а совсем другое когда потеряны данные пользователей. Во данные пользователей - это не только сами котики, это лайки, репосты и прочая бессмысленная фигня. Вполне себе кэшируются, и, кстати, представляют основную ценность (в отличие от их фоток). А фотка котика - запишется куда-то в бездонные закрома чохом, но вот бяда - ее связь с акаунтом юзера патерялася. То есть это не теория, оно так уже бывало, не последний раз - в прошлом году. Патамушта у пейсбука для этой цели - мемкэш, и он накрывается вместе с сервером. Поэтому, после пяти лет страданий, они запилили чудо невиданное - персистентный на ssd мемкэш ;-)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #39

42. Сообщение от Аноним (42), 28-Апр-20, 20:13	+/–
Бывают ли в этом мире неважные данные? Допустим пользователь загрузил вам фото со своим котиком и удалил со своего диска. База данные сдохла и котик пропал, будет ли доволен пользователь? Если и делать хранилище в RAM, то только с резервированием на двух разных серверах с раздельными резервными источниками питания.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #11 Ответы: #48, #61

43. Сообщение от vitalif (ok), 28-Апр-20, 20:14	+/–
Ну так в том-то и проблема
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #38

44. Сообщение от aaa (??), 28-Апр-20, 21:25	+/–
у нормальных серверов бывает несколько блоков питания, и выключение одного блока питания не приводит к отключению сервера, только всех блоков, а это менее вероятный случай
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #12 Ответы: #51, #54

45. Сообщение от Иваня (?), 28-Апр-20, 22:07	–1 +/–
О, круто! Очень интересно, спасибо за информацию. Ушёл читать, разбираться.
Ответить | Правка | Наверх | Cообщить модератору

48. Сообщение от Аноним (-), 28-Апр-20, 23:55	+/–
> загрузил вам фото со своим котиком и удалил со своего диска Я был бы рад, если бы такой пользователь сам "пропал". /s
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #42

49. Сообщение от Lex (??), 29-Апр-20, 00:04	+2 +/–
Тот факт, что кто-то предлагает вам что-то по цене крыла боинга вовсе не означает, что оно реально столько стоит.. как не означает и то, что, при цене даже копейкой меньше, продавец/производитель уйдут «в минус», продавая дешевле себестоимости. Скорее всего, реальная разница в себестоимости продукции на разных технологиях ощутимо меньше. Просто одна чуть дешевле и продавать её можно чаще( т.к ломается быстрее ), вот другую и не спешат продавать дешевле, выставляя эдакие заградительные цены «просто потому что». п.с: «выгоднее» вообще ничего не делать, кроме как просто деньги печатать..
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #29 Ответы: #65

50. Сообщение от srgazh (?), 29-Апр-20, 00:46	+1 +/–
Ну если верить графикам!то годно! Но опять же где взять память(озу)?
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #53, #56

51. Сообщение от InuYasha (?), 29-Апр-20, 12:16	+1 +/–
"в вашем идеальном мире"
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #44

52. Сообщение от InuYasha (?), 29-Апр-20, 12:18	+/–
А как же сам лилукс? Может прийти наёмный убийца ООМ и просто снести все монги к хренам, если не полностью, то по тредам. А дальше уже UB, крэши, зависоны, ресеты...
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #24 Ответы: #55

53. Сообщение от InuYasha (?), 29-Апр-20, 12:40	+/–
Сейчас вообще ОЗУ прям верх моды. Всякие мемкэши развелись - только в путь. А в итоге у нас уже с десяток уровней абстракций и продолжают абстрагировать. Кэш внутри ссд, кэш в RAID, кэш в драйвере, кэш в драйвере ФС, кэш в приложении... может, хватит?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #50 Ответы: #57

54. Сообщение от Аноним (54), 29-Апр-20, 13:43	+/–
А блоки питания по вашему сами энергию вырабатывают? Омг теперь я знаю из-за кого  данные в датацентрах теряются.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #44

55. Сообщение от Аноним (54), 29-Апр-20, 13:45	+/–
Да все ясно погремушка из сабжа на такое не рассчитана. Штука для бенчамарков мериться.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #52

56. Сообщение от Аноним (54), 29-Апр-20, 13:48	+/–
Если ты где-то возьмешь столько ОЗУ то прямо в ней и держи всю базу скорости будут ух.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #50 Ответы: #59

57. Сообщение от Аноним (54), 29-Апр-20, 13:48	+/–
Весело когда эти кеши валятся в своп.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #53

58. Сообщение от Аноним (58), 29-Апр-20, 14:53	+/–
если в слове "бОльшие" ударение на букве "о" - то целиком и полностью согласен. А по факту - Optane'ы с ресурсом, в 70+ раз бОльшим, но со стандартным простым интэрфэйсом - стоят очень дорого. Не порядок.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #40

59. Сообщение от нах. (?), 29-Апр-20, 22:07	+/–
прикол в том, что авторы монги об этом - знают. И держат. Но пытаются сохранить данные при внезапном падении, поэтому скорость у них хороша только когда чтение попадает в кэш, а с записью и особенно update все гораздо интереснее. А у этой хрени, похоже, вопрос сохранения данных вообще не стоит ;-)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #56 Ответы: #60

60. Сообщение от erthink (ok), 29-Апр-20, 22:53	+/–
> А у этой хрени, похоже, вопрос сохранения данных вообще не стоит ;-) Ну вот опять "не читал, но осуждаю"... Эта "хрень" (aka HSE) работает быстрее на 99% из-за mpool (модуль ядра). В свою очередь, mpool реализует примерно две (нужные для LSM+WAL) вещи, но делает это гораздо оптимальнее чем можно сделать через традиционное API POSIX. Чтение "через mpool" получается быстрее, во многом, из-за непосредственного отображения данных в память (memory mapped I/O). В этом есть схожесть с libmdbx. Запись "через mpool" тоже выходит быстрее, так как без лишнего копирования и засорения страничного кэша ядра. Отдельная принципиальная фишка в дозаписи WAL "в одну страницу флеша" без её стирания (хотя многое еще не реализовано). К этому добавьте асинхронность и распараллеливание (внутри ядра) между разными носителями, а также автоматические идеальные write barriers. При этом специфическое API и реализация внутри ядра позволяют дополнительно экономить на системных вызовов и модификациях PTE (со сбросом кеша). Т.е. фактически Micron предложил специфическое API для хранения LSM+WAL на solid-носителях, и на примере HSE показал его в действии. "Но" здесь только одно - в моем понимании вся затея сильно обесценивается при выходе на рынок персистентной памяти и Micron можно заподозрить в "выбрасывании в open-source" проекта, который вот-вот потеряет актуальность.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #59 Ответы: #62

61. Сообщение от нах. (?), 30-Апр-20, 00:30	+/–
> Бывают ли в этом мире неважные данные? конечно. Большинство данных в этом мире - неважны. > Допустим пользователь загрузил вам фото со своим котиком и удалил со своего диска. "Дурак, это я его пользователь". В смысле, это мы его - пользуем. Времена когда пользователь был чем-то уважаемым и ценным, к сожалению, прошли. > База данные сдохла и котик пропал, будет ли доволен пользователь? а кого это колышет? Куды ни пойди - везде один и тот же пейсбук. Поэтому пользователь заведет себе нового котика, если старый сдох и перефоткать его уже не получится. И выложит поделиться- "го, я создал!" Куда он денется-то? А лайкающие - пополнят социальный граф - и вот его-то мы храним ни разу не в мемкыше, поэтому твои лайки с прошлого, сдохшего котика - тоже там осели. > Если и делать хранилище в RAM, то только с резервированием на двух разных серверах с ох уж эти васяны-неофиты. "У вас на стройке случаи split-brain были? Нет? - Будут!"
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #42

62. Сообщение от нах. (?), 30-Апр-20, 01:03	+/–
>> А у этой хрени, похоже, вопрос сохранения данных вообще не стоит ;-) > Ну вот опять "не читал, но осуждаю"... дык, а чего читать-то - данные профайлера? Они у вас разьве есть? Документации нет, вывален какой-то непойми как работающий код и непойми что тестирующие тесты. (насколько они в  чей-то конкретный use-case ложатся с их фиксированным размером блока, которого в жизни не бывает примерно никогда?) > Эта "хрень" (aka HSE) работает быстрее на 99% из-за mpool (модуль ядра). проверяли? И если да - то как? Может она не из-за mpool, а из-за того что половина операций п[р]опадает в память, например? Монга, заметьте, тоже умеет и любит память, но писать на диск старается надежно, и недаром у нее такая большая любовь к единственно-верной xfs. > В свою очередь, mpool реализует примерно две (нужные для LSM+WAL) вещи, но > делает это гораздо оптимальнее чем можно сделать через традиционное API POSIX. ну вот этот момент и стоит разобрать подробнее - чем оптимальнее и насколько. Учитывая что от апи posix используется в нужном нам случае весьма небольшая часть, и та в основном в обход типичных средств ос, не для нас предназначенных. > Чтение "через mpool" получается быстрее, во многом, из-за непосредственного отображения > данных в память (memory mapped I/O). В этом есть схожесть с ну и чем это отличается от банального mmap() ? Да, в случае обычной fs наверняка чуть побольше оверхед, но если там все сделано правильно - он приведет только к десятку передач указателей, не должно это обеспечивать потери в восемь раз. > Запись "через mpool" тоже выходит быстрее, так как без лишнего копирования и > засорения страничного кэша ядра. Отдельная принципиальная фишка в дозаписи WAL "в > одну страницу флеша" без её стирания (хотя многое еще не реализовано). для этого надо знать размер страницы и уметь попасть в нее. Я хз как это сделать надежно, не имея внутрифирменной документации, которой обычно никто делиться не хочет. И об этом, собственно, уже говорилось. Ну и результат, как я понимаю, таки тот, что мы теперь сообщаем о записи до того как она на самом деле произошла, не? > К этому добавьте асинхронность и распараллеливание (внутри ядра) между разными носителями, тут, кстати, да, непонятно с чем они сравнивали (опять вопрос к "качеству" информации). Если с lvm stripe + xfs (а то и чем похуже) - то я легко поверю в 8x без всяких махинаций с кэшированием. А если все же это честный тест на single device - то непонятно (зачем он нужен ;-) > а также автоматические идеальные write barriers. это я не понял, но не читать же чудо-код... > Т.е. фактически Micron предложил специфическое API для хранения LSM+WAL на solid-носителях, > и на примере HSE показал его в действии. все еще остается вопрос, насколько оно поддерживает целостность, и какую. Похоже, о транзакционной речь не идет? (ну а повредить структуру в lsm+wal, наверное, и не выйдет) > "Но" здесь только одно - в моем понимании вся затея сильно обесценивается > при выходе на рынок персистентной памяти и Micron можно заподозрить в > "выбрасывании в open-source" проекта, который вот-вот потеряет актуальность. полагаю,этого мы еще доооолго можем не бояться - поскольку персистентная память потребует очень специальных железок (которые не micron производит), а значит будет использоваться только в безумно дорогих специальных случаях. Ну или как вариант - каждый модный-современный сервер будет оснащаться слотом, но целым одним. а для nvme, как я понимаю, никаких принципиальных отличий от ssd нет.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #60 Ответы: #63

63. Сообщение от erthink (ok), 30-Апр-20, 01:12	+/–
> это я не понял, но не читать же чудо-код... Тогда мне с вами не о чем говорить.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #62 Ответы: #64

64. Сообщение от нах. (?), 30-Апр-20, 09:38	+/–
>> это я не понял, но не читать же чудо-код... > Тогда мне с вами не о чем говорить. ну звиняйте - если я не вижу ответов на очевидные вопросы в описании софта - я точно не буду их искать реверс-инжинирингом. И предпочту обойтись своими предположениями, выбирая худшие - потому что редко, на самом деле, случаются чудеса. Если кто-то за меня расковыряет - я с интересом его послушаю. Но разбираться сам, откуда там волшебные автоматические барьеры - не буду, тем более.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #63

65. Сообщение от FRS (?), 30-Апр-20, 10:26	+/–
> п.с: «выгоднее» вообще ничего не делать, кроме как просто деньги печатать.. вы там поаккуратнее с такими идеями. Кеннеди вот - пришлось пристрелить.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #49

66. Сообщение от Аноним (66), 05-Фев-21, 02:14	+/–
Я правильно понимаю, что без их модуля ядра mpool движок работать не будет?
Ответить | Правка | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема