The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]



Вариант для распечатки  
Пред. тема | След. тема 
Форум Разговоры, обсуждение новостей
Режим отображения отдельной подветви беседы [ Отслеживать ]

Оглавление

Яндекс открыл YTsaurus, платформу для обработки и хранения больших объёмов данных, opennews (??), 23-Мрт-23, (0) [смотреть все]

Сообщения [Сортировка по времени | RSS]


62. "Яндекс открыл YTsaurus, платформу для обработки и хранения б..."  +/
Сообщение от погроммист (?), 24-Мрт-23, 01:09 
Работал с ней в 2016-2018 внутри Яндекса. Уже тогда это была продуманная до мелочей система, которой пользуются почти все отделы как единой ФС для данных всей компании. Тысячи человек и роботов ежедневно запускали джобы поверх тысяч нод *единого* кластера на все отделы, и очень редко когда он уходил в даунтайм. Очень продуманная система ACL и квотирования ресурсов, бесконечная масштабируемость, и всё умещается в пару статических бинарников на C++ без всяких maven джунглей.
Ответить | Правка | Наверх | Cообщить модератору

64. "Яндекс открыл YTsaurus, платформу для обработки и хранения б..."  –1 +/
Сообщение от ivan_erohin (?), 24-Мрт-23, 07:10 
> которой пользуются [...] как единой ФС для данных всей компании.

сценарий:

одна маленькая дырка в единой ФС
+
один злонамеренный инсайдер-погромист
=
все данные всей компании улетают на. или в.

> почти все отделы

а, ну тогда пускай будет.

Ответить | Правка | Наверх | Cообщить модератору

66. "Яндекс открыл YTsaurus, платформу для обработки и хранения б..."  +/
Сообщение от Аноним (65), 24-Мрт-23, 08:19 
>  единой ФС для данных всей компании

а, так это фс для файлопомойки. а в новости что-то про бигдату

Ответить | Правка | К родителю #62 | Наверх | Cообщить модератору

73. "Яндекс открыл YTsaurus, платформу для обработки и хранения б..."  +4 +/
Сообщение от пох. (?), 24-Мрт-23, 11:24 
они там мамой клянутся что универсальная - хошь помойку, хошь бигдату (как будто это не помойка), а хошь данные кредитных карт и адреса доставки яды. Ой... уплыла. Ну и фиг с ней - яндекс-то ни копейки на этом не потерял.

Ответить | Правка | Наверх | Cообщить модератору

83. "Яндекс открыл YTsaurus, платформу для обработки и хранения б..."  +/
Сообщение от all_glory_to_the_hypnotoad (ok), 26-Мрт-23, 03:41 
Это же мягко говоря не правда. В тот период ыть не умела быть единой ФС для всех, каждому отделу поднимали свои инстансы. Ну и это далеко не единственный инструмент внутри Я чтобы что-то похранить и обработать.
Ответить | Правка | К родителю #62 | Наверх | Cообщить модератору

87. "Яндекс открыл YTsaurus, платформу для обработки и хранения б..."  +/
Сообщение от пох. (?), 27-Мрт-23, 10:29 
Вы бы лучше поделились информацией, как оно вообще было в работе и чего стоили те даунтаймы которые "редко" по мнению предыдущего эхсперта. Как чинилось, во что выливалось...

Ответить | Правка | Наверх | Cообщить модератору

91. "Яндекс открыл YTsaurus, платформу для обработки и хранения б..."  +/
Сообщение от Аноним (91), 28-Мрт-23, 07:24 
"хранения и обработки данных десятков тысяч пользователей" - прям настоящая бигдата, целые десятки тысяч.
Ответить | Правка | К родителю #62 | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема




Партнёры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2024 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру