URL: https://www.opennet.me/cgi-bin/openforum/vsluhboard.cgi
Форум: vsluhforumID3
Нить номер: 132817
[ Назад ]
Исходное сообщение
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA-приложения на GPU AMD"
Отправлено opennews , 12-Фев-24 23:12 
Проект ZLUDA подготовил открытую реализацию технологии CUDA для GPU AMD, позволяющую выполнять немодифицированные CUDA-приложения с производительностью, близкой к производительности приложений, выполняемых без прослоек. Опубликованный инструментарий обеспечивает бинарную совместимость с существующими CUDA-приложениями, собранными при помощи компилятора CUDA для GPU NVIDIA. Реализация работает поверх развиваемого компанией AMD стека ROCm и runtime HIP (Heterogeneous-computing Interface for Portability). Код проекта написан на языке Rust и распространяется под лицензиями MIT и Apache 2.0. Поддерживается работа в Linux и Windows...

Подробнее: https://www.opennet.me/opennews/art.shtml?num=60591

Содержание
Сообщения в этом обсуждении
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено КриоМух , 12-Фев-24 23:12 
Как бы кого-то не испугала первая буква в названии :) А то я знатно поржал, когда на форуме заббикса определённые активисты злостно требовали сменить неугодный общественности логотип :) К чести разработчиков - они просто указали, где он лежит в инсталляции и сказали, дескать вам надо - меняйте у себя :)
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 12-Фев-24 23:28 
Cuda на amd и так более-менее сносно работает поверх rocm. Просто оставляешь device='cuda' и просто работает. Возможно, не со всеми ббилиотеками, но работа в этом направлении активно ведётся. https://www.goha.ru/amd-otnyne-pozvolyaet-portirovat-nvidia-...
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 12-Фев-24 23:35 
В ZLUDA речь не про портирование, а про запуск уже скомпилированных бинарных CUDA-приложений.


"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Амдоним , 12-Фев-24 23:42 
Может кто в курсе как сейчас обстоят дела с поддержкой старых видеокарт (RX580) для работы с нейросетями? Когда я пробовал три года назад, то при работе c LSTM в tensorflow AMD GPU проигрывала по скорости CPU. И вообще стоит ли покупать для этих целей AMD или там всецело правит nVidia?
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено AleksK , 12-Фев-24 23:47 
Покупать сейчас RX580 стоит только от очень большой нужды, ну или как затычку.
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 13-Фев-24 11:14 
Для затычки она слишком прожорлива. Да и называть "затычкой" карточку, способную переварить тот же киберпунк на средних…
А еще рыкса, как правило, ужарена майнером. Трижды.
За не сильно больший прайс можно взять rx5500, которая лучше буквально всем.
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Зазнайка , 15-Фев-24 08:38 
Лучше только в сниженном потреблении электроэнергии.
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено _kp , 13-Фев-24 17:00 
У нас все нужды большие(ц) ;)
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 12-Фев-24 23:48 
Со старыми все плохо и даже не очень новыми. На RX5700 мне почему-то не удалось завести (готов заплатить пару тысяч если кто-то поможет).
В целом у невидии быстрее и беспроблемнее, но невидия с их дровами не очень.
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Рейка Сметанова , 13-Фев-24 00:20 
Мне на моем обрубке 6500xt завести стейблу и всякие для изменения голоса помогает это всунуть (более новая версия торчава не хочет работать, ну и питон нужен 3.10.х)

pip install torch==1.13.1+rocm5.2 torchvision==0.14.1+rocm5.2 torchaudio==0.13.1 --extra-index-url https://download.pytorch.org/whl/rocm5.2

export HSA_OVERRIDE_GFX_VERSION=10.3.0

"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Анонемузъ , 24-Фев-24 00:34 
О нет, кликер
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 12-Фев-24 23:55 
Для поиграться с нвидиа однозначно проще будет, но с другой стороны, для этих целей можно вообще не покупать, а в облаке арендовать или бесплатный гугл коллаб юзать. У амд вроде как соотншение производительности к цене где-то лучше, но это не точно.
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 13-Фев-24 11:26 
Вариант.
https://colab.research.google.com
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 13-Фев-24 19:49 
Но это всё же чисто поиграться в большей степени. Есть скрытые квоты, при превышении которых GPU инстансы на пару месяцев "всегда заняты"
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено drygdryg , 19-Фев-24 02:21 
Я пробовал в 2023 году запустить ROCm для PyTorch на Radeon RX 570. В последних версиях дистрибутивов это весьма трудно сделать, но в итоге заработала версия PyTorch на Arch Linux из официальных репозиториев (пакет python-pytorch-opt-rocm): она собрана с архитектурой этой видеокарты. Производительность в Stable Diffusion при инференсе была  в 2-2.5 раза ниже, чем на NVIDIA GTX 1070.
Думаю, что RX 570/580 для инференса нейронных моделей покупать не следует.
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 12-Фев-24 23:43 
Ништяк, но тут говорят сложности с использованием rocm у людей. А казалось бы, столько денег в рекламу и брошюры слили. Видимо, на разработку бюджета не осталось. Ей нужны определённые карты и софт определённых версий, проприетарные драйвера и так далее. В оригинале это воткнул примерно любую карту и будет работать (для примера блендер). И для разработки тоже всё элементарно, если конечно тулчейн корректно установлен. А если с этим сложности (мой горячий привет cupy), то на выбор куча готовых бутылок со всем.
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 13-Фев-24 00:01 
Что за бутылки?
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 13-Фев-24 00:48 
> Что за бутылки?

Вот эти https://catalog.ngc.nvidia.com/containers

"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 12-Фев-24 23:46 
Видимо и Intel и AMD пока были догоняющие готовы были хоть на подножке ехать CUDA надо. А как немного окрепли и освоились, решили что и сами вполне локомотивы. Ну поживем увидим...
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 12-Фев-24 23:50 
Ага, щаз.
Нету ни амд, от интела окрепшего. Амд кое-как со скрипом на новых видюхах пытается в тензорфлоу вкатиться.
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 12-Фев-24 23:57 
Intel и AMD больше не интересно, но за то теперь видимо заинтересуется Nvidia ... в уридическом аспекте ;)
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 12-Фев-24 23:49 
fn _zluda_very_bad_linker_hack() {
    let _ = unsafe { cuInit(0) };
}

Нда...

"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 13-Фев-24 05:32 
Зато безопастно!
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 13-Фев-24 11:19 
Злюда от слова злю
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 12-Фев-24 23:53 
А зачем оно надо? Тем более на ржавчина.
Вроде rocm же и должен был обеспечить запуск куды без компиляции (а с компиляцией так opencl ещё с начала 2010ых работал).
Кто в теме, объясните.
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 13-Фев-24 00:01 
У AMD теперь ещё за пазухой есть Xilinx. Но AMD потеряла интерес к этой разработке.
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 13-Фев-24 00:37 
Мммм, что? Блоки ИИ в новых мобильных процессорах и в следующих на очереди десктопных.
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 13-Фев-24 10:34 
Вообще-то FPGA - оно универсально, не только для ИИ.
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Бывалый Смузихлёб , 13-Фев-24 12:59 
Так и у интола есть Altera
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 13-Фев-24 13:03 
И собственно Gaudi:
https://habana.ai/products/gaudi2/
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 14-Фев-24 11:12 
А у Невидии нет.
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Заноним , 17-Фев-24 20:40 
у Nvidia есть Mellanox
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено birdie , 13-Фев-24 00:23 
This has no future as NVIDIA may choose to sue the sh1t out of it any time any corporation touches it or offers it as an official solution.

Either NVIDIA releases CUDA APIs under a public license or bust.

"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 13-Фев-24 15:02 
Ну будет в даркнете распространяться, и все машинлёрнеры будут пользоваться. NVidia ничего не останется кроме как изменить компилятор, чтобы он все ядра ahead of time в машинный код целевых архитектур компилировал. 4 мегабайта всего, рекомендую забекапить на всякий случай репозиторий.
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 13-Фев-24 00:27 
>Спустя два года компания AMD решила, что запуск CUDA-приложений на GPU AMD не представляет интереса для бизнеса
>при помощи обратного инжиниринга части недокументированного API CUDA

Невидия всё равно подаст в суд, и на разраба, и на AMD.

"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 13-Фев-24 00:38 
Это совершенно бесперспективно, вспомним дело Oracle vs. Google. К тому же пользоваться этим будет мизерное количество человек, а большинство, переплеваашись, в итоге прибегут к NVIDIA — профит.
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 13-Фев-24 01:42 
Лиц. соглашение невидии запрещает реверсинг. А тут явно говорят про реверсинг. Будет как с re3 и reVC.
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 13-Фев-24 04:04 
>Лиц. соглашение невидии запрещает реверсинг.

Значит теперь они должны отобрать у автора ZLUDA лицензию! Если в лицензии конечно не указаны более серьёзные последствия. Реверс-инженеринг в том или ином виде разрешён везде, так, что по закону ему скорее всего пришить нечего.

"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 13-Фев-24 00:39 
Nvidia так не сделает, так как боится что AMD обратиться в антимонопольные органы.
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 13-Фев-24 01:43 
Так ведь это Бернская конвенция (которую приняло США, и не денонсировала), DMCA и патентное бюро США предоставили NVidia монополию.
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 13-Фев-24 10:51 
AMD отмажется: "Нам оно ненужно, все претензии к автору. Автор на морозе и к нам отношения не имеет."
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 13-Фев-24 11:58 
>организованной группой лиц по предварительному сговору

Не отмажется — оно 2 года финансировала автора, как и Intel, и договор с ним заключила.

"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Zulpa , 13-Фев-24 12:51 
>>Невидия всё равно подаст в суд, и на разраба, и на AMD.

Тем временем настоящий создатель видео драйверов не из сиона 🗿 , пусть сион продолжает подставлять под драйвера создателя чужие лица кому то надо платить 🗿

"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Beta Version , 13-Фев-24 14:51 
По какому поводу? AMD на этой ZLUDA ничего не зарабатывает и вообще отказалась от её использования и финансирования. Nvidia разве что закрытия реп добьётся.
Нову тоже реверс инжинирингом делается и никаких проблем.
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 13-Фев-24 15:04 
нуво продажам зелёных карт никак не угрожает
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Zenitur , 14-Фев-24 12:55 
С чего бы? Ещё скажи, что Microsoft поадст в суд на CodeWeavers за Wine.
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Kenneth , 13-Фев-24 01:09 
ZLUDA. Почти "Злая Люда".
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 13-Фев-24 02:23 
Это по-польски. Разработчик - Анджей Яник, поляк.
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено 12yoexpert , 13-Фев-24 11:55 
złuda с польского - заблуждение. отличное название и для cuda на amd, и для раста в целом
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Олег , 13-Фев-24 05:47 
Какие глупые костыли....
Ну скомпилируйте под амд, в чем вопрос?
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено dalco , 13-Фев-24 07:39 
Во-первых, это же таки компилировать надо. А с костылём и бинарник, ориентированный исключительно на зелёных, работает в 90% случаев.

Во-вторых, если верить первоисточнику, пока в некоторых тестах костыль+немодифицированный бинарник оказываются прилично быстрее, нежели бинарник, скомпилированный с поддержкой ROCm. Судя по всему, на оптимизацию под ROCm пока забили - пускается и ладно.

"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Golangdev , 13-Фев-24 07:49 
> написан на языке Rust

вот и нашлась роль Rust - писать системные и околосистемные штуки

"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Tron is Whistling , 13-Фев-24 09:33 
Да, вся роль и судьба из этой новости чуть более, чем очевидна.

- ... вначале разработчик ... являлся сотрудником Intel, ... данная компания посчитала предоставление возможности запуска CUDA-приложений на GPU Intel не представляющим интереса для бизнеса ...

... разработчик уволился из Intel и заключил контракт с компанией AMD ... компания AMD решила, что запуск CUDA-приложений на GPU AMD не представляет интереса для бизнеса ...

"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Tron is Whistling , 13-Фев-24 09:33 
Если чуть проще - это называется "писать никому не сдавшиеся велосипеды ради писать".
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Зазнайка , 15-Фев-24 08:44 
А разве это не вляется краеугольным камнем всего опенсорса?
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Шарп , 13-Фев-24 10:25 
Сколько костылей лепят лишь бы не покупать зелёную карточку.
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Tron is Whistling , 13-Фев-24 10:31 
Из бытовых зелёные карточки - ну так себе, будем честными.
Кроме 4090, ничего стоящего внимания на данный момент нет.
Добавить к этому жестокие проблемы с драйверами, не фиксящиеся годами...
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 13-Фев-24 11:24 
Амд. Пока нвидия не решат проблему с драйверами, амд будет и дальше лучшим выбором на рынке.
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 13-Фев-24 13:11 
Пользуюсь NVIDIA и не вижу абсолютно никакой проблемы с драйверами.
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Зазнайка , 15-Фев-24 08:45 
ПРосто не всем нравится быть в такой же позе как у Вас с проприетарью в известных местах
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Tron is Whistling , 13-Фев-24 10:32 
Это я как владелец той самой 4090 пишу, ога.
Решил попробовать зелёные карты на вкус. Следующая будет красной.
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Шарп , 13-Фев-24 10:34 
> Это я как владелец той самой 4090 пишу, ога.

Невероятное совпадение. У меня тоже rtx4090. Использую под вейландом. И какие же у тебя с ней проблемы?


"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Tron is Whistling , 13-Фев-24 10:39 
В текстовом редакторе всё нормально?

Если бы только у меня. Форумы просто битком проблемами, одними и теми же, годами.

Последнюю проблему со случайным дёрганьем в играх мусолили 4 месяца, все, кто поймал - сидели на старых драйверах, спустя 4 месяца наконец-то вышел хотфикс, ещё даже не релиз.

С многомониторностью у этих карт - вообще задница, 4 дисплея нормально использовать невозможно, каждый день по нескольку раз приходится руками возвращать настройки расширения десктопа в винде.

DSR не дружит с DSC. Базовое разрешение для DSR не задать, приходится юзать хаки, чтобы убрать с TV 4096x2160. Цвета в нереференсном режиме уходят, к счастью, меня с моими дисплеями интересует только референсный.

И т.д. и т.п.

Такого количества мелких но назойливых глюков за 15 лет с красными картами я не видел никогда.

"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 13-Фев-24 12:25 
У тебя DSC работает хотя бы, а у меня rx6800 вообще в какую не хочет прокачивать 8к@60hz в линукс, хотя всё железо теоретически способно. Приходится переключаться между 8к@30 для работы (телик потом достраивает кадры до 60гц) и 4к@60 для игр.
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 13-Фев-24 12:32 
https://4pda.to/2022/10/20/405228/intel_arc_a770_v_nekotoryk.../
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 13-Фев-24 12:57 
Там про декод видео ж, а не про DSC в линукс. Пишут, что DSC не работает с hdmi 2.1 в amd под линукс из-за патентов, запрещающих опенсорсить код, ответсвенный за проталкивание байтов по кабелю. Такая глупость( Декодировать 8k@60 может даже orange pi 5, это не какая-то сверхспособность)
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Tron is Whistling , 13-Фев-24 13:46 
Странно. На 6800 XT в винде прекрасно работает.
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Tron is Whistling , 13-Фев-24 13:47 
Вполне возможно, что проблема - да, не в DSC, а в HDCP.
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 13-Фев-24 10:44 
А зачем её покупать, если можно покупать ту, у которой есть открытый драйвер от самого производителя?
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено 12yoexpert , 13-Фев-24 14:09 
видимо, товарища зовут Фома, нужно самому убедиться в том, что и так общеизвестно
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено corvuscor , 13-Фев-24 16:23 
Если NVIDIA не натянет авторов данной тулзы в суде - я очень удивлюсь...
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Full Master , 13-Фев-24 19:00 
>Спустя два года компания AMD решила, что запуск CUDA-приложений на GPU AMD не представляет интереса для бизнеса

Они угарают чи го? Сейчас практически все нейросетки завязаны на нвидию из-за CUDA.

"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Full Master , 13-Фев-24 19:00 
*чи шо
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 14-Фев-24 03:50 
Сейчас уже и так всем заметно, что толку от нейросеток ноль. Сетка для "майнить глупые ответы на глупые вопросы" оказалась голым королём.
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 14-Фев-24 13:56 
Как нравится мне это «всем».
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 17-Фев-24 13:24 
Почему АМД не добавляет поддержку свежих видеокарт в Rocm? Где поддержка RX 7800 XT?
"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено Аноним , 17-Фев-24 13:46 
> Почему АМД не добавляет поддержку свежих видеокарт в Rocm? Где поддержка RX
> 7800 XT?

Оно работает. Код запускается, но в поддержке, если что, могут послать куда подальше. Скорее всего им просто лень тратить ресурсы на это.

"Опубликован инструментарий ZLUDA, позволяющий запускать CUDA..."
Отправлено мяя , 05-Мрт-24 16:27 
https://community.amd.com/t5/ai/amd-expands-ai-offering-for-...
Что-то там потихоньку добавляют.