> Не понятно зачем тогда вообще GPU производят

Чтобы деньги зарабатывать) Продаёшь отдельно cpu + gpu + npu + vpu - юзер платит за всё - профит. А переведи тот же рендеринг видео с куцого отдельного блока с производительностью как аналогичный блок в мобилке на унифицированные ядра - это ж просто порвёт рынок, никому такое не надо, надо доить пользователя.
> Много такого на кристалл не набьешь. Максимум несколько десятков.

Core Duo e5500 - 228 млн, mac m1 ultra - 114 млрд, транзисторный бюджет ровно на тысячу вполне неплохих ядер, ну а если с какими-нибудь rsicv сравнить, счёт пойдёт на многие тысячи, и это с симдами, кэшами и конвейерами. Собственно в этом направлении сейчас и двигаются некоторые, и по маркетниговым заявлениям, уже даже попирают обычные гпухи по производительности, и на ватт, и вообще.

"ET-SoC1 (Esperanto Technologies Supercomputer-on-Chip 1, из особенностей — 1088 энергоэффективных 64-разрядных ядер RISC-V общего назначения с модулями векторных/тензорных вычислений для оптимизации и ускорения операций, которые связаны с ИИ и машинным обучением. Кроме того, чип включает четыре высокопроизводительных ядра RISC-V, 160 млн байт встроенной SRAM-памяти (152 мегабайта), плюс интерфейсы для подключения flash-памяти и внешних модулей DRAM. Насколько известно, всего в ET-SoC1 23.8 млрд транзисторов."