Arc B70 Pro 32GB. Сносно ГПУ за бедняци. Ши е добре да работи под линукс.
0 1 2 3 4 ...41 42 43 44 45 ...84 85 86 87 88
Arc B70 Pro 32GB. Сносно ГПУ за бедняци. Ши е добре да работи под линукс.
Точно взех две АМД-та R9700 - тоя интел също изглежда интересно но трябва да се види и дали има читав софтуер.
На тея им нямам доверие, ще изсерат нещо подобно на phi-то навремето, цената е сгодна иначе, ама софтуерната подръжка колко ще я има, не е ясно.
Те за това докато чакаме да излезе M5 Ultra компромисния вариант беше R9700 ... не, че няма кусури, но все още на сравнително разумна цена. Е, с 2 х 32 = 64г не може да се търкалят читавите модели ама като за разцъкване става. Че даже и за игри става - инсталирах Кипебънк-а ... връви, ма шуми ... бива като графика.
Екстра са си АМД-тата, но по-скоро за AI бих заложил на Ryzen 9 AI с много unified memory, отколкото на тия дискретни карти.
И тези ги гледах ... скочили са им яко цените заради поскъпването на паметта. И са по слаби от Епълския силикон - то там трудно нещо успява да ги бие като цена/параметри. А и скоростта на паметта е по бавна което се отразява после пък като търкаляш ИИ моделите.
Да, така е, но за 1500 евро можеш да имаш сносна търкалячка с 96 гиги "VRAM", която е малка, тиха, не пИче като на Рабина сървъра и не харчи ток. Като на Апъл решението, но за фракшън от цената и не е кой знае колко по-зле от Апъл. Не знам как стои въпроса със скалирането и клъстеризирането им.
Къде го намери това за 1500 ... при мен 128гб излезаше към 3000-3500 ... и за същите пари взех две R9700 - наполовина памет но пък доста по бърза. Като излезе М5 Ултра ще взема вече с много памет.
Другия вариант беше някой nVidia Spark но и те са по 3-4к за 128ГБ
Последно го гледах беър боун за 599 евро с hx 370. Не е баш 395 pro max, но пак става.
Днеска инсталирах и пробвах codex-а, изглежда добре so far.
Това не е с локален модел или?
Иначе codex CLI са го пооправили, сега работи също толкова добре колкото Claude CLI.
Е, не е локален. Общо взето, стигнах до извода че с локален нищо не работи добре.
Не знам, един колега използваше един от Qwen моделите локално на DGX Spark. Май не за писане на код, а за правене на разни диаграми и документация, но казваше, че било ОК.
Това е много лесно, има backtrace, дай му нещо по-сложно и му глей сеира.
Аз ползвам 3.6:35B за други задачи (не кодене), и се справя дори с българския на прилично ниво.
0 1 2 3 4 ...41 42 43 44 45 ...84 85 86 87 88