Не знам кво спорите пичуе, ама кат гледам накъде отива роботиката и AI... замалко си издрайфам червата от смех... 
Почвам тотално да не разбирам Света...
Лаптоп за Deep Learning и Large Language модели
0 1 2 3 4 ...17 18 19 20 21 ...37 38 39 40 41 42 43
Не знам, на мен ми се струва, че уреда си има място под Слънцето и това е меко казано. AI Ryzen MAX+ 395 съв 128 GB RAM, можеш да му заделиш от UEFI-то макс 96 GB за видео рам и понеже видео-чипа е доста способен, получаваш малка AI машинка с доста видео-РАМ за малко по-големи локални модели. Отделно си е геймърска тупалка, а и CPU-то в бенчмарковете и на ФотошопLightroom бие на доста места M4 max pro с изключение на single core задачите. За 2000$ долара каква друга машина мога да сглобя, която да се представя добре за евридейка/видео/CAD/3Д и др. за AI с 96 GB VRAM и да се представя прекрасно на гейминг + Win/Linux съвместин x86 ефективен чип. Има още някои бъгове в имплементацията - например под Fedora можеш да заделяш дори макс VRAM налична в системата и да рънваш наистина големи модели.
Аз не че искам да омаловажавам нердските пориви да "рънват" нещо локално. Все пак, за къф чеп?
Краваря по-далеч от лист хартия, наплюнчен молив, в краен случай ноутпад не отива щот не може модерните инструменти са му под достойнството.
каква смислена разработка или обучение на локална ИИ система би могла да се направи, при положение, че колективи от топ спецове по 200-300 души, въоръжени с клъстери от суперкомпютри се мотаят с години и пак пускат недоносчета като ГПТ5?
Локални модели си трябват. Аз бих пуснал на локален модел да ми оформи патента дето готвя.
short answer : много от данните на много от юридическите и дори физическите лица и организациии са конфиденциални.
Навремето при дотком бума. топ търсачката Яху се състоеше от ръчно едитирани дървета от линкове. Не по-различни от локалните букмаркове, дето хората имаше мода да се споделят онлайн.
При такова ниво на технологията имаше мегдан двама трима нърда в един гараж да направят нещо, ама сега хората строят цели електрически централи да захранват обучаващите центрове. Мина времето на гаражните герой ми се струва.
Рънване, infering ли как се казва, не е като да обучиш ИИ модел. Трябва си за много неща локален ИИ, наще боклуци са докопали служебен хардуер. Затуй са курназ.
Мислех да се занимавам с наети услуги, ама е на порядък по-трудно, инак работи.
Ти глей колайдъра да тръгне, за обучаване на ИИ модели ти трябва естествен интелект от който имаш голям дефицит …
Всичко съм зарязал и бачкам 100% по колайдъра. Мое да го замъкна в София.
ИИ нямам намерение да обучавам. Смятам да ползвам готови модели, коги ми остане време.
За $2000 наистина няма много избор, особено ако ползваш Уиндоус/Линукс. Жалко, че е със статичен partitioning на уж "unified memory".
Говедо, и за това ли трябва да те ограмотяваме? Чувал ли си за fine-tuning? За edge AI? Не всички модели са такива, които работят на суперкомпютри.
А козоеба пробвал нещо, оказало се че няма клипчета на руски как да го направи. И се отказал. :)
Време нямам, свободното еба майка ти проста.
Е да, как да има време козоеба като сега сменя маслото на репичките. :)
Ко ши файн тюнваш ве маймун? Тва са 20 гигабайта база, я раздуй малко какви хартий си надиплил за целта?
20 гигабайта? Абе, говедо, има ли нещо, което да знаеш? Досега не си демонстрирал, че има. :)
Квантуване май визира, смаляват броя кодиращи битове. Става по-грубо, работи по-зле.
Козоеба и той да изсере нещо, да демонстрира неграмотността си. :)
0 1 2 3 4 ...17 18 19 20 21 ...37 38 39 40 41 42 43