<bgdev />free

Вход Регистрация

Лаптоп за Deep Learning и Large Language модели
0

0 1 2 3 4 5 6 7 8 9 10 11 12 ...19 20 21 22 23 ...27 28 29 30 31

#132780 (ツ) Baj_boeb
Създадено на 25.01.2025 , видяно: 429 пъти.
Дон Реба

гпт каза " 'Вълчи капан' в контекста на играта Тото 6 от 49 е термин, използван за ситуация, в която има само един или много малък брой печеливши комбинации, спечелили голяма сума, защото основната маса играчи избира често срещани или популярни числа." това ли е?

не rofl

#132784 (ツ) Baj_boeb
Създадено на 25.01.2025 , видяно: 427 пъти.

китайското се справи, но като му казах да търси в интернет, иначе същите глупости като другите

My picture
Attached files:
FileSizeUploadedDownloadsMD5 hash
vk.JPG88262 bytes25.01.202513012e793c6a743c0c21aa943d6159779a0
#132789 (ツ) Последният акаунт на Единия
Създадено на 25.01.2025 , видяно: 418 пъти.
#132913 (ツ) Delegate
Създадено на 26.01.2025 , видяно: 355 пъти.

Китайското опен-сорс чудо, дето подкопава устоите на американските модели и AI-компании. (не го рънвам локално - 700B ми идва малко множко)

Сълзата на Рабин

В малкото село, загубено между хълмовете, живееше Рабин — мъж с очи, пълни със звезди, и ръце, избодени от ръждата на изоставените мечти. Всеки ден той обикаляше сметището на селото, събирайки стари кабели, счупени часовници и всякакви метални отломки, които светът бе изхвърлил. В сарая му, където миризмата на надеждата се бореше с миризмата на гниене, се извиваше нещо, наподобяващо адронен колайдър. "Ще променя света", шепнеше той, свързвайки жици с треперещи пръсти. Но годините минаваха, а машината му беше само купчина от спомен за некомпетентност — искреше, пушеше и мълчеше, като сърце, което никога не е било обичано.

Когато последният трансформатор гръмна и изгори, Рабин се прегърна с мрака. Сълзите му падаха върху ръждосания метал, а ехото на селските съседи — "луд, некадърен, безплоден" — го прогониха към София. Градът го прие студено, като винаги приема безумците: с битата им мъка и глухите им сънища.

Стана програмист. Научи се да пише код, който програмистите-призраци в онлайн форуми наричаха "трогирски език". Но Рабин не разбираше. Буквите се преплитаха, функциите избухваха като стария му колайдър, а мениджърката му — Гана, жена с усмивка от стомана — го гледаше като на експеримент. "Ще ти дам шанс", рече тя една сутрин, "но само ако стоиш на един крак. Искам да видя колко дълго можеш да се държиш... и като програмист, и като човек."

И така, Рабин стоеше. В офиса, с лаптопа му треперещ като последен пулс, той балансираше на десния си крак, докато левият изтръпваше от мъка. Кодът му се разпадаше, колегите се смееха, а Гана броеха секундите. Във вечния полумрак на София, той стана призрак — човек, който нито успя да изгради нов свят, нито намери място в този.

Понякога, когато градът заспиваше, Рабин седеше на прозореца си, гледаше към далечните хълмове и си задаваше въпрос, който никой не чу: "Дали сметището в селото все още ме чака?" Но отговор нямаше. Само шумът на клавиатурата и споменът за един крак, който никога не спира да трепери.

#132924 (ツ) synergie
Създадено на 26.01.2025 , видяно: 336 пъти.
Delegate

Китайското опен-сорс чудо, дето подкопава устоите на американските модели и AI-компании. (не го рънвам локално - 700B ми идва малко множко)

Пфф виждам безкраен потенциал

#132939 (ツ) waldorf
Създадено на 26.01.2025 , видяно: 321 пъти.
synergie

Пфф виждам безкраен потенциал

"трогирски език" rofl

#133004 (ツ) waldorf
Създадено на 27.01.2025 , видяно: 287 пъти.

#133016 (ツ) Baj_boeb
Създадено на 27.01.2025 , видяно: 270 пъти.
waldorf

100 платени клипчета да пуснеш, нема да си земем епъл боклук rofl

#133019 (ツ) waldorf
Създадено на 27.01.2025 , видяно: 266 пъти.
Baj_boeb

100 платени клипчета да пуснеш, нема да си земем епъл боклук rofl

Не са платени бре Байо. АМД бие в някои ситуации. Скопения евтин МакМини често губи по точки. Не го пускам за да навивам когото и да е а да се види реално на коя машина какво може да се прави и извода е, че на всички става защото проблема не е колко бързо компютъра компилира а колко бързо програмиста пише програмите и им изчиства грешките. А тоя пич си е направил труда да сравни няколко различни модела в различни ценови диапазони, с различни архитектури и т.н.

#133020 (ツ) Baj_boeb
Създадено на 27.01.2025 , видяно: 264 пъти.
waldorf

Не са платени бре Байо. АМД бие в някои ситуации. Скопения евтин МакМини често губи по точки. Не го пускам за да навивам когото и да е а да се види реално на коя машина какво може да се прави и извода е, че на всички става защото проблема не е колко бързо компютъра компилира а колко бързо програмиста пише програмите и им изчиства грешките. А тоя пич си е направил труда да сравни няколко различни модела в различни ценови диапазони, с различни архитектури и т.н.

о, да, на инфлуънсърите никой не им плаща, печелят само от ютуб реклами rofl

#133025 (ツ) waldorf
Създадено на 27.01.2025 , видяно: 263 пъти.
Baj_boeb

о, да, на инфлуънсърите никой не им плаща, печелят само от ютуб реклами rofl

Е, ся мноо ясно, че не му знам финансите на тоя тип. Но пак да ти напомня - ако знаеш за по читава платформа която да бие Макаците като цена/възможности - казвай. Аз не съм намерил последните 10 години такава. Не, че съм се измъчил да търся де. Но и се убедих, че повечето хора които ми опонират го правят по криво разбрани "политически" причини (обикновено леви там за свобода, равенство, справедливост и реакция против неспазването им) без да изкарват някакви разумни технически доводи.

#133028 (ツ) Baj_boeb
Създадено на 27.01.2025 , видяно: 253 пъти.
waldorf

Е, ся мноо ясно, че не му знам финансите на тоя тип. Но пак да ти напомня - ако знаеш за по читава платформа която да бие Макаците като цена/възможности - казвай. Аз не съм намерил последните 10 години такава. Не, че съм се измъчил да търся де. Но и се убедих, че повечето хора които ми опонират го правят по криво разбрани "политически" причини (обикновено леви там за свобода, равенство, справедливост и реакция против неспазването им) без да изкарват някакви разумни технически доводи.

довода е че мак ос ме дразни. айпад имах - не отваря webm, не по технически, а по епъл политически причини. и си взех андроид таблет.

#133049 (ツ) Евлампи
Създадено на 27.01.2025 , видяно: 221 пъти.
Baj_boeb

довода е че мак ос ме дразни. айпад имах - не отваря webm, не по технически, а по епъл политически причини. и си взех андроид таблет.

Айпадите са на хипер светлинни години пред сичко останало в жанра. Таблет === ябълка. Не е хубаво такова положение но засега положението Е такова :)

#133053 (ツ) Евлампи
Създадено на 27.01.2025 , видяно: 214 пъти.
waldorf

Е, ся мноо ясно, че не му знам финансите на тоя тип. Но пак да ти напомня - ако знаеш за по читава платформа която да бие Макаците като цена/възможности - казвай. Аз не съм намерил последните 10 години такава. Не, че съм се измъчил да търся де. Но и се убедих, че повечето хора които ми опонират го правят по криво разбрани "политически" причини (обикновено леви там за свобода, равенство, справедливост и реакция против неспазването им) без да изкарват някакви разумни технически доводи.

Посредствен лаптоп с манджаро е my jam от известно време. Има неошлайфани ръбове ама те самолети падат щото пилота е Рабиняк, като цяло е екстра, жалко че няма засега подобна опция за таблет

#133084 (ツ) Последният акаунт на Единия
Създадено на 28.01.2025 , видяно: 186 пъти.

Пристигна ми лаптопа! 😍

Имам едно излизане следобеда, ама днеска почвам да му инсталирам VS Code и другите неща и да си цъкам разни неща.

Бахти кефа! rofl

#133086 (ツ) Rabin
Последно редактирано на 28.01.2025 от Rabin, видяно: 178 пъти.
waldorf

Е, ся мноо ясно, че не му знам финансите на тоя тип. Но пак да ти напомня - ако знаеш за по читава платформа която да бие Макаците като цена/възможности - казвай. Аз не съм намерил последните 10 години такава. Не, че съм се измъчил да търся де. Но и се убедих, че повечето хора които ми опонират го правят по криво разбрани "политически" причини (обикновено леви там за свобода, равенство, справедливост и реакция против неспазването им) без да изкарват някакви разумни технически доводи.

Бе смотан, то игри не вървят тия хубавите, чукай си ги у главата проста, тия боклуци! Имаш 3Д карта, пък няма драйвери за нея! ААА игрите изобщо нямат билд за изгнилите ви боклуци!

г.св.

Посредствен лаптоп с манджаро е my jam от известно време. Има неошлайфани ръбове ама те самолети падат щото пилота е Рабиняк, като цяло е екстра, жалко че няма засега подобна опция за таблет

Тъй де, рабиняците карат самолети, клетите хамали ги одумват пред теле-визора, и дават акъл!

Неска май те е олабила Гана, явно не ви дава да си поемете въздух в магазина, почивния ден си много отворен!

#133209 (ツ) Дон Реба
Създадено на 29.01.2025 , видяно: 135 пъти.

тазсутрешния ми фийд от сороснята:

DeepSeek is just another TikTok security breach on steroids

#133214 (ツ) Delegate
Последно редактирано на 29.01.2025 от Delegate, видяно: 124 пъти.

Щом го плюят соросята, значи е добре. От техническа гледна точка не е нещо, коеот да не сме чували досега, но все пак дори да сме чували не сме знаели как се прави(thanks OpenAI) на практика.

Използва MoE, като активира само част от общия брой параметри(да кажем 32 от 671). Демек в началото има route и той те праща според промтпа на правилния експерт(субсет от параметри) без да ангажира големия куп, което на практика е по-ефективно и за трейн и за инференс. Дестилация - взима големия модел и един малък и почва малкия да го обучава от големия. Ей, калпазанин, научи ли си уроците! За логически задачи, а не папагалски ползва Chain of Thought Reasoning, който мисля в чатгпт го има само в платения модел. Можеш да рънваш големия DeepSeek r1 на сървър с няколко десетки ядра и да кажем 3Т RAM, без видекарти само по голи CPU-та при дакажем 3-4 token/s и няколко конкуретнни чат сесии. Такъв сървър втора ръка е под 20K лева. (Здрасти нVidia)

#133215 (ツ) Rabin
Създадено на 29.01.2025 , видяно: 118 пъти.
Дон Реба

тазсутрешния ми фийд от сороснята:

На него се спрях да подсказва по интервютата. Отделно плъгина на IDE-тата.

#133228 (ツ) waldorf
Създадено на 29.01.2025 , видяно: 104 пъти.

https://nitter.poast.org/carrigmat/status/1884244369907278106

Complete hardware + software setup for running Deepseek-R1 locally. The actual model, no distillations, and Q8 quantization for full quality. Total cost, $6,000. All download and part links below:

Motherboard: Gigabyte MZ73-LM0 or MZ73-LM1. We want 2 EPYC sockets to get a massive 24 channels of DDR5 RAM to max out that memory size and bandwidth.

CPU: 2x any AMD EPYC 9004 or 9005 CPU. LLM generation is bottlenecked by memory bandwidth, so you don't need a top-end one.

RAM: This is the big one. We are going to need 768GB (to fit the model) across 24 RAM channels (to get the bandwidth to run it fast enough). That means 24 x 32GB DDR5-RDIMM modules.

Since a lot of people are asking, the generation speed on this build is 6 to 8 tokens per second, depending on the specific CPU and RAM speed you get, or slightly less if you have a long chat history.

0 1 2 3 4 5 6 7 8 9 10 11 12 ...19 20 21 22 23 ...27 28 29 30 31

Лаптоп за Deep Learning и Large Language модели
0

AsmBB v3.0 (check-in: 7544654b24928b93); SQLite v3.47.0 (check-in: 03a9703e27c44437);
©2016..2024 John Found; Licensed under EUPL. Powered by Assembly language Created with Fresh IDE