<bgdev />^free

Това автоматично или ръчно го правиш ?

Виж провери как е болката (и срама) при лазерното избелване на ануса. Може да ти послужи...

Да, и това е забелязано и от нашите ИНСАИТ-чици, зарад което са базирали последния bggpt на...

Davos 2025, предлагат задължителна идентификация на потребителите в Интернет(социалните мрежи). Нема випиени, нема проксита. Може никнейм,...

да ти кажа, някои от тия неща са NDA, но не - не ползвам. Промтват се...

gemma2:27b

е, илон-мозъка ожъна една голяма част от кинтите на идиотите и сичко е точно.

Добре, аре квит сме.

Е, то е ясно защо се отлага. Милиардите откраднат(и от контрабанда) кеш(точно кеш) през годините от...

30B - рънвам го локално на "бесен" хардуер, не съм го обучавал. Машината е Windows 11...

[quote=Rabin]Плейването на ИИ заема минимален хардуер. Забраих точната думичка. Имаше купешки термин.[/quote]

Инференция
Embeddings
Quantization
Fine-tuning...

;quote Последният акаунт на Единия
 [https://www.vesti.bg/sviat/donald-trymp-pusna-svoia-meme-kriptomoneta-snimki-6218586][Донaлд Тръмп пусна своя Meme криптомонета (СНИМКИ)] 


 *ЗА БОГА БРАТЯ -...

 [!/!attached/3784
][My picture]

Ето колко заема 9B модел, квантизиран на 4bit на 24GB VRAM карта. 

;quote Rabin

https://belene.camp/survivor/nikola-daskalov/

Ей тука са направили бот, да си говориш със затворник от Белене. Бавно...

Ейайя мачка по всички фронтове :
[$https://youtu.be/LU1KUStXfTk]
[$https://youtu.be/FIwmjEskLu4]

не съм сравняал директно, не мога да се произнеса категорично, а и малко ме е интересувал...

Представи си, че модела е трениран на FP32 и теглата са му в FP32. Тегло със...

Грубо казано, при 32bit, всеки параметър иска 4 байта. За пълен 32bit, VRAM-а ще да е...

;quote |

Това quantized модел ли е?

Иначе мисля че за съжаление на Мак хейтърите в...

То има и DIGITS със 128GB, които рънват локално 200B модели, което(засега) е доста добре.

Ето...