Rabin

Нямам Гана

Имаш Ганчо къде ти пали задвратници да опъваш кабеляк и да монтирваш звЪнци толко интензивно че не моеш да поемеш дъх и да оправиш елементарен бас за пейсе евраки :)

Rabin

Ми пилиш ми

Никой не ти пили бе. Подигравам ти се :)

Евлампи

Имаш Ганчо къде ти пали задвратници да опъваш кабеляк и да монтирваш звЪнци толко интензивно че не моеш да поемеш дъх и да оправиш елементарен бас за пейсе евраки :)

Бачкам от Туче. Не опъвам звънци. Тебе замерят с кашони, не мене.

Никой не ти пили бе. Подигравам ти се :)

За кое точно? Че не нося кашони? Че имам собствен транспорт, колко го карам е друг въпрос. Пак имам одене до морето, ще мина и край Ист. Парк. Отново. Мисля и замъка у Варадиново да посетя тоя път. Да се метна пак до Резово по тесния път. Друга кмб е там. Знам, повечето от вас не са стъпвали.

За кое точно ми се подиграваш? Не слизам в Търново и да пикам. Минавам през тунела, любувам се на баирите, и газ напред.

Егати ценностите - да обикаляш от бутафория на бутафория пък да те е страх да заведеш някоя бабичка на мол-а, че да ти пусне

waldorf

Егати ценностите - да обикаляш от бутафория на бутафория пък да те е страх да заведеш някоя бабичка на мол-а, че да ти пусне

Моловете са най-врълата бутафория. Приятно изненадан останах в Илиенци. Освен ниските цени - затворената сграда е климатизирана. Има вендинг машини, има убав кенеф.

Е, чиста храна няма. Мизерни кебапчийници като в мола.

Урсулопитек няма да оцени нито Ист. Парк, нито убавите пиченца там. На свиня кладенчова вода да даваш...

Радвам се, че не идат ел. еднодневки дето ние. С аверче одим за риба.

Комшийче от детинството си купил Тесла втора ръка. Натоварил жена си, двете ревливи и капризни чавета, и куче разбира се посредата. Натеглил кредити за всичко това. От години нямаме обща приказка, а сме израсли заедно. Много беше шастлив, че набирало бръзо. Не, че има де да я кара. Нито фотоволтаик има, поне да има неко файда от еднодневката.

Модата е голяма работа!

waldorf

Хммм ... абе то има идея ама така стейта ще се пази на сървъра а не в харнеса и в промпта и се започват една камара усложнения и edge cases. По скоро решението е в управление на самия промпт какво да съдържа и как да е подредено, че хем kv cache да се преизползва при всеки промпт, хем да има плавно компактване а не както е в момента пълна лоботомия.

Стейта така или иначе трябва да е на сървъра когато се прави inference. Компактването хаби токъни и е трудно да е плавно. Лоботомията няма как да се избегне напълно, но според мен може да се направи малко по-безболезнена.

|

Стейта така или иначе трябва да е на сървъра когато се прави inference. Компактването хаби токъни и е трудно да е плавно. Лоботомията няма как да се избегне напълно, но според мен може да се направи малко по-безболезнена.

Трудно но не и невъзможно. Ако се прави като част от отговора на всеки нов месидж може и да стане сравнително плавно. Но трябва да се измисли добре. Имам няколко идеи ама и при мен не остава време за експерименти. Но в момента си пиша един дребен харнес и може да пробвам дали и как ще работи.

waldorf

Трудно но не и невъзможно. Ако се прави като част от отговора на всеки нов месидж може и да стане сравнително плавно. Но трябва да се измисли добре. Имам няколко идеи ама и при мен не остава време за експерименти. Но в момента си пиша един дребен харнес и може да пробвам дали и как ще работи.

Всъщност идеята може да се оцени и без промяна на server-side, промяната ще е необходима за да се направи production-a ефективен. Лошото е, че "качество на отговорите" е много трудно да се мери. Един от младежите на работа се е задълбал в темата context management, оплаква се, че е събрал списък от 6 хиляди публикации по въпроса. Сега прави RAG за да може да ги "чете".