Кат фалирам някой ден ще стана тотален рабиняк, мдам.

gat3way

Кат фалирам някой ден ще стана тотален рабиняк, мдам.

Аз фалирал ли съм? Имаме тука един съкратен С++ асаджия, имаме на борса с помощи за безработни, имаме кашонар, пропускам ли някого?

Има един мангал дето инсталира звъ̀нци.

Зависи от дефиницията и контекста. За много хора не и вероятно съвсем обективно не си точно фалирал. В смисъла който влагам аз лично вече да, фалирал си, ама няма страшно, не се умира от тва

Тва не става ли :

https://github.com/espeak-ng/espeak-ng

|

Колко бавно? Кой модел? Само на CPU?

Утре шсе занимавам с подробности, ся отивам да пия

Не знам, утре ще го видя че се напуках и аз вече.

Не става, не се занимавай. По-добре Димитър.

My link

gat3way

Аз от известно време се зарибих да правя чатботове там с всички финтифлюшки rag векторни бази и прочее пълни малоумщини, даже вече задобрях и почнах да ги правя смислено не дърварската. Тея дни ми хрумна да му правя tts/stt да стане като алекса ма е супер зле с българския, гугълдджийницата е единственото дето разбира български въобще като хората мани тея whisper нищо не става от тях, а отворените безплатни tts-и са Димитър,тоя пич е бил с тежък махмурлук и руска жилка.

И аз ръчкам един частпромбот - но ползвам на антропик апи-то - няма грижи, не му требе векторна база - има си греп

Ти си спестяваш половината философски въпроси така, аз от рабиноизъм все пак се опитвам, ето, като фалирам съм жив рабин.

waldorf

И аз ръчкам един частпромбот - но ползвам на антропик апи-то - няма грижи, не му требе векторна база - има си греп

E grep няма да ти даде семантично близки "вектори".

Мене ми е друга целта, достатъчно ми е читав агентски сдк па дори и платен - като тествах да правя агенти ги бях оставил безнадзорни и за нула време опукаха 50 евра токън кредити да си говорят в лууп - хубав урок, сега на 5-то съобщение без човек да ги погледне системата им клъцва достъпа то чата. Но после размислих и манах агентите на цяло. В крайна сметка е един цикъл със промпт с характера на бота.

|

E grep няма да ти даде семантично близки "вектори".

Няма, ама като данните са ми малко не е проблем. Малко - няколкостотин кб текст.

Ааа агенти е друго, аз нямам такива желания но има една яка работа дето модела избира коя функция да ти викне само на база docstrings, както и да е, тва няма отношение, векторните бази са мега яка концепция генерално, това слага смисъл на тая работа, памет на тоя шит един вид, не да хвърляш зарове ми да помниш преди кво си хвърлял.

|

E grep няма да ти даде семантично близки "вектори".

то у плявата дава доста брак, аз си ги филтрирам и на база метаданни, засега тва работи относително добре

gat3way

Ааа агенти е друго, аз нямам такива желания но има една яка работа дето модела избира коя функция да ти викне само на база docstrings, както и да е, тва няма отношение, векторните бази са мега яка концепция генерално, това слага смисъл на тая работа, памет на тоя шит един вид, не да хвърляш зарове ми да помниш преди кво си хвърлял.

Аз смятам да го реша тоя проблем с йерархични сумарита. Още не съм тествал та може и да не работи читаво.

Това не изключва векторни бази де. Ако не работи ще ги пробвам и тях.

А, имам и FTS5 в sqlite

waldorf

Няма, ама като данните са ми малко не е проблем. Малко - няколкостотин кб текст.

Е то затова ти работи grep. На мен векторните дб не са ми много интересни, но двама от младежите се забавляват с тях и от тях чувам там разните HNSW vs. IVF, scalar vs. product quantization и т.н. Но те се интересуват от десетки милиони/милиарди вектори.

gateway

то у плявата дава доста брак, аз си ги филтрирам и на база метаданни, засега тва работи относително добре

Е нали затова после пускаш ЛЛМ, той да филтрира.

Великите полети на мисълта ми са йерархични запитванки и какъв набор функции да вика (за чатботове) работи добре засега ама аз съм още по кривата нагоре та ще видим къде ще гръмне тва

Вий съвсем сте задълбали, пичуи. А аз блея. Още обмислям концепцията за тия невронни мрежи.

|

Е то затова ти работи grep. На мен векторните дб не са ми много интересни, но двама от младежите се забавляват с тях и от тях чувам там разните HNSW vs. IVF, scalar vs. product quantization и т.н. Но те се интересуват от десетки милиони/милиарди вектори.

Ами според мен по умни модели и по големи контексти поне за момента работят по зле от малък и изчистен от глупости контекст. Въпроса е как да го минимизираш. Особено га първичните данни са у чотурите на хора които се опъват да ги споделят.