waldorf

Явно е нещо ново. От няколко дни съм на почивка само с телефона и не съм пускал Клодю. Ама ако има сериозен квичеж очаквай ъпдейт с фикс тия дни.

Идеята е да използва предимно по-слаб модел (например Опус), но от време на време да пита по-силен дали прави глупости. Трябва да превключа от Опус/Фейбл на Сонет/Опус и да видя дали ще работи така...

Тя идеята е ясна и направо да се чуди човек как никой досега не се е сетил. Нямах време да експериментирам преди почивката, че исках да не оставям недовършени неща в работата. Интересно ми доколко по слабия модел ще направи добра преценка дали промпта е прекалено сложен за него. И съответно дали в обратна посока няма да работи по добре - по умния модел да делегира на по прости като прецени, че не е чак толкова сложно. Т.е. да има пре-промпт който само оценя сложността и препраща на правилния модел.

Хммм … сега като се замисля - VSCode Github Copilot има auto настройка за модел - прави препроцесинг с някакъв доста тъп модел и решава кой от моделите да ползва. И заради това дава 10% discount на консумацията на токъни. Трудно ми е да преценя дали се справя защото а го видя на ауто веднага го включвам на опус 4.6 или qwen.