Тъй мислех и язе.
Май съм дърт вече, да са фърлям да учим ИИ от нулата, ше учим облачни услуги и ще плащаме.
Пуснаха му снимка на хардуера, дръта сървържийница, М$ май 10 милиарда $ опукаха за него. 100-тина милиона $ струвало обучението, вика Гатачето.
Много съм бос в таа материя, а без нея няма да как да продължим.
Я раздуйте друг пробвал ли го е тва, щото Жонката липсва както обикновено. Мета ми искат кой съм що съм, едни 160 гигабайта са, какви ресурси иска минимум...
Навил съм се да си вземам нова щайга по въпроса.
LLAMA 2 в момента го дават от Корпорацията на Гейбука, а по традиция са мизерия като интерфейс и фирмена политика.
https://ai.meta.com/resources/models-and-libraries/llama-downloads/
Извън темата, качих новия Дебиан на резервната щайга за админване и банкиране. Едвам се влачи. Време си е. Тия дни събрах геймърщина на още едно пишлеме, впечатлен съм. Лично я харесах по компоненти, събраха ми я, после я инсталирах и си играх с ray tracing.
Виж тука:
Именно тъпи и прости са, корпоративните лели.
От Офис '97 насам не знам нещо принципно ново да са въвели, освен дето вдигат цената, напоследък и под наем го правят.
Не съм бил досега в Корпорация, дето поне с инфлацията си актуализира заплатите. Като почнем да напускаме си късат главите кво да правят. Обаче за лизензи са първи, при все, че има безплатни алтернативи бол.
ГДБОП свали от мрежата фалшиво видео с президента
Идва нова ера! 😄 ГДБОП няма да победи!
Ся трябва да генерират клипче дет Кирчо и Асен лапат на Баце и Пеевски, записано уж със скрита камера. Електоратът им ще се срине до 1% прайдаджии! 😆
Лавров, на къв хардуер ги подкарвате тия модели ве?
LLAMA 2 70B иска нещо като 24 ГБ памет на видеокарти и то след сериозно окастряне на модела. На такова ли го пущате? Неорязан иска 140 ГБ видеопамет.
Графична карта на Нвидия А100 - 30 000 лева. Баси кефа.
На мен ми тръгна на 5 годишния лаптопец от битака само на ЦПУ
Чатботове има от времето на Правец 8.
Подкарал си някоя тъпня, ако не се лигавиш както обикновено.
70 В моделът иска 2 карти А100, по 30 хилки парчето. ЧатГПТ пък, по слухове е таман 25 пъти по-голям.
Моята машина я сглобих точно да си играя с ИИ. 128Г рам, най бързия АМД който беше на пазара към момента (сега има и по бързи). Сега се чудя за читаво ГПУ - сигурно ще е 4090, въпреки, че ако се прежаля малко повече пари може и по яко ГПУ да взема - ама нещо не ми се дават 8-10к евро. С други думи - приготви си бюджет.
Тези модели са големи, не знам дали е практично да ги търкаляш с машина купена джобни пари за банички.
Даваш 10К евра но пък спестяваш $20/месец, не е ли оферта? :)
Къде ги спестяваш $20 на месец?
Моята машина е около 2к евро (щото си е с бъгливото вградено ГПУ на АМД). С една нвидия 4090 ще добавя още 2к. Общо 4к. Като се има с каква скорост компилира линукс ядра отдавна си е избила парите - това с ИИ е инвестиция за следващи проекти, да се позапозная с и да се цаня експерт по ИИ за ембедед устройства - рейтовете са такива, че тези пари се правят за няма и седмица. Ама трябва да знаеш. Иска си инвестиция и на време и на техника.
ChatGPT 4.0 иска $20/месец. 3.5 е безплатно. Има и 4.0 API където плащаш според колкото ползваш.
не е точно така, купуваш си предсказуемост и независимост
Малиии, не знааах! Добре, че си тизе!
Питай Ребата, оня невменяемия дядка утре ще му скимне да вкара клиентите ти в санкции, и бизнесът ти гори. Ако разчиташ на облаци.
Гугъл имат ГПУ ядра под наем на облак, мога да подкарам силно окастрен ЛЛАМА 2 70В е нещо като 20 лева на месец. Ама не съм убеден, че върши смислена работа. На първо време ще си поиграя с него.
Предсказуемост и независимост мога да си купя винаги, те видеокартите няма да избягат. Говорим за лична употреба естествено. Иначе има много герои дето сега редят стартъпи базирани на чатгпт апи и е въпрос на време да почнат да им дърпат килима изпод краката.
Дори големите модели правят брутални грешки и не вършат смислена работа. GPT 4 се издъни на първолашка сметка. Смята смята вярно и правилно и накрая изсира резултат 1000 пъти по-малко от истинския. Ако е на въпрос ИИ има още от времето на деда ми новобранската. Без да преувеличавам.
На някой свърши ли му работа видеокарта, за нещо различно от цъкане на Фортнайт?
Окастрен Ллама 2 зор тръгва на 48 гигабайта видеопамет.
Как бе - аз сега пиша една книга как "облака е гоуемата работа". Макар, че ми е кеф да я пиша, щото обяснявам как в облака мое да ти "хакнат и капачките":
- Несигурно прехвърляне на данни.
- Несигурни услуги.
- Несигурни админи дет могат ти гепят данните.
- Несигурни политики - днеска безплатно, утре платено. Днеска Ок, утре GDPR или др. shit.
- Несигурни мрежи.
А бе - на далавера си е! 😎
От 10 г. им разправям на ропчетата тука, че облака е руска рулетка. Хилят ми се и ми навиват станиолена шапка. Е на, удариха санкции на клиенти на Ребата, и ядоха дебелия и двете страни. Оня дето не знае на кой свят е ти спира бизнеса докато си сменя памперса сабахлем.
Преди можеше поне с CPU да работим, ся с тия ГПУ един сетъп струва колко нова Тесла.
Спряха френския Гейбук, за да спрат действащ САЩ президент да пише. За такива неща ми навивахте шапка, докато не се случи с Тръмпарата и Parler.
Vivacom пуснали ИИ чекия асистент. За плюнка на хуй не чини. Успех с ваще биташки сетъпи.