johnfound

Rabin

Мойте, пак питам, за ChatGPT поне трета версия. Инак къв да е ИИ се подкарва и на FPGA.

Верно ли го подкарахте на локална машина, питам да знам дали да проучвам изобщо в тая посока. Да пише рекурсивен код, и оптимална пътна мрежа на карта, каквато ви демонстрирах сорс и резултат.

Ако говориш за chatGPT който се разработва от OpenAI, то не, разбира се. Той е със затворен код и няма откъде да вземеш коефициентите на невронната мрежа.

Тъй мислех и язе.

Май съм дърт вече, да са фърлям да учим ИИ от нулата, ше учим облачни услуги и ще плащаме.

chatGPT който се разработва от OpenAI

Пуснаха му снимка на хардуера, дръта сървържийница, М$ май 10 милиарда $ опукаха за него. 100-тина милиона $ струвало обучението, вика Гатачето.

Много съм бос в таа материя, а без нея няма да как да продължим.

DragGAN

Я раздуйте друг пробвал ли го е тва, щото Жонката липсва както обикновено. Мета ми искат кой съм що съм, едни 160 гигабайта са, какви ресурси иска минимум...

Навил съм се да си вземам нова щайга по въпроса.

LLAMA 2 в момента го дават от Корпорацията на Гейбука, а по традиция са мизерия като интерфейс и фирмена политика.

https://ai.meta.com/resources/models-and-libraries/llama-downloads/

Извън темата, качих новия Дебиан на резервната щайга за админване и банкиране. Едвам се влачи. Време си е. Тия дни събрах геймърщина на още едно пишлеме, впечатлен съм. Лично я харесах по компоненти, събраха ми я, после я инсталирах и си играх с ray tracing.

Виж тука:

https://github.com/ggerganov/llama.cpp/discussions/4225

johnfound

Golden Gega

искаш да кажеш че една огромна част от бизнес клиентите по света са тъпи и прости и плащат за неща дето могат да имат безплатно, така ли?

Не съм казал, че са тъпи и прости. Както вече написах, това е ритуална магия. А обяснението на магическите практики с простотия е много повърхностно и непълно.

Именно тъпи и прости са, корпоративните лели.

От Офис '97 насам не знам нещо принципно ново да са въвели, освен дето вдигат цената, напоследък и под наем го правят.

Не съм бил досега в Корпорация, дето поне с инфлацията си актуализира заплатите. Като почнем да напускаме си късат главите кво да правят. Обаче за лизензи са първи, при все, че има безплатни алтернативи бол.

ГДБОП свали от мрежата фалшиво видео с президента

ГДБОП свали от интернет пространството фалшивия видеоклип. Пресцентърът на министерството на вътрешните работи информира, че са предприети незабавни действия от специализираните служби на ГДБОП и фалшивият клип е свален от интернет пространството. Екипът на отдел „Киберсигурност“ в ГДБОП ще бъде безкомпромисен към авторите на подобни видеа с фалшиви новини, генерирани с изкуствен интелект, съобщават от министерството.

Идва нова ера! 😄 ГДБОП няма да победи!

Ся трябва да генерират клипче дет Кирчо и Асен лапат на Баце и Пеевски, записано уж със скрита камера. Електоратът им ще се срине до 1% прайдаджии! 😆

Лавров, на къв хардуер ги подкарвате тия модели ве?

LLAMA 2 70B иска нещо като 24 ГБ памет на видеокарти и то след сериозно окастряне на модела. На такова ли го пущате? Неорязан иска 140 ГБ видеопамет.

Графична карта на Нвидия А100 - 30 000 лева. Баси кефа.

Rabin

Лавров, на къв хардуер ги подкарвате тия модели ве?

LLAMA 2 70B иска нещо като 24 ГБ памет на видеокарти и то след сериозно окастряне на модела. На такова ли го пущате? Неорязан иска 140 ГБ видеопамет.

Графична карта на Нвидия А100 - 30 000 лева. Баси кефа.

На мен ми тръгна на 5 годишния лаптопец от битака само на ЦПУ

synergie

На мен ми тръгна на 5 годишния лаптопец от битака само на ЦПУ

Чатботове има от времето на Правец 8.

Подкарал си някоя тъпня, ако не се лигавиш както обикновено.

70 В моделът иска 2 карти А100, по 30 хилки парчето. ЧатГПТ пък, по слухове е таман 25 пъти по-голям.

Моята машина я сглобих точно да си играя с ИИ. 128Г рам, най бързия АМД който беше на пазара към момента (сега има и по бързи). Сега се чудя за читаво ГПУ - сигурно ще е 4090, въпреки, че ако се прежаля малко повече пари може и по яко ГПУ да взема - ама нещо не ми се дават 8-10к евро. С други думи - приготви си бюджет.

Rabin

synergie

На мен ми тръгна на 5 годишния лаптопец от битака само на ЦПУ

Чатботове има от времето на Правец 8.

Подкарал си някоя тъпня, ако не се лигавиш както обикновено.

70 В моделът иска 2 карти А100, по 30 хилки парчето. ЧатГПТ пък, по слухове е таман 25 пъти по-голям.

Тези модели са големи, не знам дали е практично да ги търкаляш с машина купена джобни пари за банички.

palavrov

Моята машина я сглобих точно да си играя с ИИ. 128Г рам, най бързия АМД който беше на пазара към момента (сега има и по бързи). Сега се чудя за читаво ГПУ - сигурно ще е 4090, въпреки, че ако се прежаля малко повече пари може и по яко ГПУ да взема - ама нещо не ми се дават 8-10к евро. С други думи - приготви си бюджет.

Даваш 10К евра но пък спестяваш $20/месец, не е ли оферта? :)

Къде ги спестяваш $20 на месец?

Моята машина е около 2к евро (щото си е с бъгливото вградено ГПУ на АМД). С една нвидия 4090 ще добавя още 2к. Общо 4к. Като се има с каква скорост компилира линукс ядра отдавна си е избила парите - това с ИИ е инвестиция за следващи проекти, да се позапозная с и да се цаня експерт по ИИ за ембедед устройства - рейтовете са такива, че тези пари се правят за няма и седмица. Ама трябва да знаеш. Иска си инвестиция и на време и на техника.

ChatGPT 4.0 иска $20/месец. 3.5 е безплатно. Има и 4.0 API където плащаш според колкото ползваш.

Major Obvious

Даваш 10К евра но пък спестяваш $20/месец, не е ли оферта? :)

не е точно така, купуваш си предсказуемост и независимост

Major Obvious

ChatGPT 4.0 иска $20/месец. 3.5 е безплатно. Има и 4.0 API където плащаш според колкото ползваш.

Малиии, не знааах! Добре, че си тизе!

Питай Ребата, оня невменяемия дядка утре ще му скимне да вкара клиентите ти в санкции, и бизнесът ти гори. Ако разчиташ на облаци.

Гугъл имат ГПУ ядра под наем на облак, мога да подкарам силно окастрен ЛЛАМА 2 70В е нещо като 20 лева на месец. Ама не съм убеден, че върши смислена работа. На първо време ще си поиграя с него.

Дон Реба

не е точно така, купуваш си предсказуемост и независимост

Предсказуемост и независимост мога да си купя винаги, те видеокартите няма да избягат. Говорим за лична употреба естествено. Иначе има много герои дето сега редят стартъпи базирани на чатгпт апи и е въпрос на време да почнат да им дърпат килима изпод краката.

palavrov

Тези модели са големи, не знам дали е практично да ги търкаляш с машина купена джобни пари за банички.

Дори големите модели правят брутални грешки и не вършат смислена работа. GPT 4 се издъни на първолашка сметка. Смята смята вярно и правилно и накрая изсира резултат 1000 пъти по-малко от истинския. Ако е на въпрос ИИ има още от времето на деда ми новобранската. Без да преувеличавам.

Предсказуемост и независимост мога да си купя винаги, те видеокартите няма да избягат. Говорим за лична употреба естествено. Иначе има много герои дето сега редят стартъпи базирани на чатгпт апи и е въпрос на време да почнат да им дърпат килима изпод краката.

На някой свърши ли му работа видеокарта, за нещо различно от цъкане на Фортнайт?

Окастрен Ллама 2 зор тръгва на 48 гигабайта видеопамет.

Rabin

Major Obvious

ChatGPT 4.0 иска $20/месец. 3.5 е безплатно. Има и 4.0 API където плащаш според колкото ползваш.

Малиии, не знааах! Добре, че си тизе!

Питай Ребата, оня невменяемия дядка утре ще му скимне да вкара клиентите ти в санкции, и бизнесът ти гори. Ако разчиташ на облаци.

Гугъл имат ГПУ ядра под наем на облак, мога да подкарам силно окастрен ЛЛАМА 2 70В е нещо като 20 лева на месец. Ама не съм убеден, че върши смислена работа. На първо време ще си поиграя с него.

Как бе - аз сега пиша една книга как "облака е гоуемата работа". Макар, че ми е кеф да я пиша, щото обяснявам как в облака мое да ти "хакнат и капачките":

- Несигурно прехвърляне на данни.

- Несигурни услуги.

- Несигурни админи дет могат ти гепят данните.

- Несигурни политики - днеска безплатно, утре платено. Днеска Ок, утре GDPR или др. shit.

- Несигурни мрежи.

А бе - на далавера си е! 😎

Един от многото

Как бе - аз сега пиша една книга как "облака е гоуемата работа". Макар, че ми е кеф да я пиша, щото обяснявам как в облака мое да ти "хакнат и капачките":

- Несигурно прехвърляне на данни.

- Несигурни услуги.

- Несигурни админи дет могат ти гепят данните.

- Несигурни политики - днеска безплатно, утре платено. Днеска Ок, утре GDPR или др. shit.

- Несигурни мрежи.

А бе - на далавера си е! 😎

От 10 г. им разправям на ропчетата тука, че облака е руска рулетка. Хилят ми се и ми навиват станиолена шапка. Е на, удариха санкции на клиенти на Ребата, и ядоха дебелия и двете страни. Оня дето не знае на кой свят е ти спира бизнеса докато си сменя памперса сабахлем.

Преди можеше поне с CPU да работим, ся с тия ГПУ един сетъп струва колко нова Тесла.

Спряха френския Гейбук, за да спрат действащ САЩ президент да пише. За такива неща ми навивахте шапка, докато не се случи с Тръмпарата и Parler.

Vivacom пуснали ИИ чекия асистент. За плюнка на хуй не чини. Успех с ваще биташки сетъпи.