0 1 2 3 4 ...25 26 27 28 29 ...50 51 52 53 54
На една колежка мъжа ѝ работи в Tenstorrent, трябва да я питам как са нещата там като се върне от майчинство. Иначе скоро не съм чувал нищо за тях, не знам доколко имат нещо конкурентно.
Много трудно някой ще направи алтернатива на Нвидия, те държат всички козове.
Аз у нас работя предимно на комп с ето такъв допотопен процесор, на който GPU-то не работи поради липса на съвременни драйвери. Не е лаптоп за ИИ, но все пак съм си поиграл с няколко модела от любопитство.
Значи искате да кажете че няма ускорение с arc a770? Броих 650 лв. пичуи, нидейти тъй.
Трябва да има, не му разбирам. Последно като проверявах с 16G можеха да се зареждат някакви дo около 12 гигабайта модели. И с тази карта трябва да работят прилично бързо - много по-бързо, от колкото ако ги въртиш на процесор. За по-големите модели не знам дали и колко може да помогне.
Пише, че llama.cpp поддържа SYCL, така че някакво ускорение трябва да има.
0 1 2 3 4 ...25 26 27 28 29 ...50 51 52 53 54