waldorf

Ти си го докарал да е прецизен като симулатор. А с каква скорост симулира? Някакви оптимизации има ли да ползва архитектурата върху която върви и да jit-ва или нещо такова?

Колегата дето уж всичко знае оня ден реши да емулира арм на х86 и озадачено попита "ама защо е толкова бавно" което му навлече лекция от моя страна за разликата на инструкшън сетовете и защо арм емулира по лесно х86 отколкото наобратно.

Няма как да jit-ва и да е толкова точен. Jit-ването става ако те интересува само функционалност, но не и прецизност. Пък и е малко безмислено защото няма особени смисъл да симулираш хардуер който имаш. Пък и то има достатъчно такива симулатори, май всичките (qemu, dynamorio, etc.) правят подобни неща.

Скоростта зависи от процесора на който върви и броя симулирани ядра. На GB10 е около 150 килоцикъла на секунда за едно ядро и пада до под 10 за 1024 ядра. Последно буутва Линукс на 8-ядрена симулирана машина за около 20 минути до юзърспейс скрипт който прави poweroff.

Най-зле засега са калибрирани прифечърите, понеже са няколко и не успява да познае кой prefetch от кой алгоритъм е генериран. Трябва да се опитам да намеря някакъв хардуер, на който фърмуеъра позволява да се изключват prefetchers и да видя дали ще помогне. Нa GB10 фърмуеъра не позволява.

Е, че 20 минути е ОК. Най вероятно в терминал би трябвало да не лагва като пишеш.

А успя ли да ти свърши работа за нещо конкретно което да не може да го видиш без прецизна симулация?

waldorf

Е, че 20 минути е ОК. Най вероятно в терминал би трябвало да не лагва като пишеш.

А успя ли да ти свърши работа за нещо конкретно което да не може да го видиш без прецизна симулация?

В терминал е като 300 bps модем. :)

Сега започвам да го използвам за нещо, затова го преместих във фирмената мрежа.

Но основния експеримент беше дали frontier LLM model може да напише толкова сложен софтуер, и отговорът е "да".

При мен на работата локалните модели се оправят та големите батковци няма

Ама днес наритах Клод Кодю ... точно бях направил едни промени, изтествал на желязото и аха да почна да комитвам и го питам - абе там не знам си какво колко ще ни струва да го направим - и мизерника директно тръгна да го прави и омаза промените които щях да комитвам. Ама извинявай, не мога та ги възстановя от гит защото ще омажа по старите редакции. Ей тиквеник бе. С Куеню никога няма такива проблеми - докато не му кажа да напарви нещо не проявява никакви своеволия.

waldorf

При мен на работата локалните модели се оправят та големите батковци няма

Ама днес наритах Клод Кодю ... точно бях направил едни промени, изтествал на желязото и аха да почна да комитвам и го питам - абе там не знам си какво колко ще ни струва да го направим - и мизерника директно тръгна да го прави и омаза промените които щях да комитвам. Ама извинявай, не мога та ги възстановя от гит защото ще омажа по старите редакции. Ей тиквеник бе. С Куеню никога няма такива проблеми - докато не му кажа да напарви нещо не проявява никакви своеволия.

Хмм, странно. При мен това се случва рядко, но обикновено се оправя и успява да върне старото състояние на файловете без да използва гит.

А оправя се, рядко да се забатачи дотам, че да вдигне ръце. Мен ме вбеси, че въобще тръгна да прави промени докато още правих ресърч а не девелопмънт. Понякога не се усеща къде е границата помежду им.