Odcinek pomostowy między kwantyzacją a autogradem: budżet pamięci prawdziwego modelu. Model ma 5,95 GB, Ty masz 16 GB RAM. Zmieści się? Zwykle odpowiedź brzmi „spróbuj i zobacz”, c…
W poprzednim odcinku policzyłem, ile się oszczędza. Teraz sprawdźmy, co się przy tym traci i dlaczego akurat te dwa wzory, a nie jakieś inne. Objaśnienie. Kwantyzacja to zaokrąglan…
Dwadzieścia siedem miliardów parametrów na karcie z sześcioma gigabajtami pamięci. Nie w 2028 roku i nie „w teorii”, tylko plik do pobrania dziś. Od tego zaczynam tę serię: jak to …
Tak na szybko, zanim napiszę cokolwiek o sieciach neuronowych: sprawdźmy, czy Twoja przeglądarka w ogóle pociągnie tę serię. Brzmi niewinnie, ale od odpowiedzi zależy, ile odcinków…
Tak na szybko, na start: to jest spis całej serii o sieciach neuronowych, w których każda waga to -1, 0 albo +1. Zaczynam od jednej liczby i własnego autogradu, przez trening i uru…