La précision de ce terme est utilisé dans de nombreux domaines pour décrire le degré auquel l'exactitude ou la précision, d'une quantité est exprimée. Cependant, en mathématiques et en informatique, la précision se réfère spécifiquement au nombre de chiffres, ou de chiffres significatifs, dans un certain nombre.
Échelle
L'échelle se réfère au nombre de chiffres à droite de la virgule dans un certain nombre. Pour illustrer, le nombre, 123.45, dispose de cinq chiffres, dont deux sont à la droite de la virgule; il a une précision de 5 et une échelle de 2.
Bases de données
La précision et l'échelle est importante pour déterminer l'exactitude des données numériques stockées dans des bases de données informatiques. langues de définition de base de données permettent généralement de précision et de l'échelle à spécifier pour les types de données décimales, jusqu'à un maximum de précision de 38.
Arithmétique
Si l'arithmétique est effectuée sur des données numériques, la précision et l'échelle du résultat dépend de celle des données originales. Si deux expressions ont le même type de données, le résultat a la précision et l'échelle définie pour ce type de données; sinon, les règles de priorité sont utilisées pour déterminer la précision et l'échelle du résultat.