La taille du plus petit pas qu'un instrument peut afficher : sur un écran numérique, il s'agit d'un pas du dernier chiffre, sur un cadran analogique, elle dépend de l'espacement de l'échelle et de la largeur de l'aiguille. Elle entre dans le budget d'incertitude en tant que composante rectangulaire d'une demi-largeur égale à la moitié de la résolution, ce qui donne une incertitude-type d'environ 0.29 fois la résolution. Une haute resolution ne dit rien sur l'exactitude : un affichage à 7 chiffres peut être faux dès le troisième chiffre.
Gauge resolution is 0.01 mm and the tolerance is 0.02, you can't calibrate that meaningfully.
En français simple La resolution du comparateur est de 0.01 mm et la tolérance est de 0.02, vous ne pouvez pas étalonner cela de manière significative.
Les clients achètent des chiffres; les métrologues achètent de la stabilité. Une resolution supplémentaire sur un instrument instable ne fait qu'afficher le bruit plus clairement.
Aussi entendu sous
- display resolution
- readability
Termes associés
Counts
Les incréments du dernier chiffre sur un affichage numérique, utilisés dans les spécifications telles que plus ou moins 2 points.
Rectangular distribution
Une loi attribuant une probabilité égale à chaque valeur entre deux limites, utilisée lorsque seules les bornes sont connues.
Uncertainty budget
Un tableau listant chaque source d'incertitude dans une mesure avec sa taille, sa distribution, son diviseur et sa contribution au total.
Accuracy
La proximité entre une valeur mesurée et la valeur réelle, une notion qualitative plutôt qu'un nombre déclaré.
Double counting
Argot de budget pour la saisie d'un même effet physique deux fois sous des noms différents, ce qui gonfle l'incertitude.