El tamaño del incremento más pequeño que puede mostrar un instrumento: en una pantalla digital es un paso del último dígito, en un dial analógico depende de la separación de la escala y del grosor de la aguja. Entra en el presupuesto de incertidumbre como un componente rectangular con una semianchura de la mitad de la resolución, lo que da una incertidumbre típica de aproximadamente 0.29 veces la resolución. Una alta resolution no dice nada sobre la exactitud: una pantalla de 7 dígitos puede ser errónea en el tercer dígito.
Gauge resolution is 0.01 mm and the tolerance is 0.02, you can't calibrate that meaningfully.
En español sencillo La resolution del instrumento es de 0.01 mm y la tolerancia es de 0.02, no se puede calibrar eso de forma significativa.
Los clientes compran dígitos; los metrólogos compran estabilidad. Una resolution adicional en un instrumento inestable solo muestra el ruido con mayor claridad.
También se escucha como
- display resolution
- readability
Términos relacionados
Counts
Los pasos del último dígito en una pantalla digital, utilizados en especificaciones como más o menos 2 counts (cuentas).
Rectangular distribution
Distribución que otorga la misma probabilidad a cada valor entre dos límites, utilizada cuando solo se conocen los límites.
Uncertainty budget
Una tabla que enumera cada fuente de incertidumbre en una medición con su magnitud, distribución, divisor y contribución al total.
Accuracy
La proximidad de un valor medido al valor verdadero, un concepto cualitativo más que un número notificado.
Double counting
Jerga de presupuestos para referirse a la inclusión de un mismo efecto físico dos veces bajo nombres distintos, lo que infla la incertidumbre.