Die Größe des kleinsten Schritts, den ein Messgerät anzeigen kann (Auflösung): Bei einer Digitalanzeige ist es ein Schritt der letzten Stelle, bei einer analogen Skala hängt es vom Skalenabstand und der Zeigerbreite ab. Sie geht in die Bilanz als rechteckverteilte Komponente mit einer Halbwertsbreite der halben Resolution ein, was eine Standardunsicherheit von etwa 0,29-mal der Resolution ergibt. Eine hohe Resolution sagt nichts über die Genauigkeit aus: Eine 7-stellige Anzeige kann in der dritten Stelle falsch liegen.
Gauge resolution is 0.01 mm and the tolerance is 0.02, you can't calibrate that meaningfully.
In klarem Deutsch Die Resolution des Messgeräts beträgt 0,01 mm und die Toleranz liegt bei 0,02, das kann man nicht sinnvoll kalibrieren.
Kunden kaufen Stellen; Metrologen kaufen Stabilität. Zusätzliche Resolution auf einem instabilen Gerät zeigt nur das Rauschen deutlicher an.
Auch bekannt als
- display resolution
- readability
Verwandte Begriffe
Counts
Die Schritte der letzten Stelle auf einer Digitalanzeige, verwendet in Spezifikationen wie plus oder minus 2 Digits.
Rectangular distribution
Eine Verteilung, bei der jeder Wert zwischen zwei Grenzen gleich wahrscheinlich ist, verwendet, wenn nur die Grenzwerte bekannt sind.
Uncertainty budget
Eine Tabelle, die jede Unsicherheitsquelle bei einer Messung mit ihrer Größe, Verteilung, ihrem Divisor und ihrem Beitrag zur Gesamtsumme auflistet.
Accuracy
Wie nahe ein Messwert dem wahren Wert kommt, ein qualitatives Konzept und keine anzugebende Zahl.
Double counting
Werkstattjargon für das doppelte Eintragen desselben physikalischen Effekts unter verschiedenen Namen, was die Unsicherheit künstlich aufbläht.