Registro de lecturas

Cuántas cifras

Registre las cifras que el instrumento da, ni más ni menos. Un calibrador digital con resolución de 0.01 mm que muestra 12.00 se registra como 12.00 mm, no 12 mm: los dos ceros dicen que el instrumento resolvió centésimas. Un calibrador vernier de 0.02 mm da lecturas cuya última cifra es par, como 24.98 mm.

No agregue cifras que el instrumento no da. Algunas guías de laboratorio de física piden una cifra estimada en el micrómetro (0.001 mm); siga la suya. Un calibrador vernier se lee solo hasta su valor de división (vea la lección de física).

Reglas de redondeo (GB/T 8170-2008)

Cuando un valor necesita perder cifras, por ejemplo una media o una unidad convertida, mire la cifra más a la izquierda de las que se van a descartar:

• menor que 5: descártela (24.9849 → 24.98);
• mayor que 5: sume uno a la última cifra guardada (24.9861 → 24.99);
• 5 seguido de cifras no nulas: sume uno (24.98501 → 24.99);
• 5 sin nada o solo ceros después: deje la última cifra guardada par (24.985 → 24.98; 24.975 → 24.98).

Redondee una sola vez, desde el valor original. 15.4546 redondeado a entero es 15; redondear paso a paso (15.455 → 15.46 → 15.5 → 16) da la respuesta equivocada, lo que la norma prohíbe.

Algunos textos y manuales de laboratorio redondean un 5 hacia arriba en todos los casos; el manual de física del NCERT para la clase XI lo hace en el ejemplo de la tabla de logaritmos. Use la regla que su curso o su norma nombre; en las normas y los informes chinos, es la GB/T 8170.

Redondeo a 0.5 de la unidad

La GB/T 8170 también redondea en pasos de 0.5 de la unidad: multiplique el valor por 2, redondee y luego divídalo entre 2. Ejemplo, en pasos de 0.0005 in: 12 mm = 0.472 44 in, multiplicado por 2 da 0.944 88, redondeado 0.945, entre 2 da 0.4725 in. Un calibrador digital en pulgadas también muestra pasos de 0.0005 in; cómo trata un medio paso exacto queda a cargo del fabricante.

Comparación con un límite

Salvo que la especificación diga otra cosa, la GB/T 8170 compara el valor completo con el límite (sin redondear, o redondeado y marcado como hacia arriba o hacia abajo); cualquier exceso, por pequeño que sea, no conforma. Un valor redondeado antes puede ocultar un exceso pequeño.

Un resultado con su incertidumbre

El GUM (JCGM 100:2008, 7.2.6) dice que suele bastar dar la incertidumbre con a lo más dos cifras significativas, y que el resultado se redondea para ser consistente con ella. Ejemplo: una media de 24.9867 mm con incertidumbre expandida de 0.023 mm se escribe 24.987 mm, U = 0.023 mm (k = 2).

Qué va en el registro

1. El valor con su unidad: 12.00 mm.
2. Qué se midió: la pieza y la característica, como “pin, diámetro exterior, en medio”.
3. El instrumento, por su número, para que la lectura pueda rastrearse hasta la calibración de ese instrumento.
4. La fecha y quién midió.

En KELIBRON

Las pantallas del laboratorio muestran lo que el instrumento resuelve: el calibrador digital muestra dos decimales en milímetros y pasos de 0.0005 in al cambiar a pulgadas; el calibrador vernier lee en pasos de 0.02 mm. Las lecturas vienen de un modelo, así que sirven para practicar, no para un registro real.