Tengo una vieja Fluke 79-III y estoy tratando de comprobar la resistencia de algunas resistencias que deben ser 0.22 Ohmios. Por desgracia, todos ellos son de lectura de 0,6 Ohmios y por eso me pregunto cómo es exacto que me debe estar esperando la principal función de la resistencia de mi medidor.
Las especificaciones de la Casualidad 79-II manual de usuario (p39), lo cual está de acuerdo con el Fluke 79-III hoja de instrucciones (p11) nos da:
| Function | Range | Resolution | Accuracy | Burden Voltage (Typical) |
| Ohm | 400.0 Ohm | 0.1 Ohm | ±(0.4%+2) | Not applicable |
| | 4.000 kOhm | 0.001 kOhm | ±(0.4%+1) | |
| 40 Ohm | 40 Ohm* | 0.01 Ohm | 5% Typical*** | Not applicable |
| * In 40 Ohm and 40mV ranges, thermals may introduce additional errors. To |
| maximize accuracy, keep both probe tips at similar temperatures. |
| *** Accuracy applies after lead resistance compensation. |
Creo que entiendo la resolución significa que mientras no debería esperar 0.22 ohmios, yo al menos debe esperar el medidor para leer 0.2 o 0.3 ohms.
Edit 1) no entiendo la precisión de la clasificación, aunque. ¿El +2 significa que debo esperar para que se lea de alto por dos en el dígito menos significativo? Es el 0.4% de precisión en el 0,4% de los más de 400 ohm rango (es decir, el 1,6 ohmios), o el 0,4% de la lectura actual?
Mirando más de cerca, la especificación de la Casualidad 79-II manual de usuario confirma que:
Las especificaciones de precisión son dadas como: ± ([% de la lectura] + [número de dígitos menos significativos])
Así que B Pete's respuesta de ±0,2 ohmios se ve bien.
Edición 2) la Medición de la resistencia de los cables por un cortocircuito les da 0.3 ohms, por lo que el 0.6 ohm originalmente medido está dentro de la precisión de la envolvente de 0,22±0.2 ohm + 0.3±0.2 ohm.
Edición 3) También, me hizo originalmente probar los medidores de resistencia de los cables de compensación (40 ohm) modo (hoja de instrucciones p6) y se mide 0.15 ohm, así que descartó como también inexacto.
Con sólo 5% de precisión, esta debe ser la correcta ±0.011 ohmios.
Comprobar de nuevo ahora, sin embargo, veo que cuando hago una resistencia de los cables de compensación, no puedo mantener el range
se presiona el botón, la más estable se convierte, convergiendo en una lectura de 0,05 ohmios. La medición de la resistencia, que ahora muestra 0.17, la suma de estos y (ta-da), llegamos 0.22 ohmios.
No está mal para un 10+ años de edad medidor que no ha sido calibrado en al menos 6 años. *8')
Finalmente, debo esperar que mi multímetro para obtener cerca de ser capaz de medir 0.22 Ohmios, o no debo esperar mucho exactitud por debajo de unos pocos ohmios?