Especificación de precisión y puntos de prueba de vacío con tolerancias
Descripción
Todos los valores se expresan en Torr a menos que se indique lo contrario y FS indica la escala completa o la lectura máxima del CDG. Televac se reserva el derecho de modificar las tolerancias de cualquier controlador, medidor activo o sensor. Cualquier modificación de cualquier unidad sin la aprobación de Televac® anula el certificado de conformidad de la unidad. Hay disponibles puntos de prueba de calibración NIST adicionales previa solicitud.
Indicadores aplicables
- MC300 2A, 2A VacuMini o 2A NASA Mini
- MM200 2A, 2A VacuMini o 2A NASA Mini
- MX200 2A, 2A VacuMini o 2A NASA Mini
- MV2A, 2A VacuMini o 2A NASA Mini
- Compact 2A, 2A VacuMini o 2A NASA Mini
- Vacuguard™, 2A VacuMini, o 2A NASA Mini
- B2A Portátil, 2A VacuMini o 2A NASA Mini
- MP2AR
Especificación de la precisión
Rango |
Tolerancia |
1.0E-3 a 1.0E-2 |
±1.0E-3 |
1.0E-2 a 1.0E-1 |
±10% |
1.0E-1 a 1.0E+0 |
±20% |
Puntos de calibración estándar con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
0.0E+0 |
-1.0E-3 |
1.0E-3 |
1.0E-1 |
9.0E-2 |
1.1E-1 |
1.0E+0 |
8.0E-1 |
1.2E+0 |
Puntos de calibración del NIST con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
0.0E+0 |
-1.0E-3 |
1.0E-3 |
1.0E-2 |
9.0E-3 |
1.1E-2 |
2.0E-2 |
1.8E-2 |
2.2E-2 |
5.0E-2 |
4.5E-2 |
5.5E-2 |
1.0E-1 |
9.0E-2 |
1.1E-1 |
2.0E-1 |
1.6E-1 |
2.4E-1 |
5.0E-1 |
4.0E-1 |
6.0E-1 |
1.0E+0 |
8.0E-1 |
1.2E+0 |
Especificación de aviación de GE Calibración compatible con P10TF3
El sensor 2A, en combinación con cualquiera de los controladores anteriores, puede ser calibrado según la Especificación de Aviación de GE P10TF3.
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
0.0E+0 |
-1.0E-3 |
1.0E-3 |
1.0E-2 |
9.0E-3 |
1.1E-2 |
2.0E-2 |
1.8E-2 |
2.2E-2 |
5.0E-2 |
4.5E-2 |
5.5E-2 |
1.0E-1 |
9.0E-2 |
1.1E-1 |
2.0E-1 |
1.7E-1 |
2.3E-1 |
5.0E-1 |
4.3E-1 |
5.8E-1 |
1.0E+0 |
8.5E-1 |
1.2E+0 |
Indicadores aplicables
Especificación de la precisión
Rango |
Tolerancia |
1.0E-3 a 1.0E-2 |
±1.0E-3 |
1.0E-2 a 1.0E+1 |
±10% |
1.0E+0 a 1.0E+2 |
±30% |
1.0E+2 a 1.0E+3 |
±10% |
Puntos de calibración estándar con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
0.0E+0 |
-1.0E-3 |
1.0E-3 |
1.0E-1 |
9.0E-2 |
1.1E-1 |
1.0E+0 |
9.0E-1 |
1.1E+0 |
Puntos de calibración del NIST con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
0.0E+0 |
-1.0E-3 |
1.0E-3 |
1.0E-2 |
9.0E-3 |
1.1E-2 |
2.0E-2 |
1.8E-2 |
2.2E-2 |
5.0E-2 |
4.5E-2 |
5.5E-2 |
1.0E-1 |
9.0E-2 |
1.1E-1 |
2.0E-1 |
1.8E-1 |
2.2E-1 |
5.0E-1 |
4.5E-1 |
5.5E-1 |
1.0E+0 |
9.0E-1 |
1.1E+0 |
Indicadores aplicables
Especificación de la precisión
Rango |
Tolerancia |
1.0E-3 a 1.0E-2 |
±1.0E-3 |
1.0E-2 a 1.0E+1 |
±10% |
1.0E+1 a 1.0E+2 |
±20% |
1.0E+2 a 1.0E+3 |
±10% |
Puntos de calibración estándar con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
0.0E+0 |
-1.0E-3 |
1.0E-3 |
1.0E+0 |
9.0E-1 |
1.1E-0 |
7.6E+2 |
6.8E+2 |
8.4E+2 |
Puntos de calibración del NIST con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
0.0E+0 |
-1.0E-3 |
1.0E-3 |
1.0E-2 |
9.0E-3 |
1.1E-2 |
5.0E-2 |
4.5E-2 |
5.5E-2 |
1.0E-1 |
9.0E-2 |
1.1E-1 |
5.0E-1 |
4.5E-1 |
5.5E-1 |
1.0E+0 |
9.0E-1 |
1.1E+0 |
1.0E+1 |
9.0E+0 |
1.1E+1 |
1.0E+2 |
8.0E+1 |
1.2E+2 |
7.6E+2 |
6.8E+2 |
8.4E+2 |
Indicadores aplicables
Especificación de la precisión
Rango |
Tolerancia |
1.0E-3 a 1.0E-2 |
±1.0E-3 |
1.0E-2 a 1.0E+3 |
±10% |
Puntos de calibración estándar con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
0.0E+0 |
-1.0E-3 |
1.0E-3 |
1.0E+0 |
9.0E-1 |
1.1E+0 |
7.6E+2 |
6.8E+2 |
8.4E+2 |
Puntos de calibración del NIST con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
0.0E+0 |
-1.0E-3 |
1.0E-3 |
1.0E-2 |
9.0E-3 |
1.1E-2 |
5.0E-2 |
4.5E-2 |
5.5E-2 |
1.0E-1 |
9.0E-2 |
1.1E-1 |
5.0E-1 |
4.5E-1 |
5.5E-1 |
1.0E+0 |
9.0E-1 |
1.1E+0 |
1.0E+1 |
9.0E+0 |
1.1E+1 |
1.0E+2 |
9.0E+1 |
1.1E+2 |
7.6E+2 |
6.8E+2 |
8.4E+2 |
Indicadores aplicables
- MC300 7B
- MM200 7B
- MX200 7B
Especificación de la precisión
Rango |
Tolerancia |
1.0E-6 a 1.0E-3 |
±.2 década (-37% a 58%) |
Puntos de calibración estándar con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
1.0E-5 |
6.0E-6 |
1.6E-5 |
1.0E-4 |
6.0E-5 |
1.6E-4 |
Puntos de calibración del NIST con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
1.0E-6 |
6.3E-7* |
1.6E-6 |
5.0E-6 |
3.2E-6 |
8.0E-6 |
1.0E-5 |
6.3E-6 |
1.6E-5 |
5.0E-5 |
3.2E-5 |
8.0E-5 |
1.0E-4 |
6.3E-5 |
1.6E-4 |
*La tolerancia para el MM200 y el MC300 es de 6E-7*
Indicadores aplicables
- MC300 7E
- MM200 7E
- MX200 7E
- MP7ER
Especificación de la precisión
Rango |
Tolerancia |
1.0E-7 a 1.0E-2 |
±.2 década (-37% a 58%) |
Puntos de calibración estándar con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
1.0E-5 |
6.3E-6 |
1.6E-5 |
1.0E-4 |
6.3E-5 |
1.6E-4 |
Puntos de calibración del NIST con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
1.0E-6 |
6.3E-7 |
1.6E-6 |
5.0E-6 |
3.2E-6 |
8.0E-6 |
1.0E-5 |
6.3E-6 |
1.6E-5 |
5.0E-5 |
3.2E-5 |
8.0E-5 |
1.0E-4 |
6.3E-5 |
1.6E-4 |
Indicadores aplicables
- MC300 7F/7FC
- MM200 7F/7FC/7FCS
- MX200 7F/7FC/7FCS
- MP7FR
Especificación de la precisión
Rango |
Tolerancia |
1.0E-9 a 1.0E-2 |
±.2 década (-37% a 58%) |
Puntos de calibración estándar con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
1.0E-5 |
6.3E-6 |
1.6E-5 |
1.0E-4 |
6.3E-5 |
1.6E-4 |
Puntos de calibración del NIST con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
1.0E-6 |
6.3E-7 |
1.6E-6 |
5.0E-6 |
3.2E-6 |
8.0E-6 |
1.0E-5 |
6.3E-6 |
1.6E-5 |
5.0E-5 |
3.2E-5 |
8.0E-5 |
1.0E-4 |
6.3E-5 |
1.6E-4 |
Indicadores aplicables
Especificación de la precisión
Rango |
Tolerancia |
1.0E-9 a 1.0E-1 |
±.2 década (-37% a 58%) |
1.0E-1 a 2.0E+2 |
±15% |
2.0E+2 a 1.0E+3 |
±5% |
Puntos de calibración estándar con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
1.0E-05 |
6.0E-6 |
1.6E-5 |
1.0E+00 |
8.5E-1 |
1.2E+0 |
7.6E+02 |
7.2E+2 |
8.0E+2 |
Puntos de calibración del NIST con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
1.0E-6 |
6.3E-7 |
1.6E-6 |
5.0E-6 |
3.2E-6 |
8.0E-6 |
1.0E-5 |
6.3E-6 |
1.6E-5 |
5.0E-5 |
3.2E-5 |
8.0E-5 |
1.0E-4 |
6.3E-5 |
1.6E-4 |
1.0E-3 |
6.3E-4 |
1.6E-3 |
1.0E-2 |
6.3E-3 |
1.6E-2 |
1.0E-1 |
8.5E-2 |
1.2E-1 |
1.0E+0 |
8.5E-1 |
1.2E+0 |
1.0E+1 |
8.5E+0 |
1.2E+1 |
1.0E+2 |
8.5E+1 |
1.2E+2 |
7.6E+2 |
7.2E+2 |
8.0E+2 |
Indicadores aplicables
Especificación de la precisión
Rango |
Tolerancia |
1.0E+0 a 1.0E+1 |
±1.0E+0 |
1.0E+1 a 1.0E+2 |
±10% |
1.0E+2 a 1.0E+3 |
±5% |
Puntos de calibración estándar con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
5.0E+00 |
4.0E+0 |
6.0E+0 |
1.0E+2 |
9.0E+1 |
1.1E+2 |
7.6E+2 |
7.2E+2 |
8.0E+2 |
Puntos de calibración del NIST con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
5.0E+00 |
4.5E+0 |
5.5E+0 |
1.0E+2 |
9.0E+1 |
1.1E+2 |
4.0E+2 |
3.8E+2 |
4.2E+2 |
7.6E+2 |
7.2E+2 |
8.0E+2 |
Indicadores aplicables
- MP3DR
- MC300 Mini BA
- MM200 Mini BA
Especificación de la precisión
Rango |
Tolerancia |
1.0E-9 a 1.0E-2 |
±.1 década (-21% a 26%) |
Puntos de calibración estándar con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
1.0E-05 |
7.9E-06 |
1.3E-05 |
1.0E-04 |
7.9E-05 |
1.3E-04 |
Puntos de calibración del NIST con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
1.0E-06 |
7.9E-07 |
1.3E-06 |
5.0E-06 |
4.0E-06 |
6.3E-06 |
1.0E-05 |
7.9E-06 |
1.3E-05 |
5.0E-05 |
4.0E-05 |
6.3E-05 |
1.0E-04 |
7.9E-05 |
1.3E-04 |
Indicadores aplicables
MM200 Medidor de diafragma capacitivo
Medidor de diafragma capacitivo MX200
Especificación de la precisión
Rango |
Tolerancia |
.01*FS a .1*FS |
±.001*FS |
.1*FS a FS |
±2% |
Puntos de calibración estándar con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
0.1*FS |
(0,1*FS)-2% |
(0,1*FS)+2% |
0.5*FS |
(0.5*FS)-2% |
(0,5*FS)+2% |
FS |
FS-2% |
FS+2% |
Puntos de calibración del NIST con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
0.01*FS |
0.01*FS-.001*FS |
0.01*FS +.001*FS |
0.1*FS |
(0,1*FS)-2% |
(0,1*FS)+2% |
0.2*FS |
(0,2*FS)-2% |
(0,2*FS)+2% |
0.3*FS |
(0,3*FS)-2% |
(0,3*FS)+2% |
0.4*FS |
(0,4*FS)-2% |
(0,4*FS)+2% |
0.5*FS |
(0.5*FS)-2% |
(0,5*FS)+2% |
0.6*FS |
(0,6*FS)-2% |
(0,6*FS)+2% |
0.7*FS |
(0,7*FS)-2% |
(0,7*FS)+2% |
0.8*FS |
(0.8*FS)-2% |
(0,8*FS)+2% |
0.9*FS |
(0,9*FS)-2% |
(0,9*FS)+2% |
FS |
FS-2% |
FS+2% |
Indicadores aplicables
Especificación de la precisión
Rango |
Tolerancia |
1.0E-7 a 1.0E-3 |
±30% |
Puntos de calibración estándar con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
1.0E-05 |
7.0E-06 |
1.3E-05 |
1.0E-04 |
7.0E-05 |
1.3E-04 |
Puntos de calibración del NIST con tolerancias
Punto de prueba |
Menor tolerancia |
Tolerancia superior |
1.0E-06 |
7.0E-07 |
1.3E-06 |
5.0E-06 |
3.5E-06 |
6.5E-06 |
1.0E-05 |
7.0E-06 |
1.3E-05 |
5.0E-05 |
3.5E-05 |
6.5E-05 |
1.0E-04 |
7.0E-05 |
1.3E-04 |