Tolerancias de Televac

Especificación de precisión y puntos de prueba de vacío con tolerancias

Descripción

Todos los valores se expresan en Torr a menos que se indique lo contrario y FS indica la escala completa o la lectura máxima del CDG. Televac se reserva el derecho de modificar las tolerancias de cualquier controlador, medidor activo o sensor. Cualquier modificación de cualquier unidad sin la aprobación de Televac® anula el certificado de conformidad de la unidad. Hay disponibles puntos de prueba de calibración NIST adicionales previa solicitud.

Indicadores aplicables

  • MC300 2A, 2A VacuMini o 2A NASA Mini
  • MM200 2A, 2A VacuMini o 2A NASA Mini
  • MX200 2A, 2A VacuMini o 2A NASA Mini
  • MV2A, 2A VacuMini o 2A NASA Mini
  • Compact 2A, 2A VacuMini o 2A NASA Mini
  • Vacuguard™, 2A VacuMini, o 2A NASA Mini
  • B2A Portátil, 2A VacuMini o 2A NASA Mini
  • MP2AR

Especificación de la precisión

Rango Tolerancia
1.0E-3 a 1.0E-2 ±1.0E-3
1.0E-2 a 1.0E-1 ±10%
1.0E-1 a 1.0E+0 ±20%

Puntos de calibración estándar con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
0.0E+0 -1.0E-3 1.0E-3
1.0E-1 9.0E-2 1.1E-1
1.0E+0 8.0E-1 1.2E+0

Puntos de calibración del NIST con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
0.0E+0 -1.0E-3 1.0E-3
1.0E-2 9.0E-3 1.1E-2
2.0E-2 1.8E-2 2.2E-2
5.0E-2 4.5E-2 5.5E-2
1.0E-1 9.0E-2 1.1E-1
2.0E-1 1.6E-1 2.4E-1
5.0E-1 4.0E-1 6.0E-1
1.0E+0 8.0E-1 1.2E+0

Especificación de aviación de GE Calibración compatible con P10TF3

El sensor 2A, en combinación con cualquiera de los controladores anteriores, puede ser calibrado según la Especificación de Aviación de GE P10TF3.

Punto de prueba Menor tolerancia Tolerancia superior
0.0E+0 -1.0E-3 1.0E-3
1.0E-2 9.0E-3 1.1E-2
2.0E-2 1.8E-2 2.2E-2
5.0E-2 4.5E-2 5.5E-2
1.0E-1 9.0E-2 1.1E-1
2.0E-1 1.7E-1 2.3E-1
5.0E-1 4.3E-1 5.8E-1
1.0E+0 8.5E-1 1.2E+0

Indicadores aplicables

  • MX2A

Especificación de la precisión

Rango Tolerancia
1.0E-3 a 1.0E-2 ±1.0E-3
1.0E-2 a 1.0E+1 ±10%
1.0E+0 a 1.0E+2 ±30%
1.0E+2 a 1.0E+3 ±10%

Puntos de calibración estándar con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
0.0E+0 -1.0E-3 1.0E-3
1.0E-1 9.0E-2 1.1E-1
1.0E+0 9.0E-1 1.1E+0

Puntos de calibración del NIST con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
0.0E+0 -1.0E-3 1.0E-3
1.0E-2 9.0E-3 1.1E-2
2.0E-2 1.8E-2 2.2E-2
5.0E-2 4.5E-2 5.5E-2
1.0E-1 9.0E-2 1.1E-1
2.0E-1 1.8E-1 2.2E-1
5.0E-1 4.5E-1 5.5E-1
1.0E+0 9.0E-1 1.1E+0

Indicadores aplicables

  • MC300 4A
  • MM200 4A
  • MP4AR

Especificación de la precisión

Rango Tolerancia
1.0E-3 a 1.0E-2 ±1.0E-3
1.0E-2 a 1.0E+1 ±10%
1.0E+1 a 1.0E+2 ±20%
1.0E+2 a 1.0E+3 ±10%

Puntos de calibración estándar con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
0.0E+0 -1.0E-3 1.0E-3
1.0E+0 9.0E-1 1.1E-0
7.6E+2 6.8E+2 8.4E+2

Puntos de calibración del NIST con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
0.0E+0 -1.0E-3 1.0E-3
1.0E-2 9.0E-3 1.1E-2
5.0E-2 4.5E-2 5.5E-2
1.0E-1 9.0E-2 1.1E-1
5.0E-1 4.5E-1 5.5E-1
1.0E+0 9.0E-1 1.1E+0
1.0E+1 9.0E+0 1.1E+1
1.0E+2 8.0E+1 1.2E+2
7.6E+2 6.8E+2 8.4E+2

Indicadores aplicables

  • MX4A
  • MX200 4A

Especificación de la precisión

Rango Tolerancia
1.0E-3 a 1.0E-2 ±1.0E-3
1.0E-2 a 1.0E+3 ±10%

Puntos de calibración estándar con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
0.0E+0 -1.0E-3 1.0E-3
1.0E+0 9.0E-1 1.1E+0
7.6E+2 6.8E+2 8.4E+2

Puntos de calibración del NIST con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
0.0E+0 -1.0E-3 1.0E-3
1.0E-2 9.0E-3 1.1E-2
5.0E-2 4.5E-2 5.5E-2
1.0E-1 9.0E-2 1.1E-1
5.0E-1 4.5E-1 5.5E-1
1.0E+0 9.0E-1 1.1E+0
1.0E+1 9.0E+0 1.1E+1
1.0E+2 9.0E+1 1.1E+2
7.6E+2 6.8E+2 8.4E+2

Indicadores aplicables

  • MC300 7B
  • MM200 7B
  • MX200 7B

Especificación de la precisión

Rango Tolerancia
1.0E-6 a 1.0E-3 ±.2 década (-37% a 58%)

Puntos de calibración estándar con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
1.0E-5 6.0E-6 1.6E-5
1.0E-4 6.0E-5 1.6E-4

Puntos de calibración del NIST con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
1.0E-6 6.3E-7* 1.6E-6
5.0E-6 3.2E-6 8.0E-6
1.0E-5 6.3E-6 1.6E-5
5.0E-5 3.2E-5 8.0E-5
1.0E-4 6.3E-5 1.6E-4

*La tolerancia para el MM200 y el MC300 es de 6E-7*


Indicadores aplicables

  • MC300 7E
  • MM200 7E
  • MX200 7E
  • MP7ER

Especificación de la precisión

Rango Tolerancia
1.0E-7 a 1.0E-2 ±.2 década (-37% a 58%)

Puntos de calibración estándar con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
1.0E-5 6.3E-6 1.6E-5
1.0E-4 6.3E-5 1.6E-4

Puntos de calibración del NIST con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
1.0E-6 6.3E-7 1.6E-6
5.0E-6 3.2E-6 8.0E-6
1.0E-5 6.3E-6 1.6E-5
5.0E-5 3.2E-5 8.0E-5
1.0E-4 6.3E-5 1.6E-4

Indicadores aplicables

  • MC300 7F/7FC
  • MM200 7F/7FC/7FCS
  • MX200 7F/7FC/7FCS
  • MP7FR

Especificación de la precisión

Rango Tolerancia
1.0E-9 a 1.0E-2 ±.2 década (-37% a 58%)

Puntos de calibración estándar con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
1.0E-5 6.3E-6 1.6E-5
1.0E-4 6.3E-5 1.6E-4

Puntos de calibración del NIST con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
1.0E-6 6.3E-7 1.6E-6
5.0E-6 3.2E-6 8.0E-6
1.0E-5 6.3E-6 1.6E-5
5.0E-5 3.2E-5 8.0E-5
1.0E-4 6.3E-5 1.6E-4

Indicadores aplicables

  • CC-10

Especificación de la precisión

Rango Tolerancia
1.0E-9 a 1.0E-1 ±.2 década (-37% a 58%)
1.0E-1 a 2.0E+2 ±15%
2.0E+2 a 1.0E+3 ±5%

Puntos de calibración estándar con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
1.0E-05 6.0E-6 1.6E-5
1.0E+00 8.5E-1 1.2E+0
7.6E+02 7.2E+2 8.0E+2

Puntos de calibración del NIST con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
1.0E-6 6.3E-7 1.6E-6
5.0E-6 3.2E-6 8.0E-6
1.0E-5 6.3E-6 1.6E-5
5.0E-5 3.2E-5 8.0E-5
1.0E-4 6.3E-5 1.6E-4
1.0E-3 6.3E-4 1.6E-3
1.0E-2 6.3E-3 1.6E-2
1.0E-1 8.5E-2 1.2E-1
1.0E+0 8.5E-1 1.2E+0
1.0E+1 8.5E+0 1.2E+1
1.0E+2 8.5E+1 1.2E+2
7.6E+2 7.2E+2 8.0E+2

Indicadores aplicables

  • MM200 1E
  • MX200 1E

Especificación de la precisión

Rango Tolerancia
1.0E+0 a 1.0E+1 ±1.0E+0
1.0E+1 a 1.0E+2 ±10%
1.0E+2 a 1.0E+3 ±5%

Puntos de calibración estándar con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
5.0E+00 4.0E+0 6.0E+0
1.0E+2 9.0E+1 1.1E+2
7.6E+2 7.2E+2 8.0E+2

Puntos de calibración del NIST con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
5.0E+00 4.5E+0 5.5E+0
1.0E+2 9.0E+1 1.1E+2
4.0E+2 3.8E+2 4.2E+2
7.6E+2 7.2E+2 8.0E+2

Indicadores aplicables

  • MP3DR
  • MC300 Mini BA
  • MM200 Mini BA

Especificación de la precisión

Rango Tolerancia
1.0E-9 a 1.0E-2 ±.1 década (-21% a 26%)

Puntos de calibración estándar con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
1.0E-05 7.9E-06 1.3E-05
1.0E-04 7.9E-05 1.3E-04

Puntos de calibración del NIST con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
1.0E-06 7.9E-07 1.3E-06
5.0E-06 4.0E-06 6.3E-06
1.0E-05 7.9E-06 1.3E-05
5.0E-05 4.0E-05 6.3E-05
1.0E-04 7.9E-05 1.3E-04

Indicadores aplicables

MM200 Medidor de diafragma capacitivo
Medidor de diafragma capacitivo MX200

Especificación de la precisión

Rango Tolerancia
.01*FS a .1*FS ±.001*FS
.1*FS a FS ±2%

Puntos de calibración estándar con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
0.1*FS (0,1*FS)-2% (0,1*FS)+2%
0.5*FS (0.5*FS)-2% (0,5*FS)+2%
FS FS-2% FS+2%

Puntos de calibración del NIST con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
0.01*FS 0.01*FS-.001*FS 0.01*FS +.001*FS
0.1*FS (0,1*FS)-2% (0,1*FS)+2%
0.2*FS (0,2*FS)-2% (0,2*FS)+2%
0.3*FS (0,3*FS)-2% (0,3*FS)+2%
0.4*FS (0,4*FS)-2% (0,4*FS)+2%
0.5*FS (0.5*FS)-2% (0,5*FS)+2%
0.6*FS (0,6*FS)-2% (0,6*FS)+2%
0.7*FS (0,7*FS)-2% (0,7*FS)+2%
0.8*FS (0.8*FS)-2% (0,8*FS)+2%
0.9*FS (0,9*FS)-2% (0,9*FS)+2%
FS FS-2% FS+2%

Indicadores aplicables

  • MX7B
  • MX7M

Especificación de la precisión

Rango Tolerancia
1.0E-7 a 1.0E-3 ±30%

Puntos de calibración estándar con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
1.0E-05 7.0E-06 1.3E-05
1.0E-04 7.0E-05 1.3E-04

Puntos de calibración del NIST con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
1.0E-06 7.0E-07 1.3E-06
5.0E-06 3.5E-06 6.5E-06
1.0E-05 7.0E-06 1.3E-05
5.0E-05 3.5E-05 6.5E-05
1.0E-04 7.0E-05 1.3E-04