Tolerancias de Televac

Especificación de precisión y puntos de prueba de vacío con tolerancias

Descripción

All values are in Torr unless otherwise stated and FS denotes the full scale or maximum reading of the CDG. Televac reserves the right to change tolerances for any controllers, active gauges, or sensors. Any modification to any unit without approval from Televac® voids the unit’s certificate of compliance. Additional NIST Calibration Test Points are available upon request.

Indicadores aplicables

  • MC300 2A, 2A VacuMini, or 2A NASA Mini
  • MM200 2A, 2A VacuMini, or 2A NASA Mini
  • MX200 2A, 2A VacuMini, or 2A NASA Mini
  • MV2A, 2A VacuMini, or 2A NASA Mini
  • Compact 2A, 2A VacuMini, or 2A NASA Mini
  • Vacuguard™, 2A VacuMini, or 2A NASA Mini
  • B2A Portable, 2A VacuMini, or 2A NASA Mini
  • MP2AR

Especificación de la precisión

Rango Tolerancia
1.0E-3 a 1.0E-2 ±1.0E-3
1.0E-2 a 1.0E-1 ±10%
1.0E-1 a 1.0E+0 ±20%

Puntos de calibración estándar con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
0.0E+0 -1.0E-3 1.0E-3
1.0E-1 9.0E-2 1.1E-1
1.0E+0 8.0E-1 1.2E+0

Puntos de calibración del NIST con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
0.0E+0 -1.0E-3 1.0E-3
1.0E-2 9.0E-3 1.1E-2
2.0E-2 1.8E-2 2.2E-2
5.0E-2 4.5E-2 5.5E-2
1.0E-1 9.0E-2 1.1E-1
2.0E-1 1.6E-1 2.4E-1
5.0E-1 4.0E-1 6.0E-1
1.0E+0 8.0E-1 1.2E+0

Especificación de aviación de GE Calibración compatible con P10TF3

El sensor 2A, en combinación con cualquiera de los controladores anteriores, puede ser calibrado según la Especificación de Aviación de GE P10TF3.

Punto de prueba Menor tolerancia Tolerancia superior
0.0E+0 -1.0E-3 1.0E-3
1.0E-2 9.0E-3 1.1E-2
2.0E-2 1.8E-2 2.2E-2
5.0E-2 4.5E-2 5.5E-2
1.0E-1 9.0E-2 1.1E-1
2.0E-1 1.7E-1 2.3E-1
5.0E-1 4.3E-1 5.8E-1
1.0E+0 8.5E-1 1.2E+0

Indicadores aplicables

  • MX2A

Especificación de la precisión

Rango Tolerancia
1.0E-3 a 1.0E-2 ±1.0E-3
1.0E-2 a 1.0E+1 ±10%
1.0E+0 to 1.0E+2 ±30%
1.0E+2 a 1.0E+3 ±10%

Puntos de calibración estándar con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
0.0E+0 -1.0E-3 1.0E-3
1.0E-1 9.0E-2 1.1E-1
1.0E+0 9.0E-1 1.1E+0

Puntos de calibración del NIST con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
0.0E+0 -1.0E-3 1.0E-3
1.0E-2 9.0E-3 1.1E-2
2.0E-2 1.8E-2 2.2E-2
5.0E-2 4.5E-2 5.5E-2
1.0E-1 9.0E-2 1.1E-1
2.0E-1 1.8E-1 2.2E-1
5.0E-1 4.5E-1 5.5E-1
1.0E+0 9.0E-1 1.1E+0

Indicadores aplicables

  • MC300 4A
  • MM200 4A
  • MP4AR

Especificación de la precisión

Rango Tolerancia
1.0E-3 a 1.0E-2 ±1.0E-3
1.0E-2 a 1.0E+1 ±10%
1.0E+1 a 1.0E+2 ±20%
1.0E+2 a 1.0E+3 ±10%

Puntos de calibración estándar con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
0.0E+0 -1.0E-3 1.0E-3
1.0E+0 9.0E-1 1.1E-0
7.6E+2 6.8E+2 8.4E+2

Puntos de calibración del NIST con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
0.0E+0 -1.0E-3 1.0E-3
1.0E-2 9.0E-3 1.1E-2
5.0E-2 4.5E-2 5.5E-2
1.0E-1 9.0E-2 1.1E-1
5.0E-1 4.5E-1 5.5E-1
1.0E+0 9.0E-1 1.1E+0
1.0E+1 9.0E+0 1.1E+1
1.0E+2 8.0E+1 1.2E+2
7.6E+2 6.8E+2 8.4E+2

Indicadores aplicables

  • MX4A
  • MX200 4A

Especificación de la precisión

Rango Tolerancia
1.0E-3 a 1.0E-2 ±1.0E-3
1.0E-2 a 1.0E+3 ±10%

Puntos de calibración estándar con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
0.0E+0 -1.0E-3 1.0E-3
1.0E+0 9.0E-1 1.1E+0
7.6E+2 6.8E+2 8.4E+2

Puntos de calibración del NIST con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
0.0E+0 -1.0E-3 1.0E-3
1.0E-2 9.0E-3 1.1E-2
5.0E-2 4.5E-2 5.5E-2
1.0E-1 9.0E-2 1.1E-1
5.0E-1 4.5E-1 5.5E-1
1.0E+0 9.0E-1 1.1E+0
1.0E+1 9.0E+0 1.1E+1
1.0E+2 9.0E+1 1.1E+2
7.6E+2 6.8E+2 8.4E+2

Indicadores aplicables

  • MC300 7B
  • MM200 7B
  • MX200 7B

Especificación de la precisión

Rango Tolerancia
1.0E-6 a 1.0E-3 ±.2 década (-37% a 58%)

Puntos de calibración estándar con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
1.0E-5 6.0E-6 1.6E-5
1.0E-4 6.0E-5 1.6E-4

Puntos de calibración del NIST con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
1.0E-6 6.3E-7* 1.6E-6
5.0E-6 3.2E-6 8.0E-6
1.0E-5 6.3E-6 1.6E-5
5.0E-5 3.2E-5 8.0E-5
1.0E-4 6.3E-5 1.6E-4

*La tolerancia para el MM200 y el MC300 es de 6E-7*


Indicadores aplicables

  • MC300 7E
  • MM200 7E
  • MX200 7E
  • MP7ER

Especificación de la precisión

Rango Tolerancia
1.0E-7 a 1.0E-2 ±.2 década (-37% a 58%)

Puntos de calibración estándar con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
1.0E-5 6.3E-6 1.6E-5
1.0E-4 6.3E-5 1.6E-4

Puntos de calibración del NIST con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
1.0E-6 6.3E-7 1.6E-6
5.0E-6 3.2E-6 8.0E-6
1.0E-5 6.3E-6 1.6E-5
5.0E-5 3.2E-5 8.0E-5
1.0E-4 6.3E-5 1.6E-4

Indicadores aplicables

  • MC300 7F/7FC
  • MM200 7F/7FC/7FCS
  • MX200 7F/7FC/7FCS
  • MP7FR

Especificación de la precisión

Rango Tolerancia
1.0E-9 a 1.0E-2 ±.2 década (-37% a 58%)

Puntos de calibración estándar con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
1.0E-5 6.3E-6 1.6E-5
1.0E-4 6.3E-5 1.6E-4

Puntos de calibración del NIST con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
1.0E-6 6.3E-7 1.6E-6
5.0E-6 3.2E-6 8.0E-6
1.0E-5 6.3E-6 1.6E-5
5.0E-5 3.2E-5 8.0E-5
1.0E-4 6.3E-5 1.6E-4

Indicadores aplicables

  • CC-10

Especificación de la precisión

Rango Tolerancia
1.0E-9 a 1.0E-1 ±.2 década (-37% a 58%)
1.0E-1 a 2.0E+2 ±15%
2.0E+2 a 1.0E+3 ±5%

Puntos de calibración estándar con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
1.0E-05 6.0E-6 1.6E-5
1.0E+00 8.5E-1 1.2E+0
7.6E+02 7.2E+2 8.0E+2

Puntos de calibración del NIST con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
1.0E-6 6.3E-7 1.6E-6
5.0E-6 3.2E-6 8.0E-6
1.0E-5 6.3E-6 1.6E-5
5.0E-5 3.2E-5 8.0E-5
1.0E-4 6.3E-5 1.6E-4
1.0E-3 6.3E-4 1.6E-3
1.0E-2 6.3E-3 1.6E-2
1.0E-1 8.5E-2 1.2E-1
1.0E+0 8.5E-1 1.2E+0
1.0E+1 8.5E+0 1.2E+1
1.0E+2 8.5E+1 1.2E+2
7.6E+2 7.2E+2 8.0E+2

Indicadores aplicables

  • MM200 1E
  • MX200 1E

Especificación de la precisión

Rango Tolerancia
1.0E+0 a 1.0E+1 ±1.0E+0
1.0E+1 a 1.0E+2 ±10%
1.0E+2 a 1.0E+3 ±5%

Puntos de calibración estándar con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
5.0E+00 4.0E+0 6.0E+0
1.0E+2 9.0E+1 1.1E+2
7.6E+2 7.2E+2 8.0E+2

Puntos de calibración del NIST con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
5.0E+00 4.5E+0 5.5E+0
1.0E+2 9.0E+1 1.1E+2
4.0E+2 3.8E+2 4.2E+2
7.6E+2 7.2E+2 8.0E+2

Indicadores aplicables

  • MP3DR
  • MC300 Mini BA
  • MM200 Mini BA

Especificación de la precisión

Rango Tolerancia
1.0E-9 a 1.0E-2 ±.1 década (-21% a 26%)

Puntos de calibración estándar con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
1.0E-05 7.9E-06 1.3E-05
1.0E-04 7.9E-05 1.3E-04

Puntos de calibración del NIST con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
1.0E-06 7.9E-07 1.3E-06
5.0E-06 4.0E-06 6.3E-06
1.0E-05 7.9E-06 1.3E-05
5.0E-05 4.0E-05 6.3E-05
1.0E-04 7.9E-05 1.3E-04

Indicadores aplicables

MM200 Medidor de diafragma capacitivo
Medidor de diafragma capacitivo MX200

Especificación de la precisión

Rango Tolerancia
.01*FS a .1*FS ±.001*FS
.1*FS a FS ±2%

Puntos de calibración estándar con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
0.1*FS (0,1*FS)-2% (0,1*FS)+2%
0.5*FS (0.5*FS)-2% (0,5*FS)+2%
FS FS-2% FS+2%

Puntos de calibración del NIST con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
0.01*FS 0.01*FS-.001*FS 0.01*FS +.001*FS
0.1*FS (0,1*FS)-2% (0,1*FS)+2%
0.2*FS (0,2*FS)-2% (0,2*FS)+2%
0.3*FS (0,3*FS)-2% (0,3*FS)+2%
0.4*FS (0,4*FS)-2% (0,4*FS)+2%
0.5*FS (0.5*FS)-2% (0,5*FS)+2%
0.6*FS (0,6*FS)-2% (0,6*FS)+2%
0.7*FS (0,7*FS)-2% (0,7*FS)+2%
0.8*FS (0.8*FS)-2% (0,8*FS)+2%
0.9*FS (0,9*FS)-2% (0,9*FS)+2%
FS FS-2% FS+2%

Indicadores aplicables

  • MX7B
  • MX7M

Especificación de la precisión

Rango Tolerancia
1.0E-7 to 1.0E-3 ±30%

Puntos de calibración estándar con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
1.0E-05 7.0E-06 1.3E-05
1.0E-04 7.0E-05 1.3E-04

Puntos de calibración del NIST con tolerancias

Punto de prueba Menor tolerancia Tolerancia superior
1.0E-06 7.0E-07 1.3E-06
5.0E-06 3.5E-06 6.5E-06
1.0E-05 7.0E-06 1.3E-05
5.0E-05 3.5E-05 6.5E-05
1.0E-04 7.0E-05 1.3E-04