Tolérance des téléviseurs

Download Tolerances
Voir toutes les ressources

Spécification de précision et points d'essai sous vide avec tolérances

Description

All values are in Torr unless otherwise stated and FS denotes the full scale or maximum reading of the CDG. Televac reserves the right to change tolerances for any controllers, active gauges, or sensors. Any modification to any unit without approval from Televac® voids the unit’s certificate of compliance. Additional NIST Calibration Test Points are available upon request.

Jauges applicables

  • MC300 2A, 2A VacuMini, or 2A NASA Mini
  • MM200 2A, 2A VacuMini, or 2A NASA Mini
  • MX200 2A, 2A VacuMini, or 2A NASA Mini
  • MV2A, 2A VacuMini, or 2A NASA Mini
  • Compact 2A, 2A VacuMini, or 2A NASA Mini
  • Vacuguard™, 2A VacuMini, or 2A NASA Mini
  • B2A Portable, 2A VacuMini, or 2A NASA Mini
  • MP2AR

Spécification de précision

Gamme Tolérance
1.0E-3 à 1.0E-2 ±1.0E-3
1.0E-2 à 1.0E-1 ±10%
1.0E-1 à 1.0E+0 ±20%

Points d'étalonnage standard avec tolérances

Point de test Tolérance réduite Tolérance supérieure
0.0E+0 -1.0E-3 1.0E-3
1.0E-1 9.0E-2 1.1E-1
1.0E+0 8.0E-1 1.2E+0

Points d'étalonnage NIST avec tolérances

Point de test Tolérance réduite Tolérance supérieure
0.0E+0 -1.0E-3 1.0E-3
1.0E-2 9.0E-3 1.1E-2
2.0E-2 1.8E-2 2.2E-2
5.0E-2 4.5E-2 5.5E-2
1.0E-1 9.0E-2 1.1E-1
2.0E-1 1.6E-1 2.4E-1
5.0E-1 4.0E-1 6.0E-1
1.0E+0 8.0E-1 1.2E+0

Étalonnage compatible avec la spécification GE Aviation P10TF3

Le capteur 2A, en combinaison avec n'importe lequel des contrôleurs ci-dessus, peut être calibré selon la spécification GE Aviation P10TF3.

Point de test Tolérance réduite Tolérance supérieure
0.0E+0 -1.0E-3 1.0E-3
1.0E-2 9.0E-3 1.1E-2
2.0E-2 1.8E-2 2.2E-2
5.0E-2 4.5E-2 5.5E-2
1.0E-1 9.0E-2 1.1E-1
2.0E-1 1.7E-1 2.3E-1
5.0E-1 4.3E-1 5.8E-1
1.0E+0 8.5E-1 1.2E+0

Jauges applicables

  • MX2A

Spécification de précision

Gamme Tolérance
1.0E-3 à 1.0E-2 ±1.0E-3
1.0E-2 à 1.0E+1 ±10%
1.0E+0 to 1.0E+2 ±30%
1.0E+2 à 1.0E+3 ±10%

Points d'étalonnage standard avec tolérances

Point de test Tolérance réduite Tolérance supérieure
0.0E+0 -1.0E-3 1.0E-3
1.0E-1 9.0E-2 1.1E-1
1.0E+0 9.0E-1 1.1E+0

Points d'étalonnage NIST avec tolérances

Point de test Tolérance réduite Tolérance supérieure
0.0E+0 -1.0E-3 1.0E-3
1.0E-2 9.0E-3 1.1E-2
2.0E-2 1.8E-2 2.2E-2
5.0E-2 4.5E-2 5.5E-2
1.0E-1 9.0E-2 1.1E-1
2.0E-1 1.8E-1 2.2E-1
5.0E-1 4.5E-1 5.5E-1
1.0E+0 9.0E-1 1.1E+0

Jauges applicables

  • MC300 4A
  • MM200 4A
  • MP4AR

Spécification de précision

Gamme Tolérance
1.0E-3 à 1.0E-2 ±1.0E-3
1.0E-2 à 1.0E+1 ±10%
1.0E+1 à 1.0E+2 ±20%
1.0E+2 à 1.0E+3 ±10%

Points d'étalonnage standard avec tolérances

Point de test Tolérance réduite Tolérance supérieure
0.0E+0 -1.0E-3 1.0E-3
1.0E+0 9.0E-1 1.1E-0
7.6E+2 6.8E+2 8.4E+2

Points d'étalonnage NIST avec tolérances

Point de test Tolérance réduite Tolérance supérieure
0.0E+0 -1.0E-3 1.0E-3
1.0E-2 9.0E-3 1.1E-2
5.0E-2 4.5E-2 5.5E-2
1.0E-1 9.0E-2 1.1E-1
5.0E-1 4.5E-1 5.5E-1
1.0E+0 9.0E-1 1.1E+0
1.0E+1 9.0E+0 1.1E+1
1.0E+2 8.0E+1 1.2E+2
7.6E+2 6.8E+2 8.4E+2

Jauges applicables

  • MX4A
  • MX200 4A

Spécification de précision

Gamme Tolérance
1.0E-3 à 1.0E-2 ±1.0E-3
1.0E-2 à 1.0E+3 ±10%

Points d'étalonnage standard avec tolérances

Point de test Tolérance réduite Tolérance supérieure
0.0E+0 -1.0E-3 1.0E-3
1.0E+0 9.0E-1 1.1E+0
7.6E+2 6.8E+2 8.4E+2

Points d'étalonnage NIST avec tolérances

Point de test Tolérance réduite Tolérance supérieure
0.0E+0 -1.0E-3 1.0E-3
1.0E-2 9.0E-3 1.1E-2
5.0E-2 4.5E-2 5.5E-2
1.0E-1 9.0E-2 1.1E-1
5.0E-1 4.5E-1 5.5E-1
1.0E+0 9.0E-1 1.1E+0
1.0E+1 9.0E+0 1.1E+1
1.0E+2 9.0E+1 1.1E+2
7.6E+2 6.8E+2 8.4E+2

Jauges applicables

  • MC300 7B
  • MM200 7B
  • MX200 7B

Spécification de précision

Gamme Tolérance
1.0E-6 à 1.0E-3 ±0,2 décennie (-37% à 58%)

Points d'étalonnage standard avec tolérances

Point de test Tolérance réduite Tolérance supérieure
1.0E-5 6.0E-6 1.6E-5
1.0E-4 6.0E-5 1.6E-4

Points d'étalonnage NIST avec tolérances

Point de test Tolérance réduite Tolérance supérieure
1.0E-6 6.3E-7* 1.6E-6
5.0E-6 3.2E-6 8.0E-6
1.0E-5 6.3E-6 1.6E-5
5.0E-5 3.2E-5 8.0E-5
1.0E-4 6.3E-5 1.6E-4

*La tolérance pour le MM200 et le MC300 est de 6E-7

Jauges applicables

  • MC300 7E
  • MM200 7E
  • MX200 7E
  • MP7ER

Spécification de précision

Gamme Tolérance
1.0E-7 à 1.0E-2 ±0,2 décennie (-37% à 58%)

Points d'étalonnage standard avec tolérances

Point de test Tolérance réduite Tolérance supérieure
1.0E-5 6.3E-6 1.6E-5
1.0E-4 6.3E-5 1.6E-4

Points d'étalonnage NIST avec tolérances

Point de test Tolérance réduite Tolérance supérieure
1.0E-6 6.3E-7 1.6E-6
5.0E-6 3.2E-6 8.0E-6
1.0E-5 6.3E-6 1.6E-5
5.0E-5 3.2E-5 8.0E-5
1.0E-4 6.3E-5 1.6E-4

Jauges applicables

  • MC300 7F/7FC
  • MM200 7F/7FC/7FCS
  • MX200 7F/7FC/7FCS
  • MP7FR

Spécification de précision

Gamme Tolérance
1.0E-9 à 1.0E-2 ±0,2 décennie (-37% à 58%)

Points d'étalonnage standard avec tolérances

Point de test Tolérance réduite Tolérance supérieure
1.0E-5 6.3E-6 1.6E-5
1.0E-4 6.3E-5 1.6E-4

Points d'étalonnage NIST avec tolérances

Point de test Tolérance réduite Tolérance supérieure
1.0E-6 6.3E-7 1.6E-6
5.0E-6 3.2E-6 8.0E-6
1.0E-5 6.3E-6 1.6E-5
5.0E-5 3.2E-5 8.0E-5
1.0E-4 6.3E-5 1.6E-4

Jauges applicables

  • CC-10

Spécification de précision

Gamme Tolérance
1.0E-9 à 1.0E-1 ±0,2 décennie (-37% à 58%)
1.0E-1 à 2.0E+2 ±15%
2.0E+2 à 1.0E+3 ±5%

Points d'étalonnage standard avec tolérances

Point de test Tolérance réduite Tolérance supérieure
1.0E-05 6.0E-6 1.6E-5
1.0E+00 8.5E-1 1.2E+0
7.6E+02 7.2E+2 8.0E+2

Points d'étalonnage NIST avec tolérances

Point de test Tolérance réduite Tolérance supérieure
1.0E-6 6.3E-7 1.6E-6
5.0E-6 3.2E-6 8.0E-6
1.0E-5 6.3E-6 1.6E-5
5.0E-5 3.2E-5 8.0E-5
1.0E-4 6.3E-5 1.6E-4
1.0E-3 6.3E-4 1.6E-3
1.0E-2 6.3E-3 1.6E-2
1.0E-1 8.5E-2 1.2E-1
1.0E+0 8.5E-1 1.2E+0
1.0E+1 8.5E+0 1.2E+1
1.0E+2 8.5E+1 1.2E+2
7.6E+2 7.2E+2 8.0E+2

Jauges applicables

  • MM200 1E
  • MX200 1E

Spécification de précision

Gamme Tolérance
1,0E+0 à 1,0E+1 ±1.0E+0
1.0E+1 à 1.0E+2 ±10%
1.0E+2 à 1.0E+3 ±5%

Points d'étalonnage standard avec tolérances

Point de test Tolérance réduite Tolérance supérieure
5.0E+00 4.0E+0 6.0E+0
1.0E+2 9.0E+1 1.1E+2
7.6E+2 7.2E+2 8.0E+2

Points d'étalonnage NIST avec tolérances

Point de test Tolérance réduite Tolérance supérieure
5.0E+00 4.5E+0 5.5E+0
1.0E+2 9.0E+1 1.1E+2
4.0E+2 3.8E+2 4.2E+2
7.6E+2 7.2E+2 8.0E+2

Jauges applicables

  • MP3DR
  • MC300 Mini BA
  • MM200 Mini BA

Spécification de précision

Gamme Tolérance
1.0E-9 à 1.0E-2 ±0,1 décennie (-21% à 26%)

Points d'étalonnage standard avec tolérances

Point de test Tolérance réduite Tolérance supérieure
1.0E-05 7.9E-06 1.3E-05
1.0E-04 7.9E-05 1.3E-04

Points d'étalonnage NIST avec tolérances

Point de test Tolérance réduite Tolérance supérieure
1.0E-06 7.9E-07 1.3E-06
5.0E-06 4.0E-06 6.3E-06
1.0E-05 7.9E-06 1.3E-05
5.0E-05 4.0E-05 6.3E-05
1.0E-04 7.9E-05 1.3E-04

Jauges applicables

MM200 Jauge à membrane capacitive
Jauge à membrane capacitive MX200

Spécification de précision

Gamme Tolérance
.01*FS à .1*FS ±.001*FS
.1*FS à FS ±2%

Points d'étalonnage standard avec tolérances

Point de test Tolérance réduite Tolérance supérieure
0,1*FS (0,1*FS)-2% (0,1*FS)+2
0,5*FS (0,5*FS)-2%. (0,5*FS)+2
FS FS-2% FS+2

Points d'étalonnage NIST avec tolérances

Point de test Tolérance réduite Tolérance supérieure
0,01*FS 0,01*FS-.001*FS 0,01*FS + 0,001*FS
0,1*FS (0,1*FS)-2% (0,1*FS)+2
0,2*FS (0,2*FS)-2%. (0,2*FS)+2
0,3*FS (0,3*FS)-2%. (0,3*FS)+2
0,4*FS (0,4*FS)-2%. (0,4*FS)+2
0,5*FS (0,5*FS)-2%. (0,5*FS)+2
0,6*FS (0,6*FS)-2%. (0,6*FS)+2
0,7*FS (0,7*FS)-2%. (0,7*FS)+2
0,8*FS (0,8*FS)-2%. (0,8*FS)+2
0,9*FS (0,9*FS)-2%. (0,9*FS)+2
FS FS-2% FS+2

Jauges applicables

  • MX7B
  • MX7M

Spécification de précision

Gamme Tolérance
1.0E-7 to 1.0E-3 ±30%

Points d'étalonnage standard avec tolérances

Point de test Tolérance réduite Tolérance supérieure
1.0E-05 7.0E-06 1.3E-05
1.0E-04 7.0E-05 1.3E-04

Points d'étalonnage NIST avec tolérances

Point de test Tolérance réduite Tolérance supérieure
1.0E-06 7.0E-07 1.3E-06
5.0E-06 3.5E-06 6.5E-06
1.0E-05 7.0E-06 1.3E-05
5.0E-05 3.5E-05 6.5E-05
1.0E-04 7.0E-05 1.3E-04
Download Tolerances
Voir toutes les ressources