テレバックの公差

精度仕様と公差付き真空試験点

説明

FSはCDGのフルスケールまたは最大読み取り値を表します。Televacは、コントローラ、アクティブゲージ、センサの公差を変更する権利を有します。Televac®の承認なしにユニットを変更した場合、そのユニットの適合証明書は無効になります。ご要望に応じて、追加のNIST校正用テストポイントをご提供いたします。

適用ゲージ

  • MC300 2A、2A VacuMini、または2A NASA Mini
  • MM200 2A、2A VacuMini、または2A NASA Mini
  • MX200 2A、2A VacuMini、または2A NASA Mini
  • MV2A、2A VacuMini、または2A NASA Mini
  • コンパクト2A、2A VacuMini、または2A NASA Mini
  • Vacuguard™、2A VacuMini、または2A NASA Mini
  • B2Aポータブル、2A VacuMini、または2A NASA Mini
  • MP2AR

精度仕様

範囲 許容範囲
1.0E-3~1.0E-2 ±1.0E-3
1.0E-2〜1.0E-1 ±10%
1.0E-1〜1.0E+0 ±20%

公差のある標準校正点

テストポイント 低許容差 上限公差
0.0E+0 -1.0E-3 1.0E-3
1.0E-1 9.0E-2 1.1E-1
1.0E+0 8.0E-1 1.2E+0

公差のあるNIST校正点

テストポイント 低許容差 上限公差
0.0E+0 -1.0E-3 1.0E-3
1.0E-2 9.0E-3 1.1E-2
2.0E-2 1.8E-2 2.2E-2
5.0E-2 4.5E-2 5.5E-2
1.0E-1 9.0E-2 1.1E-1
2.0E-1 1.6E-1 2.4E-1
5.0E-1 4.0E-1 6.0E-1
1.0E+0 8.0E-1 1.2E+0

GEアビエーション仕様P10TF3互換校正

上記のいずれかのコントローラと組み合わせた2Aセンサは、GEアビエーション仕様P10TF3に校正することができます。

テストポイント 低許容差 上限公差
0.0E+0 -1.0E-3 1.0E-3
1.0E-2 9.0E-3 1.1E-2
2.0E-2 1.8E-2 2.2E-2
5.0E-2 4.5E-2 5.5E-2
1.0E-1 9.0E-2 1.1E-1
2.0E-1 1.7E-1 2.3E-1
5.0E-1 4.3E-1 5.8E-1
1.0E+0 8.5E-1 1.2E+0

適用ゲージ

  • エムエックスツーエー

精度仕様

範囲 許容範囲
1.0E-3~1.0E-2 ±1.0E-3
1.0E-2~1.0E+1 ±10%
1.0E+0〜1.0E+2 ±30%
1.0E+2~1.0E+3 ±10%

公差のある標準校正点

テストポイント 低許容差 上限公差
0.0E+0 -1.0E-3 1.0E-3
1.0E-1 9.0E-2 1.1E-1
1.0E+0 9.0E-1 1.1E+0

公差のあるNIST校正点

テストポイント 低許容差 上限公差
0.0E+0 -1.0E-3 1.0E-3
1.0E-2 9.0E-3 1.1E-2
2.0E-2 1.8E-2 2.2E-2
5.0E-2 4.5E-2 5.5E-2
1.0E-1 9.0E-2 1.1E-1
2.0E-1 1.8E-1 2.2E-1
5.0E-1 4.5E-1 5.5E-1
1.0E+0 9.0E-1 1.1E+0

適用ゲージ

  • MC300 4A
  • MM200 4A
  • エムピーエヌピーエーアール

精度仕様

範囲 許容範囲
1.0E-3~1.0E-2 ±1.0E-3
1.0E-2~1.0E+1 ±10%
1.0E+1~1.0E+2 ±20%
1.0E+2~1.0E+3 ±10%

公差のある標準校正点

テストポイント 低許容差 上限公差
0.0E+0 -1.0E-3 1.0E-3
1.0E+0 9.0E-1 1.1E-0
7.6E+2 6.8E+2 8.4E+2

公差のあるNIST校正点

テストポイント 低許容差 上限公差
0.0E+0 -1.0E-3 1.0E-3
1.0E-2 9.0E-3 1.1E-2
5.0E-2 4.5E-2 5.5E-2
1.0E-1 9.0E-2 1.1E-1
5.0E-1 4.5E-1 5.5E-1
1.0E+0 9.0E-1 1.1E+0
1.0E+1 9.0E+0 1.1E+1
1.0E+2 8.0E+1 1.2E+2
7.6E+2 6.8E+2 8.4E+2

適用ゲージ

  • エムエックスフォーエー
  • MX200 4A

精度仕様

範囲 許容範囲
1.0E-3~1.0E-2 ±1.0E-3
1.0E-2~1.0E+3 ±10%

公差のある標準校正点

テストポイント 低許容差 上限公差
0.0E+0 -1.0E-3 1.0E-3
1.0E+0 9.0E-1 1.1E+0
7.6E+2 6.8E+2 8.4E+2

公差のあるNIST校正点

テストポイント 低許容差 上限公差
0.0E+0 -1.0E-3 1.0E-3
1.0E-2 9.0E-3 1.1E-2
5.0E-2 4.5E-2 5.5E-2
1.0E-1 9.0E-2 1.1E-1
5.0E-1 4.5E-1 5.5E-1
1.0E+0 9.0E-1 1.1E+0
1.0E+1 9.0E+0 1.1E+1
1.0E+2 9.0E+1 1.1E+2
7.6E+2 6.8E+2 8.4E+2

適用ゲージ

  • MC300 7B
  • MM200 7B
  • MX200 7B

精度仕様

範囲 許容範囲
1.0E-6〜1.0E-3 ±2十年(マイナス37%~58%)。

公差のある標準校正点

テストポイント 低許容差 上限公差
1.0E-5 6.0E-6 1.6E-5
1.0E-4 6.0E-5 1.6E-4

公差のあるNIST校正点

テストポイント 低許容差 上限公差
1.0E-6 6.3E-7* 1.6E-6
5.0E-6 3.2E-6 8.0E-6
1.0E-5 6.3E-6 1.6E-5
5.0E-5 3.2E-5 8.0E-5
1.0E-4 6.3E-5 1.6E-4

*MM200、MC300の公差は6E-7です。


適用ゲージ

  • MC300 7E
  • MM200 7E
  • MX200 7E
  • MP7ER

精度仕様

範囲 許容範囲
1.0E-7~1.0E-2 ±2十年(マイナス37%~58%)。

公差のある標準校正点

テストポイント 低許容差 上限公差
1.0E-5 6.3E-6 1.6E-5
1.0E-4 6.3E-5 1.6E-4

公差のあるNIST校正点

テストポイント 低許容差 上限公差
1.0E-6 6.3E-7 1.6E-6
5.0E-6 3.2E-6 8.0E-6
1.0E-5 6.3E-6 1.6E-5
5.0E-5 3.2E-5 8.0E-5
1.0E-4 6.3E-5 1.6E-4

適用ゲージ

  • MC300 7F/7FC
  • MM200 7F/7FC/7FCS
  • MX200 7F/7FC/7FCS
  • エムピーセブンエフアール

精度仕様

範囲 許容範囲
1.0E-9~1.0E-2 ±2十年(マイナス37%~58%)。

公差のある標準校正点

テストポイント 低許容差 上限公差
1.0E-5 6.3E-6 1.6E-5
1.0E-4 6.3E-5 1.6E-4

公差のあるNIST校正点

テストポイント 低許容差 上限公差
1.0E-6 6.3E-7 1.6E-6
5.0E-6 3.2E-6 8.0E-6
1.0E-5 6.3E-6 1.6E-5
5.0E-5 3.2E-5 8.0E-5
1.0E-4 6.3E-5 1.6E-4

適用ゲージ

  • シーシーテン

精度仕様

範囲 許容範囲
1.0E-9から1.0E-1まで ±2十年(マイナス37%~58%)。
1.0E-1~2.0E+2 ±15%
2.0E+2から1.0E+3まで ±5%

公差のある標準校正点

テストポイント 低許容差 上限公差
1.0E-05 6.0E-6 1.6E-5
1.0E+00 8.5E-1 1.2E+0
7.6E+02 7.2E+2 8.0E+2

公差のあるNIST校正点

テストポイント 低許容差 上限公差
1.0E-6 6.3E-7 1.6E-6
5.0E-6 3.2E-6 8.0E-6
1.0E-5 6.3E-6 1.6E-5
5.0E-5 3.2E-5 8.0E-5
1.0E-4 6.3E-5 1.6E-4
1.0E-3 6.3E-4 1.6E-3
1.0E-2 6.3E-3 1.6E-2
1.0E-1 8.5E-2 1.2E-1
1.0E+0 8.5E-1 1.2E+0
1.0E+1 8.5E+0 1.2E+1
1.0E+2 8.5E+1 1.2E+2
7.6E+2 7.2E+2 8.0E+2

適用ゲージ

  • MM200 1E
  • MX200 1E

精度仕様

範囲 許容範囲
1.0E+0~1.0E+1 ±1.0E+0
1.0E+1~1.0E+2 ±10%
1.0E+2~1.0E+3 ±5%

公差のある標準校正点

テストポイント 低許容差 上限公差
5.0E+00 4.0E+0 6.0E+0
1.0E+2 9.0E+1 1.1E+2
7.6E+2 7.2E+2 8.0E+2

公差のあるNIST校正点

テストポイント 低許容差 上限公差
5.0E+00 4.5E+0 5.5E+0
1.0E+2 9.0E+1 1.1E+2
4.0E+2 3.8E+2 4.2E+2
7.6E+2 7.2E+2 8.0E+2

適用ゲージ

  • MP3DR
  • MC300 ミニBA
  • MM200 ミニBA

精度仕様

範囲 許容範囲
1.0E-9~1.0E-2 ±1 10年間(-21%~26%)。

公差のある標準校正点

テストポイント 低許容差 上限公差
1.0E-05 7.9E-06 1.3E-05
1.0E-04 7.9E-05 1.3E-04

公差のあるNIST校正点

テストポイント 低許容差 上限公差
1.0E-06 7.9E-07 1.3E-06
5.0E-06 4.0E-06 6.3E-06
1.0E-05 7.9E-06 1.3E-05
5.0E-05 4.0E-05 6.3E-05
1.0E-04 7.9E-05 1.3E-04

適用ゲージ

MM200容量式ダイアフラムゲージ
MX200 静電容量式ダイアフラムゲージ

精度仕様

範囲 許容範囲
0.01*FS~0.1*FS ±せいしんきょこうそく
.1*FSからFSへ ±2%

公差のある標準校正点

テストポイント 低許容差 上限公差
0.1*FS (0.1*FS)-2%の場合 (0.1*FS)+2%)
0.5*FS (0.5*FS)-2%の場合 (0.5*FS)+2%)
FS FS-2 FS+2

公差のあるNIST校正点

テストポイント 低許容差 上限公差
0.01*FS 0.01*FS-.001*FS 0.01*FS +.001*FS
0.1*FS (0.1*FS)-2%の場合 (0.1*FS)+2%)
0.2*FS (0.2*FS)-2%の場合 (0.2*FS)+2%)
0.3*FS (0.3*FS)-2%の場合 (0.3*FS)+2%)
0.4*FS (0.4*FS)-2%の場合 (0.4*FS)+2%)
0.5*FS (0.5*FS)-2%の場合 (0.5*FS)+2%)
0.6*FS (0.6*FS)-2% (0.6*FS)-2%) (0.6*FS)+2%)
0.7*FS (0.7*FS)-2%の場合 (0.7*FS)+2%)
0.8*FS (0.8*FS)-2%の場合 (0.8*FS)+2%)
0.9*FS (0.9*FS)-2%の場合 (0.9*FS)+2%)
FS FS-2 FS+2

適用ゲージ

  • エムエックスセブンビー
  • エムエックスセブンエム

精度仕様

範囲 許容範囲
1.0E-7~1.0E-3 ±30%

公差のある標準校正点

テストポイント 低許容差 上限公差
1.0E-05 7.0E-06 1.3E-05
1.0E-04 7.0E-05 1.3E-04

公差のあるNIST校正点

テストポイント 低許容差 上限公差
1.0E-06 7.0E-07 1.3E-06
5.0E-06 3.5E-06 6.5E-06
1.0E-05 7.0E-06 1.3E-05
5.0E-05 3.5E-05 6.5E-05
1.0E-04 7.0E-05 1.3E-04