6
测量精度和范围*
条件:
温度范围23 ° C± 5 ° C( 73 °F ± 9 °F ) ,相对湿度80%或以下(无冷凝)
经过60分钟的预热时间,以及开路和短路校正。
采用9262测试夹具,测量信号电平1 V至5 V ( 3522-50 ) , 0.501 V至1.000 V( 3532-50 ) ;测量速度SLOW2 。
*测量范围和精度依赖于所使用的测试固定装置,所述测量信号电平,并测量速度。
DC
A=1
B=1
1米至99.99Hz
B=5
B=3
B=0.5
B=0.2
B=0.03
B=0.02
B=0.01
B=0.002
B=0.002
B=0.001
B=0.001
100.0至999.9Hz 1.000〜 10.00kHz 10.01至100.0kHz
A=4.5
A=3
A=0.7
A=0.7
A=0.25
A=0.15
A=0.2
A=0.12
A=0.15
A=0.1
A=0.12
B=1
B=1.5
B=0.4
B=0.2
B=0.03
B=0.02
B=0.002
B=0.002
B=0.002
B=0.001
B=0.001
A=4.5
A=2.5
A=0.7
A=0.5
A=0.2
A=0.1
A=0.15
A=0.08
A=0.1
A=0.05
A=0.08
B=1
B=1.5
B=0.4
B=0.2
B=0.03
B=0.02
B=0.002
B=0.002
B=0.002
B=0.001
B=0.001
3522-50精度
范围
阻抗
100MΩ
10MΩ
1MΩ
100kΩ
10kΩ
1kΩ
100Ω
10Ω
1Ω
100mΩ
200MΩ
10MΩ
10MΩ
1MΩ
1MΩ
100kΩ
100kΩ
10kΩ
10kΩ
1kΩ
1kΩ
100Ω
100Ω
10Ω
10Ω
1Ω
1Ω
100mΩ
100mΩ
10mΩ
A=7
A=4
A=2
A = 0.5 B = 0.3
A=1
A=0.7
A = 0.2 B = 0.05
A=0.35
A=0.4
A=0.28
A=0.38
A = 0.1 B = 0.01
A=0.25
A=0.36
上图A ..基本精度| Z |
( ± %读数)。
B是系数样品阻抗
下图一。基本准确度
θ
( ±度)
B是系数样品阻抗
当直流电阻测量,
A是准确的R
( ± %读数)。
B是系数为取样电阻
计算精度的表达是
在上述1 kΩ和下方的范围不同
100
Ω.
有关详细信息,请参阅下面的表达式。
范围为1kΩ以上...
精度= A + B
×
| 10
×
ZX - 范围|
范围
范围100
Ω
以下...
精度= A +
B
×
|范围 - 的Zx |
×
10
范围
A=1.5
A=2
A=0.7
A=0.5
A=0.35
A=0.1
A=0.2
A=0.08
A=0.15
B=0.5
B=0.3
B=0.03
B=0.1
B=0.01
B=0.02
B=0.002
B=0.002
B=0.001
A = 0.25 B = 0.001 A = 0.1 B = 0.001 A = 0.05 B = 0.001 A = 0.08 B = 0.002
A = 0.36 B = 0.01 A = 0.15 B = 0.01 A = 0.15 B = 0.01 A = 0.15 B = 0.02
A = 0.1 B = 0.02
A = 0.25 B = 0.005 = 0.1 B = 0.005 = 0.05 B = 0.005 = 0.08 B = 0.01
A = 0.2 B = 0.05
A = 0.3 B = 0.3
A=1
B=0.5
A = 0.5 B = 0.04 = 0.25 B = 0.02 = 0.25 B = 0.01 A = 0.35 B = 0.02
A = 0.35 B = 0.02 A = 0.2 B = 0.01 A = 0.15 B = 0.01 A = 0.2 B = 0.02
A=1
A=7
A=5
B=0.6
B=4
B=2
A = 0.5 B = 0.3
A = 0.35 B = 0.2
A = 3.5 B = 1.5
A = 2.5 B = 1
A = 0.35 B = 0.2
A = 0.3 B = 0.1
A = 2.5 B = 1.5
A = 1.5 B = 1
A = 0.7 B = 0.3
A = 0.45 B = 0.1
A = 3.5 B = 1.5
A=2
B=1
A = 0.6 B = 0.4
的Zx是测量阻抗
样品( | Z |)。
3532-50精度
范围
阻抗
42 〜99.99赫兹
A=4
A=2.5
A=0.8
A=1
A=0.4
A=0.3
A=0.35
A=0.25
B=4
B=2
B=0.4
B=0.2
B=0.05
B=0.1
B=0.01
B=0.01
100.0 Hz至1.000千赫1.001 〜10.00千赫
A=2
A=1
A=0.4
A=0.25
A=0.15
A=0.15
A = 0.08 B = 0.01
A = 0.05 B = 0.01
A=0.08
A=0.05
A=0.08
A=0.05
A=0.2
A=0.1
B=2
B=1.5
B=0.2
B=0.1
B=0.05
B=0.02
A = 0.15 B = 0.01
A = 0.08 B = 0.01
B=0.01
B=0.005
B=0.02
B=0.01
B=0.03
B=0.02
A=0.4
A=0.25
A=3
A=2
B=0.3
B=0.2
B=2
B=1
10.01 〜100.0千赫
100.1 K至1.000兆赫
1.001〜 5兆赫
100 MΩ
10 MΩ
1 MΩ
100 kΩ
10 kΩ
1 kΩ
100
Ω
10
Ω
1Ω
100 mΩ
200 MΩ
10 MΩ
10 MΩ
1 MΩ
1 MΩ
100 kΩ
100 kΩ
10 kΩ
10 kΩ
1 kΩ
1 kΩ
100
Ω
100
Ω
10
Ω
10
Ω
1
Ω
1
Ω
100 mΩ
100 mΩ
10 mΩ
A=1
A=1
A=0.3
A=0.3
B=0.5
B=0.5
B=0.08
B=0.08
A=3
A=3
A=0.4
A=0.3
B=1
B=0.5
B=0.3
B=0.3
*
A=2
A = 0.25 B = 0.04
A = 0.15 B = 0.02
A = 0.2 B = 0.02
A = 0.08 B = 0.02
A = 0.2 B = 0.02
A = 0.08 B = 0.02
A = 0.2 B = 0.03
A = 0.15 B = 0.02
A=2
B=0.5
B=0.3
A = 0.35 B = 0.01
A = 0.25 B = 0.005
A=0.35
A=0.25
A=0.4
A=0.3
A=0.7
A=1
A=4
A=2.5
B=0.02
B=0.01
B=0.04
B=0.1
B=0.4
B=0.2
B=4
B=2
A = 0.3 B = 0.03
A = 0.15 B = 0.02
A = 0.3 B = 0.03
A = 0.15 B = 0.02
A = 0.4 B = 0.1
A=0.3
A=1
A=0.7
B=0.05
B=1
B=0.5
*
A = 1.5 ,B = 0.2
A=1
B=0.2
*
A = 1.5 ,B = 0.2
A=1
*
A=2
A=2
B=0.2
B=1
B=0.5
*
1.001兆赫及以上
准确性
×
(f
[兆赫]
+3)
4
■
确定准确的方法
•测量精度可以从所述阻抗计算
样品,测量范围,测量频率,并且基本
精度A和系数B由以上表格。
•计算准确的表达是在上述1 kΩ的范围不同
和低于100
Ω.
•对于C和L ,发现基本精度A和系数B通过直接
测量阻抗如下的或近似计算。
●实例
计算
(该值A和B为3522-50 )
样品
阻抗ZX:
500 Ω (测量值)
测定条件:
频率10 kHz时,信号电平2 V ,范围为1kΩ
从表中,基本ž精度A = 0.08 ,系数B = 0.001 。
在计算表达产率插入这些:
ž精度= 0.08 +
0.001×
|
10
×
5
×
10
2
−10
3
|
10
3
= 0.084 ( ± %读数)。
|
ZX (
Ω
)
|
≅
ωL
(H) (
θ ≅
90
˚)
同样,对于
θ
基本精度A = 0.05 ,系数B = 0.001 ,因此:
2
3
θ
准确度= 0.05 + 0.001 ×
|
10
×
5
×
10
−10
|
10
3
≅
1
ωC
(F)
(
θ ≅
- 90˚)
≅
0˚)
= 0.054 ( ± %读数)。
≅
R (
Ω
) (
θ