対象製品型式：
すべてのアナログ入出力デバイス
関連情報：
該当製品のデータシート、およびマニュアルの「仕様」欄に記載の「非直線性誤差」 が精度に該当します。
本製品の精度の計算式は下記となります。
- 分解能：16Bit
- レンジ：±10[V]（本製品の場合、レンジ固定）→レンジ幅：20[V]
よって、
1LSB は 20[V] / 65536 ≒ 0.00030517578125[V] = 0.30517578125[mV]
±12LSB = 0.30517578125 x12 ≒ ±3.6621 ≒ ±3.66[mV] が精度（誤差範囲）となります。
上記より、5.0[V]の入力に対し、5.0±3.66[mV]。
即ち、4.99634[V]～5.00366[V]の精度で計測されます。
以下、上記 [例1] の内容を踏まえての例となります。
■ [例2]：12bit分解能のデバイスの場合
非直線性誤差： ±3LSB とすると、±10Vレンジの場合
1LSB は 20[V] / 4096 ≒ 0.0048828125[V] = 4.8828125[mV]
±3LSB ≒ ±14.6484375 ≒ ±14.65[mV]
■ [例3]：16bit分解能のデバイスの場合
±3LSB ≒ ±0.915525 ≒ ±0.92[mV] (入力レンジ設定 ±10V の場合)
±5LSB ≒ ±1.525875 ≒ ±1.53[mV] (入力レンジ設定 ±10V の場合)
±8LSB ≒ ±2.4414 ≒ ±2.44[mV] (入力レンジ設定 ±10V の場合)
±15LSB ≒ ±4.5776 ≒ ±4.58[mV] (入力レンジ設定 ±10V の場合)
■ [例4]：AI-1608AIN-USBの場合（電流計測デバイス）
AI-1608AIN-USB：
製品紹介ページ
上記リンク先URLのデータシート「仕様」より
- 非直線性誤差 ：±20LSB
- 入力レンジ： 電流：0-20mA
本製品の精度の計算式は下記となります。
- 分解能：16Bit
よって、
1LSB は 20[mA] / 65536 ≒ 0.00030517578125[mA]
±20LSB = 0.00030517578125 x 20 ≒ ±0.0061[mA] が精度（誤差範囲）となります。
■ [例5]：CPI-AI-1208LIの場合（電圧/電流計測 HATサイズ拡張ボード）
CPI-AI-1208LI：
製品紹介ページ
上記リンク先URLのデータシート「仕様」より
- 入力レンジ *2
電圧入力 ： ±10V、±5V、±2.5V、0 - 10V
電流入力 ： ±20mA
- 非直線性誤差 *1 ：
電圧入力時: ±10LSB
電流入力時: ±20LSB
*1 非直線性誤差は周囲温度が-20℃, 60℃の場合、最大レンジ幅の0.1％程度の誤差が生じることがあります。
*2 入力方式と入力レンジは全入力チャネルを一括で切り替えします。
また、本製品の入力切り替えスイッチで電圧入力、電流入力の切り替えが可能です。
本製品の精度の計算式は下記となります。
- 分解能： 12bit
●電圧計測の場合
- 入力レンジ：±10V
と設定した場合、
1LSB は 20[V] / 4096 ≒ 0.0048828125[V] = 4.8828125[mV]
±10LSB = 4.8828125[mV] x ±10 ≒ ±48.8[mV] が精度（誤差範囲）となります。
●電圧計測の場合
- 入力レンジ：±20mA
よって
1LSB は 40[mA] / 4096 ≒ 0.009765625[mA]
20LSB = 0.009765625 x20 ≒ ±0.1953125[mA] が精度（誤差範囲）となります。
【補足説明】
■ 注記「*1」について
[1] 「入力レンジの±0.1%程度」の誤差の意味：
これは「±10[V]レンジ」→レンジ幅20[V]：20[V] x 0.1% = 0.02[V] = 20[mV]
となり、±20mV程度の誤差があることを示します。
LSB換算で計算すると、分解能65536の0.1%誤差 = 65536 x 0.1% = 65.536
これを切り上げ計算：±66LSB。
1LSB = 0.305175[mV] より、±66LSB ⇒ ±20.14155[mV]の誤差があることになります。
[2] ±0.1%程度の誤差が生じない温度範囲：
・非直線性誤差(例：±12LSB)は、25℃を基準としています。
・±0.1%(±66LSB)の誤差が生じるのは、周囲温度がMIN, MAX(例：0℃, 50℃)の環境です。
・上記以外の温度でも、温度による誤差の影響はありますが、明確な仕様基準はございません。
ただしワーストの場合であっても、前述の±0.1%(±66LSB)を超えることはありません。
その他のアナログ入出力デバイスにて同様の記載がある場合、考え方としては、上記と同様となります。