A/Dコンバータの精度はデータシートに総合誤差などが書いてありますけども 一般的なA/Dコンバータ精度のtyp値は標準偏差で、max値は±3σ水準(99.73%)あたりだと認識しています。
さて、データシートの精度よりも、さらに精度あげるにはどうすればいいでしょう? ・複数回(奇数)サンプリングしてメジアン(中央値)を採用 ・複数回サンプリングして最大値からn個と最小値からn個を削って、残りを平均まぁ、サンプリング回数が多くなれば、どちらもほぼ同じ値に収束していきそうですけども、王道はこんな感じですよね。
ほんとは温度毎、電圧毎にオフセットとかフルスケールの変動傾向(プラスなのかマイナスなのか)の情報があればいいんですけど 「TA = -40~+85 ℃,1.8 V≦VDD≦5.5 V」とか電圧範囲と温度範囲をまとめて書いてあると、ぱっと見、最悪値が分かりやすい反面、 ソフトで電圧や温度による補正を加えるのが難しくて、精度アップできないんですよねー。
Kirinさん
仰る通りですね。
RX220は2.2Vでも保証されているので、そちらを使用することにします。