A/Dコンバータの精度はデータシートに総合誤差などが書いてありますけども 一般的なA/Dコンバータ精度のtyp値は標準偏差で、max値は±3σ水準(99.73%)あたりだと認識しています。
さて、データシートの精度よりも、さらに精度あげるにはどうすればいいでしょう？ ・複数回(奇数)サンプリングしてメジアン(中央値)を採用 ・複数回サンプリングして最大値からn個と最小値からn個を削って、残りを平均まぁ、サンプリング回数が多くなれば、どちらもほぼ同じ値に収束していきそうですけども、王道はこんな感じですよね。
ほんとは温度毎、電圧毎にオフセットとかフルスケールの変動傾向(プラスなのかマイナスなのか)の情報があればいいんですけど 「TA = －40～＋85 ℃，1.8 V≦VDD≦5.5 V」とか電圧範囲と温度範囲をまとめて書いてあると、ぱっと見、最悪値が分かりやすい反面、 ソフトで電圧や温度による補正を加えるのが難しくて、精度アップできないんですよねー。
Kirinさん どの機種のA/Dコンバータをお使いでしょうか？
ルネサスのマイコン内蔵のA/Dコンバータの精度は、カタログスペックよりずっといいです。
一般に、常温で通常電源電圧（３．３Vとか５．０V)なら10ビットA/Dコンバータはほぼ10ビット
精度が取れています。12ビットA/Dコンバータは、ほぼ11ビット精度が取れています。（つまり絶対精度、最大積分誤差が12ビットのほぼ±１LSBに入っているということです）
実装の基板の状況、ノイズや電源、A/DのVrefの安定化などにもよりますが、十分気を付けて
動かせば、いい特性が取れます。 実装状況の確認は固定電圧を入れて、1000回のヒストグラムを見るなどすれば、ノイズの影響などが把握できます。
平均化は精度アップには有効ですね。
ブレンド
ブレンドさん
そうなんですよ、ルネサスのA/Dスペックは相当保守的なんですよ！
例えばRL78/G13の10bitADを常温で動かしてみると、個体のバラつき(再現性)は量子化誤差の0.5LSBに収まっていますし、 ロット内でも積分直線性誤差が1LSB以内に収まっているので相当優秀なことは分かっているんですけれども どの条件でやったらワーストになるかを教えてほしいですT_T
電圧依存性はある程度ありそうなんですけれども、それでも±7LSB(@G13)も誤差を出せませんし。 やっぱり、ブレンドさんのおっしゃるようにロジック電源からのノイズの回りこみがA/D悪化の主要因なんでしょうかね。 それだったら、AVREFP/AVREFMを使えば解決できそうですけれども、、、、 やっぱり高温時の特性も気になります。温度をふった評価はちょっと大変なのでデータシートに温度と特性の関係が分かるグラフをのっけてもらいたいです。
問題は、データシートにワースト値が書いてあると、そのチップを使った製品のスペックは、順当に考えるとチップのスペックよりも良くはできないので、 チップメーカーが保証しているスペックよりも、そのチップを使用した製品のスペックを良く見せるには勇気(?)が必要、ってことですね。 逆にデータシートにワースト値が書いてないと、ないで、そんな信頼性のない部品は使えないということにもなって、社内を説得するのがめんどくさいんですけどねー。
Kirinさん＞
既にご存じとは思いますがお節介までに
product.tdk.com/.../ntcds
サーミスタは直線性が悪い
なので、リニアライザとか余分な機能が必須
余分な機能＝精度低下の原因
ダイオード温度計
ednjapan.com/.../news130.html
直線性はコッチの方が良い
ダイオードの方が安価なハズなのに
何故かあまり普及してない？
温調器の零接点にはダイオードが使われるが
それ以外ではあまり見かけません
CPU素子内蔵の温度センサはダイオードらしいが？
Kirinさんlumiheart さん
温度計で最初はダイオードセンサ使用の温度IC使用していました、とても便利なICでADを内臓しており
I2C通信でデジタル値で温度を読み出せます、ただこれが-40から+60で最大+-１℃と誤差が多い
気象検定では白金型でないと通らないのでPT100を使用しましたが、これでも微妙に特性が傾いている
誤差を0.1℃にするなどは不可能に近いといっていいのではないでしょうか、一時サーミスタも使用しましたが
計算式が複雑になりました、便利なのはデジタル出力の温度ICと思います
lumiheartさん
そうなんですよね、直線性でいけばダイオードいいですよね。 NTCにする場合は、B定数を使った演算をすると誤差が大きいので、0.02℃か0.05℃くらいの粗さでテーブルを作ろうかなと思ってます。 あわせて温度ごとに測定範囲(窓)を変えればADCの分解能が低下しないかなと考えています。
ダイオードにすると、すとさんもおっしゃっていましたけれどもVREFに供給する電圧の精度を高めないといけなくなる問題があって 電源電圧精度を無視できるNTCとどっちがいいか悩んでいます。 コストが安くて精度がよくて電池の持ちがいいのがいいんですよね。
IKUZOさん
ICは便利でいいですよね。探せば0.3℃くらいの精度のものとかありますし。 Pt100の4線式とかも魅力的です。
ただ、外付け部品がマイコンより高くなっちゃうので、コスト的に悩みどころではありますね。 精度0.1℃は無理だとしても、0.2か0.3にはしたいですねー。
最近、AD特性で「3σ」と明記されたみたいですねー。
「注 1. TYP.値は，TA = 25℃の平均値です。MAX.値は，正規分布における平均値±3σの値です。」
RL78/G1Aを12bit分解能で使用したいのですが、ハードウェアマニュアルの電気的特性を見ると、
VDDは2.4V以上の条件でのみ、スペックが記載されています。
2.2Vで使用したいのですが、使用できないという意味でしょうか、それとも、誤差は大きくなるが使用することはできるという意味でしょうか？
Beeさん
程度の問題でしょうね。2.4Vを下回ったとしても直ちに影響かあるわけではありません。 ルネサスとしては、保証値をどこかで線引きをする必要があるので2.4Vと言っています。
似たような状況としては、↓のスレッドが参考になるかもしれません。
「AVREF調整でどこまで精度をあげられる?」 ←ではAVREFが0.8Vを下回ると急激に精度劣化が始まりました。
2.2Vで使用することの保証をルネサスには求められないので、どうしても2.2Vで使用するということならAt your own riskでBeeさん自身がBeeさんが製造する製品の保証すればいいわけです。
DCでの精度はカタログ値が出ると思うけど、実使用状態ではA/Dをドライブする信号源たとえばセンサーアンプの特性が大きく精度を左右します。スリューレートの悪いオペアンプでドライブしていると周波数が高くなるほど精度が下がります。用途次第ですかね。
エバンスさん
ルネサスは一定の条件下でのチップ性能を謳うだけで、お客様において最終製品の性能や信頼性について充分評価してくださいってスタンスですから どっちにしても、ユーザーアプリケーション(基板+ソフト)はユーザー責任で出荷してねーってことになりますよね。
かふぇルネで色々ノウハウをためていければです。
Kirinさん
仰る通りですね。
RX220は2.2Vでも保証されているので、そちらを使用することにします。