简单点说，“精度”是用来描述物理量的准确程度的，而“分辨率”是用来描述刻度划分的。从定义上看，这两个量应该是风马牛不相及的。（是不是有朋友感到愕然^_^）。很多卖传感器的JS就是利用这一点来糊弄人的了。简单做个比喻：有这么一把常见的塑料尺（中学生用的那种），它的量程是10厘米，上面有100个刻度，最小能读出1毫米的有效值。那么我们就说这把尺子的分辨率是1毫米，或者量程的1%；而它的实际精度就不得而知了（算是0.1毫米吧）。当我们用火来烤一下它，并且把它拉长一段，然后再考察一下它。我们不难发现，它还有有100个刻度，它的“分辨率”还是1毫米，跟原来一样！然而，您还会认为它的精度还是原来的0.1毫米么？（这个例子是引用网上的，个人觉得比喻的很形象！）
回到电子技术上，我们考察一个常用的数字温度传感器：AD7416。供应商只是大肆宣扬它有10位的AD，分辨率是1/1024。那么，很多人就会这么欣喜：哇塞，如果测量温度0-100摄氏度，100/1024……约等于0.098摄氏度！这么高的精度，足够用了。但是我们去浏览一下AD7416的数据手册，居然发现里面赫然写着：测量精度0.25摄氏度！所以说分辨率跟精度完全是两回事，在这个温度传感器里，只要你愿意，你甚至可以用一个14位的AD，获得1/16384的分辨率，但是测量值的精度还是0.25摄氏度^_^
所以很多朋友一谈到精度，马上就和分辨率联系起来了，包括有些项目负责人，只会在那里说：这个系统精度要求很高啊，你们AD的位数至少要多少多少啊……
其实，仔细浏览一下AD的数据手册，会发现跟精度有关的有两个很重要的指标：DNL和INL。似乎知道这两个指标的朋友并不多，所以在这里很有必要解释一下。
DNL：Differencial NonLiner——微分非线性度
INL：Interger NonLiner——积分非线性度（精度主要用这个值来表示）
他表示了ADC器件在所有的数值点上对应的模拟值，和真实值之间误差最大的那一点的误差值。也就是，输出数值偏离线性最大的距离。单位是LSB（即最低位所表示的量）。
当然，像有的AD如△—∑系列的AD，也用Linearity error 来表示精度。
为什么有的AD很贵，就是因为INL很低。分辨率同为12bit的两个ADC，一个INL＝±3LSB，而一个做到了±1.5LSB，那么他们的价格可能相差一倍。