用數字示波器測量模擬信號第一步就是用ADC（模數轉換器）把探棒接收到的模擬信號轉換成數字信號，ADC數模轉換芯片的分辨率直接決定了示波器垂直方向上的采樣精度。比如ADC是8位，那么垂直方向上的信號可以被切分成00000000~11111111一共2的8次方，256段。模數轉換器的垂直分辨率，就是數字示波器的垂直分辨率，代表示波器將輸入電壓轉換為數字值的精確程度。

優先級從高到低

1.前端ADC的分辨率

2.顯示屏分辨率：它決定了經過處理的信號，有多少可以被顯示出來。比如ADC雖然可以在垂直方向上顯示256段，但是可能顯示屏的分辨率垂直只有240個像素點，那么有一部分點會被合并成1個像素顯示。

3.插值算法：實際的示波器，上面顯示的像素點不一定都是實際采樣生成的，一部分是通過插值算法計算出來的虛擬的點，好的插值算法會使插值的點與實際的點差異比較小。

當我們用同一個示波器在不同垂直檔位下測量同一信號時，得到的測量結果往往是不一樣的。

比如我們測量一個2V的方波信號，在垂直檔位為2V時，測出幅值可能為1.960V。

在垂直檔位為500mV時，測出幅值為1.980V。

為什么會這樣？因為它涉及到垂直分辨率的問題，假設當垂直檔位為500mV/div時，示波器垂直方向有10格，則其垂直分辨率由ADC的分辨率決定，即為(500mV*10）/256=19.531mV，也就是ADC不能分辨小于19.531mV的電壓信號。測量同一個信號，在垂直檔位為2V/div的情況下，ADC能分辨的信號為（2000mV*10）/256=78.125mV，小于該電壓值的信號是不能測量的，即數字測量儀器都是存在采集的量化誤差的，ADC的位數越高，量化誤差就會越小，但是它只能無限減小，并不能消除。

所以當我們在對波形進行測量時，盡量使波形占滿示波器屏幕，目的就是為了提高垂直精度，使測量結果更準確。

數字示波器中ADC的位數越高，垂直分辨率越高，該分辨率由硬件決定，一旦確定無法改變。但示波器整個系統的有效位數形成的分辨率與前者不同，我們可以通過軟件提高分辨率。

目前大部分的示波器對ADC采樣后提高分辨率最常用的方法就是采用“平均”的做法。

在平均采樣方式中，可先設置一個平均次數N，之后示波器會對采集的N段波形，將它們按照觸發位置對齊，對N段波形進行平均運算，最終得到一段平均后的波形。

這種采樣方式降低隨機噪聲的同時并沒有損失帶寬，示波器系統的分辨率就會提高，但是平均模式會經過較長的時間來響應變化的波形，以犧牲示波器的速度來換取較高的分辨率，而且由于其處理方式的特殊性，決定了它適用的波形信號只能是周期信號。

示波器顯示屏垂直方向上的分辨率本身就有限，另外測量高頻信號時，幅度本身就不準確，在上限頻率處甚至有30%的誤差，而且垂直分辨率過高會提高模數轉換時間，影響采樣率，進而影響帶寬，得不償失。一般示波器的垂直分辨率是8位，高分辨率的示波器達12位，如果示波器模擬電路本身的精度沒有提高，單純追求ADC的分辨率是沒有意義的。如果追求電壓的準確度，應該使用萬用表，示波器更主要的功能是觀測波形的形狀，測量準確度一般在2%以內，這種準確度應對絕大多數應用是完全游刃有余的。