准确度是指使用相同备用样品重复测量所得结果之间的再现性。测量精度高(也常称为准确度)是指偶然误差和系统误差都比较小，测量数据集中在真值附近。虽然高精度意味着高精度，但准确的结果也可能不准确。误差是精度的表现，是测量值与真实值的偏差，而偏差是精度的表现，是平行测量的差值。准确度是指测量结果的正确性，精密度是指测量结果的重复性和再现性，精密度是准确度的前提条件。常识中的分辨率是屏幕图像的精度，指显示器能够显示的像素数量。对于光栅尺来说，是指可以测量的最小单位。为了理解传感器的分辨率和精度，以千分尺为例。分辨率是指千分尺最多能读出几个小数位，但精度还与尺子的加工精度和测量方法有关。同样，在光栅尺的使用中，分辨率和精度是两个*不同的概念。
光栅尺的分辨率是指光栅尺能够读取和输出的最小长度变化，对应的参数有:每毫米光栅线数、脉冲数、细分数等。比如相同条件下50线光栅和100线光栅的分辨率是不同的，同样的50线光栅，细分方式不同，分辨率也会不同。
光栅尺的精度是指光栅尺输出的信号数据被测实际长度的精度，对应的参数有微米(微米)和纳米(nm)。目前国内光栅尺的分辨率一般有5μm、1μm、0.5μm、0.2μm、0.1μm，那么这些分辨率是怎么来的呢？以每毫米50线的光栅为例，经过4次细分，不需要电子细分就可以获得非常简单的5μm分辨率，这也是目前国内机床尺的多数工艺。对于高分辨率的光栅尺，需要采用电子细分技术，增加插值细分来获得。高分辨率光栅尺一般用于视频仪器、工具显微镜、数控加工中心等仪器中。