模数转换器最重要的参数是转换的精度与转换速率，通常用输出的数字信号的二进制位数的多少表示精度，用每秒转换的次数来表示速率。转换器能够准确输出的数字信号的位数越多，表示转换器能够分辨输入信号的能力越强，转换器的性能也就越好。高精度高速度的A/D转换器在军事，太空，医疗等尖端领域有着至关重要的地位。
原理概述
模拟数字转换器的分辨率是指，对于允许范围内 的模拟信号，它能输出离散数字信号值的个数。这些信号值通常用二进制数来存储，因此分辨率经常用比特作为单位，且这些离散值的个数是2的幂指数。例如，一个具有8位分辨率的模拟数字转换器可以将模拟信号编码成256个不同的离散值（因为2^8= 256），从0到255（即无符号整数）或从-128到127（即带符号整数），至于使用哪一种，则取决于具体的应用。
分辨率同时可以用电气性质来描述，使用单位伏特。使得输出离散信号产生一个变化所需的最小输入电压的差值被称作最低有效位（Least significant bit, LSB）电压。这样，模拟数字转换器的分辨率Q等于LSB电压。模拟数字转换器的电压分辨率等于它总的电压测量范围除以离散电压间隔数：
这里N是离散电压间隔数。这里EFSR代表满量程电压范围，即是总的电压测量范围，即输入参考高电压与输入参考低电压的差值。这里VRefHi和VRefLow是转换过程允许电压的上下限。
响应类型
大多数模拟数字转换器的响应类型为线性，这里的“线性”是指，输出信号的大小与输入信号的大小成线性比例。一些早期的转换器的响应类型呈对数关系，由此来执行A-law算法或μ-law算法编码。
误差
模拟数字转换器的误差有若干种来源。量化错误和非线性误差（假设这个模拟数字转换器标称具有线性特征）是任何模拟数字转换中都存在的内在误差。也有一种被称作孔径错误（aperture error），它是由于时钟的不良振荡，且常常在对时域信号数字化的过程中出现。这种误差用一个称为“最低有效位”的参数来衡量。
采样率
模拟信号在时域上是连续的，因此可以将它转换为时间上连续的一系列数字信号。这样就要求定义一个参数来表示新的数字信号采样自模拟信号速率。这个速率称为转换器的采样率或
采样频率。
可以采集连续变化、带宽受限的信号（即每隔一时间测量并存储一个信号值），然后可以通过插值将转换后的离散信号还原为原始信号。这一过程的精确度受量化误差的限制。然而，仅当采样率比信号频率的两倍还高的情况下才可能达到对原始信号的忠实还原，这一规律在采样定理有所体现。
由于实际使用的模拟数字转换器不能进行完全实时的转换，所以对输入信号进行一次转换的过程中必须通过一些外加方法使之保持恒定。常用的有采样-保持电路，在大多数的情况里，通过使用一个电容器可以存储输入的模拟电压，并通过开关或门电路来闭合、断开这个电容和输入信号的连接。许多模拟数字转换集成电路在内部就已经包含了这样的采样-保持子系统。