A ótica ideal seria aquela que reproduz exatamente o objeto que está focado, incluindo os detalhes e as variações de iluminação. Na prática, isso não é possível e, as óticas atuam como um filtro de passa-baixo. A quantidade de atenuação de uma frequência dada (o detalhe) classifica-se em termos de Função de Modulação de Transferência (MTF), que proporciona uma indicação da eficiência de transferência da ótica.
As estruturas de maior dimensão, como podem ser linhas grandes separadas, transferem-se com um bom contraste; enquanto as estruturas mais finas, como linhas estreitas com escassa separação, não se transferem tão bem.
Para uma ótica, quanto mais se aumenta a frequência espacial, chega a um ponto em que a modulação é zero. Simplificando, este limite denomina-se o limite da resolução, e expressa-se em pares de linhas por milímetros (lp/mm).
O poder resolutivo das lentes é muito importante nas aplicações de visão industrial e científica. O fator mais importante a ser considerado quando se seleciona uma ótica para um determinado CCD ou CMOS, é que se possa assegurar que esta lente é opticamente capaz de resolver cada um dos pixéis do sensor da câmara.
O tamanho dos pixéis varia de uma câmara para a outra, dependendo da resolução (número de píxeis) e do tamanho do sensor. Quanto menor é o píxel, maior deve ser a resolução da lente. A seguinte formula mostra a forma de calcula-lo:
RESOLUÇÃO DA LENTE EM (IP/MM)=500 X TAMANHO DO PIXEL DO CCD EM MICROS