La óptica ideal sería aquella que reprodujera exactamente el objeto que está enfocando, incluyendo los detalles y las variaciones de iluminación. En la práctica, esto no es posible y las ópticas actúan como un filtro de paso bajo. La cantidad de atenuación de una frecuencia dada (o detalle) se clasifica en términos de Función de Modulación de Transferencia (MTF), que proporciona una indicación de la eficiencia de transferencia de la óptica.
Como breve explicación, comentar que, las estructuras de mayor dimensión, como pueden ser líneas grandes separadas, se transfieren con un buen contraste. Las estructuras más finas, como líneas estrechas con escasa separación, no se transfieren tan bien.
Para una óptica dada, cuanto más se incrementa la frecuencia espacial llega un punto en que la modulación es cero.
En términos más sencillos, este límite se denomina el límite de la resolución, y se expresa en pares de líneas por milímetro (lp/mm).
El poder resolutivo de la lente es muy importante en las aplicaciones de visión industrial y científica. El factor más importante a considerar cuando se selecciona una óptica para un determinado CCD o CMOS es, que se pueda asegurar que esta lente es ópticamente capaz de resolver cada uno de los píxels del sensor de la cámara.
El tamaño de los píxels varia de una cámara a otra dependiendo de la resolución (número de píxels) y del tamaño del sensor. Cuanto menor es el píxel, mayor debe ser la resolución de la lente. La siguiente formula muestra la forma de calcularlo:
RESOLUCIÓN DE LA LENTE EN (IP/MM)= 500 / TAMAÑO DEL PÍXEL DEL CCD EN MICRAS